Je furetais sur le Web du côté du journal Le Figaro quand un titre a retenu mon attention : « Mark Zuckerberg dévoile son plan pour sauver le monde[1] ». « Vaste programme ! »  me suis-je dit, sourire en coin. Je me suis donc empressée de lire le "manifeste" du jeune patron de Facebook, mais mon sourire s'est vite transformé en grimace.

Le titre de la longue lettre adressée aux utilisateurs du tentaculaire réseau social[2] est « Construire une communauté globale » (Building Global Community[3] ). J’en surlignais des passages en jaune, mais je suis passée à la couleur rouge dans certains cas, tellement ces énoncés me semblaient inquiétants. Une vieille expression m’est alors revenue à l’esprit : « L’enfer est pavé de bonnes intentions ». Car Zuckerberg voit en Facebook l’avenir de la démocratie.

Bien sûr, tout n’est pas mauvais dans Facebook, et la lettre de Zuckerberg fait rêver d’un monde où tout est beau et tout le monde est gentil. « Est-ce que nous construisons le monde dont nous voulons tous ? » demande-t-il. Il parle de communautés sécuritaires, informées, inclusives et impliquées dans la société. On croirait entendre Justin Trudeau et Philippe Couillard. Il y a de beaux idéaux exprimés dans cette lettre et je ne doute pas un instant de la sincérité de ceux qui se laisseront séduire par ce message. Toutefois, je me permets d’entretenir quelques doutes sur les intentions de l’auteur de la missive…

 « Connecter le monde »

Il ne manque pas de cynisme le jeune entrepreneur quand il prétend qu’il veut « connecter le monde », alors qu'il ne peut tolérer la présence de voisins. Ni au restaurant[4], où il exige un coin très discret et souhaite que le personnel ne lui adresse pas la parole. Ni chez lui à Palo Alto[5] où il a acheté quatre maisons autour de sa propriété afin de préserver son intimité. Et encore moins sur l'île de Kauai dans l'archipel hawaïen, où il a essayé de faire exproprier une centaine de personnes pour pouvoir annexer leurs terres ancestrales à son immense domaine[6], autour duquel il veut construire un mur, soit dit en passant... Car Monsieur Zuckerberg fait partie des survivalistes de Silicon Valley[7] qui préparent leur fuite au paradis au cas où les choses tourneraient mal. De plus, il a 16 gardes du corps et il en a coûté $16 M à Facebook en cinq ans pour assurer sa protection[8]. Drôle de façon de « connecter l'humanité », avec laquelle il semble plutôt prendre ses distances !

Progrès et nations

Dans son manifeste, Zuckerberg annonce d’entrée de jeu l’avènement d’une "communauté globale" succédant au modèle de l’État-nation : « L’Histoire raconte comment nous avons appris à nous rassembler en nombre croissant, d’abord en tribus, puis en villes et en nations. À chaque étape, nous avons bâti des infrastructures, communautés, médias, gouvernements, pour accomplir ce qu’un individu seul ne pouvait réussir. Aujourd’hui, nous arrivons à la prochaine étape. Notre potentiel est maintenant global, comme répandre la prospérité et la liberté, promouvoir la paix et la compréhension, sortir les gens de la pauvreté et accélérer la science. Nos plus grands défis appellent des réponses également globales, comme mettre fin au terrorisme, combattre les changements climatiques et prévenir les pandémies. Le progrès exige maintenant que l’humanité se rassemble, pas seulement en villes ou en nations, mais aussi dans une communauté mondiale »[9]. La lettre à la communauté de Facebook est un véritable petit catéchisme du multiculturalisme et de la mondialisation, basé sur le progrès technologique. Et bien sûr, « le patron emblématique de la Silicon Valley considère que sa plateforme a un rôle central à jouer dans ce changement d’échelle politique. »[10] Il faut admettre qu’il n’est pas complètement désintéressé.

 

Cinq questions qui guideront le développement de Facebook dans les prochaines années

Selon Zuckerberg, dans les prochaines années, le développement de Facebook passera par la construction des infrastructures sociales qui permettront de relever cinq défis importants.

1. Comment Facebook peut-elle aider à construire des communautés de soutien pour renforcer les institutions traditionnelles dans un monde ou l’adhésion à ces institutions est en déclin ?

Les communautés de soutien qui intéressent Zuckerberg sont les institutions vers lesquelles on se tourne pour combler nos besoins personnels, émotionnels et spirituels. Il peut s’agir d’églises, d’équipes sportives, de syndicats ou de tout autre groupe local. Ces institutions donnent de l’espoir et nourrissent le sentiment d’avoir un but dans la vie et de participer à quelque chose de plus grand que soi. Zuckerberg pense qu’une société en santé a besoin de plusieurs niveaux d’appartenance entre les citoyens et le gouvernement. Il fait remarquer que depuis les années 1970, la participation aux communautés locales a diminué, jusqu’à 25% dans certains cas. Un pasteur lui a dit : « Les gens sont perdus. Une grande partie de ce qui les apaisait auparavant n’existe plus ». Zuckerberg voit alors en Facebook un moyen de renforcer les groupes locaux et, de là, le tissu social de toute la collectivité. Les progrès du réseau social seront mesurés par la présence de groupes significatifs, c’est-à-dire ceux que les gens fréquentent très activement en ligne et dans la réalité ; par exemple les groupes d’entraide de jeunes parents. Facebook se propose donc de développer de nouveaux outils pour aider les utilisateurs à se joindre à ce type de groupes, mais aussi pour aider les leaders communautaires à créer de nouveaux groupes significatifs avec lesquels se connecter.

Question : Est-ce que l’utilisation débridée de Facebook n’aurait pas justement contribué à diminuer la participation aux groupes sociaux ?  

2. Comment Facebook peut-elle aider à construire une communauté sécuritaire pour prévenir les dangers, porter secours pendant les crises et reconstruire par la suite, dans un monde à la merci de tous et chacun ? 

Aujourd’hui, les menaces sont globales, mais les protections ne le sont pas. Zuckerberg croit que Facebook est dans une position unique pour construire une infrastructure de sécurité à l’échelle mondiale. Son réseau social est, selon lui, le seul capable de faire face aux crises qui dépassent le cadre national, comme le terrorisme, les catastrophes naturelles, les pandémies, les flux de réfugiés ou les changements climatiques. Ces problèmes nécessitent une coordination mondiale ; aucune nation ne peut les résoudre seule. Forte d’un milliard de membres actifs, la communauté Facebook peut contribuer à prévenir les problèmes, venir en aide pendant une crise et participer à la reconstruction à la suite d’une catastrophe.

En termes de prévention, Facebook veut à aider la communauté à identifier les problèmes avant qu’ils ne se présentent. Zuckerberg est heureux, par exemple, d’avoir développé des outils pour aviser les proches ou la communauté quand quelqu’un pense au suicide, pour diffuser les alertes Amber quand un enfant est porté disparu, et pour travailler avec les organisations de sécurité publique à travers le monde. Il veut aller plus loin en développant des outils pour identifier les risques reliés à la maladie mentale et au crime.

Ici, j’ai un malaise… Sommes-nous dans un scénario du genre Rapport minoritaire comme dans la nouvelle de science-fiction de Philip K. Dick publiée en 1956 ? L'histoire se déroule dans une société où les meurtres peuvent être prédits à l'aide de mutants doués de prescience  et les criminels en puissance sont condamnés avant d’être passés à l’acte.

Pour venir en aide durant une attaque terroriste ou un désastre naturel, Facebook a développé Safety Check un outil qui permet de faire savoir à nos parents et amis que nous sommes sains et saufs, ou pour vérifier la condition dans laquelle se trouvent nos parents et amis victimes d’un tel événement. Mais ici aussi Zuckerberg veut poursuivre ses efforts. Facebook a récemment développé de nouveaux outils pour trouver et offrir un gîte, de la nourriture et autres nécessités durant une situation d’urgence. À long terme, Facebook aimerait pouvoir aider durant une guerre ou toute autre situation ou qui perdure.

Zuckerberg est également très fier d’avoir développé un outil d’action collective qui, par exemple, a permis de recueillir $15 M pour aider les gens à se rétablir et à reconstruire à la suite du terrible tremblement de terre au Népal, il y a quelques années. Facebook a aussi développé un outil pour faciliter les dons d’organes.

Zuckerberg a demandé à Facebook d’investir de plus en plus dans le secteur de la sécurité. L’un de ses intérêts est de développer un système d'intelligence artificielle pour comprendre plus rapidement et avec plus de précision ce qui se passe dans la communauté. La recherche porte sur des systèmes qui peuvent analyser des photos et des vidéos qu’ils pourront ensuite relayer à l’équipe de révision de contenu de Facebook. Zuckerberg espère que l’intelligence artificielle permettra d’empêcher la diffusion d’événements tels un suicide en direct, de la torture ou de l’intimidation, comme cela s’est déjà produit. L’intelligence artificielle devra donc être capable de faire la différence entre un article sur le terrorisme et un message de propagande. Bien que toujours en phase de développement, ces systèmes génèrent déjà environ le tiers de tous les rapports reçus par les modérateurs qui traitent plus de 100 millions de contenus à chaque mois.

Pour Zuckerberg, assurer la sécurité de la communauté globale est une partie importante de la mission de Facebook, qui deviendrait un partenaire indispensable à la gestion de crise.

Question : Qui sont ces modérateurs qui décident de ce qui peut ou non être publié ? N’y a-t-il pas un danger de dérapage ici ? Surtout en ce qui concerne l’exercice de la démocratie, comme nous allons le voir…

3. Comment Facebook peut-elle aider à construire une communauté informée pour exposer de nouvelles idées et construire une compréhension commune dans un monde où chaque personne peut se faire entendre ?

Les deux sujets qui semblent préoccuper davantage Zuckerberg sont la "polarisation" des opinions politiques et les fausses nouvelles. Historiquement, donner la voix au chapitre à chaque citoyen s’est avéré très positif pour enrichir le débat public grâce à la diversité des idées échangées. Mais on a vu récemment que cela peut également contribuer à fragmenter notre perception commune de la réalité. Or, nous devons partager une vision suffisamment consensuelle pour pouvoir réellement travailler ensemble. Le patron de Facebook considère qu’il est de leur responsabilité de renforcer cette vision commune et d’aider les utilisateurs à adopter un point de vue réfléchi en les aidant à voir un portrait plus complet, et non simplement en leur donnant accès à une plus grande variété de points de vue, et en permettant aux gens de se situer sur le spectre des opinions et de tirer une conclusion sur ce qu’ils pensent être vrai. Il considère qu’il est aussi de leur responsabilité d’amplifier les bons effets et d’atténuer les mauvais, mais il ne précise pas comment, ce qui me paraît inquiétant…

Selon Zuckerberg “Si nous continuons à perdre notre vision commune, et même si nous réussissons à éliminer toute la désinformation, les gens vont simplement se concentrer sur les faits qui correspondent à leurs opinions polarisées. » C’est pourquoi il s’inquiète du sensationnalisme dans les médias.

Selon le jeune patron, Facebook offre plus de points de vue différents que les médias traditionnels. Car même si tous nos amis pensent comme nous, nous connaissons tous des gens qui ont des opinions et des intérêts différents, ou des contextes qui nous exposent à des perspectives différentes. En comparaison avec l’information tirée des mêmes deux ou trois réseaux de télévision, ou des mêmes journaux avec leur politique éditoriale figée, Facebook offre un contenu plus diversifié.

Une solide industrie de l’information est essentielle pour bâtir une communauté informée. Zuckerberg promet de supporter cette industrie, dont les revenus de publicité se font grignoter par Google et Facebook (justement!), afin qu’elle puisse continuer à découvrir et analyser de nouvelles informations. Il se propose notamment d’augmenter l’information locale, de développer des formats qui conviennent mieux aux appareils mobiles et d’élargir l’éventail des modèles d’affaires sur lesquels reposent les organisations d’information. Selon TVA Nouvelles (1^er février 2017)[11], « Facebook travaille actuellement sur une application destinée à des plateformes TV comme Apple TV. (…) Pour alimenter cette nouvelle application, Facebook serait déjà en négociation avec des géants des médias pour produire des contenus télévisuels originaux « de qualité ». Ce virage du réseau social témoigne d’un effort de la compagnie de se rapprocher des marchés publicitaires de la vidéo en direct et de la télévision. »

4. Comment Facebook peut-elle aider à construire des communautés engagées civiquement dans un monde où la participation aux élections comporte parfois moins de la moitié de la population ?

Zuckerberg propose de bâtir deux types d’infrastructures sociales pour favoriser l’implication civique des communautés. La première pour soutenir la participation dans les processus politiques existants, notamment en facilitant l’inscription des électeurs et en encourageant l’exercice du droit de vote. La seconde établit un nouveau processus pour inviter tous les citoyens du monde à participer à une prise de décision collective. 

Aujourd’hui, la plupart des gens ne connaissent même pas leurs représentants locaux alors que plusieurs des politiques qui affectent leur vie sont locales, et c’est à ce niveau que notre participation peut avoir le plus grand impact. Les recherches démontrent que la lecture des journaux locaux est directement corrélée avec l’engagement civique. Cela souligne la relation étroite qui existe entre une communauté informée, des communautés locales de soutien et une communauté engagée civiquement.

 « En contrôlant davantage les contenus et en développant des outils d'action, (Zuckerberg) veut faire de son réseau social le support d'une nouvelle démocratie participative animée par une communauté mondiale. Dans l’esprit de son créateur, Facebook doit devenir le support d’une réappropriation du débat public au niveau local, national et même mondial. Le chef d’entreprise veut tirer profit de l’implantation globale de son réseau pour en faire l’agora du XXIe siècle : "En tant que communauté globale la plus importante, Facebook peut explorer les possibilités d'une gouvernance communautaire à l'échelle mondiale." Mais la vision du patron de la Silicon Valley, dénuée d'exemples précis, reste très abstraite. (…) Son interface présente selon lui l’avantage de mettre en contact continu et direct les citoyens et leurs représentants. Alors que l’abstention atteint des niveaux alarmants dans les démocraties occidentales, cela amènerait les premiers à s’intéresser davantage à la chose publique. »[12], écrit le journaliste Di Fiore. Car c’est par l’engagement civique qu’on peut s’assurer que les processus politiques reflètent nos valeurs.

5. Comment Facebook peut-elle aider à construire des communautés inclusives qui reflètent nos valeurs communes et notre humanité, du niveau local au niveau global, au-delà des cultures, des nations et des religions dans un monde où il y a peu d’exemples de communautés globales ? 

Cette question concerne les normes de la communauté Facebook qui, selon The Guardian[13], sont plutôt autoritaires. Facebook veut faire évoluer ses normes de telle sorte qu’elles soient plus personnalisées et plus localement pertinentes, par exemple, la nudité est plus facilement tolérée en Europe qu’aux États-Unis ou dans certains pays du Moyen-Orient. Zuckerberg espère ainsi satisfaire les attentes des différentes zones géographiques qui composent sa communauté mondiale.

Cette mise à jour des normes est nécessaire pour quatre raisons principales. Premièrement, Facebook, qui, au début, visait à connecter l’utilisateur avec sa famille et ses amis, est en train de devenir en plus une source de nouvelles et de débats. Deuxièmement, Facebook s’étend dans plusieurs régions et cultures, et les normes sont différentes dans chacune d’elles. Troisièmement, à l’intérieur d’une même culture, les gens ont leurs propres sensibilités. Quatrièmement, Facebook opère à une si grande échelle que même un petit pourcentage d’erreurs peut causer un grand nombre de mauvaises expériences. Pour satisfaire presque tout le monde, il faudra créer un large processus démocratique pour déterminer les normes, puis utiliser l’intelligence artificielle pour les faire appliquer. Au final, chaque individu pourra déterminer ses préférences, par exemple en ce qui regarde la nudité, la violence ou la vulgarité, et son expérience du réseau social sera adaptée en conséquence. Les normes par défaut seront celles de la majorité des gens de sa région.

Zuckerberg fait remarquer que des avancées majeures en intelligence artificielle sont encore nécessaires pour bien comprendre les textes, les photos et les vidéos afin de juger s’ils contiennent des propos haineux ou du contenu sexuellement explicite ou exhibant de la violence, ou pour faire la différence entre un article sur le terrorisme et un texte de propagande.

Question : Qui définira les propos haineux ?

La plateforme d’une révolution démocratique

Considérant que le réseau est le pattern des systèmes complexes vivants, je suis plutôt d’accord avec Mark Zuckerberg lorsqu’il soutient que sa plateforme Facebook a le profil approprié pour notre monde de plus en plus complexe. Mais un système vivant s’auto-organise et c’est là où le bât blesse… Dans sa lettre, le patron de Facebook donne l’impression que c’est plutôt de lui et de son équipe de modérateurs que dépend l’organisation.

Di Fiore écrit : « Simple réseau social à ses débuts, Facebook n'a depuis cessé de s'enrichir de nouveaux outils. Maintenant, son dirigeant ambitionne d’en faire le fondement d'une révolution démocratique. »[14] Il veut en faire une communauté mondiale « qui fonctionnera pour tous ». Je ne peux m’empêcher d’y voir poindre la tentation totalitaire de fabriquer de l'unanimité.

C’est d’autant plus inquiétant que des rumeurs laissent entendre que Zuckerberg envisage de se présenter à la présidence des États-Unis. Bien sûr, il les a démenties, mais de nombreux indices donnent crédit à ces rumeurs. D’abord, Sarah Kessler[15] du site Quartz Media fait remarquer que le ton de la lettre ressemble à un discours présidentiel sur « l’État de l’Union. » Dans sa conclusion on trouve même une citation du président Lincoln : « (…) Les dogmes d’un passé paisible sont inadéquats pour un présent orageux. L’occasion est pleine de difficultés et nous devons être à la hauteur de la situation. Comme notre contexte est nouveau, nous devons penser différemment, agir différemment ». Par ailleurs, le jeune entrepreneur a promis de visiter les 50 états américains durant l’année. Au Texas[16], il a participé à son premier rodéo ; il a porté un casque dur et une veste de sécurité ; il a remercié les policiers de Dallas pour leur rude labeur. Il a même contribué à un jardin communautaire. Quand on pense à l’amour qu’il porte à ses voisins !

Au fond, aux élections 2016, peut-être que les États-Uniens ont eu le choix entre deux types de totalitarisme, celui de Donald Trump, et celui, beaucoup plus discret, de Silicon Valley. Ils ont choisi le plus visible… Les régimes totalitaires ne sont pas de simples dictatures personnelles, ce sont des dictatures collectives, participatives. Celui qui est manipulé est consentant, et s’il se sent puissant, c’est parce qu’il est dans un groupe. Tout cela dans le but de plier le réel à la volonté de la communauté.