Algorithmes et société : quelques ouvrages récents
A quoi rêvent les algorithmes : Nos vies à l'heure des big data
Auteur : Dominique Cardon
Seuil, 2015
Présentation de l'éditeur
Parmi les espoirs et les craintes que suscite la numérisation de nos sociétés, la constitution de grandes bases de données confère une place de plus en plus centrale aux algorithmes qui gouvernent les comportements de chacun. L'ambition de ce livre est de proposer une exploration critique de la manière dont les techniques de calcul façonnent nos sociétés. Classement de l'information, personnalisation publicitaire, recommandation de produits, orientation des déplacements, mesures corporelles, etc., les calculateurs sont en train de s'immiscer, de plus en plus profondément, dans la vie des individus. Cet ouvrage voudrait montrer comment les techniques statistiques qui prennent leur essor avec les big data enferment des conceptions différentes de la société qu'elles calculent. Loin d'être de simples outils techniques, les algorithmes enferment un projet politique. La thèse défendue dans cet ouvrage est que la personnalisation des calculs est à la fois l'agent et la conséquence de l'individualisation de nos sociétés. Elle témoigne de la crise des catégories statistiques traditionnelles qui permettaient à la société de se représenter. Elle encourage le déploiement de la course méritocratique vers l'excellence, la compétition des individus pour la visibilité et le guidage personnalisé des existences. Comprendre la logique des nouveaux algorithmes du web, c'est aussi donner aux lecteurs les moyens de reprendre du pouvoir dans la société des calculs.
Biographie de l'auteur
Dominique Cardon est sociologue au Laboratoire des usages d'Orange Labs et chercheur associé au Centre d'études des mouvements sociaux (EHESS). Avec La Démocratie Internet (Seuil, 2010) et de très nombreux articles, il s'est imposé comme l'un des meilleurs spécialistes du numérique et d'Internet.
Documentation complémentaire
Téléchargez un extrait :
http://www.seuil.com/ouvrage/a-quoi-revent-les-algorithmes-dominique-cardon/9782021279962
Thibault De Meyer, « Dominique Cardon, À quoi rêvent les algorithmes », Lectures [En ligne], Les comptes rendus, 2016, mis en ligne le 05 avril 2016, consulté le 11 septembre 2019.
Café des Sciences : Dominique Cardon : "À quoi rêvent les algorithmes ? Nos vies à l'heure des Big Data" (vidéo)
Le temps des algorithmes
Auteurs: Gilles Dowek, Serge Abiteboul
Le Pommier, 2017
Présentation de l'éditeur
Depuis quelque temps, les algorithmes sont sur toutes les langues. Et ils inquiètent.
Des métiers disparaissent par leur faute, des gouvernants s'en servent pour restreindre nos libertés, des entreprises privées les utilisent dans leurs calculs cyniques. Bientôt des « algorithmes intelligents » nous asserviront...
Et si, avant de souscrire à cette vision pessimiste, dans laquelle nous n avons pas voix au chapitre, nous examinions la situation d un peu plus près ? Après tout, les algorithmes sont des créations de l'esprit humain. Ils sont ce que nous avons voulu qu ils soient.
Les algorithmes sont avant tout des solutions, mais ces solutions ne sont pas neutres. S'ils sont à l'origine de transformations radicales des notions de travail, de propriété, de gouvernement, de responsabilité, de vie privée et même d'humanité, c'est donc à nous de décider de quel côté faire pencher la balance. Pour cela, il faut cesser de les subir en cherchant à les comprendre. C'est ainsi que nous pourrons être maîtres de notre destinée.
Note sur les auteurs
Serge Abiteboul et Gilles Dowek sont tous les deux chercheurs chez Inria, l'Institut national de recherche en informatique et en automatique. Et tous les deux ont à coeur d'expliquer l'informatique et de faire comprendre les questions de société qui se posent au temps des algorithmes.
Documentation complémentaire
Recension de Charles Perragin, Philosophie Magazine, 28 février 2017
Claude Tran - Entretien avec S. Abiteboul et G. Dowek - le temps des algorithmes.(YouTube)
Algorithmes, programmes, data. Que signifient réellement ces mots de plus en plus utilisés? Entretien avec les auteurs (France Inter)
Algorithmes : la bombe à retardement
Auteur: Cathy O’Neil
Les Arènes, 2018
Présentation de l'éditeur
Qui choisit votre université ? Qui vous accorde un crédit, une assurance, et sélectionne vos professeurs ? Qui influence votre vote aux élections ? Ce sont des formules mathématiques.
Ancienne analyste à Wall Street devenue une figure majeure de la lutte contre les dérives des algorithmes, Cathy O’Neil dévoile ces « armes de destruction mathématiques » qui se développent grâce à l’ultra-connexion et leur puissance de calcul exponentielle. Brillante mathématicienne, elle explique avec une simplicité percutante comment les algorithmes font le jeu du profit.
Cet ouvrage fait le tour du monde depuis sa parution. Il explore des domaines aussi variés que l’emploi, l’éducation, la politique, nos habitudes de consommation. Nous ne pouvons plus ignorer les dérives croissantes d’une industrie des données qui favorise les inégalités et continue d’échapper à tout contrôle. Voulons-nous que ces formules mathématiques décident à notre place ? C’est un débat essentiel, au cœur de la démocratie.
Documentation complémentaire
Sébastien Vincent, «Algorithmes: La bombe à retardement»: le côté obscur du Big Data (critique), Le Devoir, 16 février 2019
Cathy O’Neil : « Les algorithmes exacerbent les inégalités ». Propos recueillis par Morgane Tual. Le Monde, 7 novembre 2018. Dans son livre « Algorithmes, la bombe à retardement », Cathy O’Neil, ex-analyste à Wall Street, étudie les dérives de ces algorithmes qui influencent tous les domaines de la société.
Vincent Edin, «Algorithmes, la bombe à retardement» : un cri d'alarme citoyen, Usbek & Rica, 14 novembre 2018
Pascal Hérard, «Algorithmes, la bombe à retardement» : l'enfer de l'évaluation automatisée expliqué par une mathématicienne, TV5 Monde Info, 6 janvier 2019
L’Empire des données. Essai sur la société, les algorithmes et la loi
Auteurs : Adrien Basdevant et Jean-Pierre Mignard
Don Quichotte, 2018
Présentation de l'éditeur
Plus de data ont été récoltées cette année que depuis le début de l’histoire de l’humanité. Cette nouvelle matière première nourrit quantité d’algorithmes qui déterminent les conditions d’accès à un crédit ou à un emploi, prévoient le décrochage scolaire, détectent les profils à risque terroriste, et repèrent les prédispositions à certaines pathologies.
Comment fonctionne ce monde opaque dans lequel nous vivons ? Sur quels critères sont prises ces décisions que nous déléguons à des mécanismes qui nous dépassent ? Seule une approche pluridisciplinaire permet d’envisager ces nouveaux rapports de force entre États, plateformes, consommateurs et citoyens.
Largement illustré, L’Empire des données retrace la grande histoire de cette collecte, et offre des clefs pour protéger l’individu et la collectivité des avancées technologiques. Les data ne sont qu’un outil, à l’homme de décider de leur rôle.
Note sur les auteurs
Adrien Basdevant est avocat au Barreau de Paris, spécialiste des enjeux du numérique et enseigne la gouvernance des données au sein du master Data Science de l’ESSEC - Centrale Supélec. Jean-Pierre Mignard est docteur en droit pénal (thèse en Sorbonne sur la cybercriminalité), avocat au Barreau de Paris, maître de conférences à Sciences Po et membre du Comité consultatif national d’éthique. Tous deux sont associés au sein du cabinet Lysias.
Documentation complémentaire
Un site web est consacré à l'ouvrage
Réguler l'empire des données : les algorithmes et la loi [rencontre avec Adrien Basdevant] - Xerfi Canal (YouTube) - vidéo
Une note de lecture par Soleica Monnier (ACT, 12 novembre 2018)
L’appétit des géants : pouvoir des algorithmes, ambitions des plateformes
Auteur : Olivier Ertzscheid
C&F, 2017
Présentation de l'éditeur
Il fallait un amoureux du web et des médias sociaux pour décrypter les enjeux culturels, relationnels et démocratiques de nos usages numériques. Olivier Ertzscheid met en lumière les effets d’échelle, l’émergence de géants aux appétits insatiables. En concentrant toutes nos activités numériques sur quelques plateformes, nous avons fait naître des acteurs mondiaux qui s’épanouissent sans contrôle. Nos échanges, nos relations, notre sociabilité vont nourrir des algorithmes pour classer, organiser et finalement décider pour nous de ce qu’il nous faut voir. …
Documentation complémentaire
On peut trouver ici l'ouvrage en ligne au format PDF
Cécile Touitou. Recension de : Ertzscheid, Olivier. « L’appétit des géants ». Bulletin des bibliothèques de France (BBF), 2017, n° 13, p. 148-149.
Olivier Ertzscheid, Aucun algorithme, jamais, ne pourra défendre la démocratie, Libération, 23 septembre 2018
Sensemaking: The Power of the Humanities in the Age of the Algorithm
Auteur: Christian Madsbjerg
Hachette Books, 2017
Présentation de l'éditeur
A Financial Times "Business Book of the Month"
Based on his work at some of the world's largest companies, including Ford, Adidas, and Chanel, Christian Madsbjerg's Sensemaking is a provocative stand against the tyranny of big data and scientism, and an urgent, overdue defense of human intelligence.
Humans have become subservient to algorithms. Every day brings a new Moneyball fix--a math whiz who will crack open an industry with clean fact-based analysis rather than human intuition and experience. As a result, we have stopped thinking. Machines do it for us.
Christian Madsbjerg argues that our fixation with data often masks stunning deficiencies, and the risks for humankind are enormous. Blind devotion to number crunching imperils our businesses, our educations, our governments, and our life savings. Too many companies have lost touch with the humanity of their customers, while marginalizing workers with liberal arts-based skills. Contrary to popular thinking, Madsbjerg shows how many of today's biggest success stories stem not from "quant" thinking but from deep, nuanced engagement with culture, language, and history. He calls his method sensemaking.
In this landmark book, Madsbjerg lays out five principles for how business leaders, entrepreneurs, and individuals can use it to solve their thorniest problems. He profiles companies using sensemaking to connect with new customers, and takes readers inside the work process of sensemaking "connoisseurs" like investor George Soros, architect Bjarke Ingels, and others.
Both practical and philosophical, Sensemaking is a powerful rejoinder to corporate groupthink and an indispensable resource for leaders and innovators who want to stand out from the pack.
Documentation complémentaire
Voir le site personnel de l'auteur
Michael S. Roth, Can lessons of the humanities help solve problems in the business world?, The Washington Post, 28 avril 2017
What is “Sensemaking"? (vidéo) - University of Chicago Graham School, mis en ligne 15 juin 2017 (YouTube). Christian Madsbjerg, author of Sensemaking: The Power of the Humanities in the Age of the Algorithm and the founder and senior partner of ReD Associates, provides a definition of what "sensemaking" means at the “Bridging the Gap” event hosted by the University of Chicago Master of Liberal Arts.
The Everyday Life of an Algorithm
Auteur : Daniel Neyland
Springer International Publishing, Palgrave Pivot, 2019
Présentation de l'éditeur
This open access book begins with an algorithm – a set of IF…THEN rules used in the development of a new, ethical, video surveillance architecture for transport hubs. Readers are invited to follow the algorithm over three years, charting its everyday life. Questions of ethics, transparency, accountability and market value must be grasped by the algorithm in a series of ever more demanding forms of experimentation. Here the algorithm must prove its ability to get a grip on everyday life if it is to become an ordinary feature of the settings where it is being put to work. Through investigating the everyday life of the algorithm, the book opens a conversation with existing social science research that tends to focus on the power and opacity of algorithms. In this book we have unique access to the algorithm’s design, development and testing, but can also bear witness to its fragility and dependency on others.
Table des matières
Front Matter ....Pages i-ix
Introduction: Everyday Life and the Algorithm (Daniel Neyland)....Pages 1-20
Experimentation with a Probable Human-Shaped Object (Daniel Neyland)....Pages 21-43
Accountability and the Algorithm (Daniel Neyland)....Pages 45-71
The Deleting Machine and Its Discontents (Daniel Neyland)....Pages 73-92
Demonstrating the Algorithm (Daniel Neyland)....Pages 93-122
Market Value and the Everyday Life of the Algorithm (Daniel Neyland)....Pages 123-137
Back Matter ....Pages 139-151
Documentation complémentaire
L'ouvrage est disponible gratuitement sur le site de l'éditeur
On peut aussi le trouver ici au format PDF
Hello World: Being Human in the Age of Algorithms
Auteur : Hannah Fry
W. W. Norton & Company, 2018
Présentation de l'éditeur
Shortlisted for the 2018 Royal Society Investment Science Book Prize
A look inside the algorithms that are shaping our lives and the dilemmas they bring with them.
If you were accused of a crime, who would you rather decide your sentence-a mathematically consistent algorithm incapable of empathy or a compassionate human judge prone to bias and error? What if you want to buy a driverless car and must choose between one programmed to save as many lives as possible and another that prioritizes the lives of its own passengers? And would you agree to share your family's full medical history if you were told that it would help researchers find a cure for cancer?
These are just some of the dilemmas that we are beginning to face as we approach the age of the algorithm, when it feels as if the machines reign supreme. Already, these lines of code are telling us what to watch, where to go, whom to date, and even whom to send to jail. But as we rely on algorithms to automate big, important decisions-in crime, justice, healthcare, transportation, and money-they raise questions about what we want our world to look like. What matters most: Helping doctors with diagnosis or preserving privacy? Protecting victims of crime or preventing innocent people being falsely accused?
Hello World takes us on a tour through the good, the bad, and the downright ugly of the algorithms that surround us on a daily basis. Mathematician Hannah Fry reveals their inner workings, showing us how algorithms are written and implemented, and demonstrates the ways in which human bias can literally be written into the code. By weaving in relatable, real world stories with accessible explanations of the underlying mathematics that power algorithms, Hello World helps us to determine their power, expose their limitations, and examine whether they really are improvement on the human systems they replace.
Documentation complémentaire
Katy Guest, Hello World by Hannah Fry – AI and why we over-trust what we don’t understand, The Guardian, 29 septembre 2018. "A mathematician and advocate for technology challenges the influence of algorithms and calls for a better understanding of what we’re giving away."
Tell Us 5 Things About Your Book: The Benefits and Moral Quandaries of a World Run by Code, par John Williams. The New York Times, 9 septembre 2018
Recension de Christopher M. Doran (New York Journal of Books)
Vidéo : Hannah Fry - Hello World: Being Human in the Age of Algorithms - Hidden Forces (YouTube)
Rage Inside the Machine: The Prejudice of Algorithms, and How to Stop the Internet Making Bigots of Us All
Auteur : Robert Elliott Smith
Bloomsbury Business, 2019
Présentation de l'éditeur
We live in a world increasingly ruled by technology; we seem as governed by technology as we do by laws and regulations. Frighteningly often, the influence of technology in and on our lives goes completely unchallenged by citizens and governments. We comfort ourselves with the soothing refrain that technology has no morals and can display no prejudice, and it's only the users of technology who distort certain aspects of it.
But is this statement actually true? Dr Robert Smith thinks it is dangerously untrue in the modern era.
Having worked in the field of artificial intelligence for over 30 years, Smith reveals the mounting evidence that the mechanical actors in our lives do indeed have, or at least express, morals: they're just not the morals of the progressive modern society that we imagined we were moving towards. Instead, as we are just beginning to see - in the US elections and Brexit to name but a few - there are increasing incidences of machine bigotry, greed and the crass manipulation of our basest instincts.
It is easy to assume that these are the result of programmer prejudices or the product of dark forces manipulating the masses through the network of the Internet. But what if there is something more fundamental and explicitly mechanical at play, something inherent within technology itself?
This book demonstrates how non-scientific ideas have been encoded deep into our technological infrastructure. Offering a rigorous, fresh perspective on how technology has brought us to this place, Rage Inside the Machine challenges the long-held assumption that technology is an apolitical and amoral force. Shedding light on little-known historical stories and investigating the complex connections between scientific philosophy, institutional prejudice and new technology, this book offers a new, honest and more truly scientific vision of ourselves.
Documentation complémentaire
Vidéo : Robert Elliott Smith: "Rage Inside the Machine" | Talks at Google (YouTube)
A Human's Guide to Machine Intelligence: How Algorithms Are Shaping Our Lives and How We Can Stay in Control
Auteur : Kartik Hosanagar
Viking, 2019
Présentation de l'éditeur
A Wharton professor and tech entrepreneur examines how algorithms and artificial intelligence are starting to run every aspect of our lives, and how we can shape the way they impact us.
Through the technology embedded in almost every major tech platform and every web-enabled device, algorithms and the artificial intelligence that underlies them make a staggering number of everyday decisions for us, from what products we buy, to where we decide to eat, to how we consume our news, to whom we date, and how we find a job. We've even delegated life-and-death decisions to algorithms-decisions once made by doctors, pilots, and judges. In his new book, Kartik Hosanagar surveys the brave new world of algorithmic decision-making and reveals the potentially dangerous biases they can give rise to as they increasingly run our lives. He makes the compelling case that we need to arm ourselves with a better, deeper, more nuanced understanding of the phenomenon of algorithmic thinking. And he gives us a route in, pointing out that algorithms often think a lot like their creators-that is, like you and me.
Hosanagar draws on his experiences designing algorithms professionally-as well as on history, computer science, and psychology-to explore how algorithms work and why they occasionally go rogue, what drives our trust in them, and the many ramifications of algorithmic decision-making. He examines episodes like Microsoft's chatbot Tay, which was designed to converse on social media like a teenage girl, but instead turned sexist and racist; the fatal accidents of self-driving cars; and even our own common, and often frustrating, experiences on services like Netflix and Amazon. A Human's Guide to Machine Intelligence is an entertaining and provocative look at one of the most important developments of our time and a practical user's guide to this first wave of practical artificial intelligence.
Documentation complémentaire
Anthony Clark Carpio, Technology professor to discuss the future of artificial intelligence, Burbank Leader (LA Times), 2 avril 2019
Anna Duan, Algorithms are everywhere. To this Wharton professor, it's all a matter of being prepared, The Daily Pennsylvanian, 4 mars 2019
Vidéo : Who Made That Decision: You or an Algorithm? (Kartik Hosanagar) - KnowledgeAtWharton (YouTube)