#15

Le pouvoir algorithmique

LIre le sommaire LIre le sommaire

Edito

Algorithmes : reprendre le contrôle

Par Louise Gaxie et Alain Obadia

De Parcoursup à nos navigations sur le web ou les réseaux sociaux en passant par les rencontres amoureuses et l’achat d’un billet de train, notre vie quotidienne est désormais conditionnée par les algorithmes. Il en va de même dans le travail, dans le management des entreprises et dans celui des salariés, dans l’attribution et le contrôle des prestations sociales, dans la santé ou encore dans la finance. Cette question est souvent considérée comme étant l’apanage de spécialistes, alors qu’elle est en fait très politique. Elle est directement liée à la question du pouvoir qui s’exerce aux différents niveaux. En effet, les algorithmes sont avant tout la traduction de la volonté de quantifier le monde et d’imposer des critères de décision et d’évaluation qui relèvent des partis pris des classes qui dominent la société.

En lire plus

Actualités du débat

La boîte noire des algorithmes

De la centralité des bases de données “ground truth” dans la construction des systèmes algorithmiques

Les méthodes informatiques de calcul – souvent appelées « algorithmes » – alimentent le fonctionnement de dispositifs ordinaires. Moteurs de recherche, réseaux sociaux, systèmes de surveillance, plateforme d’achats en ligne : qu’on le veuille ou non, nous ne cessons d’interagir avec ces systèmes numériques ainsi qu’avec les algorithmes qui fondent leurs mécanismes internes. Comment reprendre la main sur ces entités souvent présentées (à raison) comme opaques, arbitraires et vectrices d’inégalités ? En se basant sur les résultats d’enquêtes ethnographiques récentes, Florian Jaton propose de se focaliser sur les bases de données référentielles – souvent appelées ground truth – qui sont au fondement du travail de construction algorithmique.

Discriminations algorithmiques, modération des réseaux sociaux et militantisme

Les entreprises détentrices des réseaux sociaux comme Twitter, Facebook, YouTube, TikTok (pour ne citer que ceux-là) ont de plus en plus recours à des systèmes d’IA pour réguler les contenus en ligne. Cependant, cette délégation de la modération à des outils automatisés semble aller de pair avec l’apparition de nouvelles formes de discriminations en ligne. Ainsi, en plus de faire face aux violences et attaques de groupuscules d’extrême droite, les militant·e·s de gauche et issu·e·s de communautés minorisées sont de plus en plus confronté·e·s à des risques de censure abusive en ligne. Thibaut Grison explique dans cet article pourquoi se saisir des technologies algorithmiques constitue un enjeu politique en particulier pour la gauche.

L’impératif de la sobriété numérique

Le fonctionnement qui nous apparaît souvent mystérieux de l’informatique brasse son lot de représentations fantasmées et éthérées. Quoi de plus nébuleux que le « cloud computing » (informatique en nuage, en québécois) pour susciter une impression flottante d’apesanteur et de légèreté, à distance des mines d’extraction de silicium et des salles de serveurs lourdement climatisées ? Culpabilisés et mal-informés des conséquences d’une consommation de biens et de services numériques qu’ils n’ont pas toujours choisie, les citoyens n’en demeurent pas moins constamment incités à plus de consommation numérique. Fabrice Flipo réoriente notre regard en posant la question du gain réel de cette révolution industrielle. Les profits nouveaux que suscite une gestion plus efficiente des ressources alimentent une offre plus diversifiée de produits, donc de nouveaux besoins, entretenant ainsi une croissance économique néfaste pour la planète.

Hypermatérialisation du «tout numérique» et enjeux industriels

La croissance exponentielle du numérique et de son empreinte carbone nous mène-t-elle dans l’impasse ? Si des avancées technologiques promettent un numérique plus sobre, les applications concrètes sont encore peu nombreuses. Pour Sylvain Delaitre, il est donc urgent de limiter l’inflation des données, la production effrénée et très polluante de matériels électroniques et de replacer les enjeux technologiques et industriels associés dans le cadre de la délibération démocratique. L’implication des salariés, des scientifiques, des usagers citoyens dans les prises de décision stratégique permettrait de reconstruire des filières industrielles de technologies de pointe en phase avec les besoins humains et environnementaux.

Économie & surveillance

Faire consentir à un avenir probable ou l’instrumentalisation algorithmique

Le fétichisme de la quantification ininterrompue du monde et la puissance divinatoire que ses rentiers nous louent reposent sur un empirisme naïf, non-dénué de présupposés théoriques, et pour le moins, technocratiques. Dans cet extrait, Cédric Durand montre ainsi que cette posture épistémologique relève d’une stratégie économique qui vise à enregistrer, surveiller et orienter les comportements. Il s’agit pour les firmes du capitalisme de plateformes de maximiser leurs profits par l’optimisation du degré de certitude des probabilités qu’elles produisent et instrumentalisent, en extrayant toujours plus de données sur la vie des individus, incités à se soumettre en retour au modèle prédictif qui leur est proposé.

La révolution culturelle du capital: du capitalisme cybernétique au cybernanthrope

L’essor des technologies numériques participe de la transformation actuelle du capitalisme. Les structures de l’économie des plateformes et la segmentation des grandes firmes en unités autonomes interdépendantes procèdent d’un même modèle réticulaire d’organisation et de transmission de l’information. Dans cet article, Maxime Ouellet montre les liens entre le développement technique des algorithmes et l’idéologie néolibérale. En appréhendant la technologie comme une forme d’objectivation des rapports sociaux, il dépeint comment la gouvernance algorithmique travaille à généraliser une rationalité purement économique en l’imposant au consommateur dans toutes les dimensions de sa vie.

La surveillance par l’IA, un modèle qui se généralise

Quand on s’interroge en 2022 sur l’utilisation des traces numériques que nous semons quotidiennement, la lecture du célèbre roman d’anticipation 1984 de George Orwell peut nous sembler bien fade sur certains aspects. Big Brother est aujourd’hui un marché concurrentiel mondial d’entreprises privées spécialisées dans le recueil de données biographiques et leur traitement par des intelligences artificielles. Deux pôles clairement identifiés s’affrontent dans la course à l’innovation : la Chine et les États-Unis. Dans cet article Hélène Jeannin propose une vue d’ensemble des applications et des implications relatives à la généralisation des technologies de surveillance, que favorisent les dynamiques de concentration urbaine de la population mondiale. Big Brother veille autant qu’il surveille au su et au vu de toutes et tous, au point d’orienter les comportements de manière insidieuse. La gouvernementalité algorithmique au service de la révolution anthropologique du néolibéralisme ?

L’identification biométrique des citoyens au Kenya. Une question très politique

Le marché africain de l’identification biométrique est en forte expansion depuis 2010. En s’appuyant sur le cas du Kenya, Héloïse Grard met en perspective les enjeux politiques du développement contemporain de cette technologie d’État au regard de la domination coloniale européenne passée. L’assignation à chaque citoyen.ne d’un numéro d’identification unique regroupant l’ensemble des informations connues par les administrations suscite aujourd’hui des mobilisations, pour éviter notamment qu’une partie de la population soit écartée de la reconnaissance juridique et des droits afférents, en raison des contraintes techniques de convergence des bases de données.

L’intelligence artificielle contre les services publics

Le paramétrage politique des algorithmes de Parcoursup. Entretien avec Vincent Tiberj

Les politiques néolibérales des gouvernements successifs n’en finissent pas de saper les fondements du service public de l’éducation depuis 20 ans. En 2018, la loi Orientation et réussite des étudiants met en place la plateforme Parcoursup pour affecter les étudiant.e.s dans les formations de l’enseignement supérieur. Elle entérine un principe de sélection, tout en produisant et concentrant un volume conséquent d’informations dont sont friands les marchés pour leur fonctionnement. A partir de son expérience à Science Po Bordeaux, Vincent Tiberj nous éclaire dans cet entretien sur les implications concrètes des algorithmes de sélection dans l’enseignement supérieur.

La sécu au risque de la e-santé

A l’ère de l’e-santé, le serment d’Hippocrate semble bel et bien dépassé : l’indépendance du médecin, sa fidélité aux lois de l’honneur et de la probité, ou encore son respect du secret des patients font pâle figure face aux logiques de profit des entreprises privées qui s’implantent dans le secteur de la santé. Le service public de santé français n’a pas échappé à la quantification du monde portée par les acteurs économiques de la révolution numérique. Dans cet article, Audrey et Simon Woillet montrent les enjeux et les dangers du basculement du système français dans un marché des services et des biens de santé, stimulé par la croissance des technologies liées aux Big Data : marchandisation des données médicales, surveillance individuelle des patients, porosité accrue de la frontière entre soin et commerce, etc.

Renforcer le contrôle par les technologies de l’information et les statistiques

On sait que le montant cumulé des aides indues par des fraudeurs reste très en-deça du non-recours aux prestations sociales par des allocataires qui y auraient droit. Et pourtant les contrôles et la surveillance n’ont eu de cesse de se renforcer. Si ces pratiques ne sont pas nouvelles, elles se singularisent aujourd’hui par l’ampleur que leur confèrent les technologies numériques et les possibilités nouvelles de détection d’anomalies dans les dossiers des allocataires. Dans cet extrait, Vincent Dubois examine ainsi les usages du data mining au sein des administrations publiques françaises désormais rompues au modèle managérial de la gestion des risques : les analyses statistiques de l’État néolibéral délaissent le cadre collectif de la population pour se focaliser sur l’individu et anticiper ses potentielles déviances.

Quand les algorithmes de la CAF ouvrent la chasse aux pauvres

Le datamining et le ciblage des allocataires selon des « scores de risque » débouchent sur des contrôles automatisés ou physiques, sans explications quant aux calculs informatiques. Face à la toute puissance de la machine, les situations de détresse se multiplient. Pour le collectif Changer de Cap, qui a enquêté pendant des mois sur le sujet, le numérique tel qu’il est utilisé ouvre de vastes zones de non-droit et va jusqu’à plonger un organisme de protection sociale, la CAF, dans l’illégalité.

Le travail algo-rythmé

Le calcul de La Poste faisant foi

Le temps où l’on offrait à boire au facteur est bel et bien révolu. A La Poste, le temps est devenu l’un des facteurs du profit. La recomposition des cadences qui y a cours et la surcharge de travail qui en découle réactualisent l’ancien mythe tayloriste d’une organisation « scientifique » du travail. Les organisateurs de bureau assistés d’outils informatiques, d’algorithmes, se sont substitués aux vérificateurs de terrain chronométrant la durée des tournées au début du 20e siècle. Nicolas Jounin examine dans ce texte les transformations actuelles de l’activité des facteurs et des factrices, pris dans la contradiction d’une augmentation des distances à couvrir, notamment due à la diminution drastique du nombre de centres de distribution, et la réduction des volumes du courrier.

Le management algorithmique: quel usage en entreprise?

La généralisation à l’ensemble du monde du travail du management algorithmique, initialement développé dans les entreprises plateformes, semble être en bonne voie. Les imprévues du réel constituent pourtant un solide obstacle à l’automaticité des tâches prescrites par un algorithme imperméable aux événements qu’il ne connait pas. Dans cet article, Matthieu Trubert interroge ainsi l’opportunité de confier l’organisation et l’animation d’un groupe de travail à une machine opérant une série de calculs. Se pose notamment le problème central de la responsabilité morale et juridique des décisions.

Sortir du métaverse mental pour concevoir le travail de demain

La nécessaire adaptation des travailleurs.euses aux évolutions du mode de production capitaliste et l’impérative acceptation de la flexibilité des conditions de leur travail est une vieille rengaine du techno-libéralisme. C’est donc sans surprise que l’instrumentalisation actuelle des technologies numériques par les entreprises de plateforme tend à se soustraire au cadre socialisé du travail, autrement dit, aux droits acquis pendant la révolution industrielle.  En se référant aux batailles juridiques en France et aux revendications syndicales européennes, Jean-Luc Molins éclaire ici les enjeux contemporains de la transformation du lien de subordination des travailleurs.euses, du salariat à l’auto-entreprenariat.

L’ambivalente place de la gestion algorithmique du travail de plateforme dans le cas norvégien

Avec l’essor des technologies numériques de nombreux biens et services sont désormais à portée de clic du consommateur. Dans cet article, Kristin Jesnes et Thiphaine Le Gauyer discutent la spécificité de l’implantation des plateformes numériques sur le marché du travail norvégien en s’appuyant sur le cas des coursiers employés par Foodora et subordonnés à un contrôle algorithmique de leur activité. Si la négociation occupe une place centrale comme mode de régulation des relations de travail entre salariés et employeurs en Norvège, l’arrivée des travailleurs sous statut d’« indépendants », non-soumis aux conventions collectives, déséquilibre ce compromis historique.

Focus

Quelle indépendance numérique pour les Etats européens ?

Réglementer l’intelligence artificielle, pour mieux la légitimer?

Que recouvre précisément l’expression d’intelligence artificielle, et pourquoi la Loi s’intéresse à cet objet de prime abord purement technique ? Les IA de jeux vidéo paraissent bien inoffensives. Dans d’autres cas, l’IA sert à automatiser la prise de décision, ce qui soulève bon nombre de questions politiques que le récent projet de règlement de la Commission ne résout pas, comme le démontre Julien Rossi dans cet article. Au contraire, il semble hésiter entre encadrement et légitimation de certains usages controversés. Il est alors important de se rappeler qu’il existe déjà un grand nombre de règles susceptibles d’encadrer ces usages.

Transparence et réglementation européenne

L’innovation technologique constitue bien souvent un véritable défi pour le législateur. Pris au dépourvu, il peine couramment à en saisir la complexité technique quand il n’adhère pas pleinement au laissez-faire de l’économie libérale. Dans ce texte, Nayla Glaise fait le point sur les récents textes juridiques européens relatifs à l’économie numérique, plus promptes à protéger le bon fonctionnement du marché que les droits des travailleurs.

Les objets connectés ou l’aliénation de la vie privée

Lire le rapport coordonné Bernard Benhamou qui éclaire nombre d’enjeux contemporains relatifs à l’aliénation croissante et plus ou moins consentie de la vie privée.

Repères