Ces dernières années, l’intelligence artificielle (IA) a fait l’objet d’un grand nombre de débats et de spéculations. Ces discussions se sont amplifiées, ces derniers mois, avec l’apparition d’IA telles que ChatGPT ou Dall-E, qui sont capables de produire des textes cohérents ou des images complexes sur la base de demandes très simples. Ces progrès ont conduit certains commentateurs à proclamer que les IA étaient devenues des êtres « sensibles », voire « conscients », ou du moins allaient bientôt le devenir.
Depuis son avènement, la mécanisation de la production a suscité des rêves enflammés sur son potentiel libérateur, mais aussi la crainte que les machines ne finissent par nous remplacer. Le développement de machines « intelligentes », et même « super-intelligentes », porte aujourd’hui ces rêves et ces cauchemars à des niveaux extrêmes.
Jusqu’à récemment, les machines « intelligentes » relevaient du domaine de l’imagination. Mais depuis 2012, les « réseaux de neurones artificiels » capables d’utiliser une technique appelée « deep learning » (apprentissage en profondeur) ont réalisé d’énormes progrès et commencent à produire des résultats impressionnants. Cette révolution technique a conduit certains à annoncer l’avènement prochain d’une IA supérieurement intelligente qui résoudra tous les problèmes de l’humanité, tout comme les sectes millénaristes annoncent régulièrement le retour de Jésus Christ.
Dans l’ensemble, cependant, la perspective qu’apparaisse une IA supérieurement intelligente suscite plus de peur que d’enthousiasme. Beaucoup craignent (non sans raison) que la massification des IA ne mette au chômage des millions de personnes, quand d’autres imaginent que leur développement pourrait mener à un asservissement direct des êtres humains par les machines, comme dans les films Matrix et Terminator. Fin mars dernier, plusieurs milliers de personnes issues du secteur de la technologie, dont le cofondateur d’Apple, Steve Wozniak, ont signé un appel à suspendre pendant six mois toutes les recherches sur l’IA, car celle-ci représenterait des « risques profonds pour la société et l’Humanité ».
Ces craintes dépassent largement ce secteur de l’économie, car elles trouvent leur source non dans la technologie des IA en elle-même, mais dans le fonctionnement de la société capitaliste. Sous le capitalisme, l’anarchie du marché empêche l’humanité de contrôler le développement de la technologie, qui ne sert pas d’abord à satisfaire des besoins, mais à générer des profits. Et les IA, bien sûr, n’échappent pas à cette règle.
IA et conscience
L’idée qu’une IA puisse devenir « consciente » repose sur une conception très unilatérale de ce qu’est la conscience. D’après cette conception, la seule différence entre un ordinateur et un humain consisterait dans le fait que notre cerveau est – ou était – plus puissant et plus sophistiqué qu’un ordinateur. Dès lors, en développant des ordinateurs de plus en plus complexes, ils finiront par devenir au moins aussi performants que le cerveau humain. Conclusion : les machines deviendraient « conscientes », si ce n’est déjà fait.
En réalité, la façon dont les hommes et les femmes pensent est très différente de la façon dont les IA traitent des informations. La pensée humaine s’est développée – et continue de se développer – sur la base d’activités et de rapports sociaux qui visent à satisfaire des besoins. Nous formons des idées qui décrivent et analysent les rapports entre les choses, et ce faisant nous attachons une importance toute particulière à ce qui, dans ces rapports, est utile ou significatif de notre point de vue, car nous devons comprendre le monde pour y vivre.
C’est précisément ce qui manque aux IA, même les plus avancées. Elles sont très utiles pour collecter et analyser des masses de données, pour identifier des motifs récurrents parmi ces données – et même, désormais, pour reproduire ces motifs sous la forme d’un dessin ou d’une suite de mots, comme le font ChatGPT ou Dall-E. Mais ces IA n’ont aucune idée du rôle des données qu’elles analysent, des objets que représentent ces données ou de leurs rapports mutuels. Elles ne comprennent pas davantage l’origine et la signification des motifs récurrents qu’elles parviennent à identifier.
Les IA les plus récentes dépassent les êtres humains dans la réalisation de certaines tâches, mais ces succès viennent précisément du fait que ces IA ne sont ni conscientes, ni vivantes. Prenons un exemple. En 2016, le logiciel AlphaGo a marqué l’histoire des IA en battant l’un des meilleurs joueurs de Go au monde. Mais pour en arriver à ce résultat, AlphaGo avait dû « jouer 30 millions de parties, soit bien plus qu’un homme ne pourrait en jouer au cours de sa vie ». [1] Or, si un homme ne pourra jamais jouer autant de parties de Go, ce n’est pas seulement parce que sa vie n’est pas assez longue pour cela, mais aussi parce qu’il finirait par s’ennuyer – et parce qu’il aurait besoin de manger, de dormir, de gagner de l’argent pour payer son loyer, mais aussi de parler à des gens pour ne pas devenir fou, etc. Des machines telles qu’AlphaGo sont supérieurement efficaces précisément parce qu’elles peuvent être programmées pour tester encore et encore les mêmes choses.
Un autre élément fondamental de la conscience qui reste hors de portée des IA, c’est la compréhension des rapports qui existent entre différents concepts. Par exemple, si vous demandez à une IA de dessiner un vélo, elle produira généralement un dessin de vélo réussi. Si vous lui demandez de dessiner une roue de vélo, elle s’exécutera là encore sans problème. Mais si vous lui demandez de dessiner un vélo et de désigner les roues par une légende, elle produira un dessin de vélo entouré de légendes placées au hasard, car l’IA ne comprend pas les rapports entre le tout et les parties qui le composent. Pour elle, une « roue » est un motif récurrent spécifique qui n’a pas de rapport particulier avec cet autre motif qu’est le « vélo », alors que pour un être humain, une roue est à la fois un objet distinct et une composante essentielle de tout vélo qui se respecte.
Cette incapacité à comprendre les rapports entre le tout et ses parties a aussi pour résultat que les IA peuvent être particulièrement compétentes dans une tâche précise, mais parfaitement inapte à une autre tâche pourtant très proche de la première. Une IA qui avait été programmée pour exceller à un jeu vidéo se révéla totalement incompétente lorsque ce jeu fut modifié de quelques pixels. Elle était incapable de reconnaître qu’il s’agissait du même jeu, dans l’ensemble.
De même, depuis la victoire d’AlphaGo en 2016, des IA équivalentes ont été régulièrement battues par des joueurs amateurs qui avaient appris à « tendre des pièges » à l’IA. Ces pièges étaient pourtant si évidents qu’ils étaient systématiquement repérés et déjoués par des joueurs humains, même médiocres. Cela vient du fait qu’AlphaGo n’a aucune idée de ce qu’est le Go en lui-même ; elle a seulement été entraînée à appliquer une série de tactiques et de calculs, sans comprendre leur but.
Au final, les IA ne sont qu’un outil. Le fait qu’elles dépassent les capacités humaines dans telle ou telle tâche spécifique n’est pas une preuve de leur intelligence supérieure. C’est plutôt la conséquence du fait que, comme toutes les machines, elles ont été conçues pour être plus puissantes, plus précises ou plus rapides que les hommes. Le marteau-pilon produit davantage de force physique que l’ouvrier. Les calculatrices ont depuis longtemps dépassé les capacités de calcul mental des meilleurs mathématiciens. Cela n’a pas pour autant rendu ces outils « intelligents » ou « conscients ».
Potentiel révolutionnaire
Les IA ont fait des progrès remarquables ces dix dernières années, en particulier depuis que les avancées technologiques ont permis d’utiliser les techniques de deep learning à grande échelle, et de les combiner à des réseaux de « neurones artificiels » (qui imitent certains aspects des neurones humains) pour traiter de grandes quantités de données.
Nous n’expliquerons pas ici comment fonctionnent ces techniques. Il suffit de dire qu’en général l’IA apprend « par elle-même », pour ainsi dire, sur la base des principes logiques initialement élaborés par ses programmeurs. Ceux-ci doivent lui fournir le plus grand nombre possible de données à traiter, par exemple des photographies, et l’inciter à identifier des motifs récurrents dans ces images, comme la forme caractéristique d’un visage humain. En traitant un très grand nombre de données, une telle IA peut parvenir à identifier les caractéristiques principales du motif qu’on lui demande de reconnaître – et l’identifier à nouveau dès qu’elle le retrouvera dans d’autres images. Cependant, l’IA n’a pas la moindre idée de ce que représente ce motif. Pour elle, il n’est qu’une configuration particulière de pixels.
L’intérêt majeur de cette méthode réside dans sa relative autonomie. Cela permet de l’appliquer à des problèmes spécifiques dans un laps de temps très court, là où il fallait auparavant une longue période de programmation et d’expérimentation. En traitant d’énormes quantités de données, cette méthode permet de repérer des motifs récurrents là où un être humain en serait incapable – ou n’en serait capable qu’au terme d’une très longue période de préparation.
Ces capacités sont d’ores et déjà mises à profit dans toute une série de domaines, de la conception d’avions au déchiffrage des textes anciens en passant par la recherche médicale. Des IA sont régulièrement utilisées par des biologistes afin d’identifier les formes et fonctions des acides aminés. Cela permet de développer plus vite des médicaments et de mieux comprendre le fonctionnement de certaines maladies, dont le Covid-19.
Des chercheurs espèrent aussi être en mesure d’utiliser les IA pour développer de nouvelles technologies. Par exemple, plusieurs essais ont été menés dans le domaine de la fusion nucléaire, une méthode qui pourrait en théorie produire de grandes quantités d’énergie quasiment sans déchets. La difficulté de cette technologie tient au fait qu’elle nécessite de maintenir la chambre du réacteur à des températures très élevées et relativement stables, ce qui impose de prêter une attention constante à une multitude de paramètres différents. Une telle tâche semble parfaitement adaptée à une IA, et les premiers essais ont été prometteurs, paraît-il. [2]
Ces technologies ouvrent aussi des perspectives fascinantes dans le domaine de la créativité humaine. En s’appuyant sur l’immense quantité de données visuelles disponibles sur Internet, les IA telles que Dall-E peuvent générer des images à la demande. Celles-ci restent relativement génériques, car elles sont issues d’un processus d’agrégation d’images déjà existantes. Mais en combinant des éléments différents, elles peuvent aider les créateurs de story-board ou les illustrateurs à tester rapidement des idées (par exemple : « un match de football dans une ville cyberpunk »). Il est difficile d’exagérer le potentiel de ces technologies… si elles sont utilisées à bon escient.
Les chaînes du capitalisme
Marx expliquait que tout système économique et social donné fournit un cadre au développement des forces productives, mais qu’à un certain stade ces forces productives dépassent le cadre en question, c’est-à-dire les rapports de production dans lesquels elles se sont développées. Ces rapports de production deviennent alors un obstacle au développement ultérieur des forces productives. Cela s’applique évidemment au mode de production capitaliste, qui a permis un développement sans précédent des forces productives – avant de devenir un énorme frein à ce même développement. C’est ce qui explique que malgré le développement de nouvelles technologies incroyables, ces dernières années, les investissements et les gains de productivité restent désespérément bas.
L’IA et d’autres technologies numériques (comme Internet) sont des outils trop avancés pour être correctement utilisés sur la base du capitalisme. Ce système ne produit que pour faire du profit, de sorte que si un investissement n’est pas profitable, il ne sera pas réalisé. Or la seule façon de réaliser du profit, pour les capitalistes, c’est d’exploiter la force de travail des salariés et de vendre le produit de leur travail. Les technologies telles que l’IA remettent en cause tout ce processus. Par exemple, Internet permet de copier et de partager de grandes quantités d’informations très rapidement, sur la base d’une très faible quantité de travail. N’importe qui peut partager de la musique ou des films sans effort. La simple existence d’Internet a donc rendu de plus en plus obsolète une branche entière de l’industrie de la musique et du cinéma : la production et la distribution des enregistrements.
Pour les capitalistes liés à cette industrie spécifique, cela posait le problème suivant : comment continuer à faire du profit lorsque n’importe qui peut accéder gratuitement à un film ou un album ? Ils ont tenté de le résoudre, d’une part, en faisant du partage de fichiers un délit, et d’autre part en créant des services payants de streaming. Du point de vue de la défense des profits capitalistes, cette solution a été relativement efficace. Par contre, du point de vue de la production et de la distribution des œuvres, il s’agit d’un moyen aberrant de limiter artificiellement les capacités offertes par la technologie.
La même logique s’applique aux IA les plus récentes. Si une IA peut produire instantanément une bonne part des textes et des illustrations nécessaires à un livre, ou encore produire en un clin d’œil les premiers jets d’un scénario sur la base d’une simple idée, la valeur du travail des illustrateurs et des scénaristes s’en trouve drastiquement réduite.
Dans une société socialiste, une telle évolution ne sera pas nécessairement négative. Les artistes et les illustrateurs n’auront aucune raison de redouter des IA capables de produire une « œuvre d’art » en quelques instants. L’art, en effet, ne sera plus produit en vue de générer du profit ou de gagner son pain. Les liens qui rattachent l’art à la propriété privée ayant disparu, il sera produit pour lui-même – ou plutôt pour le bénéfice de toute la société. La création artistique deviendra l’expression authentique des idées et des talents des individus, ainsi qu’une forme de communication. Sur cette base, les IA ne seront plus une menace, mais un outil de plus à la disposition des artistes.
Sous le capitalisme, la situation est très différente : l’existence des artistes est précaire et subordonnée aux aléas du marché. Ils sont obligés de défendre leur droit à vendre leur art, pour protéger leurs revenus et leurs conditions de vie.
Surveillance et exploitation
Sous le capitalisme, l’utilisation des IA ne peut qu’exacerber les tendances au monopole et aux inégalités croissantes. Les IA les plus efficaces sont et seront développées par d’énormes monopoles tels que Google ou Microsoft, car ces derniers disposent du meilleur matériel, des meilleurs ingénieurs et ont accès à un maximum de données. Ces groupes utilisent leur position de monopole pour en tirer d’énormes profits.
Par ailleurs, dans la mesure où ces technologies permettent de faciliter la production et de la rendre meilleur marché, elles seront utilisées par les entreprises capitalistes pour licencier certains travailleurs et baisser les salaires des autres. Elles sont déjà utilisées pour surveiller constamment les travailleurs et les forcer à produire davantage (pour le même salaire). Dans ce domaine, Amazon s’est rendu célèbre : « en 2018, l’entreprise a déposé deux brevets pour un bracelet connecté qui émet des pulsations ultrasons et radio, et qui permet de suivre les mains d’un magasinier en fonction de son inventaire, de façon à utiliser des stimuli sensoriels pour les guider vers l’objet qu’il doit saisir. » [3]
Le capitalisme a mis la main sur une technologie révolutionnaire qui pourrait contribuer à harmoniser et rationaliser la production tout en stimulant la créativité de l’humanité. Au lieu de cela, il l’utilise pour surveiller ou licencier des travailleurs, pour rendre l’existence des artistes encore plus précaire et pour concentrer encore plus de pouvoirs entre les mains des monopoles capitalistes.
En renforçant le caractère monopolistique de l’économie, en baissant les salaires et en concentrant toujours plus de richesses dans toujours moins de mains, les IA ne feront qu’aggraver l’anarchie du marché capitaliste. Nous en voyons déjà les effets aujourd’hui. Par exemple, dans le but de planifier son développement et ses investissements, Amazon s’appuie sur des IA pour son « Système d’Optimisation des Chaînes d’Approvisionnement » (Supply Chain Optimization Technologies, ou SCOT). Pendant la pandémie de Covid-19, les modèles de consommation ont changé et les achats en ligne via les entreprises telles qu’Amazon ont énormément augmenté. Le SCOT a pris en compte cette évolution de la consommation, mais sans comprendre qu’elle était causée par les confinements à répétition. L’IA a considéré qu’il s’agissait d’une tendance à long terme et a donc recommandé à Amazon d’investir des milliards de dollars pour augmenter ses capacités de stockage au niveau requis par ce nouveau modèle de consommation. Ce conseil correspondant parfaitement aux ambitions des dirigeants d’Amazon, ils l’ont suivi. Dès que les confinements ont été levés, les commandes Amazon ont baissé drastiquement – et l’entreprise s’est retrouvée avec des entrepôts trop grands et trop de produits invendus, ce qui a mené à des licenciements et des soldes frénétiques. Au lieu d’éliminer le gâchis et la surproduction, l’utilisation de l’IA par les monopoles les aggrave.
Dans ce contexte, la crainte qu’inspirent les IA n’est pas surprenante. Mais cette crainte n’a pas grand-chose à voir avec la technologie elle-même. Elle révèle surtout les contradictions inhérentes au mode de production capitaliste. Sous le capitalisme, ce sont précisément les plus hautes réalisations de la pensée humaine, les technologies susceptibles d’éliminer la pauvreté et l’ignorance, qui menacent de générer encore plus de pauvreté.
Nous craignons d’être réduits en esclavage par une intelligence artificielle froide, impersonnelle et calculatrice. Mais en réalité, nous sommes déjà soumis aux forces aveugles et impersonnelles du marché, qui est tout aussi froid et calculateur, bien qu’il ne soit ni « intelligent », ni rationnel.
IA et planification
L’utilisation des IA pour accroître l’exploitation capitaliste est un gâchis criminel. Il est difficile d’imaginer une tâche plus adaptée à de tels outils que la planification d’une économie complexe, en vue de satisfaire les besoins de la population. Comme Amazon l’a prouvé, il est déjà possible d’automatiser quasi complètement des chaînes logistiques.
Dans ses immenses complexes d’entrepôts, Amazon a recours à des robots et des IA pour planifier au mieux quels objets doivent aller où et en quelle quantité. Il serait tout à fait possible d’intégrer ce type de technologies à l’économie dans son ensemble, pour fournir des données en temps réel sur la consommation, mais aussi sur l’usure des machines et des équipements.
Le fabricant de logiciels SAP a mis au point une application reposant sur l’IA nommée HANA, qui est utilisée par des entreprises comme Walmart pour planifier leur logistique et leurs commandes en utilisant des données en temps réel. En fournissant des données de ce type à des IA de deep learning, celles-ci pourraient aider à mettre au point des plans de production économique à long terme. Cela permettrait d’utiliser au mieux les ressources pour satisfaire les besoins de la population tout en éliminant une bonne part du gaspillage et en réduisant le temps de travail nécessaire.
Bien entendu, de telles IA devraient être supervisées par des êtres humains. Elles ne seraient qu’un outil à leur service. Par exemple, elles ne pourraient pas répondre à des questions sur le type d’architecture qui doit être développé – ou sur ce à quoi nos villes doivent ressembler. Mais leurs apports dans la gestion de l’économie n’en seront pas moins cruciaux.
Tel est le potentiel de ces nouvelles technologies. Ce potentiel est à notre portée, mais il nous échappe, car contrairement à ce que beaucoup imaginent, son utilisation n’est pas déterminée automatiquement par la technologie elle-même, mais par le mode de production dans lequel nous vivons.
Tant que nous vivrons sous le capitalisme, c’est lui qui fixera la façon dont les IA seront utilisées. C’est pour cela que cette technologie ne peut, en elle-même, régler les problèmes du capitalisme. Ce système doit être renversé pour que nous puissions enfin pleinement utiliser toutes les technologies et soumettre l’économie à une planification rationnelle, consciente.
C’est cette nécessité vitale, pour la survie de notre espèce, que soulignait déjà Trotsky en 1932 : « La technique a libéré l’homme de la tyrannie des anciens éléments : la terre, l’eau, le feu et l’air, pour le soumettre aussitôt à sa propre tyrannie. L’homme cesse d’être l’esclave de la nature pour devenir l’esclave de la machine et, pire encore, l’esclave de l’offre et de la demande. La crise mondiale actuelle témoigne d’une manière particulièrement tragique combien ce dominateur fier et audacieux de la nature reste l’esclave des puissances aveugles de sa propre économie. La tâche historique de notre époque consiste à remplacer le jeu déchaîné du marché par un plan raisonnable, à discipliner les forces productives, à les contraindre d’agir avec harmonie en servant docilement les besoins de l’homme. » [4]
[1] G. Marcus, E Davis, Rebooting AI: Building Artificial Intelligence We Can Trust, Pantheon Books, 2019.
[2] A. Katwala, « DeepMind Has Trained an AI to Control Nuclear Fusion », Wired, 16 February 2022
[3] N. Dyer-Witheford, A. Mikkola Kjosen, J. Steinhoff, Inhuman Power: Artificial Intelligence and the Future of Capitalism, Pluto Press, 2019.
[4] L. Trotsky, Discours sur la Révolution d’octobre, 1932.
