Une contre-intelligence artificielle
Notes de lecture sur l’ouvrage de Vivien García : Que faire de l’intelligence artificielle ? Petite histoire critique de la raison artificielle (Éditions Payot et Rivages, 2024)
Voici bien un défi de philosophe : lisez le titre à la fin. Ne vous demandez pas tout de suite Que faire de l’intelligence artificielle ?, vous n’aurez pas la réponse. Mais prenez le temps de remonter la généalogie de l’I.A., de comprendre ses principaux concepts, d’explorer ses enjeux, avec le petit livre de Vivien García comme boussole. L’approche, philosophique autant que pédagogique, explique et fait réfléchir. En quelques chapitres brefs et directs, les concepts sont définis avec simplicité, dans leur dimension scientifique et dans leurs implications pour le monde. La clarté du style, les nombreuses illustrations, et le glossaire final rendent accessibles les débats qui ont forgé et continuent de nourrir l’histoire de l’intelligence artificielle.
Vivien García prend soin de distinguer l’aspect scientifique de l’I.A., comme champ de recherches visant à reproduire sur des machines les facultés cognitives de l’homme, et ses usages technologiques : génération de texte, classification d’images, reconnaissance de caractères, conduite autonome, transfert de style etc.
Il y a de nombreuses portes d’entrée dans l’intelligence artificielle. Vivien García a fait le choix de prendre les portes à double battants : il part de distinctions conceptuelles entre I.A. et apprentissage machine, entre connexionnisme et symbolisme, entre I.A. faibles et I.A. fortes, puis entre compétition et collaboration, pour tracer une définition dialectique de l’I.A.
À l’origine de sa réflexion : l’adoption massive de Chat-GPT, “agent conversationnel [qui] a offert aux masses un spectacle, le plus grand et surtout le plus interactif que l’I.A. n’ait jamais conçu”. Il se lance alors dans une description des coulisses du spectacle, des controverses qui y ont mené, et il nous en montre le jeu avec le public.
Quel défi, de raconter le spectacle auquel nous assistons, et dont nous sommes à la fois acteurs et audience ! La question qui s’impose est naturellement : que faire ? Le lecteur y trouvera peut-être la réponse, l’ouvrage de Vivien García ne cherche modestement qu’à initier et guider une réflexion.
Les chapitres sont brefs et denses, émaillés d’anecdotes célèbres et révélatrices de l’I.A. : le Turc mécanique illustre le ballet entre science et spectacle, l’atelier du Darmouth College en 1956 explicite la querelle du connexionnisme et du symbolisme, les expériences de Turing sont prétexte à penser les nouvelles interrogations sur le propre de l’homme et le fonctionnement de l’intelligence humaine.
Par beaucoup d’aspects, le manuel de Vivien García s’adresse à des philosophes désireux d’approcher cet objet de réflexion qu’est l’intelligence artificielle. Mais il aide aussi les chercheurs et tous ceux qui parlent de l’I.A. à préciser les termes : percevoir, reconnaître, identifier ne sont pas de parfaits synonymes. Parler d’”I.A. générale” n’est pas neutre. Il en revient à l’étymologie de comprendre et rappelle que “si les systèmes d’intelligence artificielle ne peuvent com-prendre le monde, c’est bien parce que, contrairement aux perroquets, ils s’efforcent de le posséder, sans jamais être possédé par lui”.
Pour cela, l’auteur est intransigeant face à un romantisme anthropomorphique auquel le domaine de l’I.A. s’abandonne trop volontiers. Il refuse le flou des notions, entretenu par une novlangue tech rarement traduite. Dans Que faire de l’intelligence artificielle ?, vous ne trouverez pas de patterns mais des régularités, pas de prompts mais des invites. Bien sûr, cela induit des lourdeurs stylistiques… mais ces lourdeurs ne font que témoigner d’une pensée qui tourne en rond, lorsqu’elle se refuse à creuser le sens des mots.
En somme, Vivien García s’est lancé dans une épistémologie de l’intelligence artificielle, qui l’a mené à évoquer ses questions éthiques, autour de la désinformation, des biais, de l’écologie, des financements, des monopoles. Il rappelle qu’aucune technologie n’est neutre. Je lisais ce passage lors d’un déplacement, chez un collectionneur d’appareils photographiques anciens, et j’en avais sous les yeux l’illustration : les appareils photo sont des outils, et pourtant, ils portent une vision du monde. Leurs formes, très similaires par certains aspects, très différentes par d’autres, qu’ils viennent d’URSS, des États-Unis ou d’Allemagne, qu’ils datent des années 30 ou 80, témoignent de contextes sociaux, de normes et de paradigmes. Ils portent une conception du monde. L’I.A. aussi porte une conception du monde, et d’abord d’un monde modélisable, qui évacue donc tout ce qui ne se vectorise pas. Ce qui ne se vectorise pas, c’est pourtant ce qui fait la différence entre générer et créer.
Il n’y a pas de LLM neutre, il y a tout au plus des données de sortie en phase avec certaines valeurs.
Enfin, le livre évite l’écueil des prophéties, amenées à périmer dans une histoire qui avance à un rythme vertigineux. S’il esquisse des pistes d’amélioration (“privilégier la qualité des données d’entraînement plutôt que leur quantité ; établir des architectures de réseaux de neurones plus efficaces pour certaines tâches ; minimiser le recours aux données étiquetées dans les domaines, comme la vision par ordinateur, où il demeure massif”), il souligne aussitôt qu’elles ne sont pas suffisantes.
Les plus rigoureux des lecteurs ne manqueront pas de notes en fin d’ouvrage, où ils trouveront aussi un glossaire et des biographies.
J’aurai le plaisir de rencontrer Vivien García sur la scène du Salon du livre de Genève le 7 mars 2024 à 15h (Scène des Loges)
Plus d’informations : https://programme.salondulivre.ch/fr/programme-rencontres/6578a63623cd1503882dfdbd
>>> Sujet de nombreux scénarios catastrophiques, l’IA intrigue et inquiète. Qu’apporte-elle et que ne pourra-t-elle pas changer ?
Avec « Il était une fois l’IA », Laura Sibony nous livre une série d’anecdotes au ton drôle et décrypte pour nous les fonctionnements de l’IA. L’essai de Vivien García, « Que faire de l’Intelligence artificielle ? » offre quant à lui une approche philosophique.
À eux deux, ils dressent un état des lieux de l’IA qui apporte clarté avec pertinence et humour nécessaires.
