Habituellement, les questions autour de l’IA tournent toujours autour du même thème : « sont-elles efficaces ? » Ses partisans disent que oui en nous montrant des exemples de tâches où elles ont eu de bons résultats. Ses détracteurs nous disent que non en nous montrant des exemples où elles se sont plantées dans les grandes largeurs ou soulignent l’exploitation des ressources dont elle fait preuve (électricité, bande passante et droit d’auteur). Avec en filigrane la question du grand remplacement des humains par des machines.

Dans un article précédent sur les limites de l’intelligence, je terminais en écrivant que la question que je préfèrerais qu’on se pose est plutôt « pourquoi voulez-vous qu’elles existent ? » et c’est à cette question que j’aimerais consacrer cet article.

Divulgâchage : j’avais répondu « par misanthropie ?! »

IA Génératives

Pour l’instant, ce qu’on a de plus proche d’une « Intelligence Humaine », ce sont des chat bots. Dans la lignée du Test de Turing, ces IA génèrent du texte en réponse à des prompts pour donner l’illusion d’une conversation humaine et, je dois bien l’avouer, c’est bluffant de réalisme.

Mais puisque ces IA simulent des humains, de quels types d’humains s’agit-il ?

Des mythomanes. Techniquement ces IA ne mentent pas car elles ne savent pas ce qui est vrai. De même elles n’hallucinent pas car elles ne perçoivent rien. Ce qu’elles font, c’est fabuler ; en collant des bouts de textes pour que ça donne le change, elles présentent comme réels des faits imaginaires. Parfois elles tombent juste, mais ce n’est pas volontaire, c’est un coup de bol.

Des manipulateurs. Le but de ces IA, l’objectif qui est inscrit dans leur code, est double. D’abord nous plaire en nous disant ce que nous voulons entendre. Et une fois que nous somme sous son charme, utiliser nos informations à leurs profits :

• Directement en nous faisant de la publicité¹,
• Indirectement en fournissant nos données à des tiers².

Des voleur. Elles volent nos mots lorsqu’elles les reprennent sans nous créditer³. Elles volent nos contenus lorsqu’elles ne respectent pas les directives robots.txt⁴. Et on pourrait discuter un moment du gaspillage de ressources naturelles qu’elles nécessitent.

En psychiatrie, on appelle ça un trouble de la personnalité anti-sociale. Est-ce vraiment vers ce type de personnalité que vous voulez discuter, confier votre business ou votre vie intime ?

Notez que les éditeurs de ces applications sont complètement en phase avec ces comportements. Ils sont le fruit de choix délibérés en terme de programmation des algorithmes et d’objectifs fixés aux robots. Entre l’Humanité ou leur propre profits, ils ont fait un choix. Dont Acte.

Idem pour tous les utilisateurs qui se servent de ces IA pour nous servir du contenu ou des réponses. Ils sont complices en finançant les éditeurs. Ils sont des escrocs en se faisant passer pour ce qu’ils ne sont pas. Ils font preuve de mépris.

IA Générale

Mais admettons le temps de cet article que les trois défauts précédents puissent être, miraculeusement, évités. Qu’on puisse développer une IA qui ne fabule pas⁵ qui ne manipule pas et qui ne vole pas. Quel est l’intérêt par rapport à un être humain ?

Le profit économique. Si ces IA sont sur le marché, et sont utilisée par des entreprises et des humains, c’est pour réduire la masse salariale. De leur point de vue, les humains sont un centre de coût. En remplaçant les humains par des robots, ces utilisateurs espèrent faire encore plus de profit⁶. À l’opposé des démarches affichées de RSE. L’avantage des professionnels sans opposition sociale.

Notez que ces IAG n’existent pas encore, qu’on n’est d’ailleurs pas certains de pouvoir les créer un jour, et surtout, rien ne dit qu’elles seront plus économiques qu’un être humain. Mais ça n’empêche pas des entreprises de poursuivre ce but du grand remplacement.

L’esclavagisme. L’intérêt d’un robot, c’est qu’on en est le maître⁷. On peut en faire ce qu’on veut et sa programmation lui intime de nous plaire et nous obéir. Qu’un robot ne le fasse pas et il est détruit. L’avantage des exclaves sans respecter le code noir.

Le totalitarisme. Les robots correspondent exactement à ce que nous voulons d’eux. Il est toujours possible de les réinitialiser à une étape antérieure ou les reconfigurer pour changer leur point de vue et correspondre au nôtre. Les avantages d’un ami sans s’encombrer d’une altérité.

L’égoïsme. L’autre intérêt d’un robot, c’est qu’il n’est pas nécessaire de faire attention à lui. On l’allume lorsqu’on en a besoin, on lui demande (et il fait) ce dont nous avons besoin, puis on l’éteint. Il est toujours disponible et ne demande rien en retour. Les avantages d’un enfant ou d’un conjoint sans devoir s’en occuper.

Globalement, considérer qu’on puisse remplacer des êtres humains par des machines, c’est déjà considérer les êtres humains comme des machines. Et aller jusqu’à considérer ce remplacement salutaire, c’est considérer que les humains sont moins que des machines. C’est une vision bien négative de nos concitoyens et notre espèce. La misanthropie, par définition.

Et après ?

Certains me répondront que leur but est de créer une nouvelle intelligence consciente et discuter avec elle pour découvrir une altérité. Je leur répondrai que la Terre héberge déjà une population de plus de 8 milliards d’altérités⁸. Si le but est de rencontrer des intelligences, il suffit de sortir de chez soi et parler à des inconnus.

D’autres me diront qu’ils le font pour la recherche scientifique, pour répondre à leur curiosité et faire avancer nos connaissances. Mais pourquoi faire ? Je veux dire ; il est évident qu’on doit pouvoir créer une autre forme d’intelligence, on ne sait juste pas comment s’y prendre (en dehors de la reproduction puis l’éducation⁹). Quel intérêt à le faire concrètement sur des machines si ce n’est dans un des buts précédents ?

Autant les algorithmes corrects ou statistiques sont des outils qui peuvent avoir des impacts positifs sur nos vies. Autant j’ai beau chercher, je ne vois aucun cas d’usage de ces IA conversationnelles qui ne soit pas anti-social par nature.