A chacun des nombreux débats et commentaires suscités par les exploits d’une nouvelle génération d’IA (Deep Blue en 1997, AlphaGo en 2016, ChatGPT en 2022) se mélangent deux thématiques qu’il conviendrait de séparer. L’une est la question récurrente de savoir si « un jour les IA vont nous dépasser » et l’autre est de se demander si « elles vont nous dominer » et pourquoi pas, nous infliger une version high-tech du grand remplacement, avec bien sûr un trémolo d’horreur dans la question. Mais ces deux questions n’ont rien d’autre en commun que de s’associer pour faire surgir dans notre imagination inquiète un futur envahi par de méchantes IA, c’est la même trame que les contes moyenâgeux de loups dévoreurs d’enfants, les robots « remplaçant » les loups. En examinant séparément ces questions, cette anxiété ancestrale de l’avenir se dissipe… un peu.
La première question est évidemment technique et dès lors qu’elle est considérée en laissant de côté la seconde, elle paraît immédiatement naïve. Si les humains n’ont cessé de créer des outils puis des machines c’est bien pour étendre leurs faibles capacités physiques et, depuis l’avènement de l’ordinateur il y a soixante-dix ans, mentales. Personne n’a jamais imaginé de limiter les performances des marteaux-pilons, des voitures ou des calculatrices pour qu’elles ne dépassent pas les nôtres, bien au contraire, le but a toujours été de les surpasser. Une calculatrice à deux sous bat à plate couture n’importe quel humain en calcul mental, pourquoi en serait-il différemment pour les capacités analytiques, combinatoires et statistiques de l’intelligence artificielle ? Oui, il est probable que les IA dépasseront nos capacités mentales et cela nous sera très utile.
C’est là que l’interférence de la seconde question vient obscurcir le débat, la question n’est pas technique, elle est psychologique et, finalement, politique. C’est celle du mauvais usage du progrès. Là aussi, examinée indépendamment de la première, elle apparaît bien naïve, il y a toujours eu de mauvais usage du progrès, il y a déjà et il y aura encore de mauvais usages de l’intelligence artificielle et alors ? Oui il faut réguler l’usage qui en sera fait, ce n’est pas nouveau, le problème n’est jamais ce qu’invente l’être humain, mais toujours ce qu’il en fait.
Le trouble particulier que provoque le mélange des deux questions réside dans la crainte que les machines, quand elles atteindront nos capacités intellectuelles, soient automatiquement dotées de notre psychologie. Nous avons peur de reproduire dans ces machines nos plus sombres travers : goût immodéré du pouvoir, violence… d’où cette peur irrépressible de voir des machines autonomes entrer dans une compétition mortelle avec nous. C’est une illusion, l’intelligence n’a rien à voir avec la psychologie, l’intelligence est neutre ce n’est pas la cause de la violence, elle n’est qu’un moyen d’atteindre un but, des machines si sophistiquées soient-elles ne feront jamais que ce que leur concepteurs a décidé.
Il est possible bien sûr de fantasmer sur l’idée de créer des machines conçues pour détruire l’humanité, la mauvaise nouvelle est que c’est déjà le cas, des « docteurs Folamour (1) » ont inventé la bombe thermonucléaire dans les années 1950 et cela fait donc soixante-dix ans que l’humanité est au bord de l’anéantissement… La bonne nouvelle c’est que nous sommes toujours là. Il faut admettre que nous vivons dangereusement, l’humain est depuis longtemps devenu son pire problème (pire encore pour les autres espèces) mais, malgré cela, il n’a jamais été aussi abondant sur la planète.
(1) Personnage incarné par Peter Sellers dans le film parodique Docteur Folamour ou : comment j'ai appris à ne plus m'en faire et à aimer la bombe, que Stanley Kubrick a consacré aux risques atomiques de la guerre froide.
