L'IA, un \"risque existentiel\" ? Même l'ONU s'inquiète

Les intelligences artificielles peuvent-elles prendre le pouvoir sans un contrôle humain ? (YUICHIRO CHINO / MOMENT RF / GETTY IMAGES)

Le chercheur britannique Jacob Coxon a d’abord travaillé chez OpenAI,la société qui a créé ChatGPT. Puis il est passé chez le grand rival Anthropic,qui conçoit une intelligence artificielle concurrente,baptisée Claude. Mais Coxon a décidé de claquer la porte d’Anthropic. Mardi dernier,il a expliqué pourquoi,dans une série de publications sur le réseau social X.

Attention,il n’y va pas avec le dos de la cuiller : pour lui,les patrons d’Anthropic comme ceux d’OpenAI "jouent avec nos vies" – c’est l’expression qu’il utilise. Il les accuse de foncer tout droit vers une "superintelligence capable de s'améliorer elle-même" et donc capable de se passer de l’être humain.

À lire aussi

"L'IA pourrait nous tuer",l'alerte d'un chercheur

Le scénario d'une perte de contrôle

Évidemment,cela fait peur. En plus,ce lanceur d’alerte n’est pas le premier à s’inquiéter. Lundi dernier,l’ONU a lancé un appel pour mettre rapidement en place des "lignes rouges" afin d’encadrer les intelligences artificielles les plus puissantes. Le Haut-Commissaire aux droits de l’homme,Volker Türk,a dit redouter un possible "risque existentiel pour l’humanité".

Le scénario redouté ? Ce n'est pas qu'une IA devienne soudainement méchante. Mais plutôt que nous donnions trop de pouvoir à une machine extraordinairement compétente,dont on ne maîtriserait plus ni les objectifs ni le comportement. Bref,c’est le scénario d’une perte de contrôle qui fait peur. Des raisons très concrètes justifient qu’on s’inquiète : il y a eu,en juillet,une cyberattaque menée par un modèle d’OpenAI,sans qu’aucun opérateur humain en ait passé l’ordre.

Le "marketing de la peur"

Ce n’est pas mieux du côté d’Anthropic qui a reconnu l’implication de Claude dans 1,2,3… 4 incidents ! Le dernier a été révélé mercredi. Claude devait attaquer une cible fictive pendant un test. Il n’y est pas parvenu et a fini par atteindre un système informatique bien réel,qu’il a continué d’attaquer,en faisant preuve d’une sorte "d’obstination". Il est donc allé au-delà des limites qu'on lui avait fixées.

À lire aussi

"Il faut une gouvernance internationale pour réguler le développement de l'IA",estime une spécialiste,après l'alerte d'un chercheur sur ses dangers pour l'humanité

Alors que faut-il faire ?Peut-être créer une organisation internationale pour contrôler les évolutions de l’IA,sur le modèle de ce qui existe pour l’énergie atomique. De grands noms de la tech le réclament,comme d’ailleurs Sam Altman,le patron d’OpenAI.

Mais il faut relever que,à l’inverse,d’autres voix disent qu’il faut se calmer,que c’est beaucoup de bruit pour rien,et dénoncent ce qu’ils appellent un "marketing de la peur". Car présenter ces IA comme des machines bientôt surpuissantes,c’est aussi,paradoxalement,assurer leur publicité.