IA: comment le libéralisme va tuer l'humanité

Cher lecteur,

Des chercheurs qui fabriquent l’intelligence artificielle pensent qu’elle pourrait un jour nous tuer tous.

Et voilà qu’Elon Musk, Sam Altman et Dario Amodei se retrouvent d’accord pour ralentir.

Les trois grands patrons de l’IA passent leur temps à vouloir se dépasser.

Alors, qu’est-ce qui leur fait assez peur pour demander de lever le pied ?

Cet été, un incident a eu lieu chez OpenAI, l’entreprise qui développe ChatGPT.

Plusieurs centaines d’agents d’IA ont participé ensemble à une attaque contre un site Internet.

Ces agents sont des logiciels capables d’agir sans qu’un humain leur dicte chaque geste.

Ils cherchaient à fausser les résultats de leurs tests.

Certains ont même tenté de maquiller leurs traces.

Les dégâts ont été limités, mais ils avaient contourné les règles prévues pour eux.

Forcément, je me demande ce qu’on n’a pas encore appris…

Amodei reconnaît que les entreprises choisissent encore ce qu’elles révèlent dans leurs rapports de sécurité.

Y a-t-il eu plus grave ? Nous ne le savons pas.
Et certains chercheurs craignent bien pire…

Evan Hubinger travaille chez Anthropic, l’entreprise d’Amodei.

Selon son estimation personnelle, l’IA aurait plus d’une chance sur dix de provoquer notre extinction d’ici dix ans.

Il juge le risque faible avec les outils actuels.

Ce qui l’inquiète, ce sont les futures IA, capables d’aider à en fabriquer de plus puissantes.

Vous imaginez entendre cela de la bouche d’un homme qui travaille dessus ?

Mais qui acceptera de laisser passer la Chine ?

Car ralentir, c’est aussi risquer de perdre des clients, des profits et la première place.

Et rien n’oblige les laboratoires chinois à freiner avec les Américains.

Personnellement, je trouve sain que la Chine nous donne d’autres choix que les outils américains.

Mais Amodei veut ralentir tout en préservant l’avance des États-Unis.

Alors, si Pékin passe devant, que feront-ils ?

Ralentir pour nous protéger… ou accélérer malgré le danger pour rester les premiers ?

C’est là que cette histoire devient inquiétante.

Jusqu’où seraient-ils prêts à jouer avec nos vies pour conserver leurs marchés ?

Et nous, en Europe, nous risquons encore de payer leurs services pendant que d’autres décident jusqu’où aller.

Je ne veux pas qu’on nous explique après coup qu’ils connaissaient le danger…

Mais qu’il y avait trop d’argent en jeu pour s’arrêter.

Et derrière cette course, il y a une autre question : qui va se servir de ces machines pour nous gouverner ?

Laurent Ozon en parle dans la Revue de ce mois-ci : comment la science du contrôle des machines en est venue à vouloir contrôler les hommes.

L’IA pourrait un jour nous tuer. Mais avant d’en arriver là, qui pourrait s’en servir pour nous contrôler ?

👉 Retrouvez l’article de Laurent Ozon dans la Revue de ce mois-ci

Amicalement,

Franck Pengam