► Le Président de Microsoft avertit : le 1984 d'Orwell pourrait arriver en 2024

La vie telle que décrite dans 1984 de George Orwell « pourrait se réaliser en 2024 » si les législateurs ne protègent pas le public contre l'intelligence artificielle, a prévenu le président de Microsoft.

---

S'adressant à Panorama de la BBC, Brad Smith a déclaré qu'il serait "difficile de rattraper" la technologie en évolution rapide.

Le programme explore l'utilisation croissante de l'IA par la Chine pour surveiller ses citoyens.

Les critiques craignent que la domination de l'État dans la région ne menace la démocratie.

«Si nous n'adoptons pas les lois qui protégeront le public à l'avenir, nous trouverons la technologie en marche, et ce sera très difficile à rattraper», a déclaré M. Smith.

«Je me souviens constamment des leçons de George Orwell dans son livre 1984. Vous connaissez l'histoire fondamentale… était celle d'un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait tout le temps. 

«Eh bien, cela ne s'est pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait arriver en 2024.»

L'IA chinoise

Dans certaines parties du monde, la réalité rattrape de plus en plus cette vision de la science-fiction, a-t-il ajouté.

L'ambition de la Chine est de devenir le leader mondial de l'IA d'ici 2030 , et beaucoup considèrent que ses capacités vont bien au-delà de l'UE.

• En 2019, la Chine a battu les États-Unis pour le nombre de brevets obtenus par les établissements universitaires pour l'innovation dans les technologies d'IA.

• 54% des 770 millions de caméras de vidéosurveillance dans le monde se trouvent en Chine, selon une étude de Comparitech.

Eric Schmidt, ancien directeur général de Google qui est maintenant président de la Commission de sécurité nationale américaine sur l'intelligence artificielle, a averti qu'il était impératif de battre la Chine dans l'IA.

«Nous sommes dans un conflit stratégique géopolitique avec la Chine», a-t-il déclaré. «Le moyen de gagner est de rassembler nos ressources pour avoir des stratégies nationales et mondiales pour que les démocraties gagnent en IA.

«Si nous ne le faisons pas, nous envisagerons un avenir où d’autres valeurs nous seront imposées.»

Le Dr Lan Xue, qui conseille le gouvernement chinois, a déclaré que la reconnaissance faciale pourrait s'avérer "extrêmement utile" pour identifier les personnes lors de rassemblements de masse en cas d '"accident majeur".

"La Chine a en effet fait d'énormes progrès en matière de développement technologique", a ajouté le Dr Xue. «[Les États-Unis] sentent que c'est une menace… et ils voulaient déclencher cette guerre froide sur la technologie.»

Bien que la Chine ait «d'énormes différences» dans ses valeurs et sa politique, la «vision du monde du pays n'est pas la convergence mais la coexistence», a déclaré le Dr Keyu Jin, professeur associé à la London School of Economics.

"La Chine ne cherche pas à exporter ses valeurs", a-t-elle ajouté.

Projet Maven

Le Dr Schmidt est devenu conseiller du Pentagone en 2016, tout en conservant un poste de président exécutif d'Alphabet, la société mère de Google.

Dans les années suivantes, Google a commencé un contrat avec le Pentagone, lui permettant d'utiliser certaines de ses technologies de reconnaissance d'image dans le cadre d'un projet militaire.

Le projet Maven a utilisé l'apprentissage automatique pour distinguer les personnes et les objets dans les vidéos de drones.

«Maven à l'époque était… un moyen de remplacer les yeux humains par une vision automatique pour les images de drones qui étaient utilisées dans les différents conflits arabes», a déclaré le Dr Schmidt. "Je considérais l'utilisation de cette technologie comme un avantage net pour la sécurité nationale et un bon partenariat pour Google."

'Du sang sur mes mains'

Mais le projet a été critiqué par les employés de Google qui ont démissionné et ont déposé une pétition contre le projet.

«Google ne devrait pas être impliqué dans les affaires de guerre», a déclaré Laura Nolan, ingénieur en logiciel, qui a démissionné en 2018, lorsqu'elle a découvert la nature du projet sur lequel Google travaillait. «J'avais un peu l'impression d'avoir du sang sur les mains.

Elle a fait valoir que la technologie pourrait être utilisée dans de futures décisions de ciblage.

Mais Google a déclaré que son IA ne serait utilisée qu'à des fins non offensives, avant de se retirer complètement du projet Maven en juin 2018.

Le Dr Schmidt a déclaré qu'il pensait que la technologie qui pourrait aider l'armée à prendre les bonnes décisions était une "bonne chose".

Course aux armements de l'IA

Mais le ministère de la Défense continue de rechercher des partenariats dans la Silicon Valley, dans le but de gagner la course mondiale aux armements de l'IA.

Seth Moulton, président du groupe de travail américain sur l'avenir de la défense, exhorte les entreprises technologiques à soutenir le ministère de la Défense.

«Parce que nous sommes dans une course, parce que nous sommes dans cette compétition, c'est vraiment ce à quoi cela revient», a-t-il déclaré. «Allez-vous nous aider à gagner cette course ou allez-vous être essentiellement contre nous?

«La Chine n'a pas le même système de gouvernement que nous.

"La course aux armements de l'IA pourrait-elle conduire à un conflit avec la Chine? Absolument."

Le Dr Xue a convenu qu'il y avait un potentiel de conflit : "Mais ce n'est pas inévitable - les États-Unis et la Chine devraient vraiment collaborer pour empêcher que cela ne se produise."

https://www.bbc.com/news/technology-57122120