Le Canadien-Britannique Geoffrey Hinton, connu sous le nom de «Parrain de l'Intelligence Artificielle," a été le pionnier de l'apprentissage profond et des réseaux de neurones artificiels. Cette année, il a reçu le prix Nobel de physique pour ses contributions à l'intelligence artificielle. Cependant, il a récemment déclaré qu'il existait unIl y a 10 à 20 pour cent de chances que l’intelligence artificielle (IA) provoque l’extinction de l’humanité au cours des 30 prochaines années, soit plus que les 10 pour cent qu’il avait prédit plus tôt.

Les humains sont comme des enfants de trois ans face à l’IA.

Selon un récentLe poste de gardienet dans une interview accordée à l'émission Today de BBC Radio 4, Hinton a déclaré que le développement rapide de l'IA avait créé des défis sans précédent pour l'humanité. "Nous n’avons jamais eu à faire face à quelque chose de plus intelligent que nous-mêmes. Combien d’exemples pouvez-vous donner de choses moins intelligentes mais contrôlant des choses plus intelligentes ? À peine. Les seules exceptions sont peut-être les mères et les bébés, mais cela a été réalisé au cours de millions d'années d'évolution..»

Dans l'entretien,Hinton a décrit les humains comme étant comme un enfant de trois ans par rapport aux systèmes d'IA avancés, en disant : «Pensez à vous et à un enfant de trois ans ; à l'avenir, nous aurons trois ans devant des systèmes avancés hautement intelligents.» Il soutient que cette asymétrie de l’intelligence est susceptible de conduire à une perte de contrôle sur l’IA.

Pionnier de la recherche sur les réseaux neuronaux, Hinton a travaillé pour Google pendant de nombreuses années jusqu'à ce qu'il décide d'arrêter en 2023 pour se concentrer sur les risques de l'IA. Il a averti que les systèmes d’IA pourraient surpasser l’intelligence humaine au cours des deux prochaines décennies, et que les défis et les crises qu’ils entraîneront seront imprévisibles. Il estime que le développement sûr de l’IA ne peut être garanti par la seule orientation vers le profit des entreprises. Il appelle les gouvernements du monde entier à travailler ensemble pour développer des mécanismes réglementaires stricts afin d’éviter d’éventuelles catastrophes.

Le point central de Hinton est que les capacités de l’IA ne constituent pas seulement des avancées technologiques, mais qu’elles peuvent potentiellement modifier les structures de pouvoir et même affecter l’ordre social dans son ensemble. Il admet qu’il est à la fois impressionné et inquiet du potentiel de cette technologie et déclare sans ambages qu’« il s’agit de l’une des innovations les plus perturbatrices de l’histoire de l’humanité ».

Dans le même temps, Yann LeCun, scientifique en chef de l'IA chez Meta de Mark Zuckerberg, autre figure critique dans le domaine de l'IA, a une attitude très différente à l'égard de l'avenir de l'IA. Il estime que si elle est utilisée correctement, l’IA peut résoudre des défis mondiaux tels que les pénuries d’énergie et la répartition inégale des ressources médicales. LeCun a souligné que la menace d’une exagération de l’IA pourrait éclipser ses avantages potentiels et a soutenu que le récit de la « fin du monde » est biaisé.

LeCun soutient que l'IA peut non seulement améliorer l'efficacité, mais pourrait également être un « sauveur » pour résoudre les problèmes de la planète. Il estime que tant que les humains utiliseront la technologie de manière responsable, les avantages de l’IA l’emporteront de loin sur les risques.

Quel avenir pour l’IA ?

Le désaccord entre les gens sur l'avenir de l'IA montre la polarisation de la controverse sur la technologie de l'IA : d'une part, il existe de profondes inquiétudes quant à la perte de contrôle de la technologie et des attentes optimistes quant à son potentiel. Dans un contexte d’avancées technologiques rapides, l’impact de l’IA fait l’objet d’un débat houleux, et les questions réglementaires sont également au centre de l’attention.

À l’heure actuelle, de nombreux experts estiment que le développement de l’IA doit concilier innovation et sécurité. Les entreprises et les gouvernements doivent faire progresser la technologie tout en garantissant que les spécifications sont précises et appliquées pour éviter des conséquences potentiellement catastrophiques.

Néanmoins, dans ce long débat sur l’avenir de l’humanité, partisans et critiques ont un point commun : comment garantir que la technologie fonctionne pour l’humanité et ne menace pas sa survie.