Une technologie sophistiquée d’intelligence artificielle peut être utilisée comme un outil puissant pour manipuler les individus, a averti un informaticien. La journaliste de Sky News Sophy Ridge a déclaré que cette perspective était « vraiment très effrayante » lors d’une émission diffusée ce matin sur Sky News. Le professeur Stuart Russell, directeur du Kavli Center for Ethics, Science, and the Public à l’université de Californie, est l’un des 30 000 signataires d’une lettre ouverte appelant à la prudence en matière de développement de logiciels d’intelligence artificielle sophistiqués.
Plus précisément, ils appellent à une pause dans la formation de systèmes d’IA plus puissants que GPT-4, un modèle de machine si sophistiqué qu’il peut même réussir l’examen du barreau.
Le professeur Russell, à qui Mme Ridge a demandé d’exposer ses préoccupations, a déclaré : « Il y a une distinction entre les systèmes qui existent déjà et ceux qui sont en cours de développement : « Il y a une distinction entre les systèmes qui existent déjà, et je pense que l’une des plus grandes préoccupations est la désinformation et les faux profonds.
« La différence ici, c’est que je peux maintenant demander à GPT-4 de lire toute la présence de Sophy Ridge sur les médias sociaux, tout ce que Sophy Ridge a jamais dit ou écrit, tout ce qui concerne les amis de Sophie Ridge.
Il poursuit : « Ensuite, je pourrais commencer une campagne graduelle en ajustant votre fil d’actualité, peut-être en envoyant occasionnellement quelques fausses nouvelles dans votre fil d’actualité, de sorte que vous soyez un peu moins favorable à l’Ukraine.
« Et vous commencez à faire pression sur les politiciens qui disent que nous devrions soutenir l’Ukraine dans la guerre contre la Russie, et ainsi de suite. Ce sera très facile à faire et ce qui est vraiment effrayant, c’est que nous pourrions faire cela à un million de personnes différentes avant le déjeuner.
« Ces systèmes peuvent donc avoir un impact énorme, pour le pire, en manipulant les gens d’une manière dont ils ne se rendent même pas compte ».
Interrogé par Mme Ridge, qui a qualifié cette perspective de « vraiment très effrayante », sur le fait de savoir si de telles choses se produisaient déjà, il a ajouté : « Je dirais que c’est tout à fait probable, oui : « Je dirais qu’il est fort probable que oui.
« Nous savons qu’il existe, en Chine, en Russie et en Corée du Nord, de vastes équipes de personnes qui diffusent de la désinformation. Et nous venons de leur donner un outil puissant ».
LIRE LA SUITE : Fureur après que The Guardian ait publié un article « antisémite » sur le patron évincé de la BBC
En ce qui concerne l’avenir, il a déclaré : « La préoccupation de la lettre concerne vraiment la prochaine génération du système : « La préoccupation de la lettre concerne vraiment la prochaine…
