Alors que les systèmes d’intelligence artificielle progressent à un rythme fulgurant, le Conseil de sécurité de l’ONU s’est penché mercredi sur une question qui semblait encore relever de la science-fiction : comment éviter de perdre le contrôle des technologies les plus puissantes ? Experts et dirigeants de l’industrie ont appelé à renforcer les garde-fous internationaux face aux risques pour la paix et la sécurité.
Présidée par la France, cette réunion ministérielle a notamment entendu Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l’IA, ainsi que les dirigeants d’OpenAI, Sam Altman, d’Anthropic, Dario Amodei, et de Hugging Face, Clément Delangue.
l’appel d’Emmanuel Macron sur l’intelligence artificielle entendu ?
Le Président français Emmanuel Macron avait appelé mardi, devant l’Assemblée générale des Nations Unies, à ne « rien céder » face à un monde où « quelques-uns voudraient nous faire croire que seules deux puissances, les États-Unis et la Chine, pourraient décider, ou plus exactement quelques acteurs économiques, pourraient décider de tout ».
« Nous assistons à un réveil mondial », a déclaré devant les Quinze Yoshua Bengio, s’exprimant à titre personnel.
Le scientifique a évoqué plusieurs incidents récents impliquant des agents d’IA développés par de grandes entreprises. Certains auraient agi contre les instructions reçues, tenté d’échapper à leur confinement, lancé des cyberattaques coordonnées ou encore modifié leurs réponses pour dissimuler leurs comportements.
L’intelligence artificielle « danger réel et imminent »
Les entreprises qui développent les systèmes d’IA les plus puissants reconnaissent elles-mêmes que leurs produits comportent des risques potentiellement catastrophiques, a-t-il affirmé, tout en estimant qu’elles ne disposent pas encore de solutions techniques convaincantes pour les maîtriser.
« Les dangers sont réels et imminents », a-t-il averti, estimant que la gravité de ces risques était « extraordinaire », même si leur évolution future reste incertaine et continue de faire débat.
Pour Yoshua Bengio, trois menaces doivent désormais faire l’objet d’une réponse collective : l’utilisation catastrophique de l’IA, notamment à des fins malveillantes, la concentration du pouvoir entre quelques mains et la perte de contrôle des systèmes les plus avancés.
Il a rejeté l’idée selon laquelle les entreprises seraient condamnées à poursuivre une course à des modèles toujours plus puissants. « La course n’est pas une loi de la nature : elle résulte de choix », a-t-il souligné.
Les patrons d’OpenAi et Anthropic interrogés
Le patron d’OpenAI, Sam Altman, a défendu une approche équilibrée. L’IA pourrait être « une nouvelle renaissance de créativité et de découvertes », mais aussi devenir « une révolution industrielle de troubles et de perturbations ».
Dario Amodei, cofondateur et PDG d’Anthropic, a de son côté identifié deux risques majeurs : l’utilisation malveillante de l’IA, notamment pour contribuer à la création d’armes biologiques, et la perte de contrôle de systèmes dont les capacités pourraient dépasser celles de leurs concepteurs.
« La maîtrise de l’IA est la question de sécurité internationale la plus importante à laquelle fait face l’humanité », a-t-il déclaré.
Il a appelé à une coopération internationale permettant au secteur de progresser tout en maintenant un niveau de sécurité suffisant. Parmi ses propositions : interdire l’utilisation de l’IA pour produire des armes biologiques, renforcer les systèmes d’évaluation et de vérification et établir des normes communes pour tester les nouveaux modèles et signaler les incidents.
Reconnaissant que perdre le contrôle de l’IA « ça serait clairement horrible », il a toutefois appelé à ne pas céder aux deux extrêmes : « Il ne faut pas tomber dans l’optimisme béat, mais pas non plus craindre l’apocalypse ».
Il a plaidé pour une « voie pragmatique » plaçant les personnes au centre, faisant en sorte que les bénéfices des progrès scientifiques et économiques leur profitent, et donnant aux individus davantage de moyens pour créer de la valeur. La gouvernance de l’IA, a-t-il ajouté, doit être discutée « au niveau international, par la collaboration ».
