Le secrétaire général des Nations unies, Antonio Guterres, a appelé la communauté internationale à adopter un engagement mondial afin de mieux protéger les enfants contre les risques liés à l’intelligence artificielle. Lors de l’ouverture du premier « Dialogue mondial sur la gouvernance de l’intelligence artificielle », organisé à Genève, il a averti que cette technologie évolue à un rythme bien supérieur à celui des cadres juridiques et réglementaires mis en place par les États.
Antonio Guterres a estimé que les systèmes d’intelligence artificielle destinés aux enfants devraient être soumis à des évaluations indépendantes avant leur mise sur le marché. Comparant l’IA aux médicaments et aux jouets, il a rappelé qu’aucun produit destiné aux enfants n’est autorisé sans avoir démontré sa sécurité. Selon lui, l’intelligence artificielle s’est déjà invitée dans l’éducation, les relations sociales et la vie privée des plus jeunes avant même que ses effets à long terme ne soient pleinement évalués.
Le chef de l’ONU a présenté trois priorités pour renforcer la protection des enfants : imposer des tests de sécurité spécifiques sous supervision indépendante, combattre sans compromis la production et la diffusion de contenus d’exploitation sexuelle d’enfants générés par l’intelligence artificielle, et mettre en place des mécanismes capables d’orienter les enfants en danger vers une assistance humaine effective.
« Lorsqu’un enfant est victime d’un préjudice, la réponse ne peut jamais être : c’est l’algorithme qui l’a décidé », a déclaré Antonio Guterres, appelant les gouvernements à élaborer des règles internationales cohérentes pour encadrer le développement et l’utilisation de l’intelligence artificielle.
Cette intervention intervient alors que les inquiétudes grandissent dans le monde face aux usages malveillants de l’intelligence artificielle. Les experts mettent en garde contre les risques de manipulation des mineurs, l’incitation à l’automutilation, la création de contenus pédocriminels ou encore la diffusion de fausses informations ciblant les enfants. Pour de nombreux spécialistes, l’un des principaux défis des prochaines années sera de permettre aux législations nationales et internationales de suivre le rythme extrêmement rapide des avancées technologiques.
