Jeux vidéo et intelligence artificielle : « Il est important de donner des garde-fous éthiques

Docteure en philosophie de l’Université de la Sorbonne, Giada Pistelli est spécialisée dans l’éthique appliquée aux systèmes d’intelligence artificielle (IA) conversationnels, et elle est l’éthicienne principale chez Hugging Face (un espace de partage spécialisé dans l’IA). Elle est l’auteure d’une thèse sur « L’intelligence artificielle au service de la démocratie ». Elle interviendra sur le thème « À quoi ressembleront les jeux vidéo quand ils…

Docteure en philosophie de l’Université de la Sorbonne, Giada Pistelli est spécialisée dans l’éthique appliquée aux systèmes d’intelligence artificielle (IA) conversationnels, et elle est l’éthicienne principale chez Hugging Face (un espace de partage spécialisé dans l’IA). Elle est l’auteure d’une thèse sur « L’intelligence artificielle au service de la démocratie ». Elle interviendra sur le thème « À quoi ressembleront les jeux vidéo quand ils seront peuplés d’IA, rivaux combattants ou agents conversationnels sophistiqués ? Quels enjeux éthiques et philosophiques soulève cette transformation ? »

Au-delà des jeux, n’est-ce pas toute notre vie qui sera bientôt remplie d’IA ?

De manière individuelle, je ne pense pas. Mais il faut réfléchir à comment se servir des outils qui existent déjà sur Internet, car l’IA n’est qu’un outil, selon le métier que l’on fait, pour des rédactions de textes, des recherches documentaires. Mails, il est important de lui donner des garde-fous éthiques. Par exemple : quels sont les risques pour les utilisateurs de jeux vidéo, comme les mineurs ou les personnes vulnérables ?

Quelles sont les principales menaces éthiques de l’IA ?

Il y a des risques de manipulation aussi dans les jeux vidéo, avec des simulations de conversation tellement vraisemblables qu’on peut oublier que c’est avec une machine qu’on interagit. On a eu le cas d’un homme qui s’est suicidé après une conversation avec un chatbot. Il y a aussi des problèmes de propriété industrielle, puisque ces machines sont entraînées sur des données textuelles qui appartiennent à quelqu’un ; c’est donc presque un vol pour engendrer un modèle qui rapportera de l’argent.

Cela vous étonne de voir l’IA soudainement mise en pleine lumière depuis quelques mois ?

Ça me fait plaisir, car ça aide à la démystifier et ça permet d’en parler au grand public. On a peur de ce qu’on ne connaît pas trop. Il ne faut pas alimenter le récit de la peur et penser qu’elle va détruire tous les emplois : il y a aussi une bonne utilisation de l’IA, si on éduque ses utilisateurs à bien la maîtriser. Derrière une machine, il y a toujours une volonté humaine.

Certains réclament une pause pour réfléchir…

Il y a un courant, aux États-Unis et en Angleterre, où certains estiment qu’il y a un risque existentiel posé par ces machines. Mais il y a un océan entre ce qu’ils décrivent comme la fin de l’humanité et ce qu’on peut faire aujourd’hui pour mettre des garde-fous. Ces technologies sont développées par les Big Tech (NDLR : les géants du Web) et je ne vois pas comment on pourrait aller vérifier qu’ils se mettent réellement en pause. Un moratoire aurait plutôt un impact négatif sur la recherche, pour les développeurs de cette technologie, car c’est plus facile de mettre un stop à la recherche publique qu’à la recherche privée.

L’Europe elle-même est divisée…

L’Union européenne se focalise plutôt sur les applications, ce qui est plus terre à terre, et appréhende un peu mieux les enjeux positifs et négatifs, alors que l’Angleterre s’aligne sur les États-Unis, en soulignant les dangers de l’IA.

On retrouve des vieux thèmes de science-fiction, comme « les robots peuvent-ils échapper aux humains ? »

Certains disent que la science-fiction ne rend pas service à ce genre de débat ; moi, je pense le contraire. Quand j’étais en master à la Sorbonne, j’avais un prof qui nous donnait comme devoirs d’aller regarder des séries de science-fiction qui parlaient de robotique et d’intelligence artificielle, pour mieux comprendre la balance entre utopie et dystopie… On peut comprendre comment la société va évoluer en aidant à la maîtrise de cette technologie, et on est encore en contrôle de cette IA avec une responsabilité humaine, politique et institutionnelle derrière, avec une éducation pour se l’approprier.

Le développement de l’IA va-t-il entraîner une nouvelle génération de jeux vidéo ?

Je pense que oui. On peut par exemple accélérer le processus créatif si on a besoin d’un jeu qui nécessite énormément de textures, de détails. L’IA pourra aussi créer des conversations avec les PNJ (personnages non joueurs) au lieu de tout rédiger à la main, mais là aussi il ne faut pas utiliser cette technique en roue libre.

Dimanche 12 novembre, de 14 heures à 15 h 15, salle des Illustres à la mairie d’Agen : Giada Pistilli et Maxime Lidoff, « game designer », débattront sur le thème « Jeux vidéo : quand les mondes virtuels seront peuplés par les IA ».