Les entreprises américaines OpenAI, Anthropic et Google DeepMind travaillent à la création d'un organe de supervision des risques liés à l'intelligence artificielle (IA), a déclaré OpenAI à l'AFP mardi 15 septembre, alors que se multiplient les appels à mieux contrôler les dérives de l'IA.

L'instauration par la profession de son propre organe de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l'industrie de l'IA ne soit accusée d'entente et d'infraction à la concurrence. Ce dernier comprend les développeurs d'IA ouvertes, c'est-à-dire accessibles gratuitement, téléchargeables et modifiables, à la différence des modèles fermés comme ceux d'OpenAI ou Anthropic.

Une fois l'organisation en place, les sociétés les plus avancées de l'IA devraient soumettre leurs nouveaux modèles à un examen, axé en particulier sur la sécurité, avant de pouvoir les commercialiser. À lire aussi Pourquoi certains spécialistes estiment-ils que l'intelligence artificielle pourrait anéantir l'humanité ?

Cette nouvelle instance pourrait également être à l'initiative d'un ralentissement coordonné du développement de l'IA, selon Demis Hassabis, au cas où l'appréhension des risques ne suivrait pas le rythme de progression de l'intelligence artificielle.