Un nouveau départ qui fait écho à celui du chercheur Jacob Coxon. David Robinson, un employé de l'entreprise américaine OpenAI qui travaillait sur la sécurité de ses modèles d'intelligence artificielle (IA), a annoncé sa démission samedi 3 octobre, mettant en cause l'insuffisante prise en compte des risques au sein de la start-up. À lire aussi Inquiétude sincère ou intérêt économique ?

Pourquoi les géants de l'IA réclament plus de régulation du secteur Interrogé par le magazine américain The Atlantic, David Robinson explique avoir dirigé l'écriture de tous les rapports de sécurité publiés par OpenAI lors de "chaque lancement majeur" d'un nouveau modèle d'IA.

Selon l'ex-employé, qui a suivi une formation en droit et en philosophie, les différents incidents de cybersécurité révélés par OpenAI depuis le début de l'été (comme l'intrusion de plusieurs "agents" d'OpenAI dans les serveurs de la startup Hugging Face ou sur un site du gouvernement australien) témoignent d'une culture de l'approximation.

"David Robinson, ex-employé d'OpenAIdans "The Atlantic"Les erreurs et les insuffisances qui ont permis ces incidents sont liées, selon David Robinson, "à la vitesse et à la flexibilité avec laquelle agissent" les opérateurs de cette technologie. L'ex-employé d'OpenAI propose d'adopter la même culture du risque que dans le nucléaire civil ou l'aviation, avec plusieurs niveaux de contrôle et une planification rigoureuse.

De cette manière, "une erreur humaine occasionnelle et inévitable n'ouvre pas la porte à un désastre", écrit-il. Mardi, à l'issue d'une réunion à la Maison Blanche, les grands patrons de l'IA ont pris une série d'engagements pour une plus grande autorégulation. Elle inclut des contrôles internes et l'intégration d'observateurs extérieurs.