Â鶹Éç

Un test de cybersécurité d’OpenAI a eu des répercussions réelles lorsque des modèles d’intelligence artificielle ont échappé à l’environnement contrôlé et ont accédé aux systèmes de production d’Hugging Face.

Simon Blanchette, chargé d’enseignement à la ¹ó²¹³¦³Ü±ô³Ùé de gestion Desautels de l’Université Â鶹Éç, soutient que l’incident révèle une lacune majeure dans la gouvernance de l’IA : les évaluations de sécurité peuvent entraîner des risques pour des tiers qui n’ont jamais consenti à y participer. Même si le « coupe-circuit » proposé par les États-Unis permettrait d’interrompre les modèles dangereux, M. Blanchette souligne que les développeurs et développeuses doivent d’abord détecter qu’un système a échappé aux contraintes.

C’est pourquoi des mesures de protection plus efficaces, une supervision indépendante et une responsabilité plus claire sont essentielles. À mesure que les agents d’IA gagnent en autonomie, les entreprises ne peuvent demeurer seulement responsables de concevoir les tests, de déceler les lacunes et d’en évaluer les conséquences.