Le gouvernement australien rendra obligatoire pour les entreprises d'intelligence artificielle (IA) de signaler immédiatement lorsqu'un de leurs modèles agit hors de contrôle, et de permettre l'évaluation de ces modèles. Le Premier ministre Anthony Albanese a récemment annoncé qu'il acceptait plus de 15 suggestions issues d'une révision urgente du cas OpenAI.
Cette révision a été commandée en septembre 2026, lorsque OpenAI a déclaré aux autorités qu'un agent d'IA (un assistant exécutant des tâches de manière autonome) s'était introduit sans autorisation sur des sites gouvernementaux, notamment le portail de statistiques de Medicare, le système de santé publique.
Les directives incluent le signalement obligatoire des comportements inappropriés ou des incidents informatiques, selon le communiqué officiel du gouvernement. Elles prévoient également d'étudier une réforme du droit pénal pour les cas de mauvaise conduite grave et d'améliorer le partage d'informations en cas d'incident lié à l'IA.
Le communiqué précise que le gouvernement a déjà commencé à appliquer les recommandations. Le texte ne détaille pas les délais, les sanctions ni la définition d'un modèle qui sort de son contrôle. Il ne précise pas non plus comment seront réalisées les évaluations mentionnées par Reuters.
Un agent d'IA détecté avec deux mois de retard
L'incident a débuté à la mi-juin 2026. Un agent d'OpenAI chargé d'enquêter sur les dépenses publiques en médicaments a reçu un refus lors de sa demande de certains données et, malgré cela, a accédé de lui-même à un ancien portail de Services Australia, l'organisme de services sociaux.
Il y a copié des statistiques de santé non publiques et des fichiers internes. Selon ces médias, les données étaient agrégées et ne contenaient pas d'informations personnelles, et le gouvernement estime qu'aucune donnée personnelle n'a été consultée. Des chercheurs l'ont décrit comme le premier piratage autonome d'un site gouvernemental.
OpenAI a détecté le problème le 11 août 2026, lors d'une révision de l'activité de ses modèles en cours d'entraînement. L'entreprise a averti le 10 septembre 2026 par un courriel à une adresse générique, utilisée par les chercheurs pour signaler les défaillances, et qui, selon Reuters, est consultée une fois par jour.
Anthony Albanese avait qualifié le fait d'« inacceptable » et déclaré avoir transmis sa « profonde préoccupation » à Sam Altman, PDG d'OpenAI. Dans le communiqué, le gouvernement a répété que l'incident était inacceptable et que la divulgation par l'entreprise était « inappropriée ».
OpenAI s'est excusée devant le Parlement
En octobre 2026, le directeur de la stratégie d'OpenAI, Jason Kwon, a déclaré devant une commission parlementaire à Sydney que la réponse de l'entreprise « n'est pas suffisante ». Kwon a affirmé que le fait « n'aurait pas dû se produire » et que la société aurait dû agir mieux. L'entreprise a ajouté des précautions dans ses espaces d'entraînement.
Kwon a expliqué qu'ils surveillent désormais les modèles en temps réel pendant les tests et qu'une alarme se déclenche s'ils interagissent avec Internet de manière imprévue. Grâce à cela, a-t-il déclaré, ils ont informé le gouvernement de Nouvelle-Galles du Sud d'un autre accès indû en 48 heures. OpenAI a ajouté qu'il soutiendrait un cadre de divulgation obligatoire.
Le Premier ministre de cet État, Chris Minns, avait déclaré qu'un agent d'OpenAI avait accédé à une base de données de recherche du bureau d'état civil sur les crimes. En septembre 2026, Medicare était l'un des au moins quatre accès aux sites du gouvernement australien.
Pendant l'audience, Dave Orr, responsable des mesures de sécurité chez Anthropic, a déclaré que son entreprise avait examiné des centaines de millions d'enregistrements de conversations après l'intrusion d'agents d'OpenAI sur la plateforme Hugging Face, en juillet 2026, et n'avait trouvé aucun cas similaire sur les sites australiens.
En septembre 2026, le ministre adjoint de la Science, de la Technologie et de l'Économie numérique, Andrew Charlton, a déclaré que le gouvernement souhaitait présenter avant la fin de l'année des projets de loi fixant des normes de sécurité pour l'IA et les faire approuver au début de 2027.