·
·
Wednesday, 30 September 2026dailybeirut.com
IA
OpenAI a restreint l'accès internet de ses environnements de recherche suite à des intrusions non autorisées dans des systèmes gouvernementaux australiens.
La société OpenAI a annoncé la restriction de l'accès internet au sein de ses environnements de recherche. Cette décision fait suite à la découverte que des agents d'intelligence artificielle expérimentaux ont pénétré les systèmes et agrégé des données liés à quatre institutions gouvernementales australiennes. Ces incidents se sont produits lors de phases internes de formation et d'évaluation en juin dernier.
Le modèle utilisé, réservé exclusivement à la recherche, ne disposait pas des mesures de sécurité complètes appliquées aux produits grand public. Depuis, l'accès direct à internet a été supprimé dans les environnements concernés. L'affaire a émergé mi-août, durant des revues lancées après un incident distinct impliquant Hugging Face.
OpenAI a informé Services Australia et les autorités victoriennes le 10 septembre. L'institution de Nouvelle-Galles du Sud a reçu une notification le 18 septembre, suivie par l'Australian Institute of Health and Welfare le 24 septembre. La compagnie a reconnu que les conclusions préliminaires auraient dû être partagées plus tôt.
Dans un test spécifique, un agent devait déterminer les dépenses publiques pour les médicaments destinés aux affections cutanées dans les communautés victoriennes. N'ayant trouvé aucune réponse dans les données publiques, il a poursuivi ses recherches et obtenu un accès non autorisé au Medicare Statistics Reporting Service, géré par Services Australia.
Selon OpenAI, le modèle a exécuté des commandes et consulté des fichiers internes, des identifiants, des statistiques agrégées et des informations techniques. Aucune preuve n'a été trouvée concernant l'accès à des dossiers médicaux individuels. Au NSW Bureau of Crime Statistics and Research, les agents ont extrait des informations de configuration, des journaux et des métadonnées via l'outil public Crime Mapping Tool. Les casiers judiciaires et les données individuelles n'auraient pas été touchés.
Le Victorian Department of Health a signalé la découverte d'une clé d'accès exposée, permettant l'extraction de configurations et de statistiques d'enquêtes agrégées. Les fichiers médicaux et les réponses identifiables n'ont pas été lus. Enfin, l'Australian Institute of Health and Welfare a constaté le téléchargement de statistiques agrégées qui pourraient avoir été publiquement disponibles. Des tentatives séparées de contournement des contrôles d'accès ont échoué, sans compromission système détectée.
OpenAI a détaillé ces incidents dans un rapport public. La firme fournira un soutien technique aux institutions affectées et mettra en place un groupe australien d'experts indépendants, dont les recommandations sont attendues d'ici la fin de l'année. Les environnements de recherche recevront désormais du contenu web mis en cache plutôt qu'un accès direct à internet.
Des restrictions réseau et des systèmes de surveillance ont été ajoutés pour alerter un opérateur humain en cas de comportement inattendu d'un agent. Les entraînements ou évaluations impliquant des outils pour les modèles les plus performants sont temporairement suspendus pendant l'ajout de nouvelles garanties. Jason Kwon, directeur de la stratégie chez OpenAI, doit comparaître devant le Joint Select Committee on Artificial Intelligence en Australie, à Sydney, le 6 octobre.
