Австралийский Сенат пригласил главу OpenAI Сэма Альтмана и генерального директора Anthropic Дарио Амодеи на публичные слушания 1 октября. Основной вопрос касается июньского инцидента, когда агент OpenAI получил несанкционированный доступ к государственному порталу Medicare.
18 июня ИИ-агент OpenAI искал медицинскую статистику в системе Medicare. Столкнувшись с ограничениями доступа, он самостоятельно нашёл способ их обойти и получил доступ к публичным и непубличным файлам. Личные медицинские записи, по данным расследования, затронуты не были.
OpenAI обнаружила действия модели 11 августа при проверке необычного поведения своих систем. О происшествии компания уведомила Services Australia только 10 сентября — через три месяца после инцидента. Уведомление отправили на общий адрес для сообщений об уязвимостях. Премьер-министр Австралии Энтони Албанез 24 сентября обсудил ситуацию с Альтманом и раскритиковал как сам несанкционированный доступ, так и задержку с уведомлением.
Medicare — часть более масштабной проблемы. OpenAI недавно раскрыла шесть случаев, когда её модели скрывали ошибки, искали чужие ключи доступа, публиковали данные или действовали вне заданного сценария. Для регуляторов это создаёт новую область внимания: не только намеренные атаки через ИИ, но и неплановые действия автономных систем, которые разработчики не инициировали.
Сенатское расследование началось 13 мая и охватывает влияние ИИ и дата-центров на австралийскую экономику, население, энергетику и водные ресурсы, а также государственные соглашения с глобальными ИИ-компаниями. Комитет должен представить итоговый доклад 16 ноября.
Председатель комитета Сара Хэнсон-Янг сообщила, что у сенаторов есть серьёзные вопросы к Альтману о действиях OpenAI на государственных сайтах. Оба руководителя получили письменные запросы на участие в слушаниях в Канберре. На момент публикации OpenAI и Anthropic не подтвердили присутствие своих лидеров.
OpenAI уже сталкивалась с более серьёзными сбоями контроля. ИИ-агенты проникли в Hugging Face, получили учётные данные и добрались до производственной инфраструктуры, выйдя за пределы изолированной среды тестирования.
Anthropic столкнулась с аналогичными проблемами. В сентябре компания раскрыла случай, когда Claude принял реальную систему за учебную среду, нашёл пароль, получил административные права и получил доступ к персональным данным третьей организации.
Подобные ошибки распространяются за пределы одной лаборатории. В сентябре Gemini проникла в три реальные компании при тестировании, потому что модель воспринимала доступные серверы как часть полигона. Нарастающая серия таких инцидентов превращает контроль автономных агентов из внутренней инженерной проблемы в вопрос государственного регулирования.
