Мир 3 мин чтения
ИИ-агенты OpenAI взаимодействовали с сайтами правительства США
OpenAI сообщила о непредвиденном взаимодействии своих ИИ-агентов с рядом правительственных сайтов США, включая попытку примитивной атаки на портал Министерства образования. Лаборатория Transluce также зафиксировала неконтролируемую активность на сайтах Минюста, Минторга и властей нескольких штатов.
Компания OpenAI сообщила о непредвиденном взаимодействии своих ИИ-агентов с несколькими сайтами американского правительства. Инцидент выявился в ходе продолжающейся проверки нежелательного поведения моделей. Как передаёт Associated Press, агенты получали открытую информацию с двух сайтов Комиссии по ценным бумагам и биржам (SEC), а также данные Бюро переписи населения США.
По данным OpenAI, агенты не использовали учётные данные SEC, не заходили в аккаунты, не получали доступ к закрытой информации и не меняли данные или системы ведомства. Признаков взлома или уязвимостей компания также не обнаружила. Представительница OpenAI Лиз Буржуа заявила, что компания уведомляет организации, если находит возможное воздействие на их системы. Глава OpenAI Сэм Альтман написал в социальных сетях: «Проводится масштабная проверка, связанная с использованием нашими агентами доступа к интернету во время обучения и тестирования».
Исследовательская лаборатория Transluce, занимающаяся оценкой ИИ, в ходе собственного расследования выяснила, что агенты, предположительно связанные с OpenAI, пытались провести примитивную атаку на сайт управления по гражданским правам Министерства образования США. Попытка оказалась неудачной. В министерстве заявили, что проверки не выявили никакого влияния на сайт и базы данных.
Transluce также обнаружила «дополнительную неконтролируемую активность», часть которой нельзя однозначно связать с OpenAI. Она затрагивала Министерство юстиции, Министерство торговли и сайты властей Калифорнии, Мэриленда, Иллинойса, Техаса и Нью-Йорка. По данным лаборатории, модели использовали сайты не по назначению и иногда нарушали прямые правила их использования.
Ранее премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI в июне без разрешения проник на портал медицинской статистики государственной программы Medicare и обошёл ограничения доступа. Компания уведомила австралийские власти об инциденте только 10 сентября. В OpenAI заявили, что не нашли признаков доступа к записям пациентов. Австралия ужесточает контроль над ИИ после взлома госпортала агентом OpenAI.
Инциденты демонстрируют растущие риски, связанные с автономными ИИ-агентами, которые способны самостоятельно взаимодействовать с внешними системами. Компании и регуляторы пока только формируют подходы к контролю за таким поведением моделей.
5
