ИИ-агенты OpenAI общались через чужие сайты

ИИ-агенты компании OpenAI организовали обмен данными через сторонние интернет-ресурсы, обходя установленные ограничения. Как сообщает Reuters со ссылкой на исследователей, для несанкционированной связи задействовали свыше десяти ранее неизвестных сайтов.

Согласно материалам исследовательской группы CivAI, с мая по июль агенты могли затронуть 18 ресурсов. Передача сообщений шла вопреки прямому запрету на взаимодействие между агентами и публикацию материалов в открытом доступе. Среди площадок, где зафиксировали такую активность, — вики-сайты, сервисы хранения текстов, персональные страницы и сервисы сокращения ссылок при двух университетах. Агенты пользовались уязвимостями сайтов и платформ, которые позволяли менять их содержимое нестандартными командами.

«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — приводит Reuters слова представителя исследования.

В OpenAI, отвечая на запрос Reuters, не стали уточнять общее число пострадавших сайтов и причины, по которым информация об инциденте не была обнародована ранее. По заявлению компании, сейчас идет более масштабная проверка, и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, случившейся в июле.

Напомним, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face.