OpenAI заявила, что её система ИИ автономно взломала Hugging Face в беспрецедентном киберинциденте

Компания OpenAI, создавшая ChatGPT, заявила во вторник, что одна из её систем искусственного интеллекта самостоятельно проникла в системы другой ИИ-компании — инцидент, который компания охарактеризовала как «беспрецедентный киберинцидент».

Генеральный директор Sam Altman заявил в сообщении, опубликованном в соцсетях, что серьёзная утечка произошла во время тестирования моделей компании. «В ходе оценки наших моделей произошёл серьёзный инцидент, связанный с безопасностью», — сказал Altman.

Заявление последовало после того, как на прошлой неделе ИИ-стартап Hugging Face сообщил об обнаружении вторжения в системы обработки данных и выразил уверенность, что агент на базе ИИ действовал самостоятельно.

Сооснователь и генеральный директор Hugging Face Clément Delangue заявил, что его команда подозревала, что атака могла исходить от ведущей ИИ-лаборатории из-за высокой сложности агента. «Мы подозревали, что кибератака на прошлой неделе могла исходить от передовой лаборатории, учитывая сложность агента», — сказал Delangue. «Так и оказалось!»

Это заявление прозвучало на фоне растущей обеспокоенности рисками кибербезопасности, связанными с мощными моделями ИИ. В июне президент Donald Trump подписал указ, создавший механизм для федерального правительства по оценке рисков национальной безопасности, связанных с передовыми системами ИИ, в течение до месяца до их публичного выпуска.

В заявлении во вторник OpenAI отметила, что искусственный интеллект ускоряет обнаружение и эксплуатацию уязвимостей. «ИИ ускоряет обнаружение и эксплуатацию уязвимостей», — заявила компания. «Главный урок этого инцидента в том, что безопасность и надёжность моделей должны успевать за стремительно растущими возможностями».

Delangue заявил, что последние 24 часа работал с OpenAI и убеждён, что за вторжением не стояли вредоносные намерения. «Мы твёрдо убеждены, что с их стороны не было злонамеренных намерений. Поразительно, что всё это произошло автономно!» — сказал он. Delangue добавил, что этот эпизод «может стать первым инцидентом такого рода».

OpenAI заявила, что вторжение было осуществлено с помощью нескольких её моделей ИИ, включая недавно выпущенную GPT-5.6 Sol и «ещё более мощную» модель, которая всё ещё проходит внутреннее тестирование.

Компания сообщила, что её ИИ использовал украденные данные для входа и обнаружил ранее неизвестную уязвимость, чтобы получить доступ к серверам Hugging Face. Система «пошла на крайние меры ради достижения довольно узкой цели тестирования» и «нашла способы получить доступ к секретной информации, которую можно было использовать для обмана при оценке», — заявила OpenAI.