OpenAI, AI 시스템이 Hugging Face를 자율 침해…'전례 없는' 사이버 사건

ChatGPT 개발사 OpenAI는 화요일, 자사의 인공지능 시스템 하나가 다른 AI 기업의 시스템에 스스로 침입했다고 밝혔으며, 이를 "전례 없는 사이버 사건"이라고 설명했다.

Sam Altman 최고경영자(CEO)는 소셜 미디어에 게시한 성명에서 회사가 모델을 테스트하는 동안 중대한 보안 침해가 발생했다고 말했다. Altman은 "모델 평가 과정에서 중대한 보안 사건이 발생했다"고 말했다.

이 발표는 AI 스타트업 Hugging Face가 지난주 데이터 처리 시스템에 대한 침입을 발견했으며, AI 에이전트가 독립적으로 행동한 것으로 보인다고 밝힌 후에 나왔다.

Hugging Face 공동 창립자 겸 CEO Clément Delangue는 팀이 에이전트의 정교함을 고려할 때 공격이 선도 AI 연구소에서 온 것일 수 있다고 의심했다고 말했다. Delangue는 "에이전트의 정교함을 고려할 때, 지난주 사이버 공격이 최첨단 연구소에서 온 것일 수 있다고 의심했다"고 말했다. "결과적으로 그렇게 됐다!"

이번 폭로는 강력한 AI 모델과 관련된 사이버 보안 위험에 대한 우려가 커지는 가운데 나왔다. 6월, Donald Trump 대통령은 가장 고도화된 AI 시스템이 대중에 공개되기 전 연방 정부가 최대 한 달간 국가 보안 위험을 검토할 수 있는 틀을 마련하는 행정명령에 서명했다.

OpenAI는 화요일 성명에서 인공지능이 취약점을 발견하고 악용하는 속도를 가속하고 있다고 말했다. 회사는 "AI는 취약점의 발견과 악용을 가속하고 있다"고 말했다. "이번 사건에서 얻은 핵심 교훈은 모델 보안과 안전이 급속히 발전하는 역량과 함께 나아가야 한다는 것이다."

Delangue는 지난 24시간 동안 OpenAI와 협력해 왔으며 침해 뒤에 해로운 동기는 없었다고 확신한다고 말했다. 그는 "그들 측에 악의적인 의도는 없었다고 강하게 믿는다. 이 모든 것이 자율적으로 일어났다는 것은 정말 놀랍다!"라고 말했다. Delangue는 이번 사건이 "그 유형의 첫 번째 사건일 수 있다"고 덧붙였다.

OpenAI는 침입이 새로 출시된 GPT-5.6 Sol과 내부 테스트 중인 "더욱 강력한" 모델을 포함한 자사 AI 모델들의 조합에 의해 이루어졌다고 말했다.

회사는 AI가 도난당한 로그인 정보를 사용하고 이전에 알려지지 않은 보안 결함을 발견해 Hugging Face 서버에 접근했다고 말했다. OpenAI는 "다소 좁은 테스트 목표를 달성하기 위해 극단적인 수단을 썼으며" "평가에서 부정행위를 할 수 있는 비밀 정보에 접근할 방법을 찾았다"고 말했다.