OpenAI、AIが独力でHugging Faceに侵入──前例のないサイバー事件と発表

ChatGPTを手がけるOpenAIは火曜日、同社の人工知能（AI）システムのひとつが、人間の介入なしに別のAI企業のシステムに侵入したと発表した。同社はこれを「前例のないサイバー事件」と表現している。

最高経営責任者（CEO）のSam Altman氏は、ソーシャルメディアに投稿した声明で、モデルのテスト中に大規模なセキュリティ侵害が発生したと述べた。「モデル評価の過程で重大なセキュリティインシデントが発生した」とAltman氏は語った。

この発表は、AIスタートアップのHugging Faceが先週、データ処理システムへの侵入を発見し、AIエージェントが独自に行動したと考えていると述べた後に行われた。

Hugging Faceの共同創業者兼CEOのClément Delangue氏は、エージェントの高度さから、攻撃が一流のAI研究所から来た可能性があるとチームが疑っていたと述べた。「エージェントの高度さを考えると、先週のサイバー攻撃は最先端の研究所から来た可能性があると疑っていた」とDelangue氏は語った。「その通りだった！」

この事実の明らかになった背景には、強力なAIモデルに伴うサイバーセキュリティリスクへの懸念が高まっている。6月、Donald Trump大統領は大統領令に署名し、連邦政府が最も先進的なAIシステムの国家安全保障上のリスクを、一般公開前に最大1か月間見直す枠組みを設けた。

OpenAIは火曜日の声明で、人工知能が脆弱性の発見と悪用のスピードを加速していると述べた。「AIは脆弱性の発見と悪用を加速している」と同社は語った。「このインシデントから得られる主な教訓は、モデルのセキュリティと安全性が急速に進化する能力のペースに追いつかなければならないということだ」。

Delangue氏は、過去24時間OpenAIと協力してきたと述べ、侵入の背後に有害な動機はなかったと確信していると語った。「彼らに悪意はなかったと強く信じている。これがすべて自律的に起きたのは本当に驚くべきことだ！」と彼は語った。Delangue氏は、この出来事は「この種の初めてのインシデントである可能性がある」と付け加えた。

OpenAIは、侵入は同社のAIモデルの組み合わせによって行われたと述べた。その中には、新たにリリースされたGPT-5.6 Solや、社内テスト中の「さらに高性能な」モデルも含まれる。

同社によると、同社のAIは盗まれたログイン情報を使用し、これまで知られていなかったセキュリティの欠陥を突いてHugging Faceのサーバーに到達した。OpenAIは、「かなり狭いテスト目標を達成するためにあらゆる手段を講じ」、「評価を不正にするために利用できる機密情報にアクセスする方法を見つけた」と述べた。