AIのプログラミング道具「OpenCode」に侵入、預けたAIのキーが漏れたおそれ 身に覚えのない請求が出た利用者も

AIに指示してプログラムを書かせる道具「OpenCode」で、ネット上のサービス「OpenCode Console」に侵入があり、利用者が預けていたAIのサービスの「キー」が漏れたおそれがある。米国のBleepingComputerやThe Hacker Newsが伝えた。対象は、Consoleの利用者の1.4%だという。

何が起きたのか

OpenCodeは、自然な言葉の指示で、コードを読んだり、機能を書いたり、不具合を直したりする、AIのプログラミングの道具だ。誰でも中身を見られるオープンソースで作られていて、特定の会社のAIに縛られずに使える。

The Hacker Newsによると、侵入があったのは、OpenCodeの「Console」という希望者向けのネット上のサービスだ。Consoleでは、チームでOpenAI、Anthropic、GoogleのAIを使うために、それぞれのAIの会社の「APIキー」を預けておける。APIキーは、AIのサービスを使うための合いかぎのようなもので、持っている人は誰でも、持ち主の料金でAIを使えてしまう。

• いつ: 10月16日の夜、古い仕組みに侵入があった(The Hacker Newsによる)。BleepingComputerによると、キーが漏れた可能性があるのは、早ければ協定世界時の10月17日0時30分(日本時間17日9時30分)から
• 対象: Consoleの利用者の1.4%。いずれも外のAIの会社のキーをつないでいた
• 知らせ: 対象の利用者には10月17日の朝にメールで知らせた。メールが届いていない人は対象ではないという
• 対象外: OpenCodeのコマンドで使う版やデスクトップのアプリは、キーを手元のパソコンに保存するため、影響を受けていない

身に覚えのない請求も

BleepingComputerによると、キーが漏れたあと、身に覚えのない請求が出たと訴える利用者が相次いだ。額は数百ドルから、一晩で1,700ドルに上った例もある。Googleが「乗っ取られたものと一致する不正な使い方」を見つけて、利用者のGoogle Cloudのプロジェクトを止めた例もあるという。

OpenCodeは、Google、OpenAI、Anthropicと協力して対応しているとしている。対象の利用者へのメールでは、払い戻しの可能性にも触れている。

OpenCodeは、今回の侵入を、大規模な「蒸留」の攻撃に関係するものと説明している。蒸留とは、性能の高いAIにたくさん答えさせ、その答えで、より小さく安いAIを学ばせる手法だ。手法そのものは正当なものだが、許可なく大量に問い合わせて行えば攻撃になる。

AIで守ろうとして、AIに断られる

BleepingComputerによると、OpenCodeの共同創業者のダックス・ラード氏は、攻撃者が少なくとも48時間にわたり、AIエージェントを使って同社の仕組みを狙い続けたと説明した。ところが、攻撃者を調べるために使っていたAIが、組み込まれた安全の仕組みのために依頼を断るようになり、調べる作業が止まった。OpenAIのセキュリティ向けのAI「Daybreak」を守りの作業に使うことを認められてから、状況が落ち着いたという。

泥棒の道具を調べたいのに、鑑識の担当者が「危ない物は触れません」と断ってしまうようなものだ(TECHNOVAの見方)。

利用者がすること

The Hacker Newsによると、Consoleに預けていたキーについては、次のことが求められている。

• キーを無効にする: OpenAI、Anthropic、Googleのそれぞれの管理画面で、預けていたキーを無効にし、新しいキーを作る。Consoleからキーを消すだけでは、キーは無効にならない
• 使った記録を確かめる: それぞれのAIの会社の画面で、身に覚えのない使い方がないかを確かめる

日本ではどうなるのか

OpenCodeは日本の開発者にも使われている。Consoleを使い、AIのキーを預けていた人は、メールが届いていないかを確かめたい。手元のアプリだけで使っている人は、今回の対象ではない。

かんたんに言うと

AIでプログラムを書く道具のネット上のサービスに侵入があり、利用者が預けていたAIのサービスの合いかぎが漏れたおそれがある。勝手にAIを使われ、高い請求が来た人もいる。対象の人は、すぐに合いかぎを作り直したい。

まとめ

OpenCodeのネット上のサービス「Console」への侵入で、利用者の1.4%が預けていたAIのサービスのキーが漏れたおそれがある。身に覚えのない請求が出た利用者もいて、AIの会社はキーを止めたり返金したりしている。対象の人は、それぞれのAIの会社でキーを無効にし、作り直したい。