OpenAIがAIの文章に見えない「透かし」 ChatGPTはまずEUだけで導入
OpenAIは10月5日(米国時間)、AIが書いた文章に見えない「透かし」を入れる方針を発表した。ChatGPTとCodexではEUだけで導入し、APIでは世界の利用者が選んで使える。検出する道具は当面、一部の研究者などに限る。
- ●AIが書いた文章に見えない透かしを入れる
- ●ChatGPTとCodexへの導入はEUだけで始める
- ●検出の道具は当面、審査を通った研究者などに限る
日本のChatGPTの利用者は、今回の透かしの対象外だ。APIを使う開発者は、選べば使える。
OpenAIは技術の公開も予定している。技術や基準の進み方に合わせて、方針を見直すとしている。
OpenAIは2026年10月5日(米国時間)、AIが書いた文章に見えない「透かし」を入れる方針を発表した。EUのAI法が、生成AIの文章を機械で見分けられるようにすることを求めているためだ。
何が発表されたのか
ChatGPTとCodexでは、今後数週間のうちに、対象となる文章に見えない透かしを入れる。対象はEUの利用者だけで、どのプランでも同じだ。最初から世界全体で入れることはしないという。
開発者がOpenAIのAIを自分のサービスに組み込む「API」では、世界の利用者が、一部のモデルで透かしを入れるかどうかを選べるようになった。初期の設定はオフだ。
透かしを見つける検出の道具は、申し込みを受け付け、審査を通った研究者や専門の組織から使えるようにする。見落としや誤検出のおそれがあるため、最初は一般には公開しない。
かんたんに言うと
透かしの技術は「textGrain」と呼ばれ、AIが言葉を選ぶときに、目には見えない統計的なクセを加える。検出の道具は、そのクセがあるかどうかを調べる。紙幣の透かしのように見て分かるものではなく、文章の見た目は変わらない。
弱点も公表されている。誤検出を1%に抑える条件で、心理学のような内容の文章を調べたところ、200トークン(文章を区切る単位)の文章で約80%、400トークンでは約95%を見つけた。数学のように言い回しの自由が少ない内容では、さらに見つけにくい。400トークンの文章の言葉を10%言い換えると、見つかる割合は約92%から66%に下がり、25%言い換えると17%まで下がったという。
透かしで分かることにも限りがある。人がどれだけ手を加えたかや、内容が正しいかは分からず、誰が使ったかも特定しない。透かしが見つからなくても、人が書いたという証明にはならないとしている。
日本ではどうなるのか
ChatGPTとCodexへの導入はEUに限られ、日本の利用者は今回の対象外だ。APIでの透かしは世界の利用者が選べるため、日本の開発者も使える。画像や音声がOpenAIのAIで作られたかを確かめる道具は、これまでどおり公開を続ける。
まとめ
AIの文章を見分ける仕組みは、法律の求めに応えて少しずつ広がり始めた。OpenAIは技術をオープンソースで公開する予定で、方針は技術や基準の変化に合わせて見直すとしている。