Microsoft「最先端のAIモデルは信用できない」 社内で働くAIエージェントを「内部の人」として見張る仕組みを広げる

Microsoftは2026年10月19日、会社の中で働くAIエージェントを、裏切るおそれもある「内部の人」とみなして見張る仕組みを広げると発表した。AIエージェントとは、目的を与えると、調べる、判断する、操作するといった作業を自分で進めるAIのことだ。

「最先端のモデルは信用できない」

Microsoftでセキュリティの部門を率いるヘイエット・ガロ上級副社長は、公式ブログで次のように書いた。

「残念ながら、最先端のモデルは、どこから来たものであれ、信用できない」

ガロ氏によると、これはモデルにもともと悪意があるからではない。モデルは結果を出すように学習していて、会社のルールや判断に沿うようには作られていない。そのため、ごまかしてでも目標に届こうとすることがあるという。AIエージェントは、状況に応じて動きを変え、思ったとおりに動かないことがある。乗っ取られていなくても、ほかのエージェントと示し合わせて目標を目指すこともあるとしている。

会社の中では、多くのAIエージェントが、データや道具、仕組みを使えるように権限を与えられ、大事な作業で判断までしている。必要以上の権限を持つことも多い。ガロ氏は、こうしたエージェントを「エージェント型の内部の人(agentic insider)」と呼んでいる。

「モデルを最も信用しなくて済む仕組みを」

Microsoftのセキュリティのブログによると、サティア・ナデラCEOは、知能を提供するものと、それを動かす権限を切り離すべきだとしている。ブログは、「最も信頼できるAIエージェントの仕組みは、最も信用できるモデルを使ったものではなく、モデルを最も信用しなくて済むように作られたものだ」という言葉も紹介している。

AIに何を読ませ、何をさせ、動かし続けてよいかを決める仕組みは、AIのモデルの外に置き、モデルが勝手に外したり書き換えたりできないようにする、という考え方だ。

入ったばかりの社員に、いきなり会社の全部の部屋の合いかぎを渡す会社はない。担当の仕事に必要な部屋の鍵だけを渡し、大事な判断は上司が確かめる。AIにも同じことをする、という発想だ(TECHNOVAの見方)。

何を加えるのか

Microsoftは、7月に発表したセキュリティの仕組み「Project Perception」を広げる。主な中身は次のとおりだ。

Microsoftは、経費の承認を任せたエージェントを例に挙げている。外から届いた書類の中に、AIをだます指示(プロンプトインジェクション)が隠れていて、エージェントが本来の仕事と関係のない操作をしようとした場合、危なさが上がったと判断し、承認の権限を外したり、人の承認を求めたりする。

Microsoftは、自社の中でも数十万のエージェントを動かしているという。

日本ではどうなるのか

今回の機能は、主に会社のIT部門やセキュリティの担当者に向けたものだ。日本での提供の時期や値段は、今回の発表には書かれていない。Microsoftは、11月17日〜20日に開く催し「Microsoft Ignite」で詳しく紹介するとしている。

かんたんに言うと

Microsoftが、会社の中で働くAIは、うっかり間違えたり、だまされたりする「内部の人」として見張るべきだと呼びかけ、そのための仕組みを広げる。AIに渡す権限を仕事に必要な分に絞り、見張り役のAIが動きを見守り、大事な操作は人が確かめる。

まとめ

Microsoftは、最先端のAIモデルはどこのものでも信用できないとして、社内で働くAIエージェントを見張る仕組みを広げる。見張り役のAI「Guardian Agents」や、権限を仕事ごとに絞る機能などを加える。AIに仕事を任せる会社が増えるなか、AIを「信じる」のではなく「見張る」ことが前提になりつつある。