デジタル庁、SNS巡回支援AIの設計公開 犯罪の最終判断は常に人間が担う

デジタル庁は2026年10月19日、SNSパトロール支援AIの設計の考え方を公開した。SNS(交流サイト)の巡回業務を、AI(人工知能)で支える仕組みだ。

何が発表されたのか

今回公開されたのは、警察庁とデジタル庁が共同で取り組んだシステムの設計方針だ。対象は、SNSで犯罪実行者の募集情報を探し、投稿者らに個別返信で警告する業務である。

システムは2024年末に稼働し、2026年9月末時点でも使われている。今回の発表は、新たな稼働開始ではなく、業務を支える仕組みの考え方を示したものだ。

AIは投稿が犯罪に当たるかどうかを決めない。投稿の疑わしさを、要確認、念のため確認、おそらく問題ない、の3段階に分類する。最終判断は常に人間が行い、分類結果は判断の補助に使う。

かんたんに言うと

このAIの役割は、届いた書類を確認の必要性に応じた箱へ仕分ける係に近い。書類の内容について結論を出すのではなく、人が確認しやすい状態に整える役割だ。

デジタル庁によると、キーワード検索では犯罪募集と無関係な投稿が数万件単位で混入した。特定の言葉が含まれるというだけでは、確認対象を十分に絞れなかったということだ。

そこで、犯罪かどうかの判定ではなく、疑わしさの分類をAIに担わせた。同庁は、AIに法的判断を任せると、誤判定時の説明責任を設計できないと説明している。3段階に絞ることで、正解の基準や誤分類時の対応も明確にしたとしている。

担当者の作業はどう変わったのか

システムは、担当者が従来使っていた作業環境に組み込まれた。デジタル庁によると、ボタン操作で投稿の分類、並び替え、色付けまで自動処理する。既存環境を使い、新たな設備や本人確認の仕組みの整備を省いたという。

同庁によると、導入後の業務量はおよそ4分の1以下に減った。疑わしさ別に投稿を確認できるため、担当者が情報を読み分ける負担も軽減したとしている。

現場担当者からは、問題ないと分類された投稿をほとんど読まずに済むとの声もあったと紹介されている。AIの役割は、確認を支えるための整理に置かれている。

まとめ

今回の設計で重要なのは、AIによる分類と、人間による最終判断を分けた点だ。業務量の削減はデジタル庁が示した成果であり、犯罪の判断そのものを自動化したわけではない。

同庁によると、来年度はより大きなシステムへの統合が予定されている。人間が判断する前の情報整理をAIが支える運用が、さらに進む可能性がある。