人間の判断を、設計に組み込む

総務省と経済産業省は2026年3月31日、AI事業者ガイドラインの第1.2版を公表いたしました。実証実験から社会実装への移行を前提とした改訂であり、AIエージェントとフィジカルAIが新たに定義されております。いずれも記述するのではなく、外界に働きかける存在です。あわせて、人間の判断を必須とする設計思想が明記されました。法的拘束力はございませんが、審査部門が参照する文書であるため、逸脱される場合には説明が求められます。

区別すべきは、人が操作しなければ処理が完了しない仕組みと、人が望めば確認できる仕組みです。前者は統制であり、後者は記録の残る期待にすぎません。前者を実装するには、処理を停止させる仕組み、停止した処理が入る待機列、解除の権限を持つ役割、そして誰がいつ解除したかの記録が必要になります。多くのシステムでは一週間程度の開発規模ですが、これにより審査上の指摘の多くが画面一枚で解消いたします。

すべての処理に人の確認を挟むと、業務が成立しなくなるうえ、内容を読まずに承認する運用が定着いたします。確認が不要な状態より悪い結果です。判断の基準は、誤った場合に費用が大きく、かつ取り消しが難しい箇所かどうかです。送金。顧客への送信。記録の削除。権限の付与。これらには停止を設けるべきです。社内閲覧用の要約作成には必要ございません。

Ver1.2がAIエージェントを定義した意味は小さくございません。ツールを呼び出すエージェントは、人が評価するための文章を生成しているのではなく、実際に影響の残る操作を行っております。確認すべき点は、どのツール呼び出しが人を介さずに実行されるか、実行主体がどの権限を保持しているか、そして個々には妥当な手順の連鎖が、誰も承認していない結果に至ることをどう防ぐか、という三点に移ります。プロンプトの層ではなく、ツールの境界で答えられるかが分かれ目です。

審査で求められる証跡は地味なものです。承認待機列の画面。解除権限の設定。実際の判断が記録された監査ログ。そして、期限内に誰も承認しなかった場合の挙動です。時間切れで自動的に処理が進む設計は、統制が静かに機能していない状態にあたりますので、この点は必ず確認されます。一度整備しておけば、以降の審査でそのまま使用できます。