【KEYWORD SYNC】AI に任せない業務を先に決める — 止める条件は誰が書くか

総務省と経済産業省は 2026 年 3 月 31 日、企業向けの指針である「AI 事業者ガイドライン」を第1.2版に改めた。新しく書き加えられたのは、自分で手順を決め、道具を使いながら一連の仕事を進める AI(AI エージェント)の扱いである。そこで求められたのは精度の向上ではない。どこまでの権限を与え、どこで人が判断を差し挟むかを、使う側が設計することだ。調査会社ガートナーは、2027年までに企業の40%が、運用開始後に見つかった統制の不備を理由に自律型 AI エージェントを降格または撤退させると予想している。

何が起きたか — 国の指針が「権限」と「介在」を書いた

第1.2版は AI エージェントを「特定の目標を達成するために、環境を感知し自律的に行動する AI システム」と定義した。そのうえで使う側の留意点として、連携先のツールやシステムを適切に制限し権限を適切に設定すること、判断が必要となる事項を重要度に応じて整理したうえで人間の判断を適切に介在させること、定期的に操作履歴を確認し報告することを挙げている。改定案の段階では「AI の出力や動作によって大きな影響や被害が生じ得る場合には、影響を抑制するため人間の判断を介在させる仕組みを設計・構造すること」という表現も示されていた。

注意したいのは、ここに「精度がどれくらいなら任せてよい」という基準が一つも出てこないことだ。書かれているのは、権限の範囲、人が入る場所、後から追える記録の三つ。どれも技術の話ではなく、社内で誰かが決めて文書にする話である。ベンダーが持ってくる資料には書いていない部分でもある。

数字が示すのは、止め方の不在

社内規程の管理を手がける KiteRa が 2026 年 9 月 3 日に公表した調査では、AI エージェントを利用または検証中と答えた 1,206 名のうち、社内ルールや統制の体制(ガバナンス)の整備の遅れを「深刻な経営課題」とした人が 14.5%、「ある程度の経営課題」とした人が 45.5% だった。活用の障壁としては「社内規程やルールの整備が十分でない」が 25.9%、「社内規程やデータの管理責任が曖昧である」が 23.0%、「社内データの品質・正確性に課題がある」が 22.1% と並ぶ。障壁の上位三つが、精度でもコストでもなく社内の取り決めだという点が重要だ。

実害もすでに出ている。規程や法令に違反しそうになった、あるいは実際に違反したと答えた人は 13.4%。実際に会社の損害につながったと答えた人は 8.0% だった。会社が承認していないツールを使う「シャドー IT」は 44.9%、承認していない AI を勝手に使う「シャドー AI」は 38.7% にのぼる。線を引いていない場所で、すでに何かが動いているということである。

なぜ「精度」ではなく「停止条件」なのか

一橋大学名誉教授の野口悠紀雄氏は 2026 年 9 月 21 日の寄稿で、AI が情報を探し、複数の資料を比較し、外部の道具を使いながら一連の仕事を進めるようになった結果、「どこまで任せ、どこで止めるのか」という新しい難問が人間に突き付けられたと書いている。答えを間違えるかどうかとは別に、動き出した AI を途中で止めることの難しさがある、という指摘だ。

この違いは経営の実感に直結する。答えを返すだけの AI なら、間違いは読んだ人が捨てればいい。しかし見積を作り、送信し、承認まで進む AI では、間違いに気づいた時点ですでに社外に出ている。ITmedia ビジネスオンラインが 2026 年 9 月 20 日に掲載した記事も、AI には例外的な状況への弱さや、与えられた情報に基づかない推測で答えを作る弱さがあるとして、仕事を丸投げすると逆に非効率になりうると指摘する。精度を上げても、例外はなくならない。残った例外がどこまで流れていくかを決めるのが停止条件である。

経営層への影響 — 誰が、どの業務単位で書くか

決めるべきことは三つに絞れる。第一に、業務単位で「ここから先は人が決める」を書き出すこと。全社一律の AI 利用規程では粗すぎて現場が使えない。見積の提出、値引きの承認、人事評価の一次案、顧客への一斉送信、在庫の発注。工程の名前で線を引かなければ、担当者はその場で判断できず、結局は黙って進めるか、黙って使うのをやめるかのどちらかになる。

第二に、その線を書く人を決めること。情報システム部門に任せると「技術的に可能かどうか」の線になり、法務に任せると「原則禁止」に寄る。業務を持っている部門長が一次案を書き、法務と情報システムが点検する順番でなければ、現場の工程に合った線にはならない。第三に、止まったときの引き受け先を決めること。AI が止めた仕事は誰の机に戻るのか、戻った仕事をどれくらいで処理するのか。ここが空白だと、現場は止めないほうが楽だと学習する。ガートナーが挙げた撤退の理由が「運用開始後に発覚した統制の不備」だったことは示唆的だ。動かしてから作ろうとすると、作る前に止めることになる。

SYNCON の視点 — 止める条件は、動かす前にしか書けない

AI エージェントの導入可否を「どれだけ正確か」で議論している会社は、たいてい会議が終わらない。正確さには上限の証明がなく、誰も「もう十分だ」と言い切れないからだ。一方で「この業務で、この金額を超えたら人に戻す」「この相手に出す前には必ず人が読む」という条件は、専門知識がなくてもその場で書ける。書けるものから書いて動かし、書けないものは任せない。順番としてはこちらが正しい。国の指針が精度基準ではなく権限と介在と記録を並べたのも、同じ構造だと読める。

そして停止条件は、動かす前にしか書けない。動き出した後では、止めることが誰かの成果を否定する行為になり、書く人の負担が跳ね上がる。整備の遅れを「深刻な経営課題」「ある程度の経営課題」と答えた人が 14.5% と 45.5% に及んだのは、この順番を逆にした会社が多いということだろう。来週の経営会議で問うべきは「AI の精度は十分か」ではない。「いま AI に任せている業務のうち、止める条件が文書になっているものは何本あるか。それを書いたのは誰か」である。

要点まとめ

• 総務省・経済産業省は 2026 年 3 月 31 日、AI 事業者ガイドラインを第1.2版に改定。AI エージェントについて権限の適切な設定、重要度に応じた人間の判断の介在、定期的な操作履歴の確認・報告を留意点に挙げた
• ガートナーは、2027年までに企業の40%が運用開始後に発覚した統制の不備を理由に自律型 AI エージェントを降格または撤退させると予想
• KiteRa 調査(利用・検証中の 1,206 名)では、社内ルール・統制の整備の遅れを「深刻な経営課題」とした人が 14.5%、「ある程度の経営課題」とした人が 45.5%
• 活用の障壁の上位は「社内規程やルールの整備が十分でない」25.9%、「管理責任が曖昧」23.0%、「データの品質・正確性」22.1%
• 承認外のツール利用はシャドー IT が 44.9%、シャドー AI が 38.7%。規程・法令違反のおそれを経験した人は 13.4%、会社の損害につながった人は 8.0%
• 線は業務単位で引く。書く人(業務を持つ部門長)と、止まった仕事の引き受け先を同時に決める

情報ソース:
・PwC Japan グループ「『AI事業者ガイドライン(第1.2版)』改定のポイントと事業者への期待」
・日経クロステック「AIの自律実行に『人間の判断介在を』、国がAI事業者ガイドライン改定へ」(2026 年 3 月 12 日)
・ITmedia オルタナティブ・ブログ「2027年に企業の40%がAIエージェントを撤退・降格、ガートナーが予測」(2026 年 5 月 26 日)
・株式会社 KiteRa「【企業のGRC調査】AI時代に問われる『参照元』の信頼性とデータガバナンス」(2026 年 9 月 3 日)
・ビジネス+IT「AIの危険は”間違った答え”だけではない…AIエージェントに『任せてはいけない領域』」(2026 年 9 月 21 日)
・ITmedia ビジネスオンライン「『AIなら何でもできる』は大間違い 仕事を任せる前に知っておきたい3つの弱点」(2026 年 9 月 20 日)

PR