AI に何を任せ、誰が承認するか — 10/19〜10/25の 4 つの論点

今週の SYNCON は 32 本の記事を届けました。いちばん多く出てきた問いは、AI に何を任せ、どこで人が確かめるかです。

AI 秘書の登場、禁止しても使われる生成 AI、若手の採用の変化、役所と現場の AI 導入。4 つの論点に束ね、最後に端末と用語の記事を短く振り返ります。

論点 1: AI 秘書には、どこまで任せるの?

指示を待たずに動く AI 秘書が、OpenAI・Meta・Anthropic の 3 社から出そろいました(AI 秘書の利用、日本は世界 2 位)。OpenAI の「dots」は、日本の週ごとの利用者数が世界 2 位です。Meta の Muse は、利用者が 1,000 万人を超えています。

Anthropic の Claude Duet は、送信・支払い・署名・削除の前に、何をするかを示して承認を待ちます。有価証券の売買や口座間の送金は、承認があってもしません。3 社とも、大事な操作の前に人の承認をはさむ設計です。

承認の置き方は、ほかの記事にも共通しました。1Password for Agents は、AI がログイン画面に来ると本人に許可を求めます。パスワードは 1Password が直接入力し、AI には見せません。

GMO の 2 社は、社内の規程を読んで答える AI と、起票・登録・通知を自動で回す仕組みをつなぎました。Blackstone 流の投資メモは、AI に 2 本目のメモを書かせても、票は持たせない進め方です。SharePoint の新機能では、AI に頼んで社内サイトを作れます。記事では、使うための条件を整理しました。

共通するのは、便利さより先に「人が承認する場面」を決めていることです。任せる範囲を社員任せにすると、線引きが人ごとにばらばらになります。

論点 2: AI を禁止すれば、情報は守れるの?

パナソニックグループでは、社員が約 33 万人分の個人情報を、利用を禁止していた外部の生成 AI に送っていました。対象は従業員と元従業員、その家族です。外からの攻撃ではなく、社内ルールへの違反でした。

AI の学習機能は無効で、公開や被害は確認されていません。それでも「禁止しても使われた」事実は残ります。

攻める側も AI を使います。ARTEX は、本来は自社の弱点を点検するための AI の道具です。それが攻撃に使われ、サーバー 1 台が日本企業の約 20 社を狙っていました。狙われた会社のうち 8 社は、9〜10 月に情報漏えいを公表しています。

漏れたあとの費用も重くなっています。パーク24 は画像約 146 万件の流出で、対応費用 55 億円を特別損失に計上しました。一方、バーガーキングは約 1,118 万件が流出しましたが、カード番号は持っておらず漏れませんでした。持っていない情報は、漏れません。

社内の AI も見張りの対象です。Microsoft のセキュリティ責任者は、作業を任せる AI を「内部の脅威」として扱うべきだと公表しました。対策は、見つける、危険度を測る、見張って止めるの 3 つです。

ウェブサイトを動かす言語(PHP)では、AI が欠陥を見つけました。自社サイトの更新を誰が担うのかが問われます。漢検の謝罪は、AI で作った画像の誤字が原因でした。公開前に誰が字を確かめるかという話です。

論点 3: 若手と人事は、どう育てるの?

AI 開発の米 Anthropic では、AI の稼働時間が社員の 6 倍に達しました。技術職の採用に占める若手の比率は、27% から 9% に下がっています。

背景には、コードを書く作業やバグ探しを AI に任せられるようになったことがあります。若手が最初に担っていた仕事が、そのまま AI に移った形です。

同じ悩みは、社内の育成にも出ます。AI で育つ新人、育たない新人では、育成を「本人次第」にしておくのかを問いました。

人事部門そのものも変わります。Josh Bersin 氏と Workday の手引きを扱った記事では、人事部門の人員が 2030 年までに少なくとも 30%、50% に近い規模で減るという予測を紹介しました。

米国でも働き手は今後 10 年で 3.5% しか増えません。今の成長を保つだけで、約 25% の生産性向上が要るとされます。人を増やさずに伸ばす設計が、人事の仕事になっていきます。

論点 4: 役所と現場は、どこまで AI を使い始めたの?

デジタル庁は、政府職員約 18 万人が自分で AI の助手を作れる環境の提供を始めました。あわせて、使う人・管理する人・作る人の 3 つの立場ごとに守ることを決めた「源内基準」を公表しています。

この仕組みは 2027 年 2 月ごろ、自治体や企業も使える形で公開される予定です。社員に AI を作らせるときのルールの手本になります。

同じデジタル庁は、AI に読ませる前に「神 Excel」を採点する無料ツールも出しました。国産の AI「PLaMo」は、約 800 の自治体が導入する行政向けの AI に組み込まれています。選ぶ物差しは、データの置き場所と日本語の読ませ方です。

古い仕組みの刷新にも AI が入ります。OpenAI は、銀行などに残る古い言語(COBOL)の書き換えで、正答率が 5.4% から 86.6% に上がったと発表しました。ただし本番には、専門家の確認と試験が要ります。

工場や現場では、AI の判断で機械を動かす「フィジカル AI」が進みます。記事では、三菱電機が 2030 年に工場へ持ち込む道筋を取り上げました。JR西の人型ロボット重機は、全自動の前に遠隔操作で人手を補う形です。

シスメックスの子会社では、社員が自分で AI を作り、不良の解析に使っています。

売り込みを見極める目も要ります。調査会社 Gartner の図では、AI の期待が頂点にある項目が 5 つ並びました。AI 検索の答えだけで用が済み、自社サイトが開かれない「ゼロクリック」では、流入が 4 割減った例を紹介しました。

端末と用語では、何を取り上げたの?

タッチ画面の MacBook Pro は 11 月 6 日に出るとの見方があり、年内の Mac 更新を待つかを考えました。iPhone Duo は発売日に店頭在庫がない見通しで、社用端末を予約するか見送るかの材料にしました。

GEAR PICK では、Apple TV 4K、Belkin の Apple Watch 用充電器、Apple Magic Keyboard Folio を紹介しました。

用語解説の WORD SYNC では、画面の点が自ら光る有機 EL(OLED)を取り上げました。止まってよい範囲を決めて運用を仕組みで回す進め方(SRE)と、フィジカル AI も解説しています。

SYNCON の視点 — 来週の経営会議で問うべき 3 つ

• 社員が AI 秘書を使い始めたとき、送信・支払い・削除の前に誰が承認するかを決めていますか?
• 「禁止」と書いた生成 AI のルールが守られているかを、どう確かめていますか?持たなくてよい顧客の情報を、持ち続けていませんか?
• 若手に任せていた仕事が AI に移ったとき、次の世代はどこで経験を積みますか?

AI に任せる範囲は、道具を入れたあとではなく、入れる前に決めるものです。今週の記事は、どれもその順番を示していました。

情報ソース:
・今週の SYNCON 掲載記事(上記リンク)