AI 音声の詐欺電話、6 人に 1 人が応じる — 送金を電話だけで決めない

何が起きたの? — AI の詐欺電話を 4,100 人で検証

米ハーバード大学や米 Meta などに所属する研究者が、論文「Evaluating AI Models’ Capability to Automate Voice Phishing Attacks」を発表しました。ITmedia が 10 月 28 日に内容を紹介しています。

調べたのは、電話でだます詐欺(ボイスフィッシング)を、AI がどこまで自動でこなせるかです。対象は米国の成人 4,100 人です。

使った声は、ElevenLabs や Sesame など 6 種の AI 音声と、本物の人の声です。参加者は詐欺電話の録音か文字起こしを聞き、自分ならどう反応するかを答えました。

なぜ、人はだまされるの?

結果を分けたのは、声がどれだけ人間らしいかではありませんでした。急がせる、同情を引くといった、話の説得力でした。

「クローン音声」は、ある人の声をまねて AI で作った音声です。研究では、面識のない人の声で「危機に陥った姉妹」を装い、急ぎの送金を求めました。この手口で応じかけた人が最も多くなりました。

声で見抜く守りにも限界があります。Sesame の声は、本物の人の声と統計的に区別できない水準でした。生成 AI をよく使う人と全く使わない人で、見抜く精度に差はありませんでした。

お金の面でも、AI は犯罪者に都合のよい道具です。米国で人を雇って詐欺電話をかけさせると、人件費で 1 時間あたり約 27 ドル(約 4,300 円)の赤字になります。安い AI や成功率の高い AI を使うと黒字に転じる、と試算されています。

会社のどこが狙われるの?

米ハーバード・ビジネス・レビュー(HBR)は 10 月 28 日、米連邦捜査局(FBI)の特別捜査官、Zacharia H. Baldwin 氏の寄稿を載せました。題は「Your Company’s Fraud Defenses Aren’t Ready for AI Threats」です。

氏は、AI によって、なじみのある声や顔、書類が簡単に偽造できるようになったと述べます。犯罪者はこの技術で、部署と部署のすき間を突いているといいます。寄稿は、このすき間を閉じるための 3 つの問いを経営者に示しています。

研究の結果と重ねると、守り方の向きが見えてきます。声が本人らしいかどうかではなく、どの経路で確かめたかで判断する形です。

SYNCON の視点 — 声ではなく、手順で守る

この研究が示したのは、耳で見抜く守りが当てにならないことです。社員の注意力に頼るほど、すき間は広がります。

まず決めておきたいのは、電話だけで決めてはいけない手続きの一覧です。送金、振込先の変更、顧客や取引先の情報の開示が代表例です。これらは、登録済みの連絡先へ折り返すなど、別の経路で確かめてから進める決まりにします。

もう一つは、部署をまたぐ確認の担当です。経理は「総務が確かめたはず」、総務は「経理が見るはず」と考えがちです。誰が確かめるかを手順に書き、急ぎの依頼ほど止めてよいと社員に伝えておく。これが現実的な備えです。

要点まとめ

• 米国の成人 4,100 人の実験で、AI の詐欺電話に約 6 人に 1 人(16.5%)が応じる可能性
• 身内の危機を装うクローン音声の手口では 36.1% に上った
• 決め手は声の自然さではなく、急がせる・同情を引く話の運び
• 本物の人の声の約 67% を AI と取り違えた。耳で見抜く守りは当てにならない
• FBI の捜査官は HBR で、部署と部署のすき間が狙われると指摘
• 送金や情報の開示を電話だけで決めない決まりと、確認の担当を先に決めておく