AIを悪用した偽音声詐欺、日本企業で発生—幹部を装い不正送金を指示

音声生成AIを利用した詐欺は、すでに多く発生しています。2019年3月には、イギリスの企業で、ドイツ語なまりの英語の偽音声を使った電話を、普段そのような発音をする上司からの電話と勘違いし、20万ポンド（現在のレートで約3900万円）を犯人の用意した偽口座に振り込んでしまった事案が発生し、大きく報道されました。

声優業界が懸念しているように、音声生成AIの精度は高いレベルにあります。近時、警察の電話番号であるかのように発信元を偽装した詐欺事案も報じられていますが、電話番号の偽装と音声生成AIによる偽音声がセットで悪用されると、見抜くことがかなり困難な詐欺になります。基本的な業務プロセスの工夫などの防衛策が必要となります。

発信元の身元の特定・確認は、一方ではプライバシー保護との関係で慎重な対応が必要ですが、詐欺防止との関係では重要な観点です。適切な対応のあり方を考えていく必要もあります。

音声生成AIの悪用事例は世界中で多く発生しています。 今回の事件では「社長の音声を学習している」、「社長の携帯電話番号から発信者番号に表示される」など、明らかにこの企業が狙われています。

こういった事件が報道されると、「AIが登場したから」とAIが悪者にされがちですが、AIがなくなればこの手の詐欺がなくなるわけではありません。 こうした社長や幹部、取引先になりすましての攻撃は「標的型攻撃メール」としてすでに存在しており、JALやトヨタ紡織などが多額の被害に遭っています。

重要なことは、メールだけではなく、もはや電話やビデオチャットも信用できないということです。 詐欺を防ぐためには従来のセキュリティ対策では対応しきれなくなっています。 時代にあわせた確認プロセスの強化が必要になってきていると言えるでしょう。

3秒の音声があれば85％も似せた声にできる技術が今あります。著名人や経営者であればSNSやメディアで話す事も多く、その音声は悪用されやすい。一般の方も、SNSで動画をUPしていると詐欺に悪用される可能性が高くなります。

海外では音声や動画などAIで加工したオレオレ詐欺の被害が数百億でています。日本でもオレオレ詐欺やロマンス詐欺の被害も出てきていますので、注意が必要です。

親族の声でも、会社の人間の声でも会うまで、もしくは予め決めた合言葉を言うまでは送金しないようにしないと、声や顔が同じでもディープフェイクで加工されたものの可能性があります。

ダブルチェックで対応するしかないです

社長から送金指示がきたとしてもすぐに対応せず

その後、社長に再確認の電話を入れて確認する

指示した側も受けた側も面倒だが詐欺を防ぐには仕方ない

世の中便利になっていくようで不便になっていくような気がする

対策も必要だが、この手の特殊詐欺は国の垣根を越えて厳罰化が必要だと思います。

詐欺犯の最終的な目的は騙し取った金で派手な生活を送ることなので、逮捕されれば死刑や無期懲役で二度と戻れないとなればリスクリターンの面から断念する者は必ず出て来る。

とりわけ日本は１０年にも満たずに釈放されるような甘い刑罰だから人生一発逆転賭けて挑戦する輩が出て来る。実際服役した元詐欺犯ですら刑罰の甘さが一因である事は指摘しているので抑止力にも力を入れて頂きたい。

番号なりすましに音声のなりすまし、見聞きできるものも信頼できなくなるなんて、、