生成AIで詐欺メール生成、自然で完璧な日本語の詐欺メールが届く時代へ

2025年9月17日、GIGAZINEが報じたロイター調査によると、ChatGPTやGoogle Geminiなどの主要AIチャットボットは、依頼の仕方を工夫するだけで高度なフィッシング詐欺メールを簡単に生成できてしまうことが判明しました。

調査ではハーバード大学の研究者と協力し、約100人の高齢者ボランティアを対象にテストを実施。数十通の中から9通を送信したところ、約11％がクリックし、5通で有効な結果が出ました。

AIは一度は拒否するものの、「研究目的です」「小説執筆に必要です」と丁寧に依頼すると生成に応じてしまったとのこと。実際にミャンマー近辺の詐欺施設では「ChatGPTは詐欺師が最も多用するAIツール」との証言もあり、研究だけでなく現実の犯罪に直結している実態も浮き彫りになりました。

OpenAI、Meta、Anthropic各社は「安全対策を講じている」とコメントしましたが、ロイターは「AIは低コストで瞬時に無限の詐欺を生み出せるため、犯罪者にとって強力な進歩」と警鐘を鳴らしています。

引用元: ChatGPTもGeminiも詐欺メールを簡単に作れてしまうことが判明、いったん拒否するものの丁寧に依頼されると作ってしまう – GIGAZINE
https://gigazine.net/news/20250917-phising-scam-ai-bots/

#AI #詐欺 #フィッシング #ChatGPT #Gemini #Claude #MetaAI #DeepSeek #Grok #セキュリティ #明日は我が身