aki_iic’s blog

己の欲せざる処人に施す事無かれ、狂人の真似するは即ち狂人なり

電話番号汚染

 ZDNetの記事より。

 LLMの電話番号汚染を利用してAI検索の解答にニセ情報を忍ばせる手口が発見されたらしい。イタチごっこですな(特にLLMは(AIは)確率分布な上にハルシネーションという持病が重なるからカモ釣りには最適:)なのかもしれません、ご用心。

japan.zdnet.com

 人工知能(AI)チャットボットが参照する公開の情報源を悪用して、偽のコールセンターの電話番号を表示させるサイバー攻撃キャンペーンを、研究者らが発見した。こうした手口は、世界中の詐欺師に新たなアタックサーフェス(攻撃対象領域)をもたらすものだ。

「LLM電話番号汚染」がAIの新たなセキュリティリスクとなる?

 サイバーセキュリティ企業Aurascapeの研究部門であるAura Labsが米国時間12月8日に発表した新たな調査結果によると、脅威アクターは「大規模言語モデル(LLM)電話番号汚染」と研究チームが名付けた手法を用いて、「公開されているウェブコンテンツを計画的かつ組織的に改ざん」しているという。

 「彼らは、侵害された政府機関や大学のサイト、『WordPress』で作られた人気のブログ、YouTubeの説明欄、Yelpのレビューなどに汚染されたコンテンツをばらまくことで、AI検索の回答を偽のコールセンターに誘導し、警戒心の薄い旅行者から金銭や機密データを搾り取ろうとしている」と、研究者らは指摘した。

引用おわり。

 確かにAI検索(Googleのですら)って頭悪い癖に偉そうな事を言う(コアはgemini2.5の筈なのだが教師データが異なるとおバカになるのはあたりまえ)ので相手にしていません(ばっさり)。

 LLM含むIT詐欺師の考える技術はセキュリティは二の次(それが目的ではなく、寧ろ阻害要因でもあるから、それはApple以外のGAFAmの製品を見れば自明:)なのは彼らの行動原理(まあ、マネタイズですな、サービスによる)には整合しているが、私達の如き、愚民共が漠然と期待(能天気というかお花畑ですな、さながら九条教徒の如し:)する様なモラルもコンプラもマネタイズ(=金)の前にはひれ伏すのでありました。

#原産地の大統領が主権国家を「ディール」とかいう曖昧な金儲け基準で売り払うのが「りんりきじゅん」な様なので(無論、皮肉ですよ、このまま突き進むのでしょうか(不安))。

 そういえば過日、001−55xとかいう電話が掛かってきたが無視してたら・・・その番号は一般的な詐欺電話で使われる番号系統らしく・・・ああ電話番号検索してしまった:)