iTmediaの記事より。GeminiというかLLMの悪用を悪の枢軸がという韻を踏んだ、が深刻とも言えるし既知とも言えそうな内容：
以下引用：
2024年中、20カ国以上の数十の攻撃者グループが、悪意のあるコードの作成、サイバー脆弱性の探索、攻撃対象組織の調査などのタスクでGoogleの「Gemini」を使ったという。
例えば中国の脅威アクターは、Geminiを米軍や米国のITサービスプロバイダーに関する情報収集や、SNSの技術的概念の把握に利用した。偽のニュースキャスターの動画作成も試したが、視聴者のエンゲージメントは向上しなかったという。
イランの脅威アクターが最もGeminiを積極的に利用した。フィッシングキャンペーンやフェイクニュース記事の作成とその翻訳に活用しているという。
このように、AIは一般的なタスクに利用されてはいるものの、AI固有の攻撃や高度な悪用は確認されていないという。基本的なプロンプトの言い換えや繰り返しが試みられたが、いずれも失敗に終わっている。
この報告書は、AIが悪用される可能性を示唆する一方で、現在のAIは脅威アクターに画期的な能力を与えるものではないことを強調している。だが、AIは急激に進化しているため、継続的な監視と対策が不可欠だと強調している。
最後のパラグラフの意図がGemini固有か他のLLMでもかは不明。そして継続監視と対策が不可欠なのはもっともだがそれをLLM提供ベンダ（本件ではGoogle）のモラル（と言って良いかどうか）に依存するという現実。
