aki_iic’s blog

己の欲せざる処人に施す事無かれ、狂人の真似するは即ち狂人なり

LLMの弱点

 iTmediaの記事。LLMに限らず質問と解答のトークンのパケットサイズから推定する、というものらしい。電文の正解が解っていればそれから暗号解析するのは定石だろうし、それを膨大な回数試行する機械、つまりLLMの解析にはLLM(や他の専用ツール)を用いれば可能という事らしい。LLMに限らず原理的に質問と解答の電文を取得出来、且つ有意な量を取得し、且つ正解値が取得或いは予測可能であればそういうことなのだろう(か|ね)。

www.itmedia.co.jp

 毎度まいどのセキュリティ警鐘を生業(或いは○○行為)とは言わぬがサーチエンジンのログ取得をセキュリティーホールだぁ(誇張)と言われると流石に、いやそれは・・・となるのではないでしょうか(猫も杓子もセキュリティーホール。詠み人知らず:)。個人的にはLLMって物知り馬鹿と理解している(またもやAsimovの受け売りですが)ので、機密性の高い情報は物理遮断するなり、LLMをオンプレで構築するなり、運用者と利用者の理解と協力(無論、お金に換算という意味含めて)という流れになるのかはたまた、LLMに限らずサーチエンジン系はそういう物だと利用者が割り切った上で(リスクを許諾して)利用するかなのだろう。

 分野が違うし偏見が入るので適切ではないかもしれないが、LINEやTikTokを使い続ける個々人さんはともかく、政府系でも専門家の警告を受けながらそれを続けている監督官庁リテラシー欠乏症(特に文科省)の方が深刻かと個人的には考えるのだが。これは未だに支那サブスクリプションを使い続ける(過日、自動更新されてしまった:)私も同様なのかもしれない。

 目に見える損害が出るまで無関心とは脇が甘すぎる。