aki_iic’s blog

己の欲せざる処人に施す事無かれ、狂人の真似するは即ち狂人なり

幻覚防止

 LLMには幻覚という持病があって日常使っているBardさんも時折、自信を持って大嘘こいてくれる(正確にはLLMに嘘と真の概念が存在しないのでLLMにとっては統計量なり類似度に過ぎない)がその対策についての論文:

www.itmedia.co.jp 翻訳の癖もあろうがLLM幻覚防止評価器とは直訳的だが本質を示しているのだろう。Googleの善い処は(ああ、私、Google教徒なので:)地味にこういった研究成果を論文として開示してくれる事で贔屓の引き倒しかもしれないがどこぞのブルースクリーンメーカーとは企業姿勢が異なるように見えるのは偏見だろうか?

 今月から同じ日経ロボ2冊になってしまった:)日経ロボでもGoogleとその関連機関・技術の解説は(編集長の力量の為もあってか)読み応えがあり、勉強になるが、それ以外のGAFAの記事はほぼ皆無でGoogleとそれ以外のGAFAの姿勢の違い(あるいは日経ロボの編集方針)が見受けられる。古くは2011年頃のWord2Vecもそうだし、分散表現なる言葉を知ったのもそれであった(まだ楽して報酬を得られた頃のお話。サラリーマンって楽で良かったなぁ・・・遠い目:)。

 とまれ、正気を取り戻して日々勉強というかお仕事に励む事にしよう(反芻)。