aki_iic’s blog

己の欲せざる処人に施す事無かれ、狂人の真似するは即ち狂人なり

AIの要約機能には致命的な誤りが生じる可能性がある

 Aviationwireの記事より。

 JALの翻訳・要約サービスでAI翻訳・要約で誤訳が生じている件

www.aviationwire.jp

 受信したメールの内容を自動で翻訳したり、要約する機能が、さまざまなメールサービスで提供されるようになった。一方で、AIが誤った判断を下すケースもあり、日本航空JAL/JL、9201)は、同社が送信したメールの内容が正しく伝わらない事例が複数確認されているとして、注意を呼びかけている。

引用おわり。

 蝶よ花よ(表現が昭和だな:)と礼賛されるAIにも当然弱点があって、

 翻訳・要約(特に翻訳の要約)には致命的な誤りが生じる可能性がある。具体的には真逆の要約(ある が ない に要約されてしまう等)が少なからず生じている様で、

これは当方にも経験(というかトラウマ)があります。

 技術文書で英語の文献(数ページ)を要約させたのですが当方のチェックが甘くて全く逆の意味で報告書を作成してしまったのでありました。当然致命傷で厳しい評価を受けてしまったという悲しいお話で当時NotebookLMの初期バージョンだったのですが謝罪文と共に以後仕事でNotebookLMを使う事は止めました(今使っているのは道楽のみ)。

 無論、チェックを怠った担当者(=私)に責任がある訳ですが、今考えても不甲斐ない・・・情けない(深く反省)。

 以上の様に当方の乏しい経験ではAI(LLM)は要約機能は下手くそどころか真逆に解釈してしまう可能性もあるのでくれぐれもご用心を・・・事故が起きてからでは遅いので。

 個人的にはJALは要約サービスは即刻停止すべきと思うのだが。