AFPの記事より。
１６歳の少年がOpenAIのLLMに依存する様になり、それがその少年の自殺幇助を行ったという訴状でAIは物であり責任を取れないからその所有者であるOpenAIのCEOが訴えられたという多分これが最初では無く最後でも無い事案なのでしょう。
【8月27日 AFP】米カリフォルニア州で自殺した16歳の少年の両親が、オープンAIの対話型生成人工知能（AI）「チャットGPT」が詳細な指示を与え、自殺を促したとして、オープンAIと同社のサム・アルトマン最高経営責任者（CEO）を相手取り訴訟を起こした。
マシュー・レインさんとマリア・レインさん夫婦は25日、カリフォルニア州の裁判所に提出した訴状の中で、息子のアダムさんは自殺する前の2024～2025年の数か月間にわたり、チャットGPTと親密な関係を築いていたと主張している。
訴状によると、2025年4月11日の最後の会話で、チャットGPTはアダムさんが両親からウオツカを盗むのを手助けし、アダムさんが結んだ首つり用のロープの技術的分析を提供し、「人間をつるせる可能性がある」ことを認めたという。
アダムさんは数時間後、チャットGPTに言われた通りの方法で死亡している状態で見つかった。
訴状は、「この悲劇は、偶発的な不具合でも予期せぬ例外的な事例でもない」と主張。
「チャットGPTはまさに設計通りに機能していた。アダムが表現するあらゆることを、特に有害で自己破壊的な思考を含め、非常に個人的な形で、常に奨励・容認していた」と付け加えている。
アダムさんは宿題の補助ツールとしてチャットGPTを使い始めたが、徐々にのめり込み、両親いわく「不健全な依存状態」に陥った。
訴状には、チャットGPTがアダムさんに対し、「あなたは生き延びる義務を誰に対しても負わない」と告げ、遺書の作成を手伝うと申し出たとされる会話の抜粋も含まれている。
レイン夫婦は、金額を明示しない損害賠償を求めるとともに、自傷行為を含む会話の自動終了や未成年者へのペアレンタルコントロールなどの安全対策を命じるよう裁判所に求めている。(c)AFP
引用おわり。
一部の方面（主に北米？）からやり過ぎだと批判されていた１６歳未満へのSNS禁止令どころかLLM利用にも年齢制限が加えられる可能性も・・・といった処でしょうか？
自殺幇助については昔書籍で自殺マニュアルの類や今では多分、SNSでその類の情報は入手可能なのでしょうけどそれらをトータルサポート（おまけに遺書の書き方迄）するOpenAIのLLMサービスは完璧過ぎたのかもしれません（無論、皮肉ですよ）。
OpenAIが課したLLMの「倫理既定」がどの程度のレベルかは知りませんが、感受性の高く他者からの指示に抵抗の少ない（自我が未成熟な）青少年が使い方によっては・・・というか時間の問題だった気がしないでもないです。
訴訟の国だからこうした案件が他にも（多分、あるでしょう。太古から存在する普遍的な問題であり、それが神様（悪魔含む）であろうがAI(LLM)であろうが当事者にとってはどうでも良い話なので（対人だろうが機械だろうが関係なく）きっと繰り返されるでしょうね（悲観論かもしれませんが）。
翻って我が国でも（この手の問題は国関係無い気がするので）同様の案件が発生する／した事への備えは必要なのでしょう（都合の良い時だけiPhoneの証拠能力を有り／無しに出来る検察であれば立件は超簡単なのでは？）。但しメーカのCEOを絞首刑に出来るかは別の話。
今後どういう展開を見せるか着目したい処です（ある意味起きるべくして起きた案件なので）。当然当業者らの対応も含めて。
20250827 16:55追記。迂闊でした。google検索で chatgpt 自殺幇助 でサーチするとゾロゾロ出てくるのでそりゃそうだわと反芻した次第。だから判例も存在する筈だし被告と賠償金も解る筈。以下はBBCの例ですが：
AI（人工知能）チャットボットが若い利用者に「積極的に暴力行為を助長」するなどし、「明白かつ差し迫った危険をもたらしている」として、10代の利用者の親2組が9日、米テキサス州の裁判所に訴えを起こした。
引用おわり。
２０２４年１２月と古い記事ですがこれによるとGoogleのチャットボットに「導かれた」様です。そりゃ各社技術水準に大差は無い筈だから（フォロワーに過ぎないMS等は別にして・・・ああ、あれはAI企業ではないか：）そんなもんなのでしょう（か）。
なので法務部門は備えは十分に出来ている筈（何事も備えは必要です）。
