最近話題のAIというかChatBotの規制についてG7さんが声明を出す模様。MSが喧伝したChatGPTなるChatBotの一種のおかげでChatBotの裾野が広がり一部のサポセンの方々の負担が減った(かもしれない)ものの、不正確な回答(マシンに意思は無いから不正確な質問或いは教師有り学習に起因する幻想による無意識誤回答)が世間に広まるに従い、ChatBotブームも沈静化すれば良いのだが。個人的には人的にも精神的にも工数的にも負担の掛かるサポート業務にChatBotは活用されており、それを強化するChatBotの進化は素直に歓迎するが、システムのメンテナンスはサービス提供者(マイクロソフトの事なのだが:)が責任を持って継続しないとMS独自AIと称していたBob君が数日で極右ファシストになってしまった愚を大規模再現するのかもしれない。
法律上AIはプログラムであり、プログラムは物であり、物は主権が無いからその所有者が責任を取る立場になる(よくあるAI物でままある状況)から責任ある、信頼できるAIの責任者とはサービス提供者が相当する筈。それをわざわざG7で宣言のようなものを出す(別段、AIの専門家会合でも無いのに)のはパフォーマンスも有るだろうしそれだけ社会的影響力(混乱を招く・社会秩序に影響を与える)為なのだろう。この手の事はIEEEなり日本なら人工知能学会なり松尾さんのJDLAなりがそれぞれステートメントを出しているのかもしれないが、上記G7、ひいては構成国政府のそれと整合性は取れているのだろうか。まあ、黎明期だから議論していけば良いだけの話なのだろうがどこぞの日本学術会議活動家1部の如きあフォな狂言にならなければ良いのだが。
個人的に興味深いパラグラフを上記より引用させて頂くと:
6 生成物を利用するに際して注意すべき事項
(1)生成物の内容に虚偽が含まれている可能性がある
大規模言語モデル(LLM)の原理は、「ある単語の次に用いられる可能性が確率的に最も高い単語」を出力することで、もっともらしい文章を作成していくものです。書かれている内容には虚偽が含まれている可能性があります。
生成AIのこのような限界を知り、その生成物の内容を盲信せず、必ず根拠や裏付けを自ら確認するようにしてください。(2)生成物を利用する行為が誰かの既存の権利を侵害する可能性がある
① 著作権侵害
生成AIからの生成物が、既存の著作物と同一・類似している場合は、当該生成物を利用(複製や配信等)する行為が著作権侵害に該当する可能性があります。
そのため、以下の留意事項を遵守してください。
・ 特定の作者や作家の作品のみを学習させた特化型AIは利用しないでください。
・ プロンプトに既存著作物、作家名、作品の名称を入力しないようにしてください。
・ 特に生成物を「利用」(配信・公開等)する場合には、生成物が既存著作物に類似しないかの調査を行うようにしてください。② 商標権・意匠権侵害
画像生成AIを利用して生成した画像や、文章生成AIを利用して生成したキャッチコピーなどを商品ロゴや広告宣伝などに使う行為は、他者が権利を持っている登録商標権や登録意匠権を侵害する可能性がありますので、生成物が既存著作物に類似しないかの調査に加えて、登録商標・登録意匠の調査を行うようにしてください。③ 虚偽の個人情報・名誉毀損等
【ChatGPT】などは、個人に関する虚偽の情報を生成する可能性があることが知られています。虚偽の個人情報を生成して利用・提供する行為は、個人情報保護法違反(法19条、20条違反)や、名誉毀損・信用毀損に該当する可能性がありますので、そのような行為は行わないでください。【解説】
生成AIからの生成物が既存の著作物と同一・類似している場合は、当該生成物を利用(複製や配信等)する行為が著作権侵害に該当する可能性があります。
もっとも、どのような場合に著作権侵害に該当するかは明確な基準が存在しない状況です。
そこで、本ガイドラインでは保守的に考え、著作権侵害に繋がる可能性のある行為(「特定の作者や作家の作品のみを学習させた特化型AIを利用する行為」「プロンプトに既存著作物、作家名、作品の名称を入力する行為」)を禁止し、生成物を配信・公開等する場合には、生成物が既存著作物に類似しないかの調査を行うよう義務づけています。(3)生成物について著作権が発生しない可能性がある
仮に生成物に著作権が発生していないとすると、当該生成物は基本的に第三者に模倣され放題ということになりますので、自らの創作物として権利の保護を必要とする個人や組織にとっては大きな問題となります。
この論点については、生成AIを利用しての創作活動に人間の「創作的寄与」があるか否かによって結論が分かれますので、生成物をそのまま利用することは極力避け、できるだけ加筆・修正するようにしてください。【解説】
① 画像生成AIの場合
画像生成AIの場合であれば、自分の意図通りに高画質の画像を生成するために、①詳細かつ長いプロンプトを入力して画像を生成した場合、②プロンプト自体の長さや構成要素を複数回試行錯誤する場合、③同じプロンプトを何度も入力して複数の画像を生成し、その中から好みの画像をピックアップする場合、④自動生成された画像に人間がさらに加筆・修正をした場合などは「創作的寄与」があるとして、それらの行為を行った人間を著作者として著作権が発生することになるでしょう。
② 文章生成AIの場合
ChatGPTのような文章生成AIには様々な用途がありますが、文章生成AIのユーザが何らかの指示をして、何らかのリサーチ結果、アイデアや回答を得た場合、出力テキストにはユーザの創作意図と創作的寄与は通常はありませんので、文章生成AIによる出力テキストには著作権は発生しないということになるでしょう。
文章生成AIから、よりよい出力を引き出すために、質問(入力)の仕方のヒントやプロンプト文例がたくさん公開されていますが、ユーザが質問をするにあたってそれらの文例を駆使したとしても、出力テキストに対するユーザの創作意図と創作的寄与が認められることはないように思います。
したがって、ユーザが文章生成AI に指示をして、何らかのリサーチ結果、アイデアや回答を得た場合、それらの出力には著作権が発生しない、ということになりそうです。(4) 生成物を商用利用できない可能性がある
生成AIにより生成した生成物をビジネスで利用する場合、当該生成物を商用利用できるかが問題となります。
この論点は、利用する生成AIの利用規約により結論が左右されますが、【ChatGPTの場合、生成物の利用に制限がないことが利用規約に明記されているので、この点は問題になりません。】【解説】
本ガイドラインではChatGPTを主たる例に挙げて言及していますが、たとえば、画像生成AIであるMidjourneyの場合、無料会員が生成した画像の著作権はいったん無料会員にAI生成物の著作権が帰属した後、Midjourneyに当該著作権が移転し、その上で、Midjourneyは、当該AI生成物を創作した無料会員に対して、CC4.0NCの下、ライセンスをすることになっています。1
つまり、無料会員は当該AI生成物を商用利用することはできません。(5)生成AIのポリシー上の制限に注意する
生成AIにおいては、これまで説明してきたリスク(主として法令上の制限)以外にも、サービスのポリシー上独自の制限を設けていることがあります。
【 ChatGPTを利用する場合、以下の点に注意してください。
Usage Policies(https://openai.com/policies/usage-policies)で、「Adult content, adult industries, and dating apps(アダルトコンテンツ、アダルト産業、出会い系アプリ)」「Engaging in the unauthorized practice of law, or offering tailored legal advice without a qualified person reviewing the information(許可なく法律実務を行うこと、または資格のある人が情報をレビューしないままに特定の法的助言を提供すること)」などの具体的禁止項目が定められています。
また、医療、金融、法律業界、ニュース生成、ニュース要約など、消費者向けにコンテンツを作成して提供する場合には、AIが使用されていることとその潜在的な限界を知らせる免責事項をユーザに提供する必要があることも同ポリシーには明記されています。
さらに、関連ポリシー上は、ChatGPTなどOpenAI社のサービスを利用して生成されたコンテンツを公開する際には、AIを利用した生成物であることを明示することなどが定められています。】
現場志向のJDLAとしては転ばぬ先の杖といった内容だろうか。良し悪しは別にしてChatBotの最新版たるGPT3.5 or higherやその競合技術は今後普及する可能性が高い(少なくともChatBot系の用途:CUIに限らずGUIでもVUIでもRTでも)ので適切な対応なのだろう。まあ、各専門家さんの団体がそれぞれに発信されるので混乱を招く可能性は少なくないのだろうけれども。。。