aki_iic’s blog

己の欲せざる処人に施す事無かれ、狂人の真似するは即ち狂人なり

○○企業の金銭的動機

 最近報道されるようになってきたAIで人類滅亡の件、ロイターの記事より:

jp.reuters.com

 揶揄するつもりはない(ありますが:)けど、○○で人類滅亡にはNBC兵器、遺伝子操作、クローン技術、武漢肺炎(これは煽りすぎか)、地球温暖化、環境汚染、巨大隕石、宇宙人襲来(これは電波系か?)等、昔から専門家や評論家や一部の自分らは賢者と思っている(実際、賢者かもしれない、シンクタンク(自称含む)とか:)の人達が所謂警鐘を鳴らす系の最新バージョンだろうか(無論、個人の勝手な憶測です:)。

 で、笑って済ませて良い事柄かと言えば上記記事を引用するに:

[4日 ロイター] - 米マイクロソフト(MSFT.O), opens new tabが出資するオープンAIや、アルファベット(GOOGL.O), opens new tab傘下のグーグル・ディープマインドといった人工知能(AI)企業の現従業員と元従業員からなるグループが4日、AIがもたらすリスクについて公開書簡で懸念を示した。
公開書簡には、オープンAIの11人の現・元従業員、グーグル・ディープマインドの現従業員1人と元従業員1人が署名。AI企業の金銭的動機が効果的な監視を妨げていると主張した。
コーポレートガバナンス企業統治)ではこうした状況を変えるには不十分」とした。
その上で、誤った情報の拡散、独立したAIシステムの喪失、不平等の一段の深刻化など、規制されていないAIがもたらすリスクを挙げ、「人類絶滅」につながりかねないと警鐘を鳴らした。
AI企業にとって、そのシステムの能力と限界に関する情報を政府と共有する義務は弱いと指摘。自発的に情報を共有すると期待はできないとした。

 利害関係者の一部の方らの発信だから精査を要する事柄かもしれない(よくあるステークホルダらによる内部告発の可能性、合成食品や化学調味料や一部医薬品・療法らに時折見られる告発の類の可能性)が、IT詐欺師界隈としては、

 VBSが人類を滅ぼす(ある意味正しい:)よりは説得力が有り、現実にSNS等を利用した情報操作に、報道によると、支那・狐ら権威主義国家は敵対する民主主義国家の弱点(だが必須)である選挙にこれらの技術を活用して実際に成果を出しているとも言われている。

 故に上記警鐘は有意であるとして、AI企業が自発的行動を行わないのであればそれが金銭的理由の有無に関わらず、最近G7やEUで議論されている様な国家(政府)による介入(監視)が必要に繋がると思われるが果たして悪の枢軸21世紀バージョン(メンバは同じ)らには国家自体が発信元である故、野放しどころか積極的に影響力工作に活用している現実があり、それが抑制的になる可能性は極めて低そうである(自分らが大やけどにでも会わない限りにおいて)。それではどうすれば良いかと言えば・・・冷戦時代の如く敵対する勢力間(まあ、モデルが20世紀の冷戦構造に回帰した訳なので:平和の報酬とやらで。無論、皮肉ですよ:)、

 冷戦時代の如く相互監視による影響力工作合戦

 による情報分野におけるMAD戦略のような形態になるのかもしれない(ああ、きっと頭の良いAI研究者や技術者や評論家:)さんらがより良い解決手段を思いつく(或いはAIに考えさせる:)・・・事は多分無いか少ないのは残念ながら歴史が証明している。具体的には大量殺戮兵器の進化がそれを表す好例だろうか(技術に色はないので)。

 悲観論はともかく今後はもしかしたら、情報注意報(=情報操作の可能性の提示など)がSNSや少なくともメディアネットワークには要求されるのかもしれない。所謂情報格付け会社なる新たなIT詐欺師(或いはビジネスチャンス)の登場かもしれないし、そんな統制が可能なのは権威主義体制だけだろうから、結局無駄かもしれないし、ブロックチェーン等のある程度の真贋判定技術を併用して極端な情報操作を検出しうるシステムが開発される(或いはされている、されていそうだよな:)のかもしれない。

 もっともその手の真贋(或いは陰謀論)チェッカが機能した場合、最初にアラートになるのが

 所謂、マスメディアの方々

 である可能性は否定出来ないのかもしれないが、まあそれは自業自得という事で。