技術に色は無いから、用途(アプリケーション)次第という典型的な例。
この記事が報じているのは民間企業がSNSを監視するというのだから別段違法では無い筈(SNSのモニタは通信の秘密に相当しない筈)だからそれを政府や公安や一部の企業に売り込むのは合法と考える(無論、我が国でも)。LLMはモニタした情報の処理に過ぎないからモニタが合法であればその処理も合法(ですよね?)。
現実問題として監視社会が理想である権威主義国家(ソ連とその末裔の狐ランド、そしてその模倣たる支那プーランド、等)のみならずインテリジェンスや公安関係でも重用されている(現在或いは過去形:)ツールであろう。別段LLMはChatGPTだけではないし、LLMのアルゴリズムもソースも開示されているのだからこの手の監視ツールの実績豊富な支那ではとうの昔に応用してると考えるのが自然(いいですねぇ、共産党が神であり、それの理念の為なら何をやっても良いという、彼らの語彙で言う処の愛国無罪でしょうか、無論皮肉ですよ。1984の世界に共産党がより近づいている、彼らにとっては共産主義理想に近づくとみなすのだろう(悪寒):)で、それは西側でも公安、インテリジェンス関係では同様かもしれない(ど素人の勝手な憶測です)。
別段、インテリジェンスは公知の情報分析が8割とも言われるそうだから(エビデンス無し、これまたど素人の勝手な妄想)存在するかしないか知らぬが例えばエシュロンとかいう監視システムにも応用されていないと楽観する方がおかしい。
道具なり技術をどう使うから人間次第だから、気になる方やご活動方面で理系の技術が分かるご活動(まあ、トリチウム生体濃縮とかボケかましてる最高学府の文系大先生には無理だろうなぁ、無論皮肉ですよ:)、つまりオウム系とか過激派さんとかもカウンターフォース(語彙が適切か否かは別にして)として用いていても何ら不思議は無い。
昨今の技術の進歩で場合によっては一個人レベルでも:
・SNS等を活用したある程度の規模の影響力工作、扇動、社会的混乱への誘導
・同じく、恣意的な情報操作、デマ拡散、虚偽情報伝搬(YouTubeが顕著:)
・上記技術を併用したより効果的な工作
が出来てしまうのが現実だろうし、それに対抗する為の技術(真贋判定、SNS監視による予兆検出、影響力工作阻止)も開発され続けるのだろう。
そろそろメディア様もその情報信頼度(=誤報率とか)によって格付けを政府系サイト(例えばIPAとか:)で純粋に情報技術を評価基準とした指標で試みるのは間違いでは無い様な気がしている。例えば
A:該当無し
B:Google news等の加重平均された情報
D:一般誌、読売、日経、産経など
E:一般誌で理念優先と評価されたもの:朝日、変態、中日東京ローカル
F:理念に基づく流布:ホーマー・シンプソン党機関紙、宗教、天動説系、トンデモ系、他虚偽情報の流布を目的とするもの
G:国家転覆、他国による影響力工作とそれを支援するもの
まあ、勝手な妄想を書き散らすのは見苦しいのかもしれないが、メディア様の一部に甘やかされた(例えばイソコ)学生気分な活動家モドキが跋扈している現状を鑑みるに、科学知識と常識と教養という躾をこれらの無知(言葉通り)な輩に指導するのは彼らの言う処の権力の横暴には相当せず、科学技術及び社会常識欠格者への社会的救済行為と見做されるのではなかろうかと妄想する(共産主義者が言いそうな言葉で嫌だが:)。
まあ、コミュニティノート等で地味に集合知に基づく矯正を試みるのが民主的なのかもしれないが、さまざまなチャネルでご活動されているので最初に戻って
用途は別にしてSNSモニタリングツールは社会の要求に即している気がしないでもない。具体的には災害、インフラ障害等の異常兆候予測、マーケッティング、等実際にそれを活用している分野は存在し、LLMの応用閾値が下がるにつれ、個人レベル(例えば、ブログ評価とか:)でもそのサービスを欲する需要はあろう、とか妄想します。
必要は発明の母(発明に相当するかは別にして)