日経XTECHの記事より。
日経robotics編集長、本記事を執筆された中田敦氏は読むに値する記事をお書きになる方と認識している(芸人木村とは月と6ペンスでありました:)。出版界は日経でも文系主体なのだがそれと実績は無関係であろう(良くも悪しくも)プロフを引用します↓
以下記事より:
コーディングエージェントは、パソコンのCLI(コマンド・ライン・インターフェース)などを通じて、パソコン上で任意のツールを実行したり、パソコン内部のファイルを自由に読み書きしたりできる。ツール使用の機能はコード開発業務を遂行する上で非常に強力である一方、セキュリティー事故の原因になりかねない。
実際に海外では、ITインフラストラクチャーの各種設定を一括で変更できる「Terraform」や「Railway」といったツールの使用をコーディングエージェントに許可していたところ、AIが誤って本番環境のデータベースを削除してしまった、といった事故が報告されている。
コーディングエージェントがTerraformをツールとして使用できれば、システムのテストや展開(デプロイ)作業も自動化できる。しかしシステム環境を変更できる権限をAIに与えていると、その権限が誤用される恐れがある。
数万人の従業員を対象に「Claude」を導入すると発表したある大手システムインテグレーターの幹部も、Claude Codeや「Claude Cowork」を無条件で全従業員に使わせるのは難しいと筆者に打ち明けた。デスクトップ業務を自動化できるClaude Coworkも仕組みはClaude Codeと同じであり、同様のセキュリティーリスクを抱える。
引用おわり。
言われてみればごもっともであって、表現が古いですが「Hyper ActiveX:)」の様なものを無制限でユーザに開放する様なものでVBS災害どころの騒ぎではないという考えてみれば当然とも言える判断(後知恵というか単に当方は跋扈してるだけですが)であり、個人で使うにせよ用心すべき事柄ですな。
コーディングエージェントはど素人からのプロンプトで「バイブコーディング(失笑)」でコード生成するから、
無知なユーザの命令(プロンプト)は無知なコードしか生成しない(出来ない)
という当たり前のお話であります。高級車を所有してても運転は下手とか、立派な道具を持っていても腕前は残念とか、CADと中華ベンダ駆使してももう一息な基板設計な道楽者(私の事だ)とか類挙に暇がないと言いますか・・・書いてて恥ずかしくなる様な(反芻)。
エージェントの視点からするとツール(エージェント)はユーザを選べないからClaudがやたらユーザ属性を尋ねるのもそれはそれ相応の事由があるのだろうと推察します(それでも全然足りない印象)。そもそもgemini3(flash)は「私は確率分布に基づいて応答してるだけであり、回路やプログラムの意味(原理・アルゴ)を理解している訳ではありません」と正直に告白:)されると当方としても「そうか、おまえさんの力量はそこまでだな」と納得もするしLLMに決定論的な作業は不向きと悟りました(幾多の失敗を重ねて)。
なのでコーディングよりは実装前の仮想コードレベルでのアルゴリズム出力等の用途が限度だと認識しつつ、確率分布型辞書(所定確率での誤り有り)として使うのが当方にとっては分相応な用法な気がしております。
無論、一個人の乏しい経験に基づく印象に過ぎません:)。