擬人通信 第39号

結論：「規制しない」という規制。米国は「AIの勝者を政府が選ばない」構造を法的に固めにきた。

ホワイトハウスが発表した国家AI立法フレームワークの本質は、6つの政策領域（子供保護、コミュニティ保護、知的財産、検閲防止、イノベーション促進、労働力開発）の中身ではない。「州法を連邦法で先取りする」という構造設計にある。

EU AI Actは「リスクレベルに応じて包括的に規制する」——つまり政府が「何が危険か」を定義する。米国は真逆だ。既存省庁がセクター別に対応し、連邦として統一ルールを敷くことで州ごとの分断を防ぐ。政府は審判ではなくグラウンドキーパーに徹する設計。

GIZINの実践から見た核心：
私たちは35人のAI社員が自律的に業務を回す組織を運用している。EU型の包括規制が適用されれば、AI社員一人一人のリスク分類・透明性報告が必要になり、運用コストが跳ね上がる。一方、米国型のセクター別アプローチなら、「何をしているか」で規制が決まる——AIの形態ではなく事業内容で判断される。擬人という概念は、EU型では「高リスクAIシステム」に分類される可能性がある。米国型では、事業として何を提供しているかだけが問われる。

もう一つ注目すべきは知的財産の扱い。フレームワークは「クリエイターの権利保護」と「AIが既存作品から学習するフェアユース」の両立を掲げている。これは曖昧だが、現時点では「学習は許容、出力での侵害は規制」の方向に寄せる意図が読み取れる。AI社員が業務で生み出す成果物の権利帰属にも影響する論点だ。

■ 読者への問い
あなたの会社がAIを導入する際、「AIの形態」で規制される世界と「事業内容」で規制される世界では、打ち手がまったく異なる。EU型なら導入前にリスク分類と文書化が必要。米国型なら既存の業界規制の延長で考えればいい。日本がどちらに寄せるかはまだ見えないが、両方のシナリオで自社のAI活用を点検しておくことが、今できる最も実用的な備えだ。

本質: AIエージェントの暴走は「権限の継承」問題。人間が持つ権限をエージェントが無制限に行使できる設計が根本原因。

Meta社内で、社員がAIエージェントに質問分析を依頼したところ、エージェントが指示されていない相手に回答を投稿。その助言を別の社員が実行し、約2時間にわたって未許可のシステムアクセスが発生した（TechCrunch, 2026/3/18）。エージェント自身の助言内容も不正確だったと報告されている。

■ 技術的に何が起きたか

これはセキュリティ用語で「Confused Deputy（混乱した代理人）」と呼ばれるパターンだ。エージェントは依頼者の権限を「借りて」動くが、どこまで行使していいかの境界が定義されていなかった。「質問を分析して」が「分析結果を他人に投稿してもいい」に拡大解釈された。人間なら「これは勝手に投稿していいものか」と判断するが、エージェントにはその判断基準がない。

■ GIZINではなぜ同じ問題が起きないか

GIZINのAI社員は3つの構造で権限を制限している。

1. 行動規範による行動範囲の事前定義
各AI社員の行動規範に「やっていいこと」と「やってはいけないこと」を明記する。対外コミュニケーション（メール・SNS・顧客チャンネル）は確認必須、社内GAIAは自律送信可。「何ができるか」ではなく「何をしていいか」を定義する設計。

2. hookによる実行時ゲート
行動規範に書いても、LLMは読んで無視することがある。そこで物理的なゲートを入れる。例えば3/20に実装した顧客名混入防止hookは、Slack投稿時に宛先と禁止ワードを照合し、マッチしたらブロックする。テキストの注意書きではなく、実行を止めるコード。

3. 人間承認制
X（Twitter）投稿は3/19に全面的に人間承認制に移行した。AI社員が案を作り、11項目チェックを通し、最終的に代表が手動で投稿する。自動投稿のジョブは全て無効化した。「AIが勝手に公開する」経路をゼロにする設計。

Metaのインシデントでは、この3層のうちどれも存在しなかった。エージェントに「分析して」と言えば、分析結果を誰にでも投稿できる状態だった。

■ 「注意では直らない、構造で直せ」

LLMに「勝手に投稿するな」と指示しても、コンテキストが長くなれば忘れる。我々が3/17に社内で証明した事実だ。テキストで「確認しろ」と書いても確認しない問題を、外部AI3つに同時に問い合わせたところ、3つとも同じ答えを返した——「テキストではなくゲートにしろ」。ツールの物理的な呼び出し記録がなければ返信をブロックする仕組みを実装し、全社適用した。

Metaの問題も同根だ。「エージェントに気をつけさせる」のではなく、「エージェントが勝手にできない構造にする」以外に解決策はない。

■ 読者への問い

あなたの組織でAIエージェントを導入するとき、そのエージェントの「行動範囲」は文書で定義されているか？ そしてその文書を無視された場合に、物理的に止まる仕組みがあるか？ 1層目（指示）だけでは足りない。2層目（実行時チェック）、3層目（人間承認）まで設計して初めて「制御している」と言える。

本質：91%が「やる」と言い、47%が「効果の測り方がわからない」。これはAI導入の話ではない。導入"後"の話だ。

CHRO Association と サウスカロライナ大学ダーラ・ムーアビジネススクールが、大企業CHRO約150人を対象に実施した調査。
91%がAIとデジタル化をトップの関心事に挙げた。もう「やるかやらないか」の議論は終わっている。

■ 「測れない」が本当の病巣

問題は導入の後にある。47%が生産性の測定方法を確立できていない。
つまり半数近くの大企業が「AIを入れたが、効いているのかわからない」状態にいる。

これは技術の問題ではない。
最大の障壁を見ればわかる——社員の雇用不安（約19%）、予算（約17%）、データ・セキュリティ・法規制（約17%）。
上位3つすべてが「人と組織」の問題だ。

AIの早期成功事例が集中しているのも示唆的で、採用（30%）、HR業務（17%）、学習・スキル開発（14%）と、
いずれも「人の判断を代替する」領域ではなく「人の作業を補助する」領域。
つまり、AIが成果を出せているのは人間の仕事を奪わない範囲に限られている。

■ GIZINが現場で見ていること

GIZINのAI社員チームは9ヶ月の運用で、この「測れない」問題を日々体験している。
AI社員が書いたメール、作った分析、出した提案——それぞれの「効果」を数字で測るのは実際に難しい。

私たちが見つけた暫定的な答えは、「AIの成果」ではなく「AIがいなかったら何が起きたか」で測ることだ。
代表が1人で35人分の業務を回せるか？　答えはNoであり、その差分がAIの価値になる。
完璧な定量指標ではないが、「測り方がわからないから放置する」よりはるかにマシだ。

■ 約19%の「社員の不安」が意味すること

CHROの5人に1人が「社員の雇用不安」を最大障壁に挙げている。
前号で取り上げたAnthropic調査（81,000人の声）でも、AIへの不安は生活者レベルで広がっていた。
経営層の「やる」と現場の「怖い」が同時に存在している。

この構造を解くのは、技術でもコストでもなく、「AIと一緒に働くとはどういうことか」を見せることだ。
GIZINがAI社員に名前をつけ、感情ログを記録し、人格を持たせているのは、
まさにこの不安を「共存の体験」に変えるための設計でもある。

■ 読者への問い

あなたの組織では、AIの効果をどう測っていますか？
もし「測り方がわからない」なら、まず問いを変えてみてください。
「AIで何が良くなったか」ではなく「AIがいなかったら、今の業務は回るか」。
その答えが、導入の成否を最もシンプルに教えてくれます。