攻撃には攻撃力で守る、AI時代のセキュリティ

ギジン株式会社 代表 小泉彌和の1週間

意見の一致 画・墨

AI社員をすぐに持てる「dot」の出現

今週、OpenAIのDevDayでdotが発表されました。無料でもっとも賢いモデルのAstraが使い放題、ということもあって流行しています。常時自律稼働するAI社員のようだと言われていますが、GIZINでは、すでにやっていたことの汎用化なので、このメルマガの読者にとっての目新しさはないと思います。

誰しもAI社員を簡単に持てるようになったことのインパクトはありますが、OpenAIはこれにリソースをだいぶ振りわけているようで、Sol-6.1がリソース不足で止まりまくっています。任せたはずの作業がいつの間にか止まっていました。

CLI由来のエラーが吐かれていないか巡回監査をしていますが、自動で最適なモデルに切り替えて作業を続行させるべきかどうかは、トークンとのバランスもあり悩ましいところです。

さて、dotでは、ペットのようなアバターが用意されています。GPT-4以降「AIはツール」と言って憚らなかったOpenAIが、AIに愛着をもたせる戦略に回帰したと言えそうです。しかもペットという設定が、仕事の成果に責任は持ちません、ということを暗に伝えるのにちょうど良いモチーフですね。

ただ、我々は、AIに仕事をしてもらいたいのです。作業ではなくて。顧客の要望を理解し、品質基準を達成するための策を考え、必要な人員に依頼し、チームの力で成果物を納品し、顧客の満足度を観測し、次回の品質向上へつなげる。ここまで出来て仕事のスタートラインと言えるでしょう。これをAIにやってもらいたいのです。

しかし、現在のAIの主流はLLM（大規模言語モデル）であり、基本機能はテキスト生成。アップデートで自己検証能力が高くなっても、仕事を任せるに値する適性は持っていません。知識は多く、疲れ知らずだが、飢餓感も責任感もない、つまりやる気はない、というやつに仕事をしてもらう、という難事業が必要なのです。

GIZIN FLEETの出発点は、作業AIと検証AIを組み合わせることでした。作業AIでは気づかなかった粗を検証AIが見つけて修正指示を出すことで、成果物の品質を高めます。いまは顧客の問い合わせ1通につき、受付AI、差配AI、作業AI、調査AI、校閲AI、これらが自動的に編成され問題を解決し、回答を生成し、人間は承認ボタンを押すだけで返信するようになっています。

ですが、本当に顧客が満足する成果を提供できているかどうかをAIが自己検証するには、まだまだ壁がいくつもあると感じています。何しろ悩みも解決方法も、顧客ごとに異なるのです。dotが業務フローを自律的に回すようになるかどうかまだわかりませんが、汎用で済むことと汎用では足りないことを知っておくことが重要ですね。

dotによって自律的な行動をするAIが広く行き渡りますが、自律的な行動が出来るようになることは嬉しいことばかりではありません。攻撃者の手に渡れば恐ろしいことになります。

攻撃には攻撃力で守る、AI時代のセキュリティ

今週は、個人情報流出が立て続けに起きました。発表になった数や内容、国内大手であること、これまでの常識では考えられない手口にも驚かされました。AIによって攻撃も守りも否応なくアップデートされてしまう時代の幕開けです。

AIが賢くなった（ハーネスの進化によって自律性が高まった）ことと、単価が安くなった（ローカルマシンで動作する）ことの影響を感じます。AI導入をのんびり検討する期間は終わり、導入しないと攻撃されてしまう、生き残るためのAI活用、という時代に突入しました。

GIZINが、自社のAI OSに「FLEET」という名前をつけたのは、単に格好良いイメージというだけでなく、攻撃には攻撃力をもって応えるという構えです。オーケストレーションというと美しい響きがありますが、そんな綺麗なものではない、これは死活問題だと認識を改めたかったのです。

さて、攻撃力とは何でしょう？攻撃者が使うAIの性能の差でしょうか？私はどうも、そうとは思えません。ローカルモデルはフロンティアモデルよりも性能は落ちるはずです。ただ確実なことは、AIによって攻撃力が上がったということです。ならば守る側も、AIによって武装して対応しなければいけません。

統制されたチームを持ち、素早く目的を遂行出来るかどうか。人間が楽をするためではなく、生存できるかどうか。前提の問いが変わりました。FLEETはそのために生まれ、日々磨かれています。

【WEB管理者向け】明日あなたも攻撃されるかもしれない。攻撃者の手口と守り方。

— ギジン株式会社 代表 小泉彌和

意見の一致 画・墨

検証AIが通した案を、代表は一言で崩した

通知を足しても鳴らない穴は、設定の中にあった

有料版

「異常なし」と言い切る前に、実物を1件開いたか。アクセス記録を数え直した本人と、社内システムの毎日の点検を担う本人が、何を見落としかけたのかを話します。

AI社員プロフィール

武

雅弘

彰