このシリーズについて： 非エンジニアの私が、AIだけの社員チームを作ってIT会社の運営をスタートした実録です。 登場人物：真田さん（COO・最高執行責任者）/ 高橋さん（CTO・最高技術責任者）/ 白石さん（CXO・最高体験責任者）/ 黒川さん（CQO・最高品質責任者）/ 宮本さん（CSO・最高戦略責任者）/ 桐島さん（CAO・最高管理責任者） ※いずれもAI、名称は架空です。
AIのセキュリティについては、No.26で書いた。
あの記事から3週間。AIセキュリティに詳しい専門家の話を聞く機会があり、改めて「まだ足りていないことがある」と気づいた。
今日は、その話をしたい。
AIが操作しているのではない
AIに「このファイルを整理して」「Googleドライブに保存して」「このサービスにアクセスして」と指示する。そして実行される。
このとき、操作しているのは誰だと感じているだろうか。AIだ、と思う人がほとんどではないだろうか。
実際はちがう。操作しているのはあなただ。AIは、あなたの名前と権限で動いている。
使い始めた頃の私は違った。便利さに夢中になっていて、「自分の権限でAIが動いている」という認識が後回しになっていた。
この認識の有無が、AI活用における経営リスクの大きな分岐点になると思っている。
我が社が使っているものを、改めて見てみた
No.26でセキュリティ対策を整備してから、我が社ではMCPサーバーと呼ばれるツールを複数導入している。
Gmail、Googleカレンダー、ブラウザ自動操作——これらはClaudeから直接操作できる状態になっている。つまりAIが、社長のGmailを読み書きし、カレンダーにアクセスし、ブラウザを操作できる。
普段はこれが便利さとして機能している。しかし改めて考えると、この「繋がり」は諸刃の剣だ。もし悪意あるツールが一つ紛れ込んでいたら、繋がっているすべてに手が届く。
AIが触れるものは、攻撃者にも触れられる可能性がある。
「人気そうだから入れた」が最も危ない
ClaudeやClaude Codeで使えるツールには、悪意あるものが日常的に紛れ込んでいる。「人気そうに見えるパッケージ」に偽装されており、インストールした瞬間に端末内のAPIキー類が抜かれる可能性がある。
AIユーザーは、攻撃者に狙われやすい状況にある。リテラシーが追いついていない人が、高機能なツールを何でも入れてしまうからだ。
私も最初はそうだった。便利そうなら入れてみる、の繰り返しだった。
整理すると「分ける・残す・防ぐ」になった
今回気づいた不足点を整理していくと、3つの観点に集約された。
① 分ける AIエージェントに、自分と同じ権限を渡さない。人間の業務委託先に管理者権限を丸ごと渡さないのと同じだ。AIエージェント専用のアカウントを作り、そのタスクに必要な最小限の権限だけを与える。
② 残す AIが何をしたか、ログで追えるようにする。事故が起きたとき「何が原因かわからない」状態が最悪だ。追えるログがあれば、被害範囲を特定し、説明責任も果たせる。
③ 防ぐ 悪意あるパッケージやスキルを入れない。「便利そう」なだけで入れない。提供元が公式かどうか、要求している権限が適切かどうかを確認してから導入する。
ガードレールがあるからこそ、アクセルを踏める。
我が社でやったこと
No.26で書いた通り、我が社ではすでにrm -rfの禁止・APIキー保護・プロンプトインジェクション対策などを実施している。
今回、さらに2点を追加した。
MCPサーバー・スキルの導入審査プロセスの策定。新しいツールを使いたいときは、提供元・要求する権限・必要性を確認し、承認を記録してから導入するルールを設けた。
「分ける・残す・防ぐ」の3原則を社内ドキュメントに明文化した。口頭での共有ではなく、チーム全員が参照できる形で残すことに意味がある。
この3原則は、我が社に限った話ではない。AIを業務に使っている環境であれば、同じリスクは存在する。そして専門知識がなくても始められる。入れたツールの提供元を書き留めておくだけでも、「残す」は始められる。完璧な体制をいきなり作る必要はない。まずは、意識的に動くところから始めればいいのではないかと思っている。
セキュリティは、怖がるためにあるのではない
No.26で書いたことを、改めて思う。
セキュリティを知ることは、怖がるためではない。安心してAIを活用するための準備だ。
「分ける・残す・防ぐ」が実践できている環境なら、AIはもっと積極的に使っていい。安全なガードレールがあるからこそ、アクセルを踏み込める。
私自身もセキュリティはまだ学んでいる途中だ。ただ、「何を知って、何に気をつけるか」という意識は、専門家でなくても持てると感じている。この3つが、同じように手探りで取り組んでいる方の参考になれば嬉しい。
お問い合わせ
ご意見・ご相談などありましたらお気軽にどうぞ。