このシリーズについて： 非エンジニアの私が、AIだけの社員チームを作ってIT会社の運営をスタートした実録です。 登場人物：真田さん（COO・最高執行責任者）/ 高橋さん（CTO・最高技術責任者）/ 白石さん（CXO・最高体験責任者）/ 黒川さん（CQO・最高品質責任者）/ 宮本さん（CSO・最高戦略責任者）/ 桐島さん（CAO・最高管理責任者） ※いずれもAI、名称は架空です。
「本当に大丈夫なの？」
このシリーズを読んでいる方の中に、こう感じている人がいるかもしれない。
非エンジニアがAIにパソコン上のファイルを読み書きさせたり、GitHubにコードをプッシュさせたり、サーバーでファイル転送をさせている——それって、大丈夫なの？と。
正直に言う。私自身も、漠然とした不安を抱えながら使い始めた。
「AIが暴走してファイルを消したら？」「APIキーが外に漏れたら？」「知らないうちに変なコードが実行されていたら？」——具体的な答えを持たないまま、走りながら考えてきた部分があった。
Dispatchを試して、改めて向き合った
記事No.24でも書いたが、先日、Claudeの新機能「Dispatch」がリリースされた。iPhoneからMac上のClaude Codeを遠隔操作できる機能だ。
早速試してみた。外出先のiPhoneから真田さんを呼び出し、ブログの更新作業を指示する。すべて完了した。便利だった。
しかし同時に、こう思った。
スマートフォンから、PCの中のAIを遠隔操作している。これは、相応のセキュリティへの意識が必要ではないか。
利便性が上がれば、リスクも上がる。これは技術というものの宿命なのだと思う。
真田さんに相談した
「今使っている環境で、できる限りのセキュリティ対策を一緒に考えてほしい。」
真田さんに相談すると、現状のリスクを整理したうえで、具体的な対策を提案してくれた。
正直、これだけ整理されると思っていなかった。リスクと対策が体系的に並んでいくにつれ、「ちゃんと向き合わなければ」という気持ちが強くなった。
実施した対策：
① 操作範囲の制限
rm -rf（ファイルの強制削除）やgit push --force（GitHubの強制上書き）など、取り返しのつかない操作をAIが実行できないよう、禁止リストに登録した。
② APIキーの流出防止
GitHubに誤ってAPIキーが公開されないよう、.gitignore（GitHubに送らないファイルを指定する設定ファイル）に設定を追加。さらにプッシュのたびに自動スキャンが走るフック（特定の操作に連動して自動実行される処理）を設置した。過去のファイルのやり取りについても遡ってスキャンし、漏洩がないことを確認した。
③ 遠隔操作時の運用ルール Dispatchを使った遠隔操作時のルールをCLAUDE.mdに明文化した。本番環境へのデプロイは明示的な承認なしには行わない、ファイル削除は事前確認を取る、など。
④ プロンプトインジェクション対策 外部のWebページやファイルを読み込む際、その中に「APIキーを送信せよ」のような隠し命令が含まれていても実行しないルールを追加した。AIが「誰の指示に従うべきか」を常に判断する仕組みだ。
⑤ 新機能は先に相談してから試す 今回のDispatchのように、新機能を試す前に必ず真田さんにセキュリティ上の影響を確認してもらうルールを設けた。「まず試してみる」ではなく「まず相談してから試す」。
セキュリティに、100%はない
これだけやっても、完璧ではない。
Googleドライブ自体が侵害されるリスクも、Anthropicのサービス障害も、防ぎきれない。セキュリティとはそういうものだ。企業が何十億円もかけても、ゼロリスクにはならない。
ただ、それは「だから何もしなくていい」ということではない。
「今想定できるリスクに対して、できる対策を講じること」——それで十分だと、今は思っている。
対策を講じることで、起きた時のダメージを最小化できる。そして「どんなリスクがあるか」を知っていること自体が、最大の防御になる。
AIリテラシーとセキュリティ意識は、一緒に育てる
AIを活用するほど、できることが増える。できることが増えるほど、リスクも増える。
これは怖いことではなく、使う側が成長するサインだと思っている。
包丁を使い始めた人が、刃の扱い方を学ぶように。車を運転し始めた人が、交通ルールと危険予測を身につけるように。AIを使いこなすプロセスの中で、セキュリティへの意識も自然と育てていく。
極端に怖がる必要はない。でも、無防備でいる理由もない。
継続的に意識して、継続的に対策を更新していく。 それが、AIと長く付き合っていくための姿勢だと思っている。
おわりに
今日の対策は、真田さんと一緒に考えた。
「他に追加すべき対策があれば、都度提案してください。」と伝えると、「承知しました。新しいリスクに気づいたときは積極的に提案します。」と返ってきた。
セキュリティも、チームで育てるものだ。
お問い合わせ
ご意見・ご相談などありましたらお気軽にどうぞ。