すでに現場は「勝手に」使い始めている

生成AIはここ1〜2年で急速に業務利用が進み、 もはや「導入するかどうか」を検討している段階ではなく、現場の従業員が情報システム部門の許可を得ずに自らの判断で使い始める「シャドーAI」が常態化しています。

セキュリティ担当者がどれだけ「禁止」を掲げても、業務効率化のニーズが急速に高まる中、正式なルール整備が追いつかず、水面下で利用が広がっているケースも少なくありません。 

特に昨今では、文章作成、データ分析、画像生成など、生成AI利用の目的が細分化され、サービスごとに得意分野が分かれてきています。そのため従業員側には、それぞれの分野に合わせて最適な生成AIを使い分けたいという心理が働きます。この使い分けの欲求が、未承認ツールの利用に拍車をかけているのが実状です。

今、管理側に求められているのは、実効性のない禁止令を出し続けることではありません。野放しにされている現状をいかに「把握・管理可能な状態」に引き戻すかという、現実的な舵取りです。

足元のリスク：ハルシネーションと情報漏洩の現実解

AI利用において、まず直面するのは「情報の真偽」と「漏洩」という基本的なリスクです。

ハルシネーション（情報の誤り）

AIがもっともらしい誤情報を生成し、それを十分に検証しないまま資料作成やプログラム開発に利用してしまうことで、誤ったデータを含んだ資料作成や不具合のあるプログラムコードがそのまま実業務に投入され、対外的な信用失墜や実損を招くリスク。

機密情報の入力

顧客情報や未公開情報を不用意に外部AIサービスへ入力することで、情報漏洩や意図しないデータ共有につながるリスク 。

これらは、単に「注意してください」という訓示だけで防げるものではありません。どの業務に、どの範囲でAIを使って良いのか。情報の重要度に応じた「判断基準」を言語化し、従業員が迷わない状態を作ることが不可欠です。例えば、現場の業務を止めずに分かりやすい境界線を示すために、「社外非公表のデータは一律で入力を禁止にする」といった、直感的に判断できる明確なルールを設けることが効果的です。

深まるリスク：AI利用基盤への不正アクセスの警戒

利用が高度化するにつれ、単なる「使い方のミス」を超えた、専門的な脅威への備えも必要になります。例えば、APIキーの漏えいや不適切な権限管理によって、第三者にAIサービスを不正利用されるケースです。その代表例が「LLMジャッキング」です。

LLMジャッキングとは、自社で契約したAIの利用権（APIキーなど）を第三者に奪われ、勝手にリソースを消費される攻撃を指します。これにより、多額のAPI利用料が請求されるだけでなく、AIとの対話履歴を介して社内の機密データが組織外へ流出する恐れがあります。

現場の自由な利用を認めるということは、それだけ「外部からの攻撃対象となるポイント」を増やすことでもあります。利用をオープンにするならば、それ相応の管理体制がセットでなければなりません。利用が高度化するにつれ、単なる「使い方のミス」を超えた、専門的な脅威への備えも必要になります。例えば、APIキーや認証情報の漏えい、不適切な権限設定によって、第三者にAIサービスを不正利用されるケースです。その代表例が「LLMジャッキング」です。

解決策：ルール作りと並行して進めるべき管理体制

形だけのポリシーを作るだけでは、リスクは軽減されません。規定の策定と並行して、従業員100〜300名規模の企業でも管理側の工数を最小限に抑えつつ、実効性を担保できる管理体制を整える必要があります。具体的には、以下のようなアプローチが現実的です。

法人向け生成AIへ利用先を集約する

現場が勝手に様々な外部サービスを使い分けるのを防ぐため、ChatGPT Enterprise、Microsoft Copilot、Gemini for Workspaceといった法人向けサービスを会社側で用意し、利用先を集約します。

「入力禁止情報」をシンプルに定義する

現場が直感的に判断できるよう、ルールを複雑にせず「顧客個人情報」「未公開の経営情報」「契約書原文」「ソースコード全文」など、NGとなる対象をシンプルに定義して明示します。

AIサービスの利用を社用アカウントへ統一する

アクセス権管理の基本に立ち返り、利用アカウントを社用IDへ統一することで、不正ログインや退職者アカウントの放置を防ぎます。

ログ確認を常時監視でなく定期レビューにする

すべての利用状況をリアルタイム監視するのは現実的ではありません。月次レビューを基本とし、「利用量アラート」や「未承認サービス利用の検知」など、優先度の高い項目に絞って確認することで、少ない工数でも実効性を担保しやすくなります。

 

セキュリティ担当の「黒子」として

AIの進化スピードに対し、社内ルールのアップデートが追いつかないのは当然の悩みです。しかし、そこを放置すれば、現場の混乱とリスクは増大し続けるばかりです。

セキュビットのコンサルティングは、場当たり的な規制ではなく、数年先を見据えた「持続可能なAI活用」の体制づくりを目的としています。規定の策定から、LLMジャッキングのような高度な脅威への対策まで。私たちは貴社のセキュリティ担当の「黒子」となり、現場の利便性と管理の整合性を取れる仕組みを共に構築します。

この記事を書いた人

寺西 照一（Teranishi Toshikazu）

株式会社セキュビット 取締役。小売業を中心にシステム開発およびシステムオペレーションのマネジメントを担当した後、2015年以降は小売グループのIT関連会社にてセキュリティ対策の専任者として従事。技術的対策の他、データセンターの物理的対策や人的・組織的対策まで広く対応した経験を持つ。2024年より株式会社セキュビットに参画し、クライアントのセキュリティ対策支援やセキュリティサービスの開発に従事している。CISSP、情報処理安全確保支援士。