生成AIのセキュリティリスクとは？対策するスタートアップも紹介！
2025/04/16
生成AIの急速な進化が、私たちの暮らしとビジネスを大きく変えつつあります。しかしその裏側で、情報漏洩や偽情報の生成など、深刻なセキュリティリスクも顕在化しています。
本記事では、2024年11月に当社投資チームから配信されたニュースレターの内容をもとに、生成AIがもたらす代表的なセキュリティリスクと、その課題に真正面から立ち向かう注目のスタートアップを紹介します。
生成AIの本格導入が進まない理由と顕在化するリスク
生成AIへの多額の投資が進む一方で、企業への導入が遅れている背景にはさまざまなリスク要因があります。特に、大規模言語モデル（LLM）プロバイダーの利用時に懸念されるのは、データ漏洩、データガバナンス、アクセス制御、そして誤情報（ハルシネーション）の生成です。このため、多くの企業は全面導入を進める前にリスクを慎重に評価しており、それが本格導入の遅れにつながっています。
特に大きな課題は、自社データが生成AIにどのように扱われるかという点です。外部のモデルを利用することで新たな脆弱性が生まれる可能性が高まります。例えばSamsungでは、ChatGPTリリース後、従業員が機密情報を誤ってAIに共有してしまう事件がわずか1か月の間に3回も発生しました。このようなインシデントが、生成AIの導入に慎重な姿勢を取る理由となっています。
独自アプリケーション開発に向けた課題
多くの企業は、最終的にLLMを活用した独自のアプリケーション開発を目指していますが、従来のセキュリティ対策だけでは対応が難しいことが実情です。例えば、既存のアプリケーションに生成AIを組み込む場合、コードの修正が必要となることが多く、複数のアプリケーションにわたる一貫したセキュリティポリシーの適用や管理が複雑になります。こうした課題を解決するためには、AI開発に特化したセキュリティツールやポリシーの策定が求められるでしょう。
AIセキュリティに革新をもたらすAcuvity
2024年8月にPlug and Playが出資したAcuvity社は、AIサービスの使用状況を包括的に可視化し、監査およびガバナンスを提供するエンドツーエンドのセキュリティプラットフォームを開発しています。Acuvityのプラットフォームでは、セキュリティポリシーをアプリケーションコードから独立して適用できるため、コード変更なしで全アプリケーションに統一されたセキュリティ対策を簡素に実装することができます。
また、独自の検出エンジンにより潜在的なセキュリティリスクを高精度で特定・分析でき、企業の生成AI導入を強力にサポートします。
日本市場における今後の生成AIセキュリティ領域の課題
日本における生成AIを導入している企業のうち、十分なセキュリティ対策を講じている企業は全体のわずか1割に過ぎません。また、2023年には国内の上場企業グループで個人情報漏洩件数が過去最多を記録しており、対応の遅れが浮き彫りとなっています。AI活用に伴う潜在的なリスクを回避するためにも、セキュリティ強化は日本市場において次に進むべき必須のステップと考えられます。
米国では高度なAIセキュリティソリューションの開発が進んでいますが、それらを効果的に活用するためのAI専門チームや体制を十分に整えている日本企業は限られており、国内におけるAIやセキュリティに関するリテラシーの向上が求められています。AI導入の過程で生じるリスクを軽減し、企業が安全に運用できる環境を整備するためには、Acutvityのような直感的かつ包括的なセキュリティソリューションの活用に期待が高まります。
過去の技術革新を振り返ると、セキュリティ分野ではインターネット黎明期にMcAfeeやFortinetが、クラウド移行期にはWizのような企業が急成長を遂げました。同様に、生成AIの分野でも革新的なソリューションを提供する企業の飛躍的な成長が期待されています。生成AIは、セキュリティ上の課題を抱える一方で、企業の成長を加速させる重要なドライバーとなる可能性を秘めています。これらの課題を解決するため、Plug and Playは革新的なセキュリティ技術を持つスタートアップを積極的に支援していきます。
Plug and Playでは、月に1回を目処に、各業界・産業のグローバルトレンドを熟知する投資チームによるニュースレターを配信しています。ご興味をお持ちの方はぜひ、登録していただければと思います。