News & Views Column：AIの現状と限界、そしてセキュリティ

過去にメールマガジンで配信したインターネットに関するコラムを、このブログでもご紹介しています。今回は2026年8月のメールマガジンでお届けしたコラムを掲載します。Internet Week 2026のプログラム委員としてご協力いただいている、一般社団法人日本シーサート協議会の武田一城さんにお書きいただきました。急速に進化する生成AIについて、その可能性と限界を踏まえながら、AIとサイバーセキュリティの関係を「Security for AI」「AI for Security」「AIを悪用した攻撃」の三つの観点から整理し、人間がどのようにAIと向き合うべきかを考えます。

生成AIが世に広く知られるようになってからのこの数年間、その進化速度は、かつて「ドッグイヤー」と呼ばれたIT業界の変化さえ遅く感じさせるようになってしまいました。私自身も、数か月前に試して「これぐらいがAIの限界だろう」と判断した機能が、次に触れたときには別物のように改善されている状況をすでに何度も経験しています。

文章生成、画像生成、翻訳、プログラミング支援など、その成長は利用者の想像を軽々と追い越していってしまいます。この速度を目の当たりにすれば、AI個々の性能向上とは分けて考える必要があるものの「シンギュラリティが急速に近づいている」と感じる方も少なくないでしょう。しかも進化は、単なる精度向上だけではなく、複数の情報を組み合わせ、対話しながら作業を進めるなど、AIが担える役割そのものが広がっているのです。

しかし、現在のAIを万能な知性と捉えるのは早計かもしれません。生成AIは、大量のデータからパターンや関係性を学習し、もっともらしい答えを組み立てることに長けています。一方、AIは現実世界を自ら経験し、価値観を持ち、責任を負って判断しているわけではないのです。そのため、出力には誤りや偏り、事実と異なる内容が混ざることがあり、正しさを保証する仕組みもまだまだ十分ではありません。人類が長い時間をかけて蓄積してきたすべてを、AIがそのまま再現できるようになるには、実はまだまだ時間がかかると思われます。

AIとセキュリティの関係も、この期待と限界の間にあるのです。まず、AIとサイバーセキュリティの論点は、三つに整理できます。第一はAIそのものを安全に利用するための「Security for AI」です。学習データの汚染、プロンプトインジェクション、機密情報の漏えい、モデルの不正利用など、AI特有のリスクに対応しなければならず、「単一の決定的な対処法」が確立されているわけではありません。

第二は、AIを防御に活用する「AI for Security」です。大量ログの分析、異常検知、脆弱性の発見、インシデント対応の支援など、人間だけでは処理しきれない作業を補助するなど、有効な対策を実行できる可能性は少なくありません。

第三は、AIを悪用した攻撃への対処です。巧妙なフィッシング、マルウェア作成支援、偽情報やなりすましの高度化など、攻撃側も同じ技術を使います。現状、AIは攻撃側の活用の方が有利だと思われ、残念ながら防御側だけに与えられた切り札ではないのです。

ここで重要なのは、「AIがセキュリティ問題を解決してくれる」と期待し過ぎないことです。確かにAIは強力な道具なのですが、判断主体でも責任主体でもないのです。結局のところ、何をAIに任せ、どこを人間が確認し、どのようなルールと統制を設けるかが問われるのです。

導入効果だけでなく、誤作動時の影響、監査可能性、説明責任まで含めて設計しなければならないのです。AI時代のセキュリティとは、AIに答えを委ねることではなく、その能力と限界を理解した上で、人間がより良い判断を下すための仕組み作りです。そのため、良い関係を構築する時間が、人間とAIには今後もう少しだけ必要だと思われます。

■筆者略歴

武田 一城 (たけだ かずしろ)

一般社団法人 日本シーサート協議会 運営副委員長。1974年千葉県生まれ。1998年の大学卒業後一貫してIT業界に所属。IT基盤・セキュリティ分野のマーケティングと新事業開発が主な担当業務。Web記事、書籍の執筆・講演なども実績多数。