AIが攻撃し、AIが守る時代に。NTTグループの専門家が語るサイバーセキュリティの最前線

AI技術の進化により、サイバー攻撃と防御の現場は「AI vs AI」の新たな局面を迎えています。生成AIを悪用した巧妙なフィッシングメールやウイルス作成、ブラックマーケットで流通する犯罪者向けAIなど、脅威は日々増していくばかりです。一方、防御側もAIを活用した次世代アンチウイルスや脆弱性診断などで対抗しています。しかし、AIだけでは防ぎきれない現実もあり、最終的な判断や対応には人材の強化が不可欠です。人とAIが協働し、企業や社会の安全を守るために今求められる対策と人材育成の重要性について、NTTデータの新井 悠氏と、NTTドコモビジネスの猪野 直人が語り合いました。

---

サイバー攻撃の最新動向とAIが及ぼす影響

――まずはお二人のご経歴や現在のミッションについて、簡単にご紹介ください。

新井 悠氏（以降、新井氏）：NTTデータに入社して6年目になります。前職ではセキュリティベンダーにて、ウイルス対策ソフトのビジネスやウイルス解析などに携わっていました。サイバーセキュリティ一筋でキャリアを重ね、もう25年になります。

現在はNTTデータのCSIRT（Computer Security Incident Response Team）組織である「NTTDATA-CERT」に所属し、グループ全体のサイバーセキュリティ事件・事故対応を担当していますが、最近はインシデントも減ってきたことから、セキュリティ関連のビジネス支援やエバンジェリスト的な活動も増えています。また、AIとサイバーセキュリティの融合をテーマに大学院博士課程に社会人入学し、AIのセキュリティ応用やリスクについて研究してきました。「AI対AI」の時代が到来した現在は、セキュリティとAIの両面を理解できる専門家として、さまざまな場でお話しする機会をいただいています。

猪野 直人（以降、猪野）：私は新卒でNTTドコモビジネス（当時：NTTコミュニケーションズ）に入社して以来、一貫して法人ビジネスに携わってきました。エンジニアとして企業のITシステムインフラのコンサルティングやデリバリーを担当する一方、セキュリティについてもITインフラの一部として関わってきました。5年前にNTTデータに異動し、引き続きITインフラ提供を経験した後、2年前から現職に復帰し、生成AIを中心としたソリューションの企画・提案・デリバリーに従事しています。特にセキュリティ分野と生成AIを組み合わせた仕組みで、お客様に新たな価値を提供できないかと模索しています。

――先ほど新井さんから「AI」というキーワードが出ましたが、実際に昨今では犯罪者にAIが悪用されるなど、サイバー攻撃がますます高度化しています。具体的にはどのような変化が見られますか。

新井氏：まず、サイバー攻撃の現場では、生成AIがフィッシングメールや詐欺メールの作成に使われています。従来は日本語の不自然さが「怪しい」と判断するポイントでしたが、生成AIも大量の日本語データを学習していったため、ほぼ完璧な日本語でメールを生成できるようになりました。これにより従来の「言語の壁」がなくなり、攻撃の成功率が大幅に上がっています。

さらに最近のコンピューターウイルスは、感染後の行動をAIに決定させるケースが出てきています。例えばウイルスが端末に侵入した後、「次に何をすべきか」をAIに問い合わせて、その都度異なる行動を取るというものです。犯罪者はAIを悪用することで、サイバー攻撃の自律化・自動化を加速させているのです。

――そうした変化を、日本企業はどこまで認知していますか。

猪野：お客様の間でもさまざまな業務で生成AIを活用する動きは広がっていますが、セキュリティ分野でのAI活用やAIによる攻撃リスクに対する意識は、残念ながらまだ一部のアーリーアダプターに限られている印象です。先ほど話題に上った自然な日本語で書かれた攻撃メールが届いたとしても、そこに生成AIが使われていると気づかないユーザーが大半ではないでしょうか。

――近年は「サイバー犯罪の産業化」という動向も聞きますが、そこでもAIが悪用されているのでしょうか。また、それは企業にどのようなリスクをもたらしますか。

新井氏：私たちが通常利用している生成AIには倫理的なガードレールが設けられているため、法規制や社会通念を無視したような利用にはストップがかかります。しかし、犯罪者は独自に制約のないAIモデルを開発し、ブラックマーケットで販売し始めています。約2年前から犯罪者向けAIがダークウェブなどで流通するようになり、実際に購入して検証したある研究では、93％の確率でウイルス作成に成功したとの報告もあります。こうしたAIは口コミで広がり、サイバー攻撃の効率化・高度化が進んでいるのが現状です。

防御側でも進むAI活用とその課題

――AIを悪用した攻撃から、いかにして重要システムを守ればよいのでしょうか。

猪野：先ほど新井さんから「AI vs AI」というキーワードをいただいたとおり、犯罪者側がAIによってサイバー攻撃の効率化や高度化を進めるならば、防御側もAIを活用しなければ太刀打ちできません。とはいえ、現状ではAIによる攻撃の全容が見えにくく、守る側もどのような対策が有効か模索している段階です。

ただし、まったくのお手上げ状態というわけではありません。多くのユーザーが意識しない間に、防御側も水面下で積極的にAI技術を導入・活用しています。例えば従来のウイルス対策ソフトでは「パターンファイル」と呼ばれるウイルスの特徴リスト（シグネチャー）を人間が作成し、それに一致するものを検知していました。この仕組みでは、先ほどのAIによってその都度行動を変えるタイプのウイルスを検知することはできません。

そこで現在のウイルス対策ソフトでは、膨大な数のウイルスサンプルをAIに学習させ、未知のウイルスや変異するウイルスについても「振る舞い」や「特徴量」から検知できる仕組みを搭載しています。これは「機械学習型アンチウイルス」や「NGVA（次世代アンチウイルス）と呼ばれる技術で、AIがウイルスの特徴を抽出してリアルタイムに判定が可能です。

新井氏：補足すると、脆弱性診断の分野でもAIが活躍しています。従来は専門のエンジニアが手作業でシステムの脆弱性をチェックしていましたが、今はAIが24時間365日にわたり自動的にシステムの巡回診断を行い、潜在している設定ミスやセキュリティホールを発見します。実際、本年度のバグバウンティ（脆弱性発見報奨金制度）では、AIが半年間で1,000件以上の脆弱性を発見しました。これは人間のトップハンターの5倍以上に相当する成果です。AIは膨大なデータを高速に解析できるため、人的リソースの限界を大きく超えるパフォーマンスを発揮します。

――とはいえ、現在でも名だたる大手企業がサイバー攻撃を受けて、事業継続に支障をきたし、甚大な被害が発生する事件が後を絶ちません。そうした企業もセキュリティ対策には、もともと相当な力を入れてきたはずですが、インシデントを回避することができませんでした。その意味で、あらゆるセキュリティ製品にAIが組み込まれはじめたとしても、決して安心することはできません。特に日本企業はどんな弱点があり、それをどのように克服していかなければならないとお考えですか。

新井氏：最も急がれるのは人材面の強化です。防御側へのAIの組み込みが進みつつあるとはいえ、AIによるフルオートメーションはまだ実現しておらず、最終的な判断は人間が担っています。AIを活用した巧妙な手段を駆使し、ますます悪質化・高度化していく昨今のサイバー攻撃を100％完全に防ぐことは不可能であり、システムに侵入された際に迅速な対処が求められます。要するに、そうした緊急事態で的確な判断を下すことができる人材が不足しているのです。セキュリティ専門ベンダーのプロフェッショナル人材に頼るのも一つの方法ですが、そのような人材は非常に稀な存在です。

セキュリティ人材不足にどう対処していくべきか

――日本のセキュリティ人材は、世界と比べてどれくらい不足しているのですか。

新井氏：例えば米国と比べると、日本のセキュリティエンジニアは10分の1程度しかいません。軍需産業がリーダーシップを発揮している米国は、セキュリティクリアランスなど専門人材の育成・資格制度が充実しています。韓国も同様で国家主導で人材育成を進めており、国際的なAIコンテストで圧倒的な強さを見せるなど、大きな成果を上げています。さらに特筆すべきがイスラエルです。やはり政府主導でセキュリティ人材の育成や研究開発に力を入れているほか、軍需産業のノウハウを民間にも広く展開しており、攻撃と防御の両面での高度な技術力を有しています。

――そうしたセキュリティ先進国を日本としていかにキャッチアップし、社会やビジネスの安全を確保していけばよいのでしょうか。

猪野：一朝一夕でセキュリティ人材を育成・拡大するのは困難なため、専門家のノウハウをAIに学習させて、判断を任せられる領域を少しずつでも広げていくことが肝要です。セキュリティ対策の現場で人が果たす役割が決してゼロになることはありませんが、限られたセキュリティ専門家の知見を最大限に活かすことで、各企業における人の負担を減らしていく仕組みづくりは求められます。

――具体的なソリューション展開も進んでいるのでしょうか。

猪野：NTTドコモビジネスとしても「AI Advisor」というツールを開発し、提供を開始しています。セキュリティ対策においては、複数の製品を組み合わせた多層防御が基本となりますが、そこから日々発生するアラートの量は膨大で、その全てを人間が目視と手作業で確認するのは現実的ではありません。そこでAI Advisorが発生したアラートの優先順位付けを行い、対応すべきか否かの判断をAIによってサポートします。このAIは企業ごとのシステム構成や過去の対応履歴を学習しており、「この脆弱性は自社に関係ない」「このアラートは無視してよい」といった判断を自動化します。これによりシステムのオペレーションを担当するエンジニアの負担を大幅に軽減し、限られたセキュリティ専門家をより重要な業務に集中させることが可能です。

新井氏： AI Advisorのような支援ツールは、セキュリティ人材の底上げや層の拡大に寄与する教育面で果たす効果も大きいと考えています。人が質問し、AIが答えるというやりとりを重ねることで、サイバーセキュリティに対するユーザー自身の知識レベルやスキルも向上します。プロフェッショナルのノウハウをAIに組み込むことで、専門知識を持たないユーザーも自然な流れでレベルアップできる「人を育てるソリューション」として高い価値をもたらします。

最終判断や責任を負うのはあくまでも人間

――「AI vs AI」の攻防がさらに拡大して中で、企業には今後、どのようなセキュリティ対策が必要となりますか。また、防御側における人間とAIの役割分担は、どのようになっていくとお考えですか。

猪野：NTTドコモビジネスとしては、あらかじめセキュリティ機能を組み込んだインフラサービスを提供し、企業規模の大小や業界業種の違いを問わず「意識しなくても最低限のセキュリティが担保される」という仕組みづくりを進め、幅広いお客様に提供することが自らの使命だと認識しています。

新井氏：今後も間違いなく、あらゆるセキュリティ製品にAI技術が搭載されていくことになります。猪野さんがおっしゃるとおり、ITシステム全般にセキュリティを目的としたAIが組み込まれていき、対策の自動化が進んでいくと考えられます。ただし、AIによる自動化には課題もあります。AIといえども全知全能ではなく、例えば誤検知を起こした場合、それを見極める「目利き」ができる人材が必要です。

猪野：また、AIの学習には適切な教師データが不可欠です。自社の業務やITの利用形態に応じた正しい判断基準や現場のノウハウをAIに学習させることでこそ、より精度の高い判断が可能となります。その継続的な取り組みを支え、企業ごとのセキュリティ対策のプロフェッショナルを育てていくためにも、人材育成型AIソリューションに対するニーズはますます高まっていくでしょう。

新井氏：セキュリティ対策において、AIが主導的な役割を担っていく場面が拡大していきますが、それでも最終判断や責任を負うのが人間であることに変わりはありません。現場のプロフェッショナルの価値は今後さらに高まり、人材育成が企業の強さにつながります。

猪野：セキュリティ対策に終わりはなく、攻撃と防御はいつまで経ってもイタチごっこの繰り返しですが、だからこそ企業は「最低限守るべき領域」を優先順位付けし、攻撃・侵入を前提としたシステムのレジリエンスや事業継続を考える必要があります。AIの活用が当たり前になる中で、新井さんのおっしゃるとおり人間は最終判断や価値判断を担い、その支援や強化のためにAIを活用するという役割分担が重要です。

新井氏：人材育成とAI活用のバランスを取りながら、誰もが安心してITを活用できる社会の実現が求められています。今後もNTTデータはNTTドコモビジネスとしっかり手を携えて、皆様のご期待にお応えしていきます。