AIが攻撃し、AIが守る時代に。NTTグループの専門家が語るサイバーセキュリティの最前線

AI技術の進化により、サイバー攻撃と防御の現場は「AI vs AI」の新たな局面を迎えています。生成AIを悪用した巧妙なフィッシングメールやウイルス作成、ブラックマーケットで流通する犯罪者向けAIなど、脅威は日々増していくばかりです。一方、防御側もAIを活用した次世代アンチウイルスや脆弱性診断などで対抗しています。しかし、AIだけでは防ぎきれない現実もあり、最終的な判断や対応には人材の強化が不可欠です。人とAIが協働し、企業や社会の安全を守るために今求められる対策と人材育成の重要性について、NTTデータの新井 悠氏と、NTTドコモビジネスの猪野 直人が語り合いました。

---

サイバー攻撃の最新動向とAIが及ぼす影響

――まずはお二人のご経歴や現在のミッションについて、簡単にご紹介ください。

新井 悠氏（以降、新井氏）：NTTデータに入社して6年目になります。前職ではセキュリティベンダーにて、ウイルス対策ソフトのビジネスやウイルス解析などに携わっていました。サイバーセキュリティ一筋でキャリアを重ね、もう25年になります。

現在はNTTデータのCSIRT（Computer Security Incident Response Team）組織である「NTTDATA-CERT」に所属し、グループ全体のサイバーセキュリティ事件・事故対応を担当していますが、最近はインシデントも減ってきたことから、セキュリティ関連のビジネス支援やエバンジェリスト的な活動も増えています。また、AIとサイバーセキュリティの融合をテーマに大学院博士課程に社会人入学し、AIのセキュリティ応用やリスクについて研究してきました。「AI対AI」の時代が到来した現在は、セキュリティとAIの両面を理解できる専門家として、さまざまな場でお話しする機会をいただいています。

猪野 直人（以降、猪野）：私は新卒でNTTドコモビジネス（当時：NTTコミュニケーションズ）に入社して以来、一貫して法人ビジネスに携わってきました。エンジニアとして企業のITシステムインフラのコンサルティングやデリバリーを担当する一方、セキュリティについてもITインフラの一部として関わってきました。5年前にNTTデータに異動し、引き続きITインフラ提供を経験した後、2年前から現職に復帰し、生成AIを中心としたソリューションの企画・提案・デリバリーに従事しています。特にセキュリティ分野と生成AIを組み合わせた仕組みで、お客様に新たな価値を提供できないかと模索しています。

――先ほど新井さんから「AI」というキーワードが出ましたが、実際に昨今では犯罪者にAIが悪用されるなど、サイバー攻撃がますます高度化しています。具体的にはどのような変化が見られますか。

新井氏：まず、サイバー攻撃の現場では、生成AIがフィッシングメールや詐欺メールの作成に使われています。従来は日本語の不自然さが「怪しい」と判断するポイントでしたが、生成AIも大量の日本語データを学習していったため、ほぼ完璧な日本語でメールを生成できるようになりました。これにより従来の「言語の壁」がなくなり、攻撃の成功率が大幅に上がっています。

さらに最近のコンピューターウイルスは、感染後の行動をAIに決定させるケースが出てきています。例えばウイルスが端末に侵入した後、「次に何をすべきか」をAIに問い合わせて、その都度異なる行動を取るというものです。犯罪者はAIを悪用することで、サイバー攻撃の自律化・自動化を加速させているのです。

――そうした変化を、日本企業はどこまで認知していますか。

猪野：お客様の間でもさまざまな業務で生成AIを活用する動きは広がっていますが、セキュリティ分野でのAI活用やAIによる攻撃リスクに対する意識は、残念ながらまだ一部のアーリーアダプターに限られている印象です。先ほど話題に上った自然な日本語で書かれた攻撃メールが届いたとしても、そこに生成AIが使われていると気づかないユーザーが大半ではないでしょうか。

――近年は「サイバー犯罪の産業化」という動向も聞きますが、そこでもAIが悪用されているのでしょうか。また、それは企業にどのようなリスクをもたらしますか。

新井氏：私たちが通常利用している生成AIには倫理的なガードレールが設けられているため、法規制や社会通念を無視したような利用にはストップがかかります。しかし、犯罪者は独自に制約のないAIモデルを開発し、ブラックマーケットで販売し始めています。約2年前から犯罪者向けAIがダークウェブなどで流通するようになり、実際に購入して検証したある研究では、93％の確率でウイルス作成に成功したとの報告もあります。こうしたAIは口コミで広がり、サイバー攻撃の効率化・高度化が進んでいるのが現状です。

防御側でも進むAI活用とその課題