Generative AIは全力でサイバーセキュリティに参入し、あらゆる強力なテクノロジーと同様に、その利点と欠点があります。 一方で、攻撃者はすでにマルウェアを生成し、フィッシングキャンペーンを製造し、信頼を損なうディープファックスを作成するためにAIを実験している一方で、弁護士はAIを使用して侵入テストを拡大し、アプリケーションのセキュリティを加速し、コンプライアンスの痛みを軽減し始めている。 値段は高く、最近は ゼロ・デー・エクスプレットは年間で46%増加しており、攻撃者が加速しているという明確なシグナルです。 2028年までに、企業の70%がAIをセキュリティ操作に採用する。 FORESCOUT VEDERE LABS 2025レポート Gartner 予測 AIはすでに侵入テスト、アプリケーションのセキュリティ、およびコンプライアンスを変更しているが、それは人間の専門知識の代わりではない。 生成型AIの二重用途性質 サイバーセキュリティにおける生成型AIは、二重用途のテクノロジーとして最もよく理解されており、攻撃と防御の両方を強化しています。 攻撃者にとって AIは、洗練されたフィッシングメール、偽の個人、悪意のあるコード、さらには自動的な取チェーンを生成することによって障壁を低下させます。 自主的なエージェントがどのようにしてシステムをスキャンし、取し、回転させることができるかを示し、概念の証明研究と敵の能力の間の境界線を曖昧にする。 (AI生成のポリモルフィックキーロガー)および (地下フォーラムで「サイバー犯罪のためのChatGPT」としてマーケティングされている)は、すでに可能なことを示しています。 CAI(Cognitive Autonomous Intelligence) ブラックマンバ WORMGPT 弁護士のためのGENAI AIはスケール、スピード、インテリジェンスを提供しています。SOCコピオットを超えて、AIのセキュリティコードレビューとAI駆動の脆弱性スキャナを通じて、AIは直接ソフトウェア開発ライフサイクル(SDLC)に組み込まれています。 (セキュアなコードのチェックで、 そして、 問題を早期に把握し、下流修正コストを削減します。Microsoftの アナリストが警告を分類し、調査を加速させるのに役立ちます。 GitHub コピロット コード スナックコード AI 安全コパイロット この二重性は、多くの専門家が、セキュリティチームとサイバー犯罪者との間の「AI武器競争」を警告する理由であり、スピード、自動化、適応性が結果を決定する可能性があります。 攻撃的セキュリティ&浸透テスト 浸透テストは伝統的に時間がかかっており、ネットワーク、アプリケーション、インフラストラクチャの脆弱性を探索するために熟練した専門家に頼っています。 Large language models and autonomous agents can now: 
 
 
 
 Custom exploits と payloads on demand を生成します。 規模の高いフィッシングやソーシャルエンジニアリングキャンペーン。 攻撃者が攻撃する前にゼロデーの脆弱性をシミュレートするための混乱したルーチンを実行します。 衝撃的な証拠ポイントは、 最近登ったペンテーターは、 コントロールされたベンチマークでは、XBOWは104の課題のうち88をわずか28分で解決した - 経験豊富なヒトテストに40時間以上かかる任務。 . XBOW 1位 パロアルトのGlobalProtect VPN Other examples include: 
 
 
 
 AutoSploit は、Shodan と Metasploit を組み合わせた AI 支援利用の初期の試みです。 Bug bounty hunters using LLMs as copilots for reconnaissance and payload generation. バグボーンティーハンターは、ロボットとしてLLMを使用して、偵察とパイロード生成を行います。 MITRE ATLASは、敵がサイバー攻撃でAIを使用する方法をマッピングするフレームワークです。 しかしながら、そのスピードと精度にもかかわらず、XBOWのようなツールは依然として人間の監視を必要とします。自動化された結果は検証され、優先順位付けされ、規制およびビジネスリスクに基づいてマッピングされなければなりません。 これが、より速く、AI増強された発見と専門家の判断を組み合わせて、規制当局やパートナーからの圧力を受けた企業にとって有意義な結果を生み出す。 アプリケーションセキュリティで生成型AIがどのように使用されるか アプリケーションセキュリティ(AppSec)は、AIの迅速な採用を目の当たりとするもう一つの分野です。ソフトウェアのサプライチェーンは、純粋にマニュアルテストには広く、複雑すぎており、生成型AIはコピオットとして登場しています。 Key applications include: 
 
 
 
 
 
 コード分析とセキュアな SDLC コピロット: GitHub Copilot と CodiumAI は、コードが生産に到達する前に不確実なパターンを検出します。 AI駆動セキュリティスキャナ:Snyk Code AIとShiftLeft Scanは、アプリケーションやAPIを継続的に検索し、リアルタイムで脆弱性を明らかにします。 Auto-patching suggestions: GitHub は今、セキュアな修正を提案する AI 駆動の pull request を生成します。 LLMベースのアプリケーションのテスト:AI駆動のチャットボットの増加は新たなリスクをもたらします。速やかな注射攻撃はすでに野生にあります。 API Fuzzingとゼロデイシミュレーション:Peach FuzzerやAI駆動エージェントなどのツールは、マルフォーマットされた入力を自動的に生成します。 約束は効率性ですが、課題は信頼性です。AIによって生成されたパッチは、別の問題を作成しながら1つの問題を修正することができます。そのため、AIはAppSecで加速器として最もよく展開され、人々はその発見を検証し、修正がコンプライアンスフレームワークと一致することを保証します。 で、 あるいは 医療ソフト ISO 27001 について ヒッピー FDA MDR/IVDR コンプライアンス&ガバナンスで生成型AIがどのように使用されるか ペンテストとAppSecを超えて、AIはしばしば見落とされるコンプライアンスの世界で役割を果たしています。ヘルステクノロジー、バイオテクノロジー、またはフィンテックの企業にとって、コンプライアンスは成長を生み出したり、成長を崩したりする可能性があります。 Emerging applications include: 
 
 
 
 ISO 27001、SOC 2、HIPAA、およびGDPRのための自動的な証拠収集。 コントロールに対する脆弱性のマッピング:ペンテストの結果をFDA SPDFまたはISO条項に直接リンクします。 監査準備レポートの生成:Vendict、Scrut、Thoropassなどのプラットフォームは、AIを使用してセキュリティ姿勢を規制者フレンドリーなドキュメントに翻訳します。 これは、スタートアップが重い規制負担に直面し、パートナーシップや資金調達を獲得するためにセキュリティとコンプライアンスの両方を示す必要があるゲノミクスや診断において特に強力です。 産業例 サイバーセキュリティにおけるAIの使用は仮説的なものではなく、今日の業界で行われている。 
 
 
 
 
 
 IBM、NVIDIA、Accenture: SOC操作と脅威検出のためのAIコピオット。 Vendict, Scrut, Thoropass: AI を GRC ワークフローに組み込む 政府と国防部門:DARPAのAIサイバーチャレンジ(AIxCC)は、AIを用いてレッドチームの抵抗力を発揮します。 対立者:北朝鮮のAPTグループと組織化された詐欺団はすでにAIを詐欺、フィッシング、深い詐欺に使用している。 ケーススタディ:2019年、英国のエネルギー会社は、CEOの声で従業員を詐欺し、資金調達のために2万4千ドルを失った。 サイバーセキュリティにおける生成型AIの新たなリスク AIは新たな攻撃ベクターを導入し、既存のベクターを強化する。 
 
 
 
 
 
 
 AI駆動のフィッシングとソーシャルエンジニアリング:ディープファイクのオーディオ詐欺は高度に成長しています。 迅速な注射とモデル操作: OWASPのLLMトップ10は、迅速な注射を第1のリスクとして強調しています。 偏見とプライバシー:機密データセットに関するトレーニングモデルは、GDPRに基づくコンプライアンス違反のリスクがあります。 過度な依存性:AIの出力を福音のように扱うことは、盲点と偽ポジティブをリスクにさらします。 幻覚:研究では、AIコピロットが脆弱性や修正を製造していることが示されています。 依存リスク:AIプラットフォームにおけるSaaSの停止やAPIの変更は、パイプラインを妨げることがあります。 安全なAI採用のためのベストプラクティス戦略 AI をペンテスト、AppSec、またはコンプライアンスで責任ある方法で採用するためには、組織は以下のことをすべきです。 
 
 
 
 
 
 人間を循環に保つ:行動する前にAIの発見を検証する。 「影のAI」を管理する:認可されていないAIツールの使用を防ぐ(サムスンがChatGPTにデータを漏らすなど)。 継続的なシミュレーションを実行する:マイクロソフトのAIレッドチームは、対立リスクのココロボットをテストします。 セキュアな SDLC に統合する: AI レビューとスキャナを dev パイプラインに直接展開します。 NIST AI Risk Management FrameworkとENISAのAIセキュリティガイドラインは、AIの倫理的かつ安全な使用を確保するのに役立ちます。 概要&Outlook では、生成型AIはどのようにサイバーセキュリティで使用されるのでしょうか?それは、侵入テスト、アプリケーションセキュリティエンジニア、またはコンプライアンスリーダーを置き換えるものではありませんが、彼らの仕事を加速し、そのカバー範囲を拡大し、脆弱性が発見され報告される方法を再構成します。 優勝者は、AIを盲目的に採用する者でもなく、それを無視する者でもなく、AIを信頼できるコピオットとして活用する組織であり、スピードと人間の判断、技術の深さと規制の調和、自動化と責任を結びつける。 2030年までに、AI駆動型のペンテストとコンプライアンス自動化はテーブルベースになる可能性があります。決定的な要因は、企業がAIを使用するかどうかではなく、どのように責任を持って、戦略的に、安全にそれを使用するかです - 特にコンプライアンスと信頼が交渉できない規制分野では。 続きを読む & References 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 ForeScout Vedere Labs H1 2025 Threat Review 
 
 Gartner – The Future of AI in Cybersecurity 
 
 CAI – Cognitive Autonomous Intelligence 
 
 BlackMamba AI Keylogger 
 
 WormGPT Underground Tool 
 
 GitHub Copilot 
 
 CodiumAI 
 
 Snyk Code AI 
 
 Microsoft Security Copilot 
 
 XBOW Autonomous Pentester 
 
 Palo Alto GlobalProtect VPN Vulnerability 
 
 AutoSploit 
 
 AI in Bug Bounties – PortSwigger 
 
 MITRE ATLAS 
 
 OWASP Top 10 for LLM Apps 
 
 ISO 27001 Standard 
 
 HIPAA Security Rule 
 
 FDA Medical Device Regulation 
 
 FDA SPDF Guidance 
 
 Vendict 
 
 Scrut 
 
 Thoropass 
 
 IBM Security AI 
 
 NVIDIA AI for Security 
 
 Accenture Security 
 
 DARPA AIxCC 
 
 North Korean APT Attacks – Mandiant 
 
 WSJ – Deepfake CEO Fraud Case 
 
 FT – Deepfake Audio Scams 
 
 GDPR Text 
 
 Samsung ChatGPT Data Leak – The Register 
 
 Microsoft – AI Red Teaming 
 
 NIST AI Risk Management Framework 
 
 ENISA AI Security Guidelines

Visit Sekurno.com

このオーディオは、ストーリーの元の言語で制作されています。

生成型AIがサイバーセキュリティでどのように使用されるか

About Author

コメント

ラベル

この記事は

Related Stories

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

ワークフローを10倍に向上させる方法: 必須アプリ17選

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

ワークフローを10倍に向上させる方法: 必須アプリ17選

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps