ブログ

Aug 20, 2023

生成 AI: サイバーセキュリティの味方と敵

L'hacker informatico ruba dati personali attraverso il concetto di laptop di rete

コンピューター ハッカー、ネットワーク セキュリティ、および電子... [+] バンキング セキュリティのためのラップトップのコンセプトを通じて個人データを盗む

OpenAI の ChatGPT チャットボット、DALL-E2 画像ジェネレーター、CarynAI や Replika のバーチャル コンパニオンなどの生成 AI ツールが、バーチャルな恋愛関係に携わる孤独な人々からすべての人に採用されていることから、人工知能が単なる未来への好奇心を超えていることは明らかです。ソーシャルメディアのプロフィール写真用に意欲的な写真を作成している人々に。 ビジネスの面では、CEO はデータ分析、顧客サービス、旅行の手配、マーケティング、コードの作成など、さまざまな分野で生成 AI が自社に与える影響を想像しています。

サイバーセキュリティの世界でも、AI が同じくらい大きな話題を呼んでいます。 RSA カンファレンスは、世界最大のサイバーセキュリティカンファレンスです。 4月にサンフランシスコで開催されたこの会議には、米国サイバーセキュリティ・インフラセキュリティ庁(CISA)、国家安全保障局(NSA)、米国航空宇宙局(NASA)の政府関係者によるAIのリスクと利点についての見解が含まれていました。その他。 同じカンファレンスで、Google は大規模言語モデル (LLM) の進歩を活用する、AI を活用した新しい Google Cloud Security AI Workbench を発表しました。 また、RSA では、SentinelOne が、これらの進歩を活用した企業全体の自律的な対応を備えた AI を活用したサイバーセキュリティ脅威検出プラットフォームを発表しました。また、Veracode は、生成 AI を使用してコード内のセキュリティ上の欠陥の修正を推奨する Veracode Fix を発表しました。

SentinelOne 共同創設者兼 CEO トーマー・ワインガルテン氏

Tomer Weingarten は、日立、サムスン、ポリティコを顧客に持つ大手サイバーセキュリティ企業 SentinelOne の共同創設者兼 CEO です。 同氏は、生成型 AI が現在のサイバーセキュリティの最大の問題、つまりサイバー攻撃を保護し、対抗するために必要な方法論やツールをほとんどの人が知らないという複雑さへの取り組みに役立つ可能性があると説明しています。 そして、この分野で働くために必要な非常に高い熟練度による高い参入障壁によって引き起こされる人材不足です。

「AI はこれらすべての問題に対処できる非常にスケーラブルな機能を備えており、複雑なクエリ言語、複雑な操作、リバース エンジニアリングを使用する必要がなくなり、初心者レベルのアナリストでも生成 AI を使用できるようになったことが実証されました。このアルゴリズムは舞台裏で自動的に実行され、英語やその他の言語に翻訳して洞察を提供し、自動化されたアクションを適用して表面化した問題を修正できます」とワインガルテン氏は述べています。 「複雑さを取り除き、すべてのアナリストがスーパーアナリストになれるようにすることで、サイバーセキュリティのやり方を完全に変革しました。通常は数日かかっていたことを数秒で行えるスーパーパワーを彼らに与えているようなものです」 . それは真の力の乗算器です。」

ワインガルテン氏によると、生成 AI が取り組むサイバーセキュリティのもう 1 つの大きな問題は、サイバーセキュリティ業界が個別のサイロ化された製品で構築されており、それぞれがサイバー防御の特定の側面に取り組むように設計されているという事実です。 「サイバーセキュリティにおけるAIの真の破壊は、すべてのデータを1つの中央リポジトリに集約することからもたらされます」と同氏は述べた。 「そして、そのデータレイクの上に AI アルゴリズムを適用すると、今日のサイバーセキュリティ防御に組み込まれているさまざまな要素間の複合的な相関関係が確認できるようになります。これらのデータ集約型の問題において、AI を使用すると、問題を見つけることに驚くほど熟練できるようになります。干し草の山に針を刺すんだ。」

Brian Roche 氏、アプリケーション セキュリティ会社 Veracode 最高製品責任者

アプリケーション セキュリティ会社 Veracode の最高製品責任者であるブライアン ロシュ氏が、サイバーセキュリティにおける AI の悪意のある側面について説明します。 「ハッカーはAIを利用して攻撃を自動化し、検出システムを回避し、さらにはリアルタイムで変異するマルウェアを作成している」とロシュ氏は述べた。 「さらに、ダークウェブのフォーラムでは、ChatGPT などの生成 AI プラットフォームを使用してスピアフィッシングやソーシャル エンジニアリング攻撃を実行する方法についての議論がすでに行われています。」

ロシュ氏は、自然言語処理の深層学習モデルを備えた AI ソリューションは、開発者がコードを作成する際にセキュリティ上の欠陥に対する提案された修正を共有することで、サイバーセキュリティに対する予防的なアプローチを取ることができると主張しています。 「これにより、開発者がアプリケーションのソフトウェア開発ライフサイクルのどこかでこれらの欠陥を手動で修正する必要が減り、時間とリソースが節約されます。厳選されたデータセットでトレーニングされた場合、このタイプの AI を活用したソリューションは開発者に取って代わるのではなく、単に開発者を置き換えることができるようになります。」彼らはより安全なコードの作成に集中し、欠陥のスキャンと修復という退屈だが非常に重要なタスクは自動化に任せるべきだ」とロシュ氏は語った。

しかしロシュ氏は、「組織はAIソリューションに取り組む前に注意が必要である。トレーニングが不十分なAIモデルは、全くダメージを与えないのと同じくらい大きなダメージを与える可能性があるからだ。AIモデルの良さは、それを動かすデータの良さによって決まる。つまり、AIモデルが優れていればいるほど、データが多ければ多いほど、結果はより正確になります。」

生成 AI は悪意のあるコードを変形させ、検出や従来のサイバーセキュリティ防御を回避することで、より大きな脅威を生み出す可能性があります。 サイバーセキュリティ防御の効果を維持するには、サイバー犯罪者よりも一歩先に革新し、進化する必要があります。

これに対して、ワインガルテン氏は、生成 AI が複雑さを解消し、人材不足に対処することでサイバーセキュリティにもたらす利点に関する彼の理論は双方向に作用すると指摘しています。 生成 AI は、政府の敵対者がより拡張可能かつ高度になるのに役立ち、ハッカーの参入障壁を取り除くこともできます。 「AI は、初心者レベルの攻撃者や敵対者が、これまで政府レベルの攻撃者のみに限定されていた機能を獲得するのに役立ちます。生成 AI は、攻撃の状況を大幅に強化するでしょう」とワインガルテン氏は述べています。 同氏は、生成 AI は、国家指導者が敵の凶悪な目的を支援する情報を提供するフェイクビデオの作成にも使用でき、何が本物で何が偽物で、誰を信頼すればよいのかが分からないという懐疑的な見方につながる可能性があると付け加えた。

「オープンソース」という用語は、公的にアクセス可能であり、所有者が誰でも表示、使用、変更、共有、配布できるようにするコードを指します。 オープンソースは、コラボレーションと共有を通じて開発の迅速化を促進すると主張できます。 Business InsiderのライターHasan Chowdhuryが報じたところによると、Googleの上級ソフトウェアエンジニアであるLuke Sernau氏は、「オープンソースエンジニアは100ドルで『我々は苦労している』ことを1000万ドルでやっていて、『何か月ではなく数週間でやっている』と述べた」と述べた。最近Googleのメモがリークされ、生成AIに関してはオープンソース派がGoogleやOpenAI、その他の主要テクノロジー企業に「負けている」という。

Weingarten 氏は、オープンソース コードとプロプライエタリ コードの両方に居場所があると感じています。 「しかし結局のところ、オープンソースとそれに伴う透明性は、特にそのような基礎的な技術においては不可欠な要素だ」と同氏は述べた。 「特にテクノロジーに精通した企業に対しては、オープンソースのアルゴリズムを活用します。なぜなら、オープンソースのアルゴリズムは私たちにとってより予測可能であり、アルゴリズムがどのように機能するかを理解しており、必要なものに合わせてトレーニングできるからです。」

サイバーセキュリティおよび分析会社 Skybrid Solutions の COO、Reuben Maher 氏

サイバーセキュリティおよび分析会社 Skybrid Solutions の最高執行責任者である Reuben Maher 氏は、生成 AI とオープンソースの両方を組み込んだ総合的なサイバー アプローチについて現実的です。 「オープンソース コードと堅牢な生成 AI 機能の融合は、エンタープライズ サイバーセキュリティ領域において、進化する脅威に対する強力かつますますインテリジェントな防御を組織に提供する強力な可能性を秘めています」と Maher 氏は述べています。 「一方で、脅威を予測し、タスクを自動化し、脅威インテリジェンスを強化する生成 AI の能力は、オープンソース フレームワークによって提供される透明性とコミュニティ サポートによって強化されます。これにより、企業全体の脆弱性の検出と対応が大幅に高速化されます。」

「一方で、」とマーヘル氏は続けます。「それは絶妙なバランスです。強力な生成 AI モデルには偽陽性と偽陰性が含まれる可能性があり、そのため意思決定プロセスが不透明になります。オープンソース コードは、その透明性とコスト効率にもかかわらず、放置される可能性があります。コミュニティのサポートが追いつくまで、システムは発見された脆弱性を悪用する攻撃者にさらされることになります。」 Maher 氏は、「これらの要因には慎重なアプローチが必要であり、最終的には、これらのテクノロジーの戦略的適用が、ますます接続が進むデジタル世界でビジネスを保護するための要となる可能性があります。」と結論付けています。

それで、答えは何でしょうか？ 生成 AI は今後も定着し、サイバーセキュリティにリスクとメリットの両方をもたらします。

マーヘル氏は、ペースを維持するためには、サイバー脅威ハンティング側の賢明な対応が、少なくとも悪意のある側のそれに比例してますます必要になると示唆しています。 「オープンソースプレーヤーがGoogle、Microsoft、OpenAIのような世界的巨大企業の能力を上回る、より洗練されたモデルを急速に構築するにつれて、LLMの組み込みはますます一般的になるだろう」とMaher氏は述べた。 「生成 AI サイバー ソリューションのリーダーは、大量の機密情報や個人情報に関するデータ プライバシーの懸念が高まっているため、ユーザーの信頼を維持しながら、誤検知と誤検知を制限しながら、より多くのトランザクション タスクに関する自動化を強化する必要があります。」

ワインガルテン氏は、地政学的緊張が高まっている時期に生成 AI が広く普及したと指摘しています。 「不安定なシチューが沸騰している鍋に AI のような過給成分を加えることは、実際にさらなる大混乱を引き起こす可能性があるため、生成 AI を責任を持って使用するためのガイドラインが必要です。これらすべてにおいておそらく政府の規制が最も重要な要素であり、これまでにもいくつかの規制が行われてきましたが、ヨーロッパでは試みられているが、米国ではこれを本格的に行っていない」

マーヘル氏は、「一部の世界的なAIリーダーが先進技術国家に生成型AI機能の開発を求めていた『倫理のための一時停止』については理解できるが、犯罪者は我々の倫理に拘束されていないため、その戦略には同意できない。我々は単純にそうすることができる」と結論づけた。 「LLM を使用する犯罪者にこの分野の革新を先導させ、その結果、他の全員が追いつくことになります。私たちが問題を解決する間、悪者たちは立ち止まるつもりはありません。では、なぜ私たちがしなければならないのでしょうか? 賭け金が高すぎます!」

わかりやすくするために会話は編集され、要約されています。 ここで私の他のコラムをチェックしてください。