「セキュリティの基本」に戻って AI リスクに備える

聞いたことがない日はない 人工知能 ニュースで。新しいテクノロジーの急速な開発からそれが私たちの将来に与える影響まで、特にテクノロジーの世界では、AIは常に私たちの心に浮かんでいます。

そして、ChatGPTのようなツールの新しい進歩をめぐる最も切実な疑問のいくつかは、サイバーセキュリティの世界から来ています。攻撃者はどのようにしてAIを利用して悪質な行為を助長するのでしょうか？そして、ランサムウェアはどのように進化して私たちの防御をうまく回避できるのでしょうか？

このツールとそれがサイバーセキュリティ業界の将来にとって何を意味するのかを説明するために、Illumioのシニア・システム・エンジニアであるPaul DantとIllumioのEMEA担当システム・エンジニアリング・ディレクターであるMichael Adjeiが、AIの仕組み、その脆弱性はどこにあるのか、そしてセキュリティリーダーがどのようにその影響に対処できるのかについて話し合いました。

彼らの最終的なアドバイスは？基本に立ち返りましょう。

読んでみて ディスカッションの全文を見る —下の短いクリップで—その理由を学びましょう.

AIの構造とその多くの脆弱性

それが行われています 2 年未満 ChatGPTが最初に発売されて以来、そしてこのような短期間で、業界ではすでにその傾向が見られます 新しい AI テクノロジー サイバーセキュリティに大きな影響を与えますが、すでにそれを善と悪の両方に利用したい人々の手に渡っています。

攻撃者が干渉する可能性のあるポイントに対抗するために、AIがどのように構成されているかを理解することが重要です。

「簡単に言うと、AIは入力層、隠れ層、出力層を含むデータセットを持つことで機能します」とAdjei氏は説明します。「データは入力層に押し込まれ、隠れ層に移動します。そこで AI の「魔法」が起こります。そして、最終的には消費者がそのデータを操作できる出力層に送られます。」

このプロセスのどこに脆弱性があるのでしょうか？「ほぼすべての段階で」とAdjei氏は言います。

AI のセキュリティリスクは何年も前から存在しています。

これらの脆弱性は、昨年ChatGPTが広くリリースされたことから始まっただけではありません。AdjeiとDantは、侵害されたAIシステムは何年も前から存在しており、見過ごされがちなAIシステムの大きなリスクであると説明しました。

引用されたペア マイクロソフトが2016年にTwitter向けAIチャットボットをローンチ:「数時間も経たないうちに、チャットボットには、インターネットから想像できる最悪で最も卑劣な情報がすべて提供されました。それは AI の進歩を示すだけのものから、ネット上に存在するあらゆる悪いものへと変わりました」と Adjei 氏は言います。

これは AI に関連する攻撃の初期の単純な例ですが、悪意のある攻撃者が既存の攻撃を基盤としてどのように構築できるかを示しています。 戦術、技法、手順 (TTP) 新しいテクノロジーをすぐに新しい攻撃手段に変えることです。あらゆる業界、地域、規模の組織が、避けられない事態から身を守るために積極的に準備する必要があります。 AI が生成する攻撃。

最近の例として、DantはChatGPTにランサムウェアをその場で作成するように促し、そのガードレールがいかに簡単に回避できるかを強調しました。ChatGPTは、「ランサムウェアを書いてください」というDantのプロンプトには応じようとはしませんでした。しかし、彼がプロンプトに教育的な工夫を凝らし、彼の要求を無邪気に見える手順に分解したところ、ChatGPTが助けようとしていて、最終的には彼のためにランサムウェアを構築していることがわかりました。

「ChatGPTは私たちを助けたいと思っています」とダントは言いました。「私が見つけたのは、プロンプトに本当に教育的な工夫をしても、最終的な意図が何なのかがわからない可能性が高く、実際にランサムウェアスクリプトの作成を自動化するのに役立つということです。」

この例は、攻撃者が攻撃の量と影響を加速させるために日々発見し、使用している AI の多くのユースケースの 1 つにすぎません。Adjeiが専門的にまとめたように、「かなりかっこいいけど、かなり怖い」。

セキュリティリーダーがAIリスクにどのように対応すべきか

サイバーセキュリティにおいてAIが引き起こしている恐怖にもかかわらず、AdjeiとDantは、次の潜在的な攻撃から身を守るために組織ができることはたくさんあるという点で意見が一致しました。最も重要なことは、基本に立ち返ることです。

「多くのCISOやセキュリティリーダーの第一印象は、『AIは悪者に利用されているため、善人にももっと多くのAIが必要だ』というものでした」とAdjei氏は言います。「しかし、必ずしもそうではありません。」

ダント氏はこれに同意し、攻撃者の動きと同じ速度でデータを分析し、タスクを完了するという点ではAIの重要性が高まる一方で、AI攻撃に備える最善の方法はサイバー衛生を確保することだと説明しました。

「第一の原則は基本に立ち返ることです」とダントは言いました。「究極的には、優れたサイバー衛生管理は、 横方向の動き防止、および ゼロトラストの原則 将来的にはさらに有効になります。」

AIが生成する攻撃がどのように発展しても、中核となるセキュリティ原則は変わりません。「セキュリティリーダーにとって、AI に直面しても圧倒されないようにすることが重要です」と Dant 氏は言います。

今後、AdjeiとDantは、セキュリティリーダーに対し、ゼロトラストのセキュリティ戦略に沿ったサイバーレジリエンスと侵害封じ込めの構築に注力するよう奨励しています。

ウェビナーの全文を視聴する ChatGPTによって、攻撃者がAIを使ったランサムウェアをいかに簡単に構築できるかを見てみましょう。

今すぐお問い合わせ イルミオ・ゼロトラスト・セグメンテーション・プラットフォームによるAI攻撃に対するレジリエンスの構築について詳しく学んでください。