定義、起源、そしてなぜ侵害封じ込めが必要なのか

フロンティアAIとは、特定の時点において最先端の能力を持つ、最も高度なAIシステムを指します。これらの汎用的な基盤モデルは非常に強力であるため、悪用されるとサイバーセキュリティを含む深刻なリスクをもたらす可能性がある。この用語は、固定された製品ではなく、常に変化する目標を指す。新しいモデルが古いモデルを凌駕するにつれて、「フロンティア」は前進していく。セキュリティ責任者にとって、最先端のAIが重要なのは、防御側に役立つ推論能力が、攻撃側にも役立つからである。これが、侵害封じ込めがAI時代の決定的な戦略となった理由です。

主なポイント

• 最先端AIとは、その時点で利用可能な最も高性能なAIのことです。ただし、その定義は相対的なものであり、この分野の進歩に伴って変化します。
• この用語は2023年半ばに造語され、英国のブレッチリー・パークで開催されたAI安全サミットを通じて普及した。
• それは、最先端の技術と、深刻で予測困難なリスクを意図的に組み合わせている。
• プロジェクト・グラスウィングの下で運営されている最先端モデルであるMythosは、最先端のAIがソフトウェアの脆弱性を機械の速度で発見し、兵器化できることを実証した。
• 戦略的な対応策は、企業における侵害封じ込め、すなわち、予防だけに頼るのではなく、侵害の影響範囲を限定するマイクロセグメンテーションとゼロトラストセグメンテーションを実施することである。

最先端AIとは何ですか？

フロンティアAIは、開発中のAIシステムの中で最も先進的なカテゴリーである。これは、推論、コーディング、マルチモーダル理解、自律的（エージェント）行動の最先端を行く汎用モデルです。この用語は、最先端のシステムと、より確立された、あるいは広く普及しているシステムを区別するために用いられる。

その特徴は、この分野が常に変化し続けていることだ。最先端のAIは本質的に関係性を重視するものであり、今日の最先端モデルは2年後には中堅レベルにまで発展するだろう。それは固定された技術の分類ではなく、現在最先端にある技術を指す呼称である。地図の端がリアルタイムで描かれていく様子を想像してみてください。フロンティアとは、地図に描かれ、理解されている領域が終わり、未開拓の領域が始まる境界線のことである。その境界線は外側へと移動し続け、そこには最大のチャンスと最大の危険が最初に現れる傾向がある。

「最先端AI」という用語はどこから来たのですか？

「フロンティアAI」という用語は2023年半ば頃に造語され、英国政府のフロンティアAIタスクフォースと、2023年11月にブレッチリー・パークで開催されたAI安全サミットを通じて、政策や業界の主流用語として定着した。それは、高度なAIを重大なリスク源として捉える人々によって推進され、英国政府のルートを通じて広められた。

セキュリティ専門家が注目すべきは、初期の定義の部分である。広く引用されている2023年の政策文書では、最先端AIを、公共の安全に深刻なリスクをもたらす可能性のある危険な能力を持つ、非常に高性能な基盤モデルと定義している。同論文は、危険な能力が予期せず出現する可能性があること、展開されたモデルが悪用されるのを防ぐのが難しいこと、そして能力の拡散を阻止するのが難しいことを警告した。「フロンティア」という言葉は、単に「印象的」という意味だけを意味するものではなかった。それは「印象的で制御が難しい」ことを意味していた。

なぜ人々は「最先端AI」という言葉を使うのでしょうか？

人々が「最先端AI」という言葉を使うのは、それが2つの概念を1つのフレーズで捉えているからだ。それは、モデルの卓越した能力と、深刻で予測困難な結果をもたらす可能性の両方である。その二重の意味こそが、規制、安全研究、そしてベンダーのメッセージングなど、あらゆる場面でこの言葉が登場する理由である。

言葉の選択は意図的なものです。フロンティアは機会と発見を連想させるが、同時に、確立されたルールが追いついていない未開拓の最前線でもある。それは、今日の最も強力なモデルが稼働する場所を的確に表している。この用語には批判もある。一部の人は、AIに対する過剰な期待を煽り、これらのシステムが既にどれほど強力で危険なものであるかについての特定の考え方を暗黙のうちに支持していると主張する。ほとんどの業界にとって、その議論は机上の空論に過ぎない。サイバーセキュリティにおいては、定義におけるリスクの部分は、運用上の部分に相当する。

ミトスとプロジェクト・グラスウィングとは何ですか？

Mythosは、ソフトウェアの脆弱性を機械速度で自律的に発見し、兵器化する能力を実証した最先端のAIモデルであり、Project Glasswingは、どの組織が防御目的でそれを使用できるかを管理するアクセス制限付きプログラムである。彼らは協力して、最先端AIのリスクに関する抽象的な議論を、具体的なサイバーセキュリティ事件へと変えた。

プレリリーステストにおいて、Mythosはわずか数週間で数千ものこれまで知られていなかった脆弱性を明らかにした。これは、汎用的な最先端モデルが、それらの脆弱性を推論によって見つけ出すのに十分な能力を備えているためである。プロジェクト・グラスウィングが存在するのは、まさにその能力を実現するためです。Mythosを一般公開するのではなく、アクセスを厳選されたパートナーに限定することで、防御側は同等の能力を持つ敵対者が脆弱性を悪用する前に、脆弱性を発見して修正することができます。防御的な論理は、数ヶ月という単位で見れば先行優位性をもたらす。なぜなら、その基盤となる機能は、単一のモデルに留まるのではなく、より広範なAI分野全体に拡散しつつあるからだ。

セキュリティ責任者にとっての教訓は、国境が常に封じ込められているとは限らないということだ。その能力が攻撃者に届くことを想定して、その後に何が起こるかを想定して設計する必要がある。

最先端のAIがサイバーセキュリティにとって重要な理由とは？

最先端のAIがサイバーセキュリティにおいて重要なのは、脆弱性を発見して悪用するために必要なコスト、時間、専門知識を劇的に削減できるだけでなく、攻撃者と防御者が同時に同じ機能を利用できるようになるからである。情報活動には、防衛のみを目的としたバージョンは存在しない。戦線が前進するとき、それは両陣営にとって同じ日に前進するのだ。

構造的な帰結は単純だ。攻撃者が機械の速度で行動し、防御者が人間の速度で行動する場合、予防だけでは敗北する。数十年間、警備体制は、より高い壁、より深い堀、門番の数を増やした城のようなものだった。Frontier AIは、侵入者全員に疲れ知らずのジェットパックを支給し、1時間に100万個のレンガを検査して、外れているレンガを探し出すことができる。脆弱性を発見してから悪用するまでの時間は、数ヶ月から数分へと短縮され、かつて素人を阻んでいた専門知識の壁はますます低くなっている。クトゥルフ神話は、その変化を無視できないものにした。

セキュリティチームは最先端のAIにどのように対応すべきか？

セキュリティチームは、最先端のAIに対応するために、予防優先の姿勢から企業全体の侵害封じ込めへと方針転換すべきである。なぜなら、AIモデルが発見する可能性のあるすべての脆弱性を確実に阻止できる防御策は存在しないからだ。防御側が完全にコントロールできる変数は、攻撃者が侵入できるかどうかではなく、侵入後にどれだけ動けるかである。

これは、マイクロセグメンテーションとゼロトラストセグメンテーションの場合にも当てはまります。セグメンテーションポリシーはネットワークに事前に配置されているため、攻撃者が到着する前に既に防御策が確立されているため、マシン速度の攻撃者に対してリアルタイムで対応する必要はありません。マイクロセグメンテーションは、環境を隔離されたゾーンに分割することで、単一の侵害が横方向に広がり、企業全体に影響を及ぼすことを防ぎます。あなたは国境との競争に勝とうとしているのではなく、一つの突破口が一つの突破口のままであることを確実にしようとしているのです。AI時代において、侵入の封じ込めは、防御側が依然としてコントロールできる部分である。

最先端AIに関するよくある質問

最先端AIは汎用人工知能（AGI）と同じものですか？

いいえ。最先端のAIモデルは非常に高性能で汎用性も高いですが、ほぼすべての分野で人間の能力に匹敵するか、あるいはそれを超える汎用人工知能（AGI）には及びません。フロンティアAIとは、人間と同等の知能ではなく、現在の最先端の能力を指す。

サイバーセキュリティにおけるミトスとは何か？

Mythosは最先端のAIモデルであり、テストにおいて、ソフトウェアの脆弱性を機械の速度で自律的に発見し、兵器化することで、数週間で数千もの未知の欠陥を明らかにした。これは、最先端のAIが発見から悪用までの期間を数ヶ月から数分に短縮できることを実証し、侵害封じ込めの必要性を強化するものである。

プロジェクト・グラスウィングとは何ですか？

プロジェクト・グラスウィングは、ミトス・フロンティア・モデルの利用を管理するアクセス制限付きプログラムであり、審査済みのパートナーのみにアクセスを限定することで、防御側が敵対勢力に悪用される前に脆弱性を発見し、修正できるようにしている。これは、最先端AIの攻撃的な可能性に対抗する「防御的な先行戦略」を反映している。

最先端のAIは、サイバーセキュリティの脅威の状況をどのように変えるのか？

最先端AIは攻撃を加速させ、民主化する。これにより、脆弱性の発見から悪用までの時間が短縮され、高度な攻撃を実行するために必要なスキルが低下し、偵察と横方向の移動が機械速度で可能になる。これは、企業における情報漏洩の予防だけでなく、封じ込め対策の重要性を改めて示すものである。

最先端AIによる攻撃に対する推奨される防御策は何ですか？

AIが発見したすべての脆弱性を完全に防ぐ防御策は存在しないため、主要な指針は企業における侵害封じ込め、すなわちマイクロセグメンテーションとゼロトラストセグメンテーションによって、攻撃者が侵入後に移動できる範囲を制限し、単一の侵害による影響範囲を縮小することにある。

‍