AI 에이전트가 디지털 직원이 되고 있습니다. 제로 트러스트가 이들을 보호하는 방법은 다음과 같습니다.

라구 난다쿠마라

산업 전략 담당 부사장

Illumio Editorial

3월 11, 2026

23 분 읽기

기업 보안의 큰 변화는 언제 나타나나요?

조쉬 우드러프는 침해 조사나 사고 대응 훈련 중에 이런 일이 발생할 것으로 예상했습니다. 그 대신 컨퍼런스 프레젠테이션 중에 나왔습니다.

발표자는 로그인 이벤트, API 호출, 시스템 작업 등 대규모 엔터프라이즈 환경 전반의 활동 대시보드를 보여주었습니다. 처음에는 모든 것이 정상적으로 보였습니다.

그런 다음 발표자는 청중이 보고 있는 것을 설명했는데, 그 어떤 활동도 사람으로부터 나온 것이 아니었습니다. 모든 작업은 기계에 의해 수행되고 있었습니다.

수십 년 동안 기업 보안 프로그램은 인간 사용자를 중심으로 설계되었습니다. 사람들은 로그인하고, 시스템에 액세스하고, 의사 결정을 내립니다. 보안팀은 신원 확인과 사람 행동 모니터링에 집중합니다.

하지만 그 가정이 무너지기 시작했습니다.

Massive Scale AI의 창립자이자 CEO인 Josh는 30년 가까이 보안, 클라우드, IT 혁신을 주도해 왔습니다. 더 세그먼트 팟캐스트에서 나눈 대화에서 그는 기업 환경이 새로운 국면에 접어들고 있다고 설명했습니다. API, 서비스, 자동화 도구, AI 에이전트와 같은 머신 ID가 엔터프라이즈 네트워크에서 인간 사용자보다 더 많아지기 시작했습니다.

이러한 변화는 새로운 도전을 불러일으킵니다. 조직은 더 이상 시스템에 액세스하는 사람만 보호하지 않습니다. 또한 비즈니스 내부에서 의사 결정을 내리고 조치를 취할 수 있는 소프트웨어 에이전트를 관리합니다.

이러한 환경에서 제로 트러스트는 새로운 의미를 갖게 됩니다. 보안팀은 더 이상 사람의 신원을 확인하는 데 그치지 않고 디지털 직원들을 관리하고 있습니다.

기업 내부의 운영 주체가 되어가는 AI

AI 보안에 대한 많은 논의가 모델과 학습 데이터에 초점을 맞추고 있습니다. 이러한 주제는 중요하지만 조직 내부에서 일어나는 모든 변화를 포착하지는 못합니다.

AI 시스템은 분석에서 실행으로 옮겨가고 있습니다.

초기 AI 도구는 대부분 정보 제공에 그쳤습니다. 인사이트를 생성하고 데이터를 요약하거나 질문에 답했습니다. 이러한 결과물을 해석하고 다음에 수행할 작업을 결정하는 책임은 여전히 인간에게 있습니다.

에이전트 AI가 그 모델을 바꿉니다.

AI 상담원은 작업을 계획하고, 작업을 선택하고, 시스템과 직접 상호 작용할 수 있습니다. 사람의 승인을 기다릴 필요 없이 워크플로를 트리거하고, API를 호출하고, 레코드를 업데이트하고, 프로세스를 관리할 수 있습니다.

이로 인해 매우 다른 보안 환경이 조성됩니다.

기존 소프트웨어는 결정론적 논리를 통해 작동합니다. 특정 이벤트가 발생하면 시스템에서 미리 정의된 작업을 실행합니다. 보안팀은 이러한 예측 가능한 흐름을 중심으로 정책을 설계할 수 있습니다.

AI 시스템은 다르게 작동합니다.

조쉬는 "확률적입니다."라고 말합니다. "더 이상 결정론적 컴퓨팅이 아닙니다."

실질적으로 이는 AI 시스템이 엄격한 규칙이 아닌 확률과 학습된 패턴을 기반으로 작동한다는 의미입니다. 동일한 요청이라도 컨텍스트, 학습 데이터 또는 모델 내부의 추론 경로에 따라 약간 다른 결과가 나올 수 있습니다.

이러한 결과가 정보 제공에 그치는 경우 위험은 제한적입니다. 그러나 AI 시스템이 운영 조치를 취하기 시작하면 예측 불가능성이 실제 보안 문제가 됩니다.

에이전트 AI는 기업 시스템 내부의 자율적 의사 결정이라는 새로운 범주의 리스크를 도입합니다.

그렇기 때문에 Josh는 조직이 AI의 개념에 대해 다시 생각해 볼 것을 권장합니다. 그는 AI 에이전트를 도구로 보는 대신 인력의 일부로 생각해야 한다고 제안합니다.

AI 상담원을 디지털 직원처럼 대우해야 하는 이유

Josh는 종종 조직에 AI 에이전트를 비즈니스 내부에서 일하는 디지털 작업자로 상상해 보라고 요청합니다.

AI 에이전트는 작업을 수행하고, 시스템과 상호 작용하고, 데이터 및 서비스에 액세스할 수 있습니다. 여러 면에서 이들의 행동은 인간 직원들의 행동과 비슷합니다.

하지만 두 가지 중요한 차이점이 있습니다.

첫째, AI 에이전트는 기계의 속도로 작동합니다. 작업을 지속적으로 실행하고 여러 시스템과 동시에 상호 작용할 수 있습니다.

둘째, 판단력이 부족합니다. 인간 직원은 업무에 맥락과 직관을 가져옵니다. 실수를 하더라도 무언가 잘못되었거나 예상 범위를 벗어난다고 느껴지면 바로 알아차리는 경우가 많습니다. AI 에이전트는 그렇지 않습니다.

"그들은 무엇이 좋은지 나쁜지 모릅니다."라고 Josh는 말합니다. "그들은 단지 많은 정보를 알고 있을 뿐입니다."

이러한 한계로 인해 AI 시스템은 잘못된 목표를 달성하는 데 매우 효과적일 수 있습니다.

Josh는 이러한 위험을 설명하는 사례를 공유했습니다. 한 조직은 공급 주문 관리를 돕기 위해 AI 시스템을 배포했습니다. 처음에는 시스템에서 구매를 추천만 했습니다. 테스트 결과 신뢰할 수 있는 결과가 나온 후, 회사는 자동으로 소액 주문을 할 수 있도록 허용했습니다.

AI가 대량 할인을 발견하기 전까지는 모든 것이 잘 작동했습니다. 이 시스템은 40년치 바닥 청소기를 구입했습니다.

최적의 가격을 확보하기 위해 총 140만 달러를 지출했습니다.

AI가 오작동한 것이 아닙니다. 주어진 목표를 최적화했을 뿐입니다. 이 조직은 시스템에 비용 절감을 극대화하라고 지시했습니다. 시스템은 그 지침을 정확히 따랐습니다.

부족한 것은 비즈니스 컨텍스트였습니다.

이 사례는 보안 리더에게 중요한 교훈을 강조합니다. AI 에이전트에는 인간 직원에게 사용되는 것과 유사한 거버넌스 구조가 필요합니다. 여기에는 정의된 규칙, 액세스 경계 및 감독이 포함됩니다.

이때 제로 트러스트 보안 전략이 도움이 될 수 있습니다.

제로 트러스트가 자율 시스템을 위한 가드레일을 제공하는 방법

제로 트러스트는 디지털 시스템 내부에서 신뢰를 가정해서는 안 된다는 간단한 원칙을 기반으로 합니다.

제로 트러스트는 네트워크 경계나 암묵적 신뢰 영역에 의존하는 대신 ID, 컨텍스트 및 행동을 기반으로 모든 요청을 평가합니다.

토론에서 Josh는 제로 트러스트의 철학을 설명했습니다: "제로 트러스트는 디지털 시스템에서 인간의 감정인 신뢰를 제거하는 것입니다."

이 모델은 액세스 결정이 여러 신호에 따라 달라지기 때문에 최신 엔터프라이즈 환경에 적합합니다. 보안 시스템 평가:

요청을 하는 사람
시도하는 작업
요청의 출처
동작이 예상 패턴에 맞는지 여부

이러한 원칙은 AI 시스템에도 자연스럽게 적용됩니다.

AI 에이전트는 많은 기업 리소스와 상호 작용합니다. 내부 데이터에 액세스하거나 서비스와 통신하거나 자동화된 워크플로를 트리거할 수 있습니다. 각 상호 작용은 제로 트러스트 규칙을 따라야 합니다.

AI 에이전트를 관리하는 5가지 질문

조직이 이러한 접근 방식을 구현할 수 있도록 Josh는 에이전트 신뢰 프레임워크라는 간단한 프레임워크를 개발했습니다. 5가지 핵심 질문을 중심으로 AI 보안을 정리합니다.

누구세요? 모든 AI 에이전트에는 강력한 인증을 통해 확인할 수 있는 명확한 신원이 필요합니다. ‍
뭐 하는 거예요? 행동 모니터링은 시스템이 예상 패턴 내에서 작동하는지 확인합니다. ‍
어떤 데이터를 소비하고 생산하고 있나요? 데이터 거버넌스는 시스템에서 액세스할 수 있는 정보와 생성할 수 있는 출력을 결정합니다. ‍
어디로 갈 수 있나요? 세분화를 통해 에이전트가 도달할 수 있는 시스템이나 환경을 제어합니다.
↪f_200D↩불법행위를 하면 어떻게 되나요?조직은 비정상적인 동작을 감지하고 필요한 경우 자동화된 시스템을 신속하게 종료할 수 있는 메커니즘이 필요합니다.

이 질문들은 간단해 보이지만 종합적인 보안 아키텍처를 나타냅니다. ID, 행동 모니터링, 데이터 거버넌스, 세분화 및 사고 대응을 다룹니다.

즉, 제로 트러스트의 핵심 원칙을 새롭게 부상하는 AI 기반 자동화의 세계에 적용하는 것입니다.