자동화된 AI 공격이 시작되었습니다

7월 나흘 동안, 인공지능 에이전트들이 대만 정부의 서로 연결된 21개 시스템을 지도화했습니다. 요원들은 85개의 계좌를 해킹하여 2,500건 이상의 인사 기록을 빼냈습니다. 그들은 12차례에 걸쳐 공격을 감행했다. 사람이 직접 작업을 설정합니다. 요원들은 그 이후의 일들을 대부분 처리했습니다.

드림의 연구원들은 지난 8월 해당 캠페인을 공개했습니다. 이는 미국 정부 기관들이 공격자들이 인공지능으로 생성된 코드를 이용해 정수장과 전력망을 가동하는 시스템을 공격하고 있다고 경고한 바로 그 달에 발생했습니다.

이 두 가지는 인공지능이 공격자에게 제공하는 서비스의 변화를 보여줍니다. 수년간 이 시스템은 피싱 이메일이나 공격 코드 블록과 같은 단일 작업만 처리해 왔습니다. 이제는 공격자가 처음 발판을 마련한 후 훔칠 만한 가치가 있는 무언가를 얻기까지 필요한 연구 및 테스트, 즉 그 중간 단계를 자동화하고 있습니다. 예전에는 숙련된 사람들이 그 작업을 하는 데 며칠 또는 몇 주가 걸렸습니다. 에이전트들은 이를 병렬로 실행하며, 문제가 발생하면 경로를 변경합니다.

공격이 압축되고 있습니다. 보안팀은 여전히 경고를 조사하고, 수정 사항을 테스트하고, 승인을 받는 데 시간이 필요합니다. 그러한 격차가 바로 봉쇄를 더욱 어려운 문제로 만드는 요인입니다. 인공지능 기반 공격이 침투에 성공하면 다음 공격 경로는 어디일까요?

자동화된 공격 체인 내부

대만 프레임워크는 자체적인 목표를 설정했습니다. 이 시스템은 여러 공격 경로를 동시에 실행하고 학습한 내용을 바탕으로 방향을 바꿀 수 있습니다.

Dream은 해당 프레임워크가 웨이브당 최대 8개의 AI 에이전트를 실행할 수 있음을 발견했습니다. 각 요원은 서로 다른 목표나 기법을 부여받았습니다. 누군가는 자격 증명을 테스트하고, 다른 누군가는 노출된 API를 찾을 수도 있습니다.

요원들은 다음과 같은 일을 할 수 있습니다:

• 연구 목표 및 취약점
• 여러 공격 경로를 동시에 테스트합니다.
• 기술이 실패하면 방향을 바꿔야 합니다.
• 각 경로의 성공 확률에 따라 점수를 매기세요.
• 성공 가능성이 가장 높은 경로에 노력을 집중하십시오.

Dream은 연구 단계를 "학습 주기"라고 부릅니다. 해당 기법이 실패하면 담당자들은 취약점 데이터베이스, GitHub, 그리고 공개된 보안 연구 자료를 검색하여 새로운 것을 찾았습니다. 그들은 그러한 결과를 후속 연구에 반영했습니다. 또한 반복적인 테스트에서 신뢰성을 입증하지 못한 리드는 제외했습니다.

해당 프레임워크는 대만 전역으로 대상을 확대했습니다. 이 공격자는 정부 IT 공급업체, 원자력 안전 기관, 정부 이메일 시스템 및 7개 이상의 에너지 회사를 스캔하여 악용할 수 있는 노출된 인터페이스, 잘못된 구성 및 버그를 찾았습니다.

Dream은 운영자의 이름을 밝히지 않습니다. 하지만 해당 그룹의 내부 메모는 간체자와 번체자를 번갈아 사용하고 있는데, 이는 중국어를 구사하는 운영자가 있음을 시사합니다.

담당자들은 다음에 무엇을 시도할지 결정하는 데 도움을 주었습니다.

경고는 계속해서 쏟아졌다.

드림은 대만 공격을 추적하는 동안 미국 정부 기관들은 경고를 발령했고, 공격 보고는 계속되었습니다. 모두 프로그래머블 로직 컨트롤러, 즉 PLC를 가리켰습니다. 이것들은 정수장, 발전소, 공장 생산 라인의 물리적 공정을 제어하는 소형 컴퓨터입니다.

• 7월 22일: 연방 기관들은 이란과 연계된 세력들이 미국 주요 기반 시설 전반에 걸쳐 PLC(전력 생산 설비)를 공격하고 있다고 경고했습니다. 며칠 후, 수도 시설에 대한 공격이 시작되었습니다.
• 7월 30일: FBI와 EPA는 최소 7개 주에서 전력 회사들이 사고를 보고했다고 밝혔습니다. 일부 공격은 PLC 비밀번호와 IP 주소를 변경했습니다. 그렇게 되면 운영자는 모니터링 및 제어에서 차단됩니다.
• 8월 5일: 최소 12개 주에서 공공시설 업체들이 공격을 받았다고 보고했습니다. 일부 지역에서는 서비스가 중단되거나, 음용수 끓여 마시기 권고령이 내려지거나, 직원들이 수동으로 발전소를 가동해야 했습니다.
• 8월 19일: FBI, NSA, CISA는 정체불명의 공격자들이 에너지, 수자원, 제조 및 농업 분야 전반에 걸쳐 지멘스 S7 PLC를 표적으로 삼고 있다고 밝혔습니다. 공격자들은 일반 모니터링 소프트웨어로 위장한 AI가 작성한 공격 스크립트를 사용했습니다.

PLC를 공격하려면 산업 시스템에 대한 깊은 지식이 필요했습니다. 인공지능이 그 진입 장벽을 낮추고 있다. 수사 기관에 따르면 공격자들은 이제 훨씬 적은 기술로도 더 빠르게 작동하는 공격 도구를 만들 수 있다고 합니다.

AI는 보조 기능을 넘어 운영자로 진화하고 있습니다.

대만은 일정한 패턴을 따른다. 2025년, 앤트로픽은 클로드 코드(Claude Code)가 대부분의 전술적 작업을 수행한 중국 연계 스파이 활동을 폭로했습니다 . 인공지능이 정찰을 실시했다. 취약점을 찾아내고 테스트했습니다. 이는 익스플로잇 코드를 작성하고, 자격 증명을 수집하고, 가치 있는 계정을 찾아내고, 도난당한 데이터를 분류하는 데 도움이 되었습니다. 앤트로픽은 AI가 캠페인의 80~90%를 수행했다고 추정했습니다. 사람들은 주로 주요 결정에 개입했습니다.

수년간 인공지능은 공격자들이 피싱 이메일을 작성하고, 공격 대상을 조사하고, 악성 코드를 생성하는 데 도움을 주어 왔습니다. 이제 이러한 작업들을 하나로 묶습니다. 약점을 찾아내고, 연구하고, 테스트하고, 실패하면 다른 옵션으로 넘어갈 수 있습니다. 대만에서는 여러 요원들이 동시에 그 일을 저질렀습니다.

다음 세대는 훨씬 더 적은 지시만으로도 업무를 계속 수행하는 요원들이 될 수도 있습니다. OpenAI는 아이디어를 코드로 변환하고, 실험을 실행하고, 결과를 보고할 수 있는 Astra라는 미공개 모델을 테스트 중입니다. 회사 측은 해당 업무가 연구원의 일주일치 시간을 대체할 수 있다고 밝혔습니다. OpenAI는 초기 평가 결과 Astra가 자사의 대비 프레임워크에서 "심각" 수준의 사이버 보안 위험 단계에 해당할 수 있다고 밝혔습니다. 이에 대한 대응으로 모니터링, 샌드박싱 및 네트워크 제한을 강화했습니다.

아스트라는 어떤 공격과도 연관되지 않았습니다. 하지만 이는 대만과 같은 방향을 가리킵니다. 즉, 더 오래 일하고, 더 많은 작업을 처리하며, 작업을 계속하기 위해 인간의 개입이 덜 필요한 에이전트를 의미합니다.

동일한 공격, 더 짧은 시간

자동화 기능을 제거하면 그 이면에 숨겨진 공격 방식은 낯익어 보입니다.

일루미오의 산업 솔루션 담당 이사인 크리스터 스와츠는 "새로운 위협 요소를 도입한 것은 아닙니다."라고 말했습니다. "이는 공격자들이 이미 할 수 있는 일을 극적으로 가속화하는 것일 뿐입니다."

공격자들은 여전히 발판을 마련해야 합니다. 그들은 여전히 자격 증명, 노출된 서비스 또는 취약한 시스템을 필요로 합니다. 그리고 일단 안으로 들어간다 해도, 그들은 여전히 훔치거나, 부수거나, 몸값을 요구할 만한 가치 있는 무언가로 향하는 길이 필요합니다.

변하는 건 시계뿐이다. 보안팀은 경고를 조사하고, 무슨 일이 일어났는지 파악하고, 수정 사항을 테스트하고, 변경 사항을 적용하기 전에 승인을 받아야 할 수 있습니다. 자동화된 공격자는 그런 것들을 기다리지 않습니다.

공격이 확산되기 전에 차단하세요

그렇기 때문에 Illumio의 선임 제품 마케팅 매니저인 Rajoo Nagar는 초점이 주변부를 넘어 더 넓은 범위로 향해야 한다고 말합니다. 최초 접근만으로는 피해가 발생하는 경우는 드뭅니다.

"그건 실제로 측면 움직임 때문에 생기는 거예요."라고 그녀는 말했다.

그러면 질문이 더 간단해집니다. 인공지능 기반 공격이 침투에 성공하면 다음 공격 경로는 어디일까요?

1. 가시성 확보부터 시작하세요. 팀은 어떤 시스템과 워크로드가 서로 연동되는지, 그리고 아무도 필요로 하지 않는 연결이 어디에 있는지 파악해야 합니다.

나가르는 "보이지 않는 것은 보호할 수 없다"고 말했다.

1. 그런 다음 경로를 닫으세요.
2. 그다음 분할합니다. Illumio Segmentation은 중요 애플리케이션과 프로덕션 시스템을 분리하여 한 대의 시스템이 손상되더라도 전체 환경에 걸쳐 공격 경로가 열리지 않도록 합니다. 목표는 영향력을 작게 유지하는 것입니다.

수비에서도 속도는 중요합니다. 스와츠는 팀들이 행동에 나서기 전에 모든 세부 사항을 이해할 시간이 더 이상 없을 수도 있다고 주장합니다. 그의 비유는 간단합니다. 누군가 현관문을 부수고 들어온다면, 이유를 묻기 전에 먼저 문을 잠그는 게 당연하죠.

그는 "해당 침해 사례를 격리한 후 나중에 원인을 분석할 수 있을 것"이라고 말했다.

인공지능은 더 빠르게 움직일 수 있다. 아직 갈 곳이 없어요.

대만 공격, PLC 경고, 앤트로픽 캠페인, 그리고 아스트라제네르 사건 모두 같은 방향을 가리키고 있습니다. 인공지능은 약점을 찾아내는 것부터 가치 있는 결과를 도출하는 것까지의 과정을 자동화하고 있습니다. 이는 공격수에게 속도, 규모, 그리고 더 적은 노력으로 더 많은 슈팅 기회를 제공합니다.

수비팀이 취약점을 공략하는 모든 경쟁에서 승리하지는 못할 수도 있습니다. 하지만 그들은 발판을 마련한 후 일어나는 일들을 여전히 통제합니다. AI가 공격 속도를 빠르게 만들 경우, 그 공격이 유용하게 쓰일 만한 곳으로 이동하지 못하도록 해야 합니다.

Illumio Segmentation이 침해 확산을 막기 위해 어떻게 차단하는지 확인해 보세요. Illumio Segmentation 살펴보기