사이버 보안의 새로운 ABC: 신원 확인, 가시성 확보, 그리고 차단

케렌 엘라자리가 제 팟캐스트 '더 세그먼트 '에 출연하기로 동의했을 때, 그녀가 제일 먼저 한 일은 옷장을 뒤지는 것이었습니다. 그녀는 전 세계 무대에서 늘 외쳐왔던 "해커는 침입하는 게 아니라, 우리가 로그인하는 거야"라는 문구가 적힌 티셔츠를 찾고 있었다.

논의 과정에서 그녀는 자신의 주장을 뒷받침하는 자료를 제시했습니다.  

그녀는 버라이즌 데이터 유출 조사 보고서(DBIR)가 해마다 똑같은 이야기를 들려준다고 말했다. 즉, 도난당한 계정 정보와 재사용된 비밀번호가 여전히 주요 침입 경로라는 것이다. 취약점 악용이 이제 자격 증명 남용을 제치고 가장 흔한 초기 접근 경로가 되었지만, 전체 공격 과정을 살펴보면 자격 증명 남용이 여전히 침해 사고의 39%를 차지하는 것으로 나타납니다. 그래서 이 기술은 데이터 분석에서 가장 널리 사용되는 기술이 되었습니다. (공격자들은 종종 이 두 가지를 함께 사용합니다.) 그들은 패치가 적용되지 않은 시스템에 침입한 다음 곧바로 자격 증명에 접근합니다.

한편, 패치 기술은 오히려 퇴보하고 있습니다. 지난해 알려진 악용 취약점 중 26%만이 해결되었는데, 이는 전년도의 38%에서 감소한 수치입니다. 그리고 패치를 붙이는 데 걸리는 평균 시간은 32일에서 43일로 늘어났습니다.

이것이 바로 사이버 보안 분야에서 AI에 대해 우리가 나누는 대화와 공격자들이 실제로 우리 환경에 가하는 행위 사이의 격차입니다. AI는 새로운 유형의 침입을 만들어냈다기보다는, 우리가 이미 알고 있던 취약점을 악용하는 데 걸리는 시간을 단축시킨 것에 가깝습니다.  

케렌의 주장은 업계가 보안 AI에서 큰 가치를 얻기 전에 보안의 기본 원칙을 제대로 갖춰야 한다는 것입니다. 그녀가 생각하는 기본 원칙은 정체성, 가시성, 그리고 통제입니다. 각각의 기술은 현재 인공지능이 벌리고 있는 격차를 줄여줍니다.

공격자는 침입하지 않습니다. 그들은 로그인합니다.

케렌에게 레드팀 활동에서 어떻게 조직에 침투하는지 물어보면, 그녀는 절대 하지 않는 일을 말해줄 겁니다. 바로 시간과 예산을 낭비하며 처음부터 맞춤형 익스플로잇을 개발하지 않겠다는 것이죠.

정찰에 대부분의 시간을 할애하고 있으며, 그녀가 노리는 것은 접근권 확보입니다. 정식 직원의 자격 증명은 접근 권한이 조용히 이전되기 때문에 찾기에 이상적인 자료입니다.  

그녀는 노력이 덜 드는 방법들을 모두 시도해 본 후에야 공개적인 시스템을 공격하는 것을 고려하는데, 그것이 가장 눈에 띄고 발각될 가능성이 높은 방법이기 때문이다.

실제 범죄 조직들은 동일한 정보 유출 경제학을 따릅니다. 케렌은 FBI가 "더 콤(The Com)"이라고 부르는 느슨한 생태계의 일부인 샤이니헌터스(ShinyHunters) 캠페인을 살펴보았습니다. 그들의 전략은 특권 접근 권한을 가진 직원을 사칭하여 해당 조직의 헬프 데스크에 전화한 다음, 담당자를 설득하여 직원의 계정 정보를 재설정하는 것에서 시작되었습니다.  

최근에는 수법이 역전되어 헬프데스크를 사칭하고 싱글 사인온(SSO) 메시지와 비밀번호 재설정을 유도한 후, 반환되는 자격 증명을 수집하고 있습니다. 케렌은 이러한 집단들이 인공지능을 활용할 때 주로 딥페이크 음성 생성을 통해 사회공학적 공격 기법을 정교하게 다듬는 데 사용했다고 말했다.

보안 책임자들이 명심해야 할 점은 범죄자들이 이미 가지고 있는 것을 이용해 끊임없이 창의적인 방법을 찾아낸다는 것입니다. 그들은 엄청난 양의 사용자 이름과 비밀번호 데이터베이스를 보유하고 있습니다. 다단계 인증은 아직 많은 조직에서 완전히 도입되지 않았으며, 기존에 도입된 시스템조차도 Keren이 유효기간이 한참 지난 것으로 간주하는 인증 방식에 의존하고 있습니다.  

인공지능이 수비수보다 공격자의 속도를 더 높이는 이유는 무엇일까요?

케렌은 AI를 공격자들을 위한 타임머신이라고 묘사했습니다. 과거에는 몇 주 또는 몇 달이 걸리던 정찰, 장비 준비, 작전 계획 수립이 이제는 며칠 또는 몇 시간 만에 가능해졌습니다.  

수비수들도 그에 상응하는 상향 조정을 받아야 하는데, 아직은 그렇지 못하고 있습니다.

그 이유는 AI 모델이 자신의 작업 결과를 무엇과 비교 검증할 수 있는지에 달려 있습니다. 대규모 언어 모델(LLM)이 취약점을 찾을 때, 성공 여부를 판단하는 명확한 기준이 있습니다. 취약점을 악용해 보고 그 시도가 성공하는지 확인할 수 있습니다. 합격/불합격 신호가 바로 그 기술을 학습 가능하게 만드는 요소이며, 반복을 거듭할수록 그 기술은 더욱 정교해집니다.  

패칭은 그러한 신호를 제공하지 않습니다. 패치는 적용 환경의 변형에 관계없이 프로덕션 환경에서 제대로 작동해야 하며, 보호하려는 애플리케이션을 손상시키지 않아야 합니다. 어떤 신속 자동화 검사로도 그 모든 것을 확인할 수는 없습니다.  

모델은 결함을 찾아내는 능력이 점점 더 향상되고 있습니다. 수리 내용을 작성하고 안전하게 배송하는 작업은 여전히 시간이 오래 걸리고, 신중하며, 사람의 감독이 필요한 작업입니다.

그게 바로 그 대화에서 드러난 첫 번째 냉혹한 진실입니다. 문제 발견은 가속화되지만, 문제 해결은 그렇지 못하며, 그 격차는 저절로 벌어집니다. 케렌이 말했듯이, "LLM 가루를 좀 뿌린다"고 해서 그것을 전략이라고 부를 수는 없습니다.

AI가 비밀번호, 패치가 적용되지 않은 시스템, 무분별한 ID 관리, 그리고 수평적인 네트워크 로 인해 20년 동안 누적된 기술 부채를 만들어낸 것은 아닙니다. 예정일이 앞당겨졌어요.

그녀가 목격한 가장 고도화된 공격들이 이를 뒷받침합니다. 그녀는 2025년 말에 Anthropic이 GTG 1002 로 기록한 국가 차원의 공격 캠페인을 예로 들며, 공격자가 AI 에이전트를 사용하여 침입을 처음부터 끝까지 조율했다고 지적했습니다. 그러한 조직화는 진정한 발전이었다. 하지만 케렌은 최초 접근 자체가 지극히 평범해 보였을 것이라고 추측합니다. 아마도 자격 증명을 도난당했거나, 탄탄한 기본 사항만 갖추었다면 메꿀 수 있었을 환경상의 잊혀진 허점이었을 가능성이 높다는 것입니다.

네트워크 보안 평가가 외부에서부터 시작되어야 하는 이유

케렌이 제시한 두 번째 냉혹한 진실은 공격자들이 방어자들보다 목표 환경을 더 잘 이해하는 경우가 많다는 것이다.

그녀는 그것이 능력 부족의 문제라고 생각하지 않습니다. 보안팀은 실험실이 아닌 실제 운영 중인 사업장을 보호합니다. 실제 운영 중인 기업은 급여를 지급하고, 협력업체를 등록하고, 클라우드 워크로드를 실행하고, API를 연결합니다. 이러한 필수 활동 하나하나가 공격 표면을 만들어냅니다.

섀도우 IT와 섀도우 AI는 동일한 논리를 따릅니다. 사람들은 자신의 업무 수행에 도움이 되는 것을 채택한다. 공격자들은 취약점이 존재한다는 안전한 가정하에 이를 악용하는데, 케렌은 이러한 가정이 거의 항상 적중한다고 말합니다.

그녀는 보안 도구에서 이와 관련된 패턴을 제기했습니다. 현재 대부분의 팀은 50~60개 정도의 보안 제품을 사용하고 있으며, 이 모든 제품이 충분한 보안 범위를 제공한다고 생각합니다. 하지만 록히드 마틴의 킬 체인 이나 MITRE ATT&CK 와 같은 실제 공격 경로에 이러한 역량을 적용해 보면, 부족한 부분이 명확해집니다.  

케렌은 일반적으로 매우 성숙한 조직 내부에서는 특정 시스템이나 클라우드 환경, 또는 부서의 새로운 AI 프로젝트가 그 조직 전체와는 무관하다는 것을 인정하는 사람을 찾을 수 있다고 말했다.

그녀가 보안팀에게 제시한 실질적인 과제는 내부 네트워크 보안 평가를 실시하는 것이었습니다. Shodan이나 Censys 같은 도구는 수년 전부터 사용 가능했지만, 그녀는 여전히 공격자의 관점에서 자신들의 환경을 살펴보기 위해 이러한 도구를 사용해 본 적이 없는 팀들을 만난다고 합니다.  

네트워크 보안을 제대로 평가하려면 반드시 외부에서 내부로 바라보는 관점이 포함되어야 합니다. 보이지 않는 것은 방어할 수 없기 때문입니다.

선제적 경계심: 필수적인 3가지 보안 기본 원칙

케렌이 사이버 보안 전문가 훈련을 받을 때, 기본 원칙은 CIA의 3대 원칙, 즉 기밀성, 무결성, 그리고 가용성이었습니다. 그 원칙들은 여전히 유효합니다. 하지만 이러한 설명들은 공격자가 실제로 어떻게 접근하는지가 아니라 보호하려는 대상을 설명하는 것입니다.

대신 그녀는 다음과 같은 수정된 세트를 제안합니다.

• 신원. 지난 10년 동안 대부분의 경우, 보고된 침해 사고에서 가장 큰 초기 접근 경로는 신원 정보 유출이었으며, 대부분의 조직이 이를 관리하는 방식은 여전히 20세기적 사고방식에 머물러 있습니다. 케렌의 추산에 따르면, 이를 수정하면 초기 공격 경로의 최소 20%를 제거할 수 있습니다 .
• 시계. 공격자가 당신이 잊고 있던 자산을 파악할 수 있다면, 당신은 불리한 입장에서 전투를 시작하게 되는 것입니다. 가시성은 미지의 환경을 방어 가능한 환경으로 바꿔주는 요소입니다. ‍
• 방지. 해커로서 케렌이 가장 중요하게 생각하는 것이 바로 이것인데, 그녀가 억압받는 것을 원하지 않기 때문이다. 측면 이동이 어려울 때, 네트워크가 분할되어 있을 때, 그리고 하나의 시스템에 침입한다고 해서 다음 열 개의 시스템에도 접근할 수 없을 때 공격은 중단됩니다. 마이크로세그멘테이션은 워크로드 사이에 정책을 적용하여 직접적인 격리 기능을 구축함으로써, 손상된 시스템이 다음에 이동할 명확한 경로를 차단합니다.

케렌은 이 세 가지 모두의 기저에 있는 사고방식을 "능동적 편집증"이라고 부르며, 이를 두려움과 신중하게 구분합니다. 두려움은 마비시키지만, 선제적인 편집증은 대비하게 만든다. 그녀의 말처럼, 텐트를 치기 위해 비가 오기를 기다리는 건 아니죠.

그렇다면 왜 더 많은 보안 팀이 이러한 작업을 하지 않는 걸까요? 케렌은 정체성의 혼란을 정리하는 것이 마치 다락방을 청소하는 것과 같기 때문에 그것이 부분적으로는 인간 본성이라고 생각합니다. 그리고 이는 부분적으로 우선순위 문제이기도 한데, 정체성 확립, 가시성 확보, 그리고 확산 방지를 차세대 주요 전략적 과제로 삼기가 어렵기 때문입니다.  

인공지능을 도입할 가치가 있게 만드는 것은 바로 기본 원리입니다.

보안 팀이 배포하려는 모든 AI 기능은 동일한 기반 위에 구축됩니다. 즉, 네트워크에 누가 있는지, 환경에 무엇이 있는지, 침입이 어디로 확산될 수 있는지를 파악하는 것입니다.  

경고를 분류하는 AI 에이전트의 유용성은 그 에이전트가 보유한 자산 목록의 수준에 달려 있습니다. 자동화된 대응은 공격의 영향 범위가 이미 제한된 네트워크에서만 안전합니다.

케렌의 주장 중 예산 논의에서 다뤄볼 만한 가치가 있는 부분이 바로 그 점입니다. 정체성, 가시성, 그리고 통제는 성공적인 AI 전략을 위한 필수 조건입니다. 이러한 단계를 건너뛰면 아무도 완전히 파악할 수 없는 환경에 자동화 기능을 추가하는 셈이 되어, 애초에 존재했던 가시성 문제를 더욱 악화시키게 됩니다.

공격자의 시간적 여유가 점점 줄어들고 있습니다. 수비수들에게 중요한 질문은 그들의 발밑 땅이 그 어떤 기술도 도움이 될 만큼 충분히 단단한가 하는 것입니다.

The Segment: A Zero Trust Leadership Podcast 의 전체 에피소드를 들어보세요. Apple 팟캐스트,  Spotify또는 당사 웹사이트.