MAS AI 위험 관리 가이드라인: 금융 기관에 억제가 필요한 이유

싱가포르에 사는 친구가 창이 공항에 비행기 출발 30분 전에 도착한다고 하더군요. 게이트로 곧장 걸어가서 보안 검색대를 통과하고 탑승해요. 나는 소리 내어 숨을 들이켰다.

저는 싱가포르에서 휴가를 보내고 왔는데, 그 명성에 전적으로 동감합니다. 창이 공항은 제가 가본 공항 중에서 가장 멋진 공항이에요. 실내 폭포는 단연 최고의 볼거리이니, 그 점부터 이야기해 봅시다. 그 외에도 여행객들은 터미널 사이를 자유롭게 돌아다니거나, 바에서 시간을 보내거나, 아이들이 마음껏 뛰어놀도록 할 수 있습니다.

그래도 저는 진짜 보안 검사가 이루어지는 곳이었어요. 제1~3터미널에서는 게이트 바로 앞에 있습니다.

많은 공항에서는 입구에서 모든 사람을 한 번 검사한 후, 전체 탑승객을 신뢰합니다. 창이 공항은 목적지에 검문소를 설치합니다. 그게 마이크로세그멘테이션의 논리예요. 창이는 그렇게 부르지 않고 몇 년 동안 그걸 적용해왔어요.

이제 승객을 AI 요원으로 바꿔요. 그들은 이미 건물 내부에 침투하여 시스템 간을 오가고, 데이터에 대한 접근 권한을 확보하고, 독자적으로 행동하고 있습니다.

싱가포르 금융감독당국이 이를 인지했습니다. 싱가포르 통화청 (MAS) 은 금융 기관의 인공 지능 위험 관리에 관한 새 가이드라인에서 내부 시스템에 액세스할 수 있는 손상된 AI 에이전트가 “민감한 데이터를 유출하거나 대규모로 악성 명령을 실행할 수 있다”고 경고했어요.

가이드라인에 따르면 기업들은 모든 AI 시스템이 어디에 있고 누가 소유하는지 알아야 해요. 그런 다음 그들은 관문을 가리키죠. 네트워크 세분화, 환경 분리, 최소 권한 접근이에요.

이것이 바로 은행, 보험사, 결제 회사들이 알아야 할 진정한 메시지입니다. 가드레일은 AI 에이전트가 행동하는 방식을 결정해요. 안전장치가 무너졌을 때 확산 범위는 통제력에 따라 결정됩니다. 싱가포르 통화청(MAS)은 두 가지 모두를 기대하고 있으며, 시간은 이미 흐르고 있습니다.

MAS는 10월 7, 2026 에 지침을 발표했습니다. 이 조치는 두 단계에 걸쳐 효력을 발휘합니다.

• 10월 7, 2027: 모든 사용 사례에 대한 감독, AI 식별, AI 인벤토리, 위험 등급
• 10월 7, 2028: 기술 및 사이버 보안을 포함한 생명주기 관리

각 회사의 규모와 AI 사용량에 맞게 조정되는 감독 기대치예요. 그러한 유연성이 기준을 낮추는 것은 아닙니다.

MAS AI 지침은 보안 체크리스트처럼 읽혀요

기술과 사이버 보안 통제는 어느 보안 팀에나 익숙할 거예요. 금융기관은 다음 사항을 고려해야 합니다.

• AI가 배포되는 네트워크 세분화 (5.16 (a) 항)
• 환경 분리 및 API, 플러그인, 타사 서비스 등 AI 시스템 전체에 최소 권한 접근 적용 (5.22 (a) 항)
• 데이터 유출을 방지하기 위해 플러그인 및 API를 제어합니다 (5.16(c)항).
• AI 시스템, 모델, 훈련 데이터, 파이프라인 접근 잠금 및 로깅 (5.23 (d) 항)
• 고위험 AI를 위한 킬 스위치 유지 (5.23 (b) 항)

이 지침은 고려해야 할 사항을 설명하고, 구체적인 실행 방법은 각 회사에 맡깁니다. 바로 그 지점에서 어려운 결정들이 시작됩니다.

안전장치는 규칙입니다. 문은 집행 장치입니다.

MAS는 안전장치를 매우 중요하게 생각합니다. 5.15항에 따르면 제너레이티브 AI와 AI 에이전트 테스트는 “관련 가드레일의 효과”를 다루어야 해요. 가이드라인에서는 보안 위험으로 프롬프트 인젝션과 데이터 중독도 지목해요 (1.10항).

하지만 안전장치는 그 안전장치가 감시해야 할 시스템 내부에 존재합니다. 안전장치가 대부분의 나쁜 행동을 막아주지만, 일부는 예외가 될 수 있습니다. 공격자의 입력은 모델에 도달하는 순간 종종 안전장치에 부딪힙니다.

그렇다면 더 어려운 질문을 던져보죠. 만약 공격자가 내일 이 에이전트에 대한 완전한 제어권을 확보한다면, 어디까지 접근할 수 있을까요? 그 답이 바로 당신의 실제 노출 정도입니다.

요원이 말로 속일 수 없는 통제 장치들이 바로 제대로 작동하는 통제 장치들입니다. 출입문은 승객에게 예의 바르게 행동하라고 요구하지 않습니다. 잘못된 탑승권으로는 문이 열리지 않습니다. AI 에이전트의 경우 이는 모델 외부의 적용을 의미해요. 에이전트가 무엇을 하기로 확신했든 적용되는 네트워크 정책과 범위 지정 액세스.

모든 워크로드의 관문: AI 에이전트를 위한 마이크로세그멘테이션

AI 에이전트의 게이트는 어떻게 생겼어요?

MAS는 네트워크 세그멘테이션하고 최소 권한 액세스를 명명해요. 마이크로세그멘테이션은 워크로드별로 두 가지를 모두 적용하는 방법이에요. 애플리케이션, 읽는 데이터, 호출하는 API와 플러그인, 에이전트가 연결할 수 있는 시스템 등 AI 시스템의 모든 부분이 고유한 게이트를 가지고 있어요. 한쪽이 타협안이 되면, 정책이 그 타협안이 얼마나 진전될지를 결정합니다. 이상적으로는 멀지 않은 곳이면 좋겠습니다.

가시성 측면도 있습니다. AI 에이전트의 경우 MAS는 “에이전트가 액세스할 수 있는 도구 및 시스템”의 인벤토리 기록을 제안해요 (각주 25). 업무량들이 서로 어떻게 연관되는지 파악하지 못하면, 그것을 문서화하는 것은 물론이고 시행하는 것조차 불가능합니다. 먼저 살펴보고, 그 다음에 정책을 작성하세요.

Illumio 플랫폼이 양쪽 모두를 처리해요. Illumio Insights는 데이터 센터, 클라우드, 엔드포인트에서 워크로드가 어떻게 통신하는지에 대한 AI 기반 실시간 가시성을 보안팀에 제공해요. Illumio 세그멘테이션은 가시성을 측면 이동을 막는 정책으로 바꿔요. AI 워크로드의 경우 플랫폼은 네 곳에서 MAS 가이드라인에 매핑돼요.

• 당신의 AI가 무엇과 대화하는지 보세요. Illumio Insights는 AI 애플리케이션, 모델, 데이터 스토어, 그리고 아무도 기록하지 않은 서비스를 포함한 타사 서비스 간의 실제 연결을 매핑해요. 이를 통해 2027년 재고 조사를 위한 사실에 근거한 출발점을 마련할 수 있습니다. 익숙하지 않은 워크로드가 외부 모델이나 API를 호출하기 시작할 때 Surface Shadow AI에도 도움이 돼요.
• 도달 범위를 제한하세요. Illumio 세그멘테이션은 각 AI 구성 요소에 최소 권한 정책을 적용해요. 모델은 학습 데이터에 접근할 수 있고, 에이전트는 사용이 승인된 플러그인을 호출할 수 있으며, 그 외의 모든 것은 기본적으로 차단됩니다. 여기에는 AI가 실행되는 네트워크를 세분화하고, 환경을 분리하고, 플러그인과 API가 민감한 데이터의 조용한 출구가 되지 않도록 하는 것이 포함돼요.
• 폭발 반경을 줄이세요. 가드레일에 장애가 발생하면 정책은 사고 1건의 고장을 유지해요. 고위험 AI 시스템을 빠르게 오프라인 상태로 전환해야 하는 경우 조사가 진행되는 동안 격리하면 돼요. 이는 MAS에서 권장하는 킬 스위치를 네트워크 수준에서 안전장치로 제공하는 것입니다.
• 풀이 과정을 보여주세요. 감독관들은 증거를 요구할 것입니다. 트래픽 흐름 기록은 어떤 워크로드가 AI 시스템, 모델, 데이터에 언제 연결됐는지 보여줘요. 또한 레드팀에게 손상된 구성 요소가 어떤 영역에 도달할 수 있는지를 보여줍니다. 안전장치를 점검하는 것처럼 격리 조치도 꼼꼼하게 점검하고 결과를 기록으로 보관할 수 있습니다.

보딩 콜 전: MAS AI 가이드라인 준비를 위한 5단계

기초 공사는 2027년에 완료될 예정입니다. 기술적 검증은 2028년에 이루어질 예정입니다. 둘 다 멀지 않아요.

1. AI가 연결하는 대상을 매핑하세요. 2027년도 재고 및 위험 등급 평가에는 데이터 민감도, 시스템 종속성, 그리고 담당자가 접근할 수 있는 범위 등이 필요합니다.
2. 섀도우 AI를 찾아요. 각주 22는 무단 사용을 감지하기 위한 네트워크 모니터링 및 데이터 손실 방지에 대해 언급합니다.
3. 안전 난간을 따라 격리 테스트를 실시하십시오. 5.22 (b) 항은 AI 시스템 전반에 걸친 침투 테스트와 레드 팀 구성을 요구해요. 손상된 부품이 어떤 영향을 미칠 수 있는지 물어보세요.
4. 위험도가 가장 높은 곳부터 시작하십시오. MAS는 위험에 대한 기대치를 조정하므로 위험이 가장 높은 사용 사례에 대한 세그멘테이션과 최소 권한 액세스를 최우선으로 생각하세요.
5. 타사 AI와 플러그인 확인해 보세요. 5.16(c)항은 플러그인 및 API를 통한 데이터 노출을 제한하는 제어를 요구합니다.

MAS AI 가이드라인이 대대적으로 제시돼요

"지침"과 2028년 마감일을 나중에 해결해야 할 문제로 받아들이기 쉽습니다. 하지만 2027년의 연구는 이미 벤더 서비스에 내장된 섀도우 AI와 AI에 도달했어요. 그리고 AI가 벤더에서 나오더라도 그 책임은 여전히 기관에 있어요.

감독 당국은 이러한 기대치에 따라 기업을 평가할 것이며, 금융안정위원회는 전 세계적으로 유사한 관행에 대한 의견 수렴을 진행해 왔습니다. 한편, 공격자들은 규정 준수 기한을 기다리지 않고 이미 네트워크 내부에 침투한 에이전트를 공격할 것입니다.

창이는 AI 에이전트가 등장하기 한참 전에 이걸 알아냈어요. 매니페스트에 누가 있는지 알고 체크포인트를 게이트 앞에 두세요. 금융기관은 동일한 논리를 이미 매장 내에서 활동하고 있는 직원들에게도 적용할 수 있습니다.

방법 알아보기 금융 기관을 지원하는 일루미오 보안 침해가 확산되기 전에 차단하세요.