보안 분야 AI 에이전트 활용 사례 등장하며 기술 발전 속도 빨라져
IT 업계, AI 기반 자율형 SOC 이상 실현 기술·사례 경쟁적으로 선봬
[데이터넷] AI 시대의 보안은 ‘보안을 위한 AI’와 ‘AI를 위한 보안’이 필수로 요구된다. AI를 이용해 보안을 강화할 수 있으며, AI 사용 중 발생하는 문제를 해결하기 위한 보안 대책도 필요하다. AI가 보안 분야에 어떻게 사용되는지, 그리고 공격에 AI가 어떻게 이용되며, AI 사용 중 발생하는 보안 문제는 무엇인지, 마지막으로 이를 어떻게 해결할지 알아본다.<편집자>
진정한 ‘4차 산업혁명’이라고 할 수 있는 AI 혁명이 진행되고 있다. AI가 그야말로 ‘파괴적 혁신’으로 기존 질서를 뒤흔들면서 새로운 역사를 쓰고 있다. 모든 국가, 모든 산업에서 AI를 도입하고 있으며, AI 관련 기술을 개발·서비스하는 조직이 전례없는 빠른 성장을 보이고 있다.
신기술 도입 속도가 매우 느린 국가·공공기관에서도 AI 활용에 적극 나서고 있다. 우리 정부가 추진하는 국가 망 보안체계(N2SF)에서도 AI를 업무에 사용하는 사례를 소개하고 있으며, 이를 위한 시범 실증사업을 진행하고 있다.
9월 공개된 ‘N2SF 보안 가이드라인 정보서비스 모델 해설서’ 중 ‘업무 환경에 생성형 AI 활용’ 모델을 살펴보면, O등급인 생성형 AI 서비스에서는 O등급 업무정보가 생성·저장·활용될 수 있다고 안내한다. ‘공공 데이터의 외부 AI 융합’ 모델에서는 O등급 외부 AI 서비스와 MCP 서비스에서는 O등급 업무 정보가 생산·저장·활용될 수 있다고 설명한다.
나아가 정부는 공공기관의 AI 활용을 활성화하기 위해 공공기관운영위원회 산하에 AI 소위원회를 신설하고, 인력과 예산을 배정했다. 나아가 국가인공지능전략위원회 산하 인공 지능책임관 협의회를 출범시키고 하정우 AI미래기획수석을 국가 최고 인공지능 책임관(CAIO)으로 임명하는 등 국가 AI 대전환과 AI 3대 강국 달성을 위해 적극적인 노력을 기울이고 있다.
보안 위한 AI 에이전트 활용 사례 증가
정부가 앞장서서 ‘AI 퍼스트’를 외칠만큼 AI는 현재와 미래의 경쟁력을 가르는 핵심적인 요인이 되고 있다. 특히 AI 애플리케이션이 스스로 판단하고 행동하는 ‘AI 에이전트’로 진화하면서 AI 전환 속도가 더욱 빨라지고 있다. 가트너가 5월부터 6월까지 2개월간 전 세계 기업 IT 리더를 대상으로한 설문에서 15%가 사람의 감독 없이 목표를 수행하는 완전 자율형 AI 에이전트를 구축·시범운영하거나 고려하고 있다고 답했다.
보안 분야의 AI 에이전트 도입률도 빠르게 상승하고 있다. IBM이 7월 공개한 ‘시큐리티 2028’ 보고서에서는 “향후 3년간 AI 보조 기술은 50% 증가하고, 생성형 AI 기반 보안 기능의 활용은 63%까지 확대될 것”이라며 “나아가 자율적인 보안을 통해 AI 에이전트가 자율적으로 결정을 내리고, 자체 가설을 테스트하며, 추론 기반의 행동을 자동화할 것”이라고 설명했다.
보안을 위한 AI 에이전트는 보안 인력이 수작업으로 수행하는 다양하고 복잡한 업무를 자동으로 처리하는 것에 목표를 둔다. AI 에이전트가 위협을 탐지하고, 분석하며, 적절한 대응 방법을 찾아 조치하는 일련의 과정을 처리하고, 보안 담당자는 AI 에이전트가 판단하기 어려운 비즈니스에 민감한 영향을 미치는 고도화된 공격에 대응한다. 특히 공격자가 직접 운영하는 고급 공격을 보안 전문가가 대응하면서 상황에 따라 달라지는 전략과 전술에 기민하게 대응할 수 있다고 기대한다.
예방적 보안 위해 AI 사용
보안에 AI를 사용한 초기 모델은 마이크로소프트 시큐리티 코파일럿으로 대표되는 AI 어시스턴트이다. 이 서비스는 이벤트를 요약하고, 대응 방법을 안내하며, 이와 관련된 다른 인시던트를 찾아 추가 조치를 제안하는 등의 보안 업무를 수행했다. 이 기술은 매우 빠르게 진화해 보안 의사결정 전반을 효율화하는 도구로 사용되고 있다.
AI를 적용한 보안 기술 중 활용도가 높은 것으로 공격표면 관리(ASM), 보안태세관리(Security Posture Management)를 들 수 있다. AI가 내·외부 IT를 스캐닝 해 제거되지 않은 취약점이나 잘못된 설정을 찾아 사전 예방적 보안을 강화할 수 있다.
취약점 탐지를 위한 전용 AI 에이전트도 있다. 구글 딥마인드와 프로젝트 제로에서 개발한 ‘빅 슬립(Big Sleep)’은 오픈소스 데이터베이스 SQLite의 제로데이 취약점(CVE-2025-6965)을 공격자가 악용하는 것을 발견하고 조기에 대응하도록 조치한 것으로 유명하다.
한편 구글은 AI 기반 보안 기능을 대거 업데이트하며 이 분야의 경쟁력을 높이고 있다. 구글은 시큐리티 커맨드 센터(Security Command Center)의 AI 보호 기능(AI Protection)을 통해 에이전트가 활용하는 민감 데이터를 보호하고, AI 상호작용 과정에서 발생할 수 있는 위협에 대응할 수 있게 한다.
또한 자율형 보안관제센터(Agentic SOC)의 비전을 달성하기 위해 여러 기능을 업그레이드하고 있으며, 그 일환으로 경고 조사 에이전트(Alert Investigation agent)를 공개했다. 이는 맨디언트 분석가의 모범 사례를 기반으로 이벤트 보강, 명령어 인터페이스(CLI) 분석, 프로세스 트리 구축 등을 자율적으로 수행하는 것이다.
스티브 레드지안(Steve Ledzian) 구글 JAPAC CTO는 “구글 보안 운영 플랫폼에서 사용하는 에이전틱 AI는 분석가와 협력해 반복적인 작업을 자율적으로 처리하고, 의사결정을 보강하며, 워크플로를 자동화함으로써 보안 팀에 근본적이고 혁신적인 변화를 불러올 것이다. 이를 통해 분석가들은 전문성이 요구되는 복잡한 조사와 전략적 과제 등 가장 중요한 업무에 더욱 주력할 수 있다”고 말했다.
그는 이어 “보안은 팀워크가 필수적이며, 한 기업이 모든 것을 혼자 해결할 수는 없다. 그렇기 때문에 구글의 보안 제품들은 광범위한 보안 업체 생태계와 통합돼 있다. 또한 구글 맨디언트는 특정 기술에 구애받지 않는 기술 중립적인 접근 방식을 통해 구글 제품 및 솔루션 사용 여부와 관계없이 모든 조직에 서비스를 제공한다”고 덧붙였다.
