AI 안전한 사용 위한 통합 플랫폼 경쟁적으로 등장
[데이터넷] AI 발전 속도가 예측하기 어려울정도로 빨라지고 있지만, 보안 문제 해결은 뒷전으로 미루고 있다. 모든 기술은 보안을 내재화해야 한다는 것에 이의를 제기할 사람은 없지만, 보안 때문에 기술 발전의 속도를 늦춰서는 안 된다는 주장이 더 힘을 얻기 때문이다. 보안 부채를 관리하면서 AI를 사용할 수 있는 방법을 알아본다.<편집자>
AI 사용이 증가하면서 섀도우 AI와 AI 애플리케이션 취약점으로 인한 문제도 심각해지고 있다. 여느 SaaS와 마찬가지로 AI 애플리케이션도 쉽게 사용할 수 있기 때문에 관리조직의 승인 없이 사용하는 AI로 인한 문제가 심각하다. 관리되지 않은 섀도우 AI로 중요 데이터가 유출될 수 있으며, AI 계정 유출로 추가 보안 사고가 발생할 수 있다.
AI 애플리케이션의 취약점과 이로 인한 공격표면 증가의 위험도 있다. 금융보안원의 ‘AI 에이전트 보안 위협 보고서’에서는 AI 에이전트에 연동되는 도구의 수와 종류가 증가하면서 공격 표면이 확장되고 공격발생 가능성이 높아진다는 점을 지적했다. 사용자는 에이전트가 사용하는 도구 설명 전체를 확인하기 어려우며, 숨겨진 악성 행위를 식별하지 못한다.
AI 애플리케이션 취약점은 공급망 공격으로도 이어진다. 취약점이 있는 코드를 사용한 AI 애플리케이션이 여러 기업에 공급되면 해당 기업은 물론이고, 이 기업의 서비스를 받는 기업, 취약점이 있는 AI 애플리케이션과 연동된 다른 도구들도 공격에 노출될 수 있다.
‘LLM 애플리케이션을 위한 OWASP Top 10 2025’에서 공급망 보안 문제로 훈련 데이터, 모델, 배포 플랫폼 무결성을 위협하는 취약점에 대해 경고했다. 서드파티 모델과 데이터의 신뢰성 부족으로 인한 문제, 취약한 패키지와 라이브러리 사용, 허깅페이스 등 협업 모델 개발 플랫폼에서 악의적인 코드 삽입 등의 문제가 불거질 수 있다.
“과도한 권한의 AI API로 문제 발생 가능성 높아”
섀도우 AI, AI 취약점 및 공급망 위협을 막기 위해서는 제로 트러스트 원칙이 필수다. 접속할 때 마다 AI의 신뢰를 확인하고, 사용자의 입력이나 AI 출력에서 보안 정책에 위배되는 내용이 있는지 확인해야 한다. AI 애플리케이션 개발 시 취약점을 제거하고, 운영 과정에서도 침해 가능성을 진단해 조치한다.
AI API로 인한 위협 역시 중요하게 고려해야 한다. AI 애플리케이션이 다양한 도구와 API를 통해 연동되는 만큼, 잘못 설계된 API, API의 취약점으로 인한 보안 문제가 발생할 가능성이 높다. ‘LLM 애플리케이션을 위한 OWASP Top 10 2025’에서 정의한 시스템 프롬프트 유출, 무제한 리소스 소비 등이 API 취약점을 통해 발생할 수 있다.
클라우드 보안 연합이 SaaS 보안 전문기업 발렌스(Valence) 후원으로 진행한 ‘SaaS 보안 현황’에 따르면 IT·보안 전문가 56%는 타사 공급업체와 AI 기반 SaaS 도구가 데이터에 대한 과도한 권한의 API 액세스를 확보하고 있어 문제가 될 수 있다고 내다봤다.
AI 전환을 추진하는 조직은 대부분 사람의 개입 없이 자동으로 생성형 AI와 타사 도구를 통합하기를 원하며, 데이터 이동 및 분석, 애플리케이션 연결, 대규모 출력이 가능한 시스템을 구축한다. 그런데 이 기능은 잘못 구성되면 큰 문제를 일으킬 수 있기 때문에 적절한 감독이 필수다. 특히 AI 도구와 시스템이 SaaS 워크플로우에 깊이 통합되면서 새로운 유형의 사용자가 등장하고 새로운 행동 패턴이 생긴다. 그런데 변화된 환경에 맞는 통제 정책이 마련되지 않았다.
ADC·WAAP 통합 플랫폼에 API 보안 통합
F5는 AI를 포함한 다양한 SaaS와 애플리케이션에서 사용되는 API를 보호하는 기술을 제공한다. API에 포함된 취약점과 논리적 설계오류를 진단하는 한편, 지속적인 침투테스트로 제거되지 않은 취약점과 공격표면을 해결한다.
F5는 이 기능을 ‘ADSP(Application Delivery and Security Platform)’에 통합해 하이브리드 클라우드 환경의 애플리케이션 보안을 한층 강화한다. ADSP는 애플리케이션 전송 컨트롤러(ADC)와 애플리케이션 보안 기술을 통합한 플랫폼으로, 애플리케이션 품질을 유지하면서 복잡한 보안 문제를 단일 플랫폼에서 간편하게 해결할 수 있다.
모한 벨루(Mohan Veloo) F5 아시아태평양·중국·일본 지역 CTO는 “기업은 멀티·하이브리드 클라우드 환경을 운영하면서 AI 애플리케이션을 포함한 수천개의 애플리케이션과 API를 관리해야 하는 실정이다. F5는 다각적인 보안 전략을 통해 단순한 관리와 강력한 보안을 보장할 수 있는 ADSP를 제공한다. 이 플랫폼은 고성능 트래픽 관리와 심층 보안 제어를 결합해 운영 복잡성을 줄이고 보안 사각지대를 제거한다”고 설명했다.
ADSP는 고성능 로드 밸런싱, 트래픽 관리, 고급 애플리케이션 및 API 보안 기능을 통합했으며, 사전 대응 가능한 인사이트와 풍부한 분석을 통해 성능을 개선하고 보안을 강화한다. 또한 AI 게이트웨이를 활용해 AI 워크로드의 고유한 요구사항을 충족하며, 웹 애플리케이션 및 API 보호 플랫폼(WAAP) 기능을 통해 실시간으로 데이터 구조를 검증하고, 이상 징후를 감지하며, 위협을 차단한다.
한편 F5는 ADSP와 레드햇 오픈시프트 AI를 통합해 기업이 안전한 고성능 AI 애플리케이션을 배포하고 확장할 수 있도록 지원한다. 이를 통해 기업은 검색증강생성(RAG), 안전한 모델 제공, 확장 가능한 데이터 수집 등 실용적이고 부가가치가 높은 사용 사례에 집중하면서 더 빠르고 안전하게 AI를 도입할 수 있게 된다.
퍼블릭·프라이빗 AI 애플리케이션 보호 지원
클라우드플레어는 AI 기술을 보다 안전하게 도입하고, 배포하며, 대규모로 관리할 수 있도록 지원하는 ‘AI를 위한 클라우드플레어’로 AI 보안 요구에 대응한다. 이 제품은 AI 애플리케이션 가시성, 보안, 통제를 지원하며, 데이터 유출, 오용, 새로운 보안 취약점 등의 핵심 과제를 해결한다.
이 제품은 AI 모델 배포, 데이터 무결성, 사용 행위 보호를 위한 고급 보안 기능을 제공해 내부자에 의한 오남용, 유해한 프롬프트, 개인정보 유출 등의 위협을 사전에 방지할 수 있다. AI용 방화벽, AI 게이트웨이가 포함돼 있어 조직이 현재 사용중인 AI 애플리케이션을 파악하고, 모니터링하며 필요한 보안 조치를 효과적으로 시행할 수 있게 한다. 민감 데이터 유출 방지, 프롬프트 모니터링 및 관리, 확장 가능한 AI 개발 지원 기능도 제공한다.
마이클 트레만테(Michael Tremante) 클라우드플레어 제품 담당 시니어 디렉터는 “클라우드플레어는 조직이 AI를 안전하게 활용할 수 있도록 외부 공개용 애플리케이션은 물론, 내부용 애플리케이션까지 아우르는 보안 도구를 제공하는 데 집중하고 있다. 사용중인 AI 애플리케이션의 가시성을 확보할 수 있도록 도와 보안 관리자가 정책을 수립하고, 다양한 위협을 탐지 및 대응할 수 있는 기반을 마련할 수 있게 한다. 이를 통해 OWASP top 10 for LLM에서 언급된 대부분의 위협에 대응할 수 있게 돕는다”고 말했다.
