AI 보안이란? 사이버 보안의 새로운 무기가 된 인공지능
인공지능(AI) 기술은 다양한 산업에 깊이 스며들어 새로운 변화를 이끌어내고 있어요. 특히 사이버 위협이 기하급수적으로 증가하는 요즘, AI는 우리가 악의적인 행위자들보다 한발 앞서 나갈 수 있도록 도와주는 필수 도구로 자리 잡았습니다.
단순한 자동화 도구를 넘어 공격자와 방어자 모두에게 막강한 기술 도구가 된 AI, 인공지능이 사이버 보안 환경에 어떤 혁신적 변화를 가져오고 있을까요? AI로 새로운 보안 위협에 대응하는 방법과 오펜시브 보안 분야에서 어떻게 사용되고 있는지 살펴보겠습니다.
사이버 보안 위협 현황
날로 증가하는 사이버 위협, 그 심각성은 어느 정도일까요? 최근 조사에 따르면 데이터 침해 사고의 평균 비용은 한 건당 445만 달러에 달합니다. 특히 클라우드 환경에서 발생하는 침해 사고는 지난 1년 동안 75%가 증가했으며, 공격자가 성공적인 공격을 수행하는 데 걸리는 시간이 적게는 2분 7초에 불과한데요. 이러한 추세라면 2025년까지 사이버 범죄로 인한 피해 규모는 10조 5천억 달러에 이를 것으로 예상된다고 합니다.
그렇다면, 왜 조직은 사이버 위협에 더욱 취약해졌을까요? 첫 번째 이유는 클라우드 서비스 의존도가 크게 높아졌기 때문이에요. 실제로 기업의 94%가 클라우드 서비스를 사용하고 있어, 구성 오류, 부적절한 접근 제어가 빈번하게 발생하고 공격 가능한 표면이 이전보다 넓어졌습니다. 두 번째는 팬데믹 이후 급격히 늘어난 원격 근무 환경으로 취약점이 덩달아 증가한 것이에요. 알려진 취약점뿐 아니라 제로데이, API 식별 등 취약점 발견, 관리, 적절한 대응이 어려워지고 있습니다. 여기에 사이버 보안 전문 인력의 부족까지 모든 요인이 복합적으로 작용해 조직의 사이버 보안 태세가 약화되고 있어요.
오펜시브 보안 분야에서 활용하는 인공지능(AI)
AI는 이러한 사이버 보안 환경에서 혁신적 변화를 불러오고 있습니다. AI를 활용해 대규모의 정교한 공격을 더 빠르게 수행할 수 있으며, AI로 실제와 구분하기 어려운 합성 미디어를 생성해 사기와 정보 왜곡을 일으키는 사회 공학 공격이 이루어지기도 합니다. 반면, 방어적인 측면에서도 AI를 활용해 실시간으로 위협을 탐지하고 사전에 공격을 차단하며 보안 태세를 강화할 수 있어요.
그렇다면, 오펜시브 보안 분야에서는 AI를 어떻게 활용하고 있을까요? 다양한 분야에서 AI를 연구/활용하는 방안을 살펴보겠습니다.
AI 활용 사례(1) — 클라우드 보안
클라우드 보안에서 AI는 구성 오류 탐지와 권한 관리에 중요한 역할을 해요. 클라우드 환경에서 보안 침해 사고의 65%는 잘못된 구성에서 비롯된다고 하는데요, AI가 이러한 구성 오류를 자동으로 탐지하고, 악용할 수 있는 공격 지점을 찾아내고 있습니다.
또한, AI는 크리덴셜 스터핑(유출된 개인정보를 웹사이트에 무작위로 대입하는)과 같은 무차별 대입 공격(브루트포스)을 가속화해 공격의 효율성을 높이고 있어요. 최근 하루 평균 3억 건의 크리덴셜 스터핑 시도가 이뤄지고 있다고 하는데요, AI 기반 공격에 대응하기 위한 방안 마련이 중요해지고 있습니다.
AI 활용 사례(2) — 외부 위협 탐지
AI를 활용하면 광대한 공격 표면에서 취약점을 자동으로 탐지할 수 있습니다. 인터넷상에는 공격자에게 매력적인 공격 표면인 수많은 자산들이 노출되어 있어요. 한 연구에서 1억 8천만 개 이상의 URL을 스캔 한 결과 18,000개가 넘는 API 키가 노출되어 있었고, 그중 41%는 매우 치명적인 수준이었다고 합니다. 이처럼 광대한 인터넷 공간을 사람이 일일이 살펴 취약점을 찾아내는 것은 불가능에 가까운데요, AI는 자동으로 탐지할 수 있습니다.
실제로, 티오리에서 만든 통합 보안 태세 관리 플랫폼 Xint는 Offensive Security AI Engine을 탑재해 기존의 URL 및 인터넷 스캐너를 확장하고 다양한 보안 취약점을 자동으로 찾아내는 기능을 제공하고 있어요. Xint의 AI로 고객사의 서비스 및 제품에서 치명적일 수 있는 취약점을 발견하고 있습니다.
AI 활용 사례(3) — 지능형 멀웨어 개발
AI를 활용해 지능형 멀웨어를 만들기도 합니다. 강화 학습(reinforcement learning) 기법을 활용해 멀웨어를 학습시킨 결과 5,000번의 학습만으로 99%의 탐지 회피율을 달성했다고 하는데요.
놀라운 것은 강화 학습 에이전트가 악성 행위를 수행하면서도 이를 평가하고, 탐지를 회피할 수 있는 최적의 전략을 학습한다는 점입니다. 이 과정이 반복되면서 점차 교묘해지고, 매우 높은 탐지 회피 능력을 갖춘 멀웨어를 개발할 수 있는 것이에요.
AI 활용 사례(4) — 취약점 탐지 및 관리
LLM을 활용한 코드 분석의 가장 큰 변화는 바로 ‘맥락 인식’이에요. LLM을 활용해 소스 코드를 분석하면서 구성 요소 간 관계를 파악하고, 잠재적 취약점을 자동으로 찾아낼 수 있습니다. 기존의 정적 분석 도구는 미리 정의한 특정 취약점 패턴을 코드에서 매칭하는 방식으로 동작했는데요, LLM은 코드나 인프라 환경의 전후 맥락을 종합적으로 이해해 취약점으로 이어질 수 있는 로직을 추론해 낼 수 있습니다. 훨씬 정교하고 효과적인 분석을 가능하게 하는 것이죠.
티오리에서 고도화하고 있는 취약점 탐지 자동화 프로세스에서도 LLM은 코드 간 관계를 그래프로 표현하고, 이를 통해 잠재적 위협을 자동으로 생성하는 방식을 활용합니다. 이렇게 만들어진 위협 시나리오는 실제 테스트로 이어져 코드의 안전성을 높이는 데 기여하고 있어요.
최신 LLM은 전문가가 작성한 시나리오의 약 45%를 커버하는 것으로 나타났는데요, 이는 전문가의 작업을 보조하고 가속화하는 데 충분한 수준이에요. AI는 코드 분석과 취약점 탐지를 보다 빠르고 깊이 있게 진행할 수 있도록 보안의 새로운 지평을 열어가고 있습니다.
AI 활용 사례(5) — 실시간 보안 모니터링 및 대응 자동화
방대한 이벤트 로그와 네트워크 데이터를 실시간으로 분석해 이상 징후를 탐지하고 대응할 때 AI, 특히 머신러닝 기술이 큰 역할을 합니다. 시스템의 비정상적 행위를 재빨리 포착하고 자동으로 대응 방안을 제시하는데요, AI는 시스템 행위를 지속적으로 학습하며 이상 탐지의 정확도를 높이고 오탐률을 줄일 수 있습니다.
AI 활용 사례(6) — 실시간 코드 분석, 보안 약점 자동 개선
AI는 애플리케이션 보안을 근본적으로 개선하는 데에도 기여하고 있습니다.
개발자가 코드를 작성하면 AI가 실시간으로 해당 코드를 분석해 보안 취약점을 확인하고, 발견된 취약점 대응 가이드라인까지 제시합니다. 더 진화된 시스템에서는 AI가 직접 취약한 코드를 자동으로 수정하기도 해요. 모든 과정이 실시간으로, 높은 정확도로 이뤄지기 때문에 보안 품질이 획기적으로 향상됩니다. IaC(Infrastructure-as-Code)가 보편화된 지금, AI 기반 보안 분석과 자동 개선은 클라우드 및 인프라 설정과 각종 보안 정책 설계에도 적용될 수 있어요.
AI 보안 자동화는 크게 (1) 보안 약점 탐지 및 근본 원인 규명, (2) 공격 경로 가시화, (3) 최적의 해결책 도출로 이뤄집니다. AI가 모든 과정을 자동화하며 공격자 관점에서의 보안 운영은 혁신적으로 변하고 있어요.
사이버 보안의 대전환기를 맞이한 지금, 조직이 살아남기 위해서는 AI 기술 도입이 필수적입니다. 하지만 AI는 완벽한 해결책이 아니에요. 사람과 AI의 시너지를 발휘하는 방법, 기술에 대한 깊은 이해, 윤리적, 사회적 고려가 함께 이루어질 때, 비로소 AI는 우리의 든든한 창과 방패가 될 수 있을 것입니다.
참고 자료
[1] Palo Alto Networks. “Unit 42 Cloud Threat Report.” 2020. https://start.paloaltonetworks.com/unit-42-cloud-threats-securing-iam
[2] Kazdagli, Mikhail, Mohit Tiwari, and Akshat Kumar. “Leveraging AI Planning For Detecting Cloud Security Vulnerabilities.” (2024).
[3] Methodology: How we discovered over 18,000 API secret tokens. https://escape.tech/blog/how-we-discovered-over-18-000-api-secret-tokens/
[4] RansomAI: AI-powered Ransomware for Stealthy Encryption (2023).
