보안 자동화, AIOS 팀이 꿈꾸는 인공지능과 보안의 융합
최근 인공지능(AI) 기술은 ChatGPT와 같은 챗봇, 자율 주행 등 다양한 산업에서 발전하고 있죠. 적용 영역이 늘어나면서 보안 산업 역시 AI 기술 활용에 주목하고 있어요. 티오리의 AIOS(Artificial Intelligence for Offensive Security) 팀은 AI 기술을 활용해 보안 위협 탐지, 대응 등의 과정을 자동화하는 기술을 연구하고 있는데요. Google, Microsoft, Samsung 등 국내외 무수히 많은 기업의 보안 컨설팅을 진행한 티오리의 노하우를 바탕으로, 더 많은 사람이 안전한 디지털 환경을 누릴 수 있도록 돕기 위해 노력하고 있답니다.
AIOS 팀과의 첫 인터뷰 이후, 이들은 어떤 도전을 해왔을까요? AIOS 팀이 지난 1년 동안 어떤 도전과 성장을 경험했는지, 티오리와 사이버 보안 업계에 어떤 변화를 가져오고 있는지를 자세히 살펴보겠습니다.
Theori AIOS 팀, 보안을 자동화하는 꿈
티오리 AIOS 팀은 보안 자동화를 연구 개발하는 팀으로, “더 많은 사람이 더 안전한 세상에 접근할 수 있도록 보안을 자동화” 하는 것이 목표예요. 단순히 기술 개발에 그치는 것이 아니라 보안을 누구나 누릴 수 있는 가치로 만들겠다는 강한 의지를 담고 있어요.
AIOS 팀의 비전은 “보안 취약점의 식별, 공격, 보완하는 방법 등을 정확하고 신뢰할 수 있으며 경제적인 방법으로 자동화하는 것”인데요, 이 비전은 AIOS 팀이 추진하는 모든 프로젝트의 방향과 해결할 과제를 명확하게 정의하는 데 중요한 역할을 하고 있습니다.
물론 처음부터 모든 것이 순조로웠던 것은 아니에요. AIOS 팀은 어떻게 AI 기술을 활용해 보안 위협에 대응하는 방법을 혁신하고 있을까요?
한걸음 다가간 인공지능 보안 컨설턴트
AI로 소스 코드만 보고 1 Day 취약점 발견
24년 초 AIOS 팀은 취약점 식별 자동화를 위해, 소스 코드를 분석해 보안 위협을 예측하는 AI 시스템 개발을 시작했어요. LLM(대형 언어 모델)을 이용하려 했지만 LLM만으로 보다 복잡한 보안 문제를 해결하는 데엔 한계가 있다는 것을 알게 됐어요. 새로운 방법이 필요했습니다.
티오리에서 Web2 보안 컨설팅, 보안 감사를 수행하는 Security Assessment(SA) 팀 업무 방식을 참고했어요. 실제 보안 감사 과정에서 취약점을 분석하기 위해 어떤 식으로 접근하고 어떤 기술로 분석하는지를 파악한 다음, AI 기술과 접목시켰습니다. 현실적인 보안 위협을 더 정확하게 발견하기 위해 위협 시나리오와 분석 결과를 공유하고 개선하는 과정을 거듭했어요.
취약점을 발견하는 과정에서 필요한 파이프라인을 개발했어요. 소스 코드상 데이터의 흐름을 그래프로 표현하고, 순차적으로 위협을 발굴/검증하는 파이프라인 덕분에 보다 정교한 위협 시나리오를 만들어낼 수 있었어요. 그 결과, 8월에는 AI로 실제 소스 코드에서 1 Day 취약점(패치가 공개된 취약점)을 발견하는 데 성공했습니다. 보안 자동화의 가능성을 확인한 중요 단계였으며, 앞으로의 연구에 발판이 될 거라 기대하고 있어요.
컨설턴트가 찾는 취약점 중 약 25% 자동화
24년 5월부터는 소스 코드가 없는 상황에서도 웹 애플리케이션을 순회하며 위협을 검토하는 기술을 개발하고 있어요. 웹 환경은 보안 위협이 끊임없이 발생하는 영역 중 하나인데요, AIOS 팀은 웹 환경에서 발생할 수 있는 다양한 위험을 사전에 탐지하고 예방할 수 있는 기술을 개발 중입니다. 첫 테스트 기간에만 실제 컨설팅 과정에서 컨설턴트가 찾는 취약점 중 25%를 자동화 방식으로 발견하는 성과를 이뤄냈어요.
웹을 자동으로 탐색하고 데이터를 수집하는 LLM(대형 언어 모델) 기반의 Web AI Agent를 개발하는 연구도 병행하고 있는데요, 이 기술이 앞으로의 웹 보안 환경을 더욱 견고하게 만드는 데 큰 기여를 할 것이라 믿어요.
혁신적인 솔루션 USPM, Xint의 핵심 기술 Security AI Engine 개발
Xint, OSAIE로 발견한 취약점 알림
보안 자동화 기술을 연구하며 Theori USPM 서비스인 Xint OSAIE(Offensive Security AI Engine)를 함께 개발하고 있어요. OSAIE는 기존의 ML(Machine Learning) 기술뿐 아니라 최근 각광받고 있는 GenAI 기술을 적극 활용한 Xint의 핵심 기술이에요. 알려진 취약점, 아직 발견되지 않은 취약점을 자동화 기법으로 탐지하고, 근본 원인을 분석해 보안 문제를 신속하고 효과적으로 해결할 수 있도록 지원합니다.
AIOS 팀에서 연구, 개발하는 기술이 실제 서비스 중인 솔루션의 핵심 기능으로 지원하고 있는데요. Xint뿐만 아니라 Web2, Web3 보안을 감사하는 SA 팀, ChainLight 팀과도 긴밀히 협업하고 있답니다. 티오리의 노하우를 녹인 자동화 기법을 활용해 안전한 세상을 만들기 위한 티오리 프로덕트/서비스가 더 효율적으로 진행될 수 있도록 도울 예정이에요.
AI 엔지니어에서 보안 AI 엔지니어로
AIOS 팀 7인의 팀원 중 보안 배경을 가진 사람은 단 3명뿐이에요. 대기업, 중소기업, 스타트업에서 음성 합성, 자율주행, 비전, 강화 학습 등 다양한 분야를 연구하던 인원이 모였답니다. 다양한 배경 덕분에 창의적인 아이디어와 솔루션을 도출할 수 있는 장점이 있지만, 티오리에서 본격적인 역할을 맡기까지 보안을 더 깊이 이해하는 과정이 필요했어요.
보안 문제에 대한 감각을 익히며 AIOS 팀이 앞으로 나아가야 할 방향을 정하기 위해 티오리의 방대한 취약점 데이터베이스를 분석하고 학습했어요. 특정 산업군, 서비스에서 더 조심해야 할 위협이 있는지 탐구했습니다. 티오리의 보안 교육 플랫폼 드림핵을 수강하고 해킹 대회도 함께 참여하며 실력을 연마하고 있어요. 올해는 DEF CON 32 CTF에도 참여해 3연속 우승에 기여했답니다. (웃음)
최근에는 국가 GPU 지원 사업을 성공적으로 수주해서 연구에 필요한 컴퓨팅 자원도 충분히 확보한 상태예요. 더욱 안정적인 환경에서 연구를 수행하고 있으며, 보안 자동화의 미래를 위한 중요한 기틀을 마련하고 있어요.
보안 자동화의 미래를 이끌어 나가는 AIOS 팀
AIOS 팀은 앞으로도 더 안전한 세상을 만들어 나가고자 해요. 목표는 단순히 기술을 개발하는 것에 그치지 않고, 그 기술이 사람들에게 실질적인 도움을 줄 수 있도록 하는 것이에요. PoC(Proof of Concept) 생성과 0 Day 취약점 탐지, 대응 방안 제안 등의 작업을 통해 보안 자동화의 미래를 이끌어 나갈 계획이에요.
보안의 중요성이 날로 커져가는 지금, 우리의 기술로 더 많은 사람이 안전한 디지털 환경을 누릴 수 있도록 AIOS 팀은 끊임없이 연구하고 개발할 것입니다.
