에이전틱 AI는 사용자의 목표를 수행하기 위해 외부 정보와 도구를 활용하고, 점점 더 많은 권한을 부여받고 있다. 이러한 편의성과 자율성의 확대는 동시에 새로운 보안 위협을 만들어낸다. 특히 에이전트가 외부 데이터, 검색 시스템, 다양한 도구와 지속적으로 상호작용하는 과정에서 악의적인 정보가 유입되어 추론과 실행 흐름을 왜곡하거나, 내부의 민감한 정보가 외부로 유출될 가능성이 커지고 있다.
본 강연에서는 이러한 위협을 에이전트의 추론 및 실행 흐름 하이재킹이라는 관점에서 살펴본다. 우리 연구실에서 수행한 Retrieval-Augmented Generation(RAG) 대상 공격 연구를 시작으로, 외부 정보에 의해 에이전트의 판단과 행동이 조작되는 공격과 에이전틱 추론 모델의 추론 과정을 직접 교란하는 공격을 소개한다. 또한 이러한 위협을 체계적으로 측정하고 비교하기 위해 개발한 보안 벤치마크와, 공격을 탐지하고 완화하기 위한 방어 기법에 대한 연구도 함께 소개한다. 

장부루 박사는 고려대학교 컴퓨터학과 조교수로 재직 중이다. 2025년 봄 고려대학교에 부임하기 전에는 서강대학교 조교수로 근무했으며, 그 이전에는 Match Group 산하 Hyperconnect에서 3년간 머신러닝 리서치 사이언티스트로 근무했다. 2020년 고려대학교에서 강재우 교수의 지도 아래 박사학위를 취득했으며, 2016년에는 고려대학교에서 학사학위를 받았다.