[Abstract]

바야흐로 대 AI 에이전트의 시대이다. 일상의 여러 작업에서부터 수학, 과학, 공학의 전문 분야까지 AI 에이전트가 놀라운 성능을 보여주고 있다. 하지만 신경망에 기반하여 확률적 판단만을 하는 AI 에이전트의 특성상 동작의 신뢰성을 담보하기는 어렵다. 이 문제를 해결하기 위해서는 논리를 바탕으로 하는 검증 시스템과 AI 에이전트가 유기적으로 연결되어야만 한다. 이 발표에서는 이러한 “논리-신경(neuro-symbolic)” 융합 AI 에이전트를 향해 나아가는 두 가지 이야기를 다룬다. 먼저 모바일 앱 자율실행을 위한 AI 에이전트의 행동을 검증하는 시스템을 소개한다. 이어서 코드 생성 에이전트가 만든 프로그램의 신뢰성을 검증하는 시스템을 소개한다. 그리고 이 두 사례를 통해 전통적인 프로그램 분석, 검증 기술이 AI 에이전트의 신뢰성 향상을 위해 적용될 여러 가능성을 함께 논의한다.

[Biography]

허기홍 교수는 KAIST 전산학부의 부교수이다. 프로그래밍 시스템 연구실을 이끌면서 안전한 소프트웨어를 손쉽게 작성하는 방법을 연구한다. 주로, 프로그래밍 언어 이론과 인공지능 기술을 기반으로 소프트웨어 분석/검증, 프로그램 자동 합성/변환 방법을 개발한다. KAIST에 부임하기 이전에는 서울대학교에서 컴퓨터공학 학사와 박사 학위를 받은 후, 미국 펜실베니아 대학교에서 박사후 연구원으로 근무하였다. 2025년 과기부 AI 챔피언 대상, 2024년 Amazon 연구상(소프트웨어 자동 검증 부문)을 수상하였고, PLDI, ICSE, FSE에서 최우수 논문상을 수상한 바 있다.