 |
왼쪽부터 단국대 김선오 교수, 서울시립대 엄대호 교수. |
[대학저널 온종림 기자] 서울시립대학교 전자전기컴퓨터공학부 엄대호 교수 연구팀의 논문이 인공지능 분야 세계 최고 권위의 국제 학술대회인 국제 머신러닝 학회(ICML 2026)에 채택되는 성과를 거두었다.
ICML(International Conference on Machine Learning)은 NeurIPS, ICLR과 함께 세계 3대 머신러닝(기계학습) 학회로 꼽히며 AI의 발전을 이끌어가는 대표 학회 중 하나로 평가된다. 제43회를 맞는 ICML 2026은 오는 6월 3일부터 6월 7일까지 서울 코엑스 컨벤션·전시센터에서 개최될 예정이며, 한국에서의 오프라인 개최는 이번이 처음이다.
해당 연구성과는 ‘SS-TPT: Stability and Suitability-Guided Test-Time Prompt Tuning for Adversarially Robust Vision-Language Models’라는 제목의 논문으로, 대규모 비전–언어 모델(CLIP)이 사진 조작 공격에 취약하다는 한계를 효과적으로 극복하는 새로운 방어 기법을 제안했다. 연구팀은 입력 이미지에 다양한 변형을 적용해 여러 시각(view)을 구성하고, 새롭게 정의한 두 지표인 안정성(stability)과 적합성(suitability)를 측정했다. 이를 기반으로 신뢰할 수 있는 시각에 더 집중하여 추론하는 기법을 개발했다. 제안한 기법은 세계 최고 수준의 적대적 강인성을 달성했으며, 대규모 비전-언어 모델의 내부 파라미터 변경 없이도 모델의 신뢰성을 크게 향상시켰다.
이 연구는 단국대 김선오 교수(제1저자)와 서울시립대 엄대호 교수(교신저자)의 공동연구로 수행되었다.
엄대호 교수는 “이번 연구는 CVPR 2026에 이어 비전–언어 모델의 적대적 공격에 대한 강인성을 높일 수 있는 새로운 방향을 제시한 연구”라며, “김선오 교수와 지속적인 협력을 통해 비전–언어 모델의 신뢰성 향상 연구를 이어가고, 실생활 속 AI의 신뢰성 제고에 기여할 계획”이라고 밝혔다.
[저작권자ⓒ 대학저널. 무단전재-재배포 금지]
