본문 바로가기

뉴스

View
포스텍 이남훈 교수·이관희·장현도·이동엽 씨, 2025 한국인공지능학회 추계학술대회서 최우수 논문상 수상
작성자 시스템 작성일 25/12/15 (13:46) 조회수 51

지난 11월 20일, 인공지능대학원 최적화 연구실 소속 석사과정 이관희, 장현도, 이동엽 학생과 이남훈 교수가 공동으로 수행한 연구가 2025년 한국인공지능학회 추계학술대회에서 한국남동발전 최우수논문상을 수상했습니다.
 
이번 학술대회에서는 최우수 논문 2편과 우수 논문 2편이 선정됐으며, 이 중 본 논문 ‘The Unseen Frontier: Pushing the Limits of LLM Sparsity with Surrogate-Free ADMM’’이 최우수 논문으로 이름을 올렸습니다.
 
본 연구는 기존 거대언어모델(LLM) 희박화 연구에서 도달하지 못했던 90% 수준의 고희박도 영역을 실제로 달성할 수 있음을 보인 것이 특징입니다.
‘희박화’는 모델의 성능을 유지하면서 불필요한 파라미터를 제거해 계산량과 메모리 사용을 줄이는 방법으로, 연구팀은 기존 근사 기반 방식이 아닌, 원래의 목적함수를 직접 활용하는 제약 최적화 기반 희박화 기법을 설계하고, 희박화 과정에서 원목적함수의 중요성을 규명하여 이에 적합하도록 알고리즘을 고도화했으며, 수렴성에 대한 이론적 분석도 함께 제시했습니다.
다양한 종류와 크기의 거대언어모델을 대상으로 실험한 결과, 연구팀이 제안한 방법은 기존 기법 대비 고희박도 영역에서 우수한 성능을 보였습니다. 특히 LLaMA-2-7B 모델을 90% 희박화한 조건에서 기존 기법 대비 7.8배 낮은 퍼플렉서티(perplexity)를 기록했으며, 해당 성능을 유지한 상태에서 추론 속도는 최대 2.5배 향상, 메모리 사용량은 최대 4.6배 감소시킬 수 있음을 확인했습니다. 이는 대규모 언어모델이 실제 활용 환경에서 요구하는 연산 비용과 자원 부담을 희박화를 통해 효과적으로 줄일 수 있음을 보여준 것입니다.
 
한편, POSTECH 인공지능대학원 최적화 연구실은 2025년 한국인공지능학회 하계학술대회에서 우수논문상, 2023년 추계학술대회에서 최우수논문상을 수상한 바 있습니다.

한국인공지능학회 추계학술대회 최우수논문상 수상을 진심으로 축하드리며,
이관희, 장현도, 이동엽 학생이 좋은 연구를 계속 이어나가길 바랍니다!

연구실 소개 : 바로가기(클릭)