학부생 제1저자 논문 포함, 고성능 인공지능의 ‘설명 가능성(XAI)’ 패러다임 주도

정부 핵심 기초연구 사업인 한국연구재단 ‘신진연구자지원사업’의 우수 성과

머신러닝 추론·불확실성 분야 세계 최고 권위 학회 ‘UAI 2026’서 연구 성과 입증

거대언어모델(LLM)의 잠재 공간 분석부터 시공간 예측, 그래프 이상 탐지까지 XAI 핵심 원천기술 확보

세명대학교 AI컴퓨터학부 이수안 교수 연구팀이 과학기술정보통신부가 주관하고 한국연구재단(NRF)이 지원하는 ‘신진연구자지원사업(우수신진연구)’의 수행 결과로 인공지능(AI) 및 머신러닝 분야의 세계 최고 권위 학술대회인 ‘인공지능 불확실성 학회(UAI 2026, Conference on Uncertainty in Artificial Intelligence)’에서 총 3편의 논문을 동시에 합격(Accept)시키는 쾌거를 달성했다고 밝혔다.

올해로 42회를 맞이하는 UAI 학회는 인공지능의 확률적 추론, 불확실성 통제, 인과 추론 분야를 가장 깊이 있게 다루는 탑티어(Top-tier) 국제 학술대회다. 올해는 네덜란드 암스테르담에서 개최될 예정이다. 이번에 채택된 3편의 논문은 최근 AI 학계의 가장 큰 화두인 ‘자체적인 설명 가능성(Inherent Interpretability)’을 확보하면서도 black-box(블랙박스) 모델을 뛰어넘는 고성능을 증명해 냈다는 점에서 독창성을 인정받았다.

특히 이 중 1편은 세명대 AI컴퓨터학부 4학년에 재학 중인 김재성 학생이 제1저자로 참여하여 세계적인 연구자들과 어깨를 나란히 했다.

■ 채택 논문 주요 성과

1. 동일 벤치마크, 동일 부분공간: 거대언어모델 표현의 작업 선택적 수렴 현상 규명

저자: 김재성(학부 4학년, 제1저자), 이수안 교수(교신저자)

논문명: Same Benchmark, Same Subspace: Task-Selective Convergence in LLM Representations

성과 요약: 본 연구는 서로 다른 아키텍처와 학습 배경을 가진 50개의 거대언어모델(LLM)을 대상으로 문장 생성 과정 중의 숨겨진 잠재 표현을 분석했다. 연구팀은 모델들이 겉으로는 각기 다른 방식으로 학습되었을지라도, MMLU나 MedQA 등 특정 평가 데이터셋(벤치마크)을 해결할 때 내부 representation 공간에서 정답을 찾아내는 '선형 읽기 부분공간(Readout Subspace)'이 시각적으로 일치할 만큼 강력하게 수렴한다는 점을 세계 최초로 입증했다. 나아가 AI 모델 내부의 잠재 지식이 실제 문장으로 출력되는 능력보다 더 풍부하다는 점을 증명하여 AI 평가 방식의 새로운 기하학적 기준을 제시했다.

2. 가법적 신경 분해 및 지식 증류를 통한 해석 가능한 시공간 예측 모델 개발

저자: 이수안 교수(제1저자, 교신저자), 김진호 연구소장((주)한국정보기술단 AI연구소)

논문명: Interpretable Spatial-Temporal Forecasting via Additive Neural Decomposition and Knowledge Distillation

성과 요약: 교통량이나 기후 예측 같은 시공간 데이터 분석에서 복잡한 인공신경망(STGNN)은 성능은 좋으나 내부를 알 수 없는 블랙박스였다. 연구팀은 예측 결과를 노드·시간·공간·상호작용 성분으로 명확하게 쪼개어 시각화할 수 있는 엄격한 가법 신경 모델(STGNAM)을 제안했다. 이 가법적 제약이 오히려 과적합을 막는 정규화 역할을 하여 미국 캘리포니아 교통 데이터(PEMS-BAY) 평가에서 기존 모든 블랙박스 모델을 제치고 세계 최고 성능(SOTA)을 경신하는 놀라운 결과를 도출했다.

3. FraudGNAM: 그래프 이상 거래 탐지를 위한 자체 해석 가능한 스펙트럴 GNN 기술

저자: 이수안 교수(제1저자, 교신저자), 김진호 연구소장((주)한국정보기술단 AI연구소)

논문명: FraudGNAM: Inherently Interpretable Spectral GNN for Graph Fraud Detection

성과 요약: 금융 사기나 이상 거래 탐지(Fraud Detection) 시 사기꾼들은 일반 유저와 교묘하게 연결망을 만들어 자신을 위장(위장 heterophily 패턴)한다. 연구팀은 그래프의 주파수 대역별 특성을 분석하는 스펙트럴(Spectral) GNN 기술에 설명 가능한 가법 모델(NAM)을 융합한 ‘FraudGNAM’을 개발했다. 금융 감독 기관이나 실무자가 AI의 탐지 결과에 대해 "어떤 주파수 대역과 유저 특징이 사기 점수에 기여했는지" 수학적으로 오차 없이 정밀 추적(Exact Decomposition)할 수 있게 해 고위험 금융 AI의 신뢰성을 획기적으로 높였다.

■ 정부 전폭적 기초연구 지원, 지방대 학부생 중심의 연구 혁신 및 AI 학과 개편 탄력

이번 연구 성과는 신진 연구자들의 창의적 연구 의욕 고취와 안정적인 연구 환경 구축을 목표로 하는 한국연구재단 신진연구자지원사업의 성공적인 결과물이라는 점에서 국가 기초연구 지원 사업의 실효성을 입증한 모범 사례로 꼽힌다.

특히 신진 연구 활성화 지원과 학부 내 자체 고성능 컴퓨팅(GPU) 인프라 구축이 시너지를 내며, 지방 거점 대학의 학부생이 세계적인 인공지능 탑티어 학회에서 제1저자로서 성과를 내는 AI 교육계의 혁신으로 이어졌다.

제1저자인 김재성 학생은 "학부생 연구원으로서 교수님의 세심한 조언을 받아 대규모 언어 모델 50개의 잠재 공간을 직접 추출하고 분석하는 도전적인 연구를 완수할 수 있었다"며 "세계적인 석학들이 모이는 UAI 학회에서 논문을 발표하게 되어 큰 영광이며, 인간과 안전하게 공존할 수 있는 신뢰성 있는 AI 연구를 이어가겠다"고 소감을 전했다.

연구책임자이자 신진연구자지원사업을 수행 중인 이수안 교수는 "인공지능의 성능을 높이는 것만큼이나 AI가 왜 그런 판단을 내렸는지 불확실성을 통제하고 설명(XAI)하는 것은 미래 사회의 필수 기술"이라며 "이번 연구 성과들은 거대 언어 모델부터 금융 보안, 스마트 시티 예측에 이르기까지 실무 산업에 즉각 적용 가능한 핵심 원천 기술"이라고 강조했다.

한편, 세명대학교 컴퓨터학부는 이러한 독보적인 AI 연구 역량을 바탕으로, 2027학년도부터 ‘AI컴퓨터학부’로의 학과 명칭 변경 및 인공지능 중심의 첨단 교육과정 전면 개편을 단행한다. 이번 세계 최고 권위 학회에서의 성과는 세명대 AI컴퓨터학부의 글로벌 경쟁력을 증명하는 이정표가 될 전망이다.