노타, 초대형 AI 모델 최적화 기술력 입증…‘EMNLP 2026’ 논문 2편 채택

• 
• 
• 

[이데일리 박정수 기자] AI 모델 경량화·최적화 기업 노타(486990)가 세계적인 인공지능(AI) 학술대회에서 초거대 언어모델(LLM) 최적화 기술력을 잇달아 인정받았다.

노타는 자연어처리(NLP) 분야 국제학술대회 ‘EMNLP 2026’에서 초거대 AI 모델 최적화 관련 논문 2편이 각각 메인 컨퍼런스와 파인딩스(Findings)에 채택됐다고 25일 밝혔다.

올해 EMNLP에는 약 1만8000편의 논문이 제출됐으며 메인 컨퍼런스 논문 채택률은 15.4%를 기록했다. EMNLP는 구글과 메타, 오픈AI 등 글로벌 빅테크와 주요 대학 연구진이 참여해 최신 자연어처리 연구 성과를 발표하는 학술대회다.

이번에 채택된 논문은 GPT 계열과 큐웬(Qwen), 키미(Kimi) 등 최신 LLM에 적용되고 있는 ‘전문가 혼합 모델(Mixture of Experts·MoE)’의 양자화 과정에서 발생하는 성능 저하 문제를 다뤘다.

MoE는 입력에 따라 필요한 일부 전문가만 연산하는 구조지만 전체 모델을 메모리에 저장해야 해 실제 구동 과정에서는 상당한 GPU와 메모리가 필요하다. 양자화를 적용하면 필요한 자원을 줄일 수 있지만 수치 변화로 기존과 다른 전문가가 선택될 경우 모델의 답변 성능이 저하될 수 있다.

메인 컨퍼런스에 채택된 논문은 양자화가 이후 단계의 전문가 선택에 미치는 영향까지 반영하고 선택 경계에 있는 전문가의 순서를 보존하는 ‘MENDS-MoE’ 방법론을 제시했다. 3종의 MoE 모델을 대상으로 4비트와 3비트 양자화 실험을 진행한 결과 대부분의 평가 환경에서 비교 기술보다 높은 평균 정확도와 언어모델 성능을 기록했다.

파인딩스에 채택된 논문은 모든 전문가 선택 변화를 일률적으로 보정하는 대신 최종 답변에 영향을 미치는 변화에 최적화를 집중하는 ‘오페라(OPERA)’ 방법론을 제안했다. 두 연구 모두 양자화 이후에도 적절한 전문가 선택을 유지하면서 모델 성능 저하를 최소화하는 데 초점을 맞췄다.

노타는 앞서 지난 7월 열린 ICML 2026 ‘자원 적응형 파운데이션 모델 추론(AdaptFM)’ 워크숍의 ‘Efficient Qwen Competition’에서도 전 세계 약 40개 팀 가운데 3위를 차지했다. 오픈소스 LLM 큐웬 3.5-4B를 엔비디아 A10G GPU 한 장에서 구동하면서 모델 성능을 유지하고 기존 대비 평균 6.978배 빠른 추론 속도를 구현했다. 같은 워크숍에서는 MoE 양자화 관련 논문 2편도 채택됐다.

노타는 연구 단계에서 확보한 최적화 기술을 초거대 LLM과 데이터센터 AI 인프라로 확대 적용하고 있다. AI 모델 규모가 수천억~수조개의 매개변수로 커지면서 성능을 유지하면서 GPU와 메모리 사용량을 줄이는 기술이 AI 서비스의 비용 효율성을 좌우하는 핵심 요소로 떠오르고 있기 때문이다.

최근에는 1조개 이상의 매개변수를 가진 ‘큐웬 3.8 맥스’를 경량화해 구동에 필요한 엔비디아 B300 GPU를 24장에서 4장으로 줄였다. 문샷AI의 ‘키미 K3’는 B300 GPU를 8장에서 최대 4장으로, 업스테이지의 ‘솔라 오픈 2’는 H100 GPU를 8장에서 2장으로 줄일 수 있는 최적화 결과도 공개했다.

회사는 모바일·엣지 AI를 중심으로 축적해온 최적화 역량을 초대형 LLM과 데이터센터 영역으로 확대한다는 계획이다. 지금까지 프루닝과 양자화 원천기술부터 모바일 엣지 AI, 생성형 AI, 비전언어모델(VLM), LLM까지 국내외 주요 학회와 저널에서 50여건의 연구 성과를 발표했다.

채명수 노타 대표는 “AI 모델이 수천억, 수조개의 매개변수 규모로 커지며 AI 산업의 경쟁축이 모델 자체의 성능을 넘어 운영 효율로 이동하고 있다”며 “앞으로도 최신 AI 모델의 구조 변화에 선제적으로 대응할 수 있도록 연구개발 투자와 지원을 이어가며 AI 인프라 도입의 효율을 높이는 핵심 최적화 기술 적용 범위를 넓히겠다”고 말했다.