SKT, 리벨리온과 NPU ‘협업’...‘에이닷’에 적용 테스트

[이데일리 윤정훈 기자] SK텔레콤(017670)은 AI반도체 스타트업 리벨리온과 함께 ‘에이닷 전화 통화요약’ 등 자사 주요 AI 서비스에 리벨리온의 NPU(신경망처리장치, Neural Processing Unit)를 적용하기 위한 테스트를 진행 중이라고 25일 밝혔다.

리벨리온 아톰 맥스(사진=리벨리온)

SKT와 리벨리온은 ‘데이터센터 용 AI 반도체 아톰(ATOM)’을 탑재한 서버를 △에이닷 전화 통화요약 △PASS 스팸필터링 △PASS금융비서 △엑스칼리버 등에 테스트 중이며, 테스트 결과에 따라 아톰의 성능 강화판인 ‘대규모 AI 추론용 AI 반도체 아톰 맥스(ATOM-Max)’를 이들 서비스에 연내 상용 적용하는 것을 목표로 하고 있다.

리벨리온 아톰은 삼성 파운드리 5나노미터(㎚) 기반의 AI용 시스템온칩(SoC)으로, 128TOPS(1초당 128조번의 정수 연산), 32TFLOPS(1초당 32조번의 부동소수점 연산)의 성능을 갖췄다. 아톰 맥스는 카드에 칩 4개 등을 꽂아 용량이 큰 AI모델 추론도 가능하도록 고도화한 모델이다..

SKT는 테스트 결과를 토대로 향후 리벨리온 NPU 서버 도입을 지속적으로 확장할 계획이다. 양사는 이번 SKT AI 서비스에 대한 리벨리온 AI 반도체 테스트 및 상용화 검토가 국내 AI 생태계 자립에 큰 의미를 가지고 있다고 설명했다.

에이닷 전화 통화요약은 SKT의 LLM 모델 에이닷엑스(A.X)를 기반으로 하고 있어, 국산 AI 반도체인 리벨리온의 아톰을 통해 상용 서비스 될 경우 ‘국산 LLM’이 ‘국산 NPU’를 통해 서비스되는 ‘소버린 AI(국가주권형 AI)’가 이뤄진다는 것이다.

특히, SKT가 자체 개발한 한국어 특화 대규모 언어모델(LLM) ‘에이닷엑스(A.X) 4.0’는 현존하는 LLM 중 최고 수준의 한국어 이해 성능을 확보하고 있어 국내 비즈니스 환경에 최적화된 모델이라는 평가를 얻고 있다

양사는 이번 테스트를 시작으로 협력 범위를 지속 확대해 국내 AI 생태계의 자립성을 강화해 나갈 계획이다.

이상민 SKT 성장사업추진실장은 “국가 간 AI 기술 경쟁이 심화되고 있는 이 때, 국내 AI 생태계 자립성 강화는 개별 기업이 아닌 국가의 경쟁력을 좌우할 수 있는 중요한 요소”라며, “SKT는 앞으로도 AI 데이터센터, LLM, AI 반도체 등을 포함한 국내 AI 생태계의 역량 강화를 위해 노력할 것”이라고 말했다.

박성현 리벨리온 대표는 “국산 AI반도체가 SKT의 국산 LLM 기반 서비스에 적용될 수 있게 된 것은 기술적 완성도를 넘어, 국내 AI 생태계 자립을 실현하는 중요한 이정표”라며, “리벨리온은 앞으로도 안정적이고 에너지 효율적인 AI 인프라를 통해, 대한민국이 AI 세계 3대 강국으로 도약하는 데 기여하겠다”고 밝혔다.