SK텔레콤, 자체 개발 AI 가속기 ‘누구’ 적용..구글이어 두번째

[이데일리 김현아 기자] SK텔레콤(대표 박정호)이 2년 만에 ‘인공지능(AI) 가속 솔루션(AIX)’을 자체 개발해 자사의 AI서비스인 ‘누구’에 적용했다.

글로벌 시장에서 엔비디아나 인텔을 뺀 서비스 기업이 AI 가속 솔루션을 개발해 자체 서비스에 적용한 것은 구글에 이어 SK텔레콤이 두 번째다.

SK텔레콤 측은 엔비디아나 인텔처럼 하드웨어 시장에 진출하려는 게 아니라 자체 AI 서비스 역량 강화 목적이라고 밝혔다. 또, 이번에 AIX 1.0을 ‘누구’에 적용하면서 서비스 용량이 5배 늘어나고 연산 속도도 20배 빨라졌다고 주장했다.

SK텔레콤 AI 가속 솔루션 사진.

AI용 ‘하드웨어 컴퓨팅’ 기술 개발 중인 SK텔레콤

우리가 음성인식 스피커라는 형태로 접하는 AI는 딥러닝알고리즘+데이터+컴퓨팅 기술의 총아다. 이중 딥러닝 알고리즘은 개발이 어렵지만 오픈돼 있는 경우가 많고, 이 알고리즘이 데이터를 분석해 AI를 제공하게 된다.

그런데 여기서 중요한 게 AI 서비스를 제공하기 위해 데이터를 수집해 처리할 때 필요한 컴퓨팅 기술이다.그래픽처리 프로세서(GPU) 엔비디아가 AI시대를 맞아 글로벌 IT기업 시가총액 13위를 차지한 것도 같은 이유다.

이런 기술을 ‘AI 연산 가속기’라고 부르는데 SK텔레콤은 2년 전 머신러닝 인프라랩을 만들고 자체 프로세서(NPU)를 개발해 왔다. 해당 팀(머신러닝 인프라랩)은 한국전자통신연구원과 삼성전자에서 프로세서 설계를 한 바 있는 정무경 랩장이 이끌고 있다.

정무경 머신러닝 인프라랩장은 “인공지능 연산 가속기 시장은 엔비디아, 인텔 뿐아니라 구글, 페이스북, 알리바바 등 AI 서비스 제공업체들도 개발하고 있다”면서 “SK텔레콤이 개발하려는 것도 외부 하드웨어 판매가 아니라 자체 서비스에 적용하기 위한 것”이라고 말했다.

그는 또 “AI연산 가속기에서 우리는 학습보다는 추론에 최적화된, 스마트폰 등 퍼스널 디바이스가 아닌 데이터센터에서 연산이 수행되는 모델에 관심을 두고 있다”며 “이번에 개발 완료한 AIX 1.0을 ‘누구’에 적용하니 CPU나 GPU로 연산했을 때보다 연산효율성과 속도를 크게 개선할 수 있었다”고 부연했다.

정무경 머신러닝 인프라랩장이 2년동안 개발해 완성한 AI가속기를 들고 보여주고 있다.

◇엔비디아 대체재는 아냐…구글에 이어 두번째로 자체 서비스에 적용

특히 그는 AI 서비스 기업이 직접 하드웨어를 개발해 자체 서비스에 적용한 것은 구글에 이어 SK텔레콤이 두 번째라고 강조했다.

정 랩장은 “보통 글로벌 선발업체들은 수백 명의 AI 가속 솔루션 개발자들이 있지만 우리 랩의 인원 수를 공개하긴 어렵다”며 “저희 전략은 엔비디아나 인텔의 전략이 아니라 저희 서비스에 특화된 걸 개발하자는 것이다. 지금까지 직접 AI가속기를 개발해 자사 서비스에 적용한 곳은 구글이 유일하다”고 부연했다.

SK텔레콤은 AI 서비스 용량을 약 5배 늘려주는 ‘AI 가속 솔루션’을 개발해, 자사 AI 서비스 ‘누구’에 적용했다고 21일 밝혔다. 국내에서 ‘AI 가속 솔루션’을 상용 서비스에 적용한 기업은 SK텔레콤이 최초다. SK텔레콤 분당 사옥에서 연구원들이 AI 가속 솔루션을 테스트하고 있는 모습.