모레-AMD, ‘AI 개발자 밋업’ 공동 개최… 오픈소스·AI 추론 협업 확대

[이데일리 김현아 기자]AI 인프라 솔루션 기업 모레(MOREH)가 글로벌 반도체 기업 AMD와 함께 AMD 생태계 내 AI 추론 기술·오픈소스 생태계 협력을 강화하는 ‘AI 개발자 밋업’을 열었다.

행사는 10일 서울 강남에서 진행됐으며, 국내외 개발자·오픈소스 커뮤니티 관계자 등 100여 명이 참석했다.

이번 밋업에서는 AMD GPU 환경에서의 대규모 언어모델(LLM) 및 비전 모델 가속화, 차세대 추론 프레임워크, 글로벌 오픈소스 생태계의 기술 방향성 등이 집중적으로 다뤄졌다.

모레-AMD AI개발자 밋업

AMD의 정승록 수석 AI/ML 소프트웨어 엔지니어는 ‘AMD GPU 최적화를 통한 오픈소스 LLM 가속화’를 발표했다.

이어 모레 정우근 CTO는 자체 개발한 ‘MoAI 추론 프레임워크’를 소개하며, AMD GPU 클러스터 환경에서 딥시크 등 초대형 모델을 고처리량(high-throughput) 방식으로 안정적으로 추론한 실증 사례를 공개했다.

정 CTO는 분산 추론(distributed inference) 및 이기종 GPU 통합 기술을 기반으로 한 성능 향상과 TCO 절감 효과도 공유했다. 회사 측은 “MoAI 추론 프레임워크가 AMD 생태계 내 분산 추론 기술의 세계 최초 상용화 사례로 평가받고 있다”고 설명했다.

AI 모델 개발사 모티프테크놀로지스의 오동빈 멀티모달 AI 팀장은 AMD GPU 기반 대규모 클러스터를 활용한 모델 개발 경험을 공유하며 “AI 개발 조직이 체감하는 AMD 생태계의 발전이 뚜렷하다”고 말했다.

모티프테크놀로지스는 모레의 자회사다. 행사에는 알리바바 클라우드, 하이퍼엑셀, 프렌들리AI 등이 참여했으며, 글로벌 오픈소스 커뮤니티인 SGLang, 모델스코프(ModelScope) 관계자들도 함께해 생태계 협력 방안을 논의했다.

조강원 모레 대표는 “AMD와의 긴밀한 기술 협업을 기반으로 개발자 커뮤니티 활성화와 공동 기술 개발을 강화해 나가겠다”고 밝혔다.

모레는 GPU 슈퍼컴퓨팅 기반 기술을 바탕으로 AI 추론·학습 인프라 솔루션을 개발해온 기업으로, 2021년 KT와 함께 세계 최초의 AMD GPU 기반 AI 데이터센터를 구축한 바 있다. 최근에는 글로벌 파트너 AMD, 텐스토렌트, SGLang 등과의 협업을 확대하며 AI 인프라 시장에서 입지를 넓히고 있다.

모레와 AMD가 공동 개최한 AI 개발자 밋업에서 모레 정우근 CTO가 발표를 진행하고 있다.