|
4일 서울 서초구 JW 메리어트 호텔 서울에서 열린 지능정보산업협회(AIIA) ‘지능정보기술포럼(TTA)’에서 민세훈 베인&컴퍼니 파트너는 이같이 말했다. 생성형 AI 도입을 고려하는 기업이 고려해야 할 사항은 AI 모델의 규모가 아니라 차별화된 ‘활용’이라는 것이다.
베인&컴퍼니는 2년 전 오픈AI와 서비스 제휴를 맺은 다국적 컨설팅 전문회사다. 대기업 고객사들을 위한 AI 기술 플랫폼 구현·자문, AI 전략 수립 등을 돕고 있다.
쉽게 말해 기밀 유출 등 다양한 우려가 존재하는 LLM 기반 모델 대신 회사 내부 데이터만을 학습해 안전하게 활용할 수 있는 ‘기업용 AI’에 대한 수요가 증가하고 있다는 의미다. 핵심은 파운데이션 모델(FM)과 경량화 모델이다. FM은 생성형 AI의 기반이다. 가공하지 않은 방대한 데이터를 사전에 학습한 AI를 의미한다. ‘소형 언어모델(sLLM)’로도 불리는 경량화 모델은 60억~100억대 매개변수를 지닌 모델이다.
LLM에 비해 편향성과 훈련·운영 비용 부담이 낮다. 또 기업이 보유한 내부 데이터를 통해 자체 구축하는 방식으로 안정성 또한 비교적 높다는 장점이 있다. 뿐만 아니라 각 기업이 추진 중인 사업 특성에 따라 맞춤형 구축이 가능하다는 점도 강점이다. 현재 IBM, 메타, 데이터브릭스 등에서 관련 서비스를 제공 중이다.
또한 민 파트너는 기업이 추구하는 사업 방향성과 전략, 유즈케이스에 따라 생성형 AI 서비스 플랫폼을 구축해야 한다는 점을 강조했다. 그는 “생성형 AI 도입은 각 산업 특성과 기업 전략에 따른 결정이 필요하다”며 “기업별로 보유한 데이터, 정책, 제품, 시스템을 기반으로 맞춤화와 파인 튜닝이 이뤄지고, 차별화된 활용 사례를 만드는 것이 중요하다”고 말했다.