업스테이지 김성훈 대표, 美 국무부서 'AI 윤리·신뢰성' 발표

김성훈 업스테이지 대표가 13일(현지시간) 미국 국무수에서 열린 한미 ICT 정책 포럼에서 AI 윤리·신뢰성 관련 국내기업 대표로 발표를 하고 있다. (사진=업스테이지)

[이데일리 한광범 기자] 뛰어난 기술력으로 AI 업계의 주목을 받고 있는 업스테이지가 미국의 구글과 함께 각국 대표 기업으로 한미 정책 논의를 위한 정부 간 협의체에서 AI 신뢰에 대해 논의했다.

업스테이지는 13일(현지시간) 미국 국무부에서 개최되는 ‘한미 ICT 정책 포럼’에 한국의 대표 기업으로 참석해 발표를 진행했다고 밝혔다. 업스테이지는 미국의 구글과 함께 각국의 대표 민간 AI 기업으로 이번 행사에 AI 윤리 및 신뢰성 관련 발표를 진행했다.

올해 7회차를 맞이한 한미 ICT 정책 포럼은 과학기술정보통신부와 미 국무부 간 ICT 분야 협력 증진을 위해 2013년부터 매 1~2년 주기로 개최한 정부 간 협의체다. 이번 포럼은 9월 12일, 13일 양일간 민간기업과 정부가 함께 참여하는 민관 세션과 정부 세션으로 나뉘어 진행됐다.

업스테이지는 첫날인 12일에는 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 김성훈 대표는 ‘AI 윤리/신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 자사가 운영하는 데이터 수집 및 공유 플랫폼인 ’1T 클럽’을 대표적인 사례로 소개했다.

김 대표는 데이터를 모으는 과정에서 양질의 데이터를 모으기 위해 콘텐츠 제공자와 수익을 공유하고 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면까지 강화할 수 있는 ‘1T 클럽’을 통해 다양한 분야의 전문가들과 협력을 위해 이를 위한 정부의 협력 필요성을 알렸다.

그는 글로벌의 연구그룹과 기업 등 다양한 조직들이 LLM의 대중화에 기여하고 있지만 주로 모델 개발에만 집중하고 있는데 AI 기술 발전의 절반 이상은 데이터의 역할임을 강조하며 데이터 수집 단계부터 집중하며 수익을 공유함으로써 데이터를 제공하는 콘텐츠 부문도 더 활성화될 것 이라고 역설했다.

김 대표는 업스테이지가 좋은 데이터를 모으기 위해 △사람중심 △신뢰성 △공정성 △안전성 △보편성의 5대 윤리원칙에 기반해 데이터를 정제하고 모델을 만든다고 설명했다. 이를 통해 AI 데이터의 신뢰성과 윤리적 측면에서도 선순환이 이뤄져 가장 중요한 진실되고 윤리적인 양질의 데이터를 모으는 데 앞장서고 있음을 강조했다.

업스테이지는 지난달 세계 최초로 거대 언어 모델(LLM) 분야에서 챗GPT의 메인 모델인 GPT3.5의 벤치마크를 뛰어넘는 점수를 기록하며, AI 기술력을 인정받았다. 또한 업스테이지가 카카오톡을 통해 서비스하고 있는 챗봇 ’AskUp’은 국내 최대 규모인 140만 명의 사용자가 활용하며, 국내 생성 AI의 대중화를 이끌고 있다. B2B로는 신뢰할 수 있는 프라이빗 LLM의 표준을 제시하며, 데이터 보안을 극대화하고 AI의 환각 현상을 해결하는 등 다양한 기업들과 small LLM(sLLM) 구축을 논의하고 있다.

김성훈 대표는 “이번 한미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고, 협력을 강화하는 중요한 기회가 될 것이라고 기대한다”며 “업스테이지는 AI의 사회적 책임과 가치를 실현하기 위해 끊임없이 노력하고, 다양한 파트너들과 협력하고자 한다”고 말했다.