'양자 인공지능' 시대 성큼...AI 한계 돌파해 복잡한 문제도 '척척'

[이데일리 강민구 기자] “양자기계학습 알고리즘은 초기 단계에 있어 복잡한 유형의 분류학습을 수행하기 어려웠습니다. 양자컴퓨터에 필요한 인공지능 구현에 한계가 있었던 셈이죠. 비선형성을 가진 커널 함수를 도입해 만든 양자 알고리즘으로 복잡한 유형의 학습도 가능케 했습니다.”

이준구 KAIST 전기전자공학부 교수는 최근 독일, 남아공 연구팀과의 협력 연구로 만든 비선형 양자 기계학습 인공지능 알고리즘에 대해 이같이 설명했다. 이 교수팀은 기하급수적으로 증가하는 데이터를 빠르게 학습해 기하급수적으로 뛰어난 성능을 발휘하는 ‘양자 인공지능’의 구현 가능성을 높였다.

양자 인공지능은 양자컴퓨터가 발전하면서 현재 인공지능을 앞설 것으로 기대를 모은다. 하지만, 연산 방법이 전혀 달라 새로운 양자 알고리즘의 개발이 필요했다. 양자컴퓨터는 특성상 일차방정식을 잘 푸는 선형적 성질이 있어 복잡한 데이터를 다루는 비선형적 기계학습에는 한계가 있었다.

이에 연구팀은 비선형 커널을 고안해 복잡한 데이터에 대한 양자 기계학습이 가능토록 했다. 새로 만든 양자 지도학습 알고리즘을 활용하면 적은 계산량으로도 연산이 가능해 계산량이 대규모로 필요한 현재 인공지능 기술의 한계를 돌파할 수 있다.

큐비트 IBM 양자 컴퓨터로 구현한 양자 기계학습의 예시.<자료=한국과학기술원>

기계학습에서 중요한 부분은 주어진 데이터의 특징을 구분해 분류하는 것이다. 가령 동물 이미지 자료에서 입, 귀 등의 특징을 바탕으로 분류하기 위한 결정 경계를 학습하고, 새로운 이미지가 입력되면 개나 고양이로 분류할 수 있다. 데이터의 특징이 잘 나타나면 선형적 결정 경계만으로 분류할 수 있지만 입, 귀 모양의 특징으로만 분류하기 어렵다면 새로운 결정 경계를 찾아야 하며 이 과정에서 비선형 커널 기술이 필요하다.

양자컴퓨팅은 전통적인 컴퓨팅과는 달리 양자컴퓨팅 정보처리의 기본 단위인 큐비트(quantum bit) 갯수에 비례해 정보 공간의 차원이 증가한다. 이론적으로 고차원 정보처리에서 기하급수적으로 우수한 성능을 낸다.

연구팀은 데이터 특징 대비 기하급수적인 계산 효율성을 달성하는 양자 기계학습 알고리즘을 개발했다. 알고리즘은 저차원 입력 공간에 존재하는 데이터들을 큐비트로 표현되는 고차원 데이터 특징 공간으로 옮긴 후 양자화된 모든 학습데이터와 테스트데이터 간의 커널 함수를 양자 중첩을 활용해 동시에 계산하고 시험 데이터의 분류를 효율적으로 결정한다. 이때 사용되는 양자 회로의 계산 복잡도가 학습 데이터양에 따라 선형적으로 증가하나, 데이터 특징 개수는 로그(log)함수로 천천히 증가하는 장점이 있다.

연구팀은 양자 회로를 설계해 다양한 양자 커널 구현하다는 사실도 이론적으로 증명했다. 커널 기반 기계학습에서는 주어진 입력 데이터에 따라 최적 커널이 달라질 수 있다는 점에서 다양한 양자 커널을 효율적으로 구현해 양자 커널 기반 기계학습의 실제 응용 가능성을 높였다.

또 IBM이 클라우드 서비스로 제공하는 5개의 큐비트로 구성된 초전도 기반 양자 컴퓨터에 양자 기계학습 알고리즘을 실험적으로 구현해 양자 커널 기반 기계학습의 성능도 입증했다.

연구팀은 향후 수 년 안에 상용화될 것으로 예측되는 수 백 큐비트의 NISQ(Noisy Intermediate-Scale Quantum) 컴퓨팅의 시대에 필요한 연구개발도 수행해나갈 계획이다. 이준구 교수는 “이번 연구에선 5개의 큐비트로 구성한 양자 컴퓨터에서 시연했지만 더 많은 큐비트의 양자컴퓨터가 가까운 미래에 개발되면 이 알고리즘을 확대해 적용할 수 있을 것”이라며 “NISQ 컴퓨팅에도 최적화하도록 비선형에 최적화된 양자 기계학습 알고리즘을 개발해 나갈 계획”이라고 말했다.

연구결과는 국제 학술지 네이처 자매지인 ‘npj Quantum Information’에 올해 5월 6권에 게재됐다.