에이전틱 AI 못 담는 AI기본법… 경직된 법이 발목 잡는다

[이데일리 김현아 기자] 내년 1월 22일 세계 최초로 전면 시행을 앞둔 ‘AI기본법’(인공지능의 발전과 신뢰 기반 조성 등에 관한 기본법)이 급변하는 기술 흐름을 제대로 반영하지 못하고 있다는 지적이 제기되고 있다. 이는 단순히 제31조, 35조, 40조에 명시된 투명성 확보 의무, 고영향 인공지능 영향평가, 사실조사 조항의 시행 유예 필요성을 넘어 법 자체의 구조적 재설계가 필요하다는 보다 근본적인 문제 제기로 확산되는 분위기다.

[이데일리 김일환 기자]

22일 학계에 따르면 현재의 AI기본법은 최근 부상한 ‘에이전틱 AI’ 기술 흐름을 담아내기엔 한계가 크다는 평가가 나온다.

에이전틱 AI는 기존의 질의응답 방식 생성형 AI와 달리, 지시 없이도 목적 달성을 위해 스스로 판단하고 작업을 실행하는 자율형 AI다. 예컨대 오픈소스 기반 AutoGPT나 BabyAGI는 “웹사이트를 만들어줘”라는 명령만으로 도메인 검색, 프레임워크 선택, 코드 생성, 테스트까지 연속 실행하며, Microsoft의 Copilot Agents도 기업의 회계 처리나 보고서 작성을 자동화하는 등 상용화에 속도를 내고 있다.

하지만 현재 AI기본법은 여전히 거대언어모델(LLM)에 특정 데이터를 추가 학습하는 ‘파인튜닝’ 중심의 산업 구조에 머물러 있다.

임용 서울대 법학전문대학원 교수는 “현재 법 체계는 3년 전 산업계에서 주목받던 기술 모델에 초점을 맞췄다”며 “에이전틱 AI 시대의 ‘이용’ 개념은 전혀 다른 만큼, 고통스럽더라도 반드시 개정이 필요하다”고 지적했다.

AI기본법은 EU AI법(AI Act)을 참고해 개발사업자(디밸로퍼)와 이용사업자(디플로이어) 개념을 도입했지만, 에이전틱 AI 환경에서는 개발과 운영, 실행의 경계가 흐려지는 만큼 개념 재정비가 필요하다는 의견도 나온다.

이상용 건국대 교수 역시 “EU는 규제법이지만 한국의 AI기본법은 규제와 진흥을 함께 묶어 정책적 충돌이 생긴다”면서 “예를 들어 영화 제작자가 AI 시스템을 도입해 운영할 경우, EU에서는 규제 대상인 반면 국내법에선 규제 밖으로 빠지는 혼선이 발생한다”고 우려했다.

이에 따라 학계에서는 법률상 규율 대상을 ‘인공지능 시스템’으로 재정의하고, 기존 ‘개발자·이용사업자’ 체계를 ‘개발자·운영자(실행자)’로 수정해야 한다는 목소리도 높아지고 있다. 임 교수는 “예를 들어 ‘공정거래법’도 경쟁의 정의 없이 규율이 가능하듯, AI기본법도 인공지능의 정의를 삭제하고 유연하게 재설계할 수 있다”고 설명했다. AGI(인간 수준 AI)의 등장 시점이 3~5년 내로 예측되는 가운데, 그는 AI기본법은 기술 변화에 맞춰 ‘살아 있는 법’으로 자주 개정돼야 한다고 강조했다.

이와 함께 규제 조항에 대한 시행 유예와 AI 규제샌드박스의 제도화 역시 정책적 과제로 급부상 중이다.

권창환 부장판사(부산회생법원)는 “해외 사업자들은 외국 서버 기반으로 개발한 서비스를 그대로 국내에 제공하고 있어, 결과적으로 국내 기업에만 규제가 집중되는 불균형 구조가 우려된다”고 지적하며, “새 정부가 AI 수석을 신설하고 100조 원 투입을 공언한 지금은 규제 철폐를 공식적 명분으로 삼을 수 있는 적기”라고 강조했다.

송도영 변호사(법무법인 비트)는 “현행 개별 기업 신청 중심의 규제샌드박스는 실무 공무원이 제도 개선에 부담을 느끼지 않아 실효성이 낮다”며 “유사 사업자들을 모아 일괄 특례를 부여하는 집단형 샌드박스를 도입하고, 이를 입법 개선의 동력으로 활용해야 한다”고 제안했다.