美, 앤스로픽 AI 해외 접근 차단 조치…배경엔 아마존 제보

[이데일리 김윤지 기자] 도널드 트럼프 미국 행정부가 ‘미토스’ 등 앤스로픽의 인공지능(AI) 모델의 해외 접근을 전면 차단한 가운데 그 배경에는 아마존의 제보가 있는 것으로 나타났다.

13일(현지시간) 월스트리트저널(WSJ)은 소식통을 인용해 앤디 재시 아마존닷컴 최고경영자(CEO)와 스콧 베선트 재무장관 등 미국 당국자들 사이의 대화가 트럼프 행정부의 앤스로픽 AI 모델 해외 사용 중단 결정으로 이어졌다고 보도했다. 기술업계 경영진들은 연방 정부와 정기적인 접촉을 이어오고 있는데, 재시 CEO는 자사 연구원들이 ‘페이블5’ 모델이 사이버 공격에 활용할 수 있다는 사실을 발견했다고 당국자들에게 전달한 것으로 전해진다. ‘페이블5’는 사이버 공격 등에 악용될 수 있는 명령이 차단되도록 설계됐으나 아마존 연구원들은 일련의 프롬프트(명령어)를 사용해 이를 우회했다. 아마존은 앤스로픽의 핵심 투자자이자 기술 파트너로서 앤스로픽의 AI 모델을 직접 테스트해왔다.

이후 백악관 당국자들은 대응 방안을 논의하기 위한 회의를 열었고, 보안 연구진은 아마존 측의 주장을 검증하기 시작했다. 결국 당국자들은 외국 정부나 기업, 개인의 해당 AI 모델 접근을 차단하는 것이 가장 직접적인 해결 방안이라고 판단했다고 소식통은 전했다.

(사진=로이터)

전날 앤스로픽은 “미국 정부가 국가 안보 당국의 지침에 따라 모든 외국 국적자의 ‘페이블5’와 ‘미토스5’ 접근을 전면 중단하는 수출 통제 지침을 발표했다”고 밝혔다. 제한 대상에는 앤트로픽의 외국인 직원들도 포함됐다. 이에 앤스로픽은 모든 고객에 대해 페이블5·미토스5 서비스를 즉시 중단했다고 밝혔다.

앤스로픽은 아마존이 지적한 취약점들은 다른 공개 AI 모델에서도 쉽게 발견될 수 있는 것이라면서 이번 사례가 안전장치를 완전히 우회한 ‘탈옥’은 아니라는 입장이다.

이 같은 미 행정부의 조치가 앤스로픽과 트럼프 행정부 사이의 오랜 갈등의 연장선상이란 분석도 있다. 앤스로픽과 트럼프 행정부는 국방부의 앤스로픽 AI 모델 사용 문제를 놓고 소송전을 벌이고 있다.

상무부 출신인 케이트 코런 전략국제문제연구소(CSIS) 경제연구실 부실장은 “보안 우려는 이해하지만 백악관의 앤스로픽에 대한 반감이 이번 결정에 영향을 미쳤을 가능성이 있어 보인다”고 말했다.

백악관 고위 관계자는 이번 조치가 모델 안전성에 관한 것이며 국방부가 깊이 관여한 것은 아니라고 선을 그었다.

한편 트럼프 행정부는 앤스로픽의 AI 모델에 대한 해외 접근 차단 조치를 오픈AI 등 여타 AI 업체로 확대하지 않을 계획이라고 이날 미 정보기술(IT) 전문매체 디인포메이션이 미 정부 관계자를 인용해 보도했다.