AI 기본법 시행…기업들 ‘규제 대응’ 넘어 AI 안전성 입증까지 준비한다

[이데일리 윤정훈 기자]AI 기본법 시행으로 기업들의 인공지능(AI) 관련 규제 대응이 본격화하면서 법률 검토부터 내부 거버넌스 구축, AI 서비스의 안전성과 신뢰성 검증까지 아우르는 실무 대응 전략이 제시된다.

(사진=셀렉트스타)

AI 데이터·신뢰성 평가 전문기업 셀렉트스타는 한국능률협회컨설팅(KMAC), 법무법인(유) 린과 함께 오는 17일 서울 포스코타워 역삼에서 ‘AI 기본법, 대비하고 계신가요?-규제 변화부터 거버넌스와 검증까지 실무 대응 전략’ 공동 세미나를 개최한다고 7일 밝혔다.

이번 세미나는 AI 기본법 시행 이후 기업과 공공기관이 AI를 도입하고 운영하는 과정에서 준비해야 할 실질적인 대응 방안을 제시하기 위해 마련됐다. 단순히 법·제도를 설명하는 데 그치지 않고 규제·보안 환경 변화, 기업 내부 운영체계 구축, AI 서비스의 안전성·신뢰성 평가 등 현장에서 필요한 대응책을 종합적으로 다룬다.

세미나 오프닝에서는 강상욱 과학기술정보통신부 기획조정실장이 연설한다.

법무법인 린은 AI 규제와 보안 환경 변화에 초점을 맞춘다. 방석호 고문은 ‘AI 기본법 시행 이후 공공조달시장 변화와 체크포인트’를 주제로 제도 변화가 공공부문의 AI 도입과 조달시장에 미치는 영향을 짚는다.

이어 유창하 변호사는 ‘AI 규제 구조에 비추어 본 보안·거버넌스 대응 방안’을 주제로 기업이 규제 환경에 대응하기 위해 갖춰야 할 보안 관리체계와 내부 대응 방안을 소개한다.

KMAC에서는 손권상 AI·빅데이터 본부장이 ‘책임 있는 AI 운영을 위한 거버넌스 및 서비스 운영 모델’을 발표한다. 기업이 활용하는 AI 서비스의 위험 수준을 분류하고 기획·개발·검증·승인·운영 단계별로 필요한 관리 방안을 제시할 예정이다.

셀렉트스타는 AI 안전성을 실제로 검증하고 입증하는 기술적 실행 방안을 소개한다. 이현택 글로벌DB 팀장은 ‘거버넌스 그 이상의 안전성을 입증하는 기술적 실행 전략’을 주제로 AI 서비스가 사전에 정한 안전성과 신뢰성 기준을 충족하는지 확인하는 방법을 설명한다.

AI 평가 기준과 데이터 설계 방안은 물론 레드티밍을 통한 취약점 점검, 평가 결과 분석, 위험 요소 식별, 개선 및 재평가 등 AI 서비스의 안전성과 신뢰성을 확보하기 위한 구체적인 기술적 대응 방안도 다룬다.

이번 세미나를 통해 참석자들은 AI 기본법과 관련 제도를 이해하는 데 그치지 않고, 제도와 시장 변화에 맞춰 기업이 어떤 관리체계를 구축해야 하는지, 실제 AI 서비스의 안전성을 어떻게 확인하고 객관적으로 입증할 수 있는지까지 살펴볼 수 있다.

셀렉트스타 이현택 팀장은 “AI에 대한 내부 정책과 관리체계를 마련하는 것만큼 중요한 것은 실제 서비스가 그 기준에 맞게 안전하게 작동하고 있는지를 객관적으로 확인하는 것”이라며 “이번 세미나에서는 거버넌스를 넘어 기업이 AI의 안전성과 신뢰성을 실제로 평가하고 입증할 수 있는 기술적 실행 방안을 소개할 예정”이라고 말했다.