NIA, `공공기관 신뢰가능 AI 구현 실용가이드` 발간

[이데일리 이후섭 기자] 한국정보화진흥원(NIA)은 공공기관 인공지능(AI) 시스템의 부작용을 최소화하고 신뢰받는 지능정보서비스를 구현하기 위한 지침서로서 `공공기관 신뢰가능 AI 구현 실용가이드`를 발간했다고 30일 밝혔다.

AI가 일상으로 깊숙이 확산되면서 알고리즘과 데이터 편향에 따라 인권과 안전을 해치는 부작용도 계속 발생하고 있다. 이에 국제사회에서는 신뢰할 수 있는 AI를 만들기 위한 여러 원칙을 잇달아 발표하고 있다. 특히 경제협력개발기구(OECD)는 지난 5월 포용 성장, 사람 중심가치, 투명성, 안전성, 책임성의 5가지 원칙을 제시했다. NIA는 국제적인 노력에 발맞춰 공공기관이 신뢰가능 AI를 구현할 때 관련 원칙을 준수할 수 있도록 설계단계부터 적용돼야 할 세부 지침을 마련했다.

실용 가이드는 세 부분으로 구성됐다. 우선 신뢰가능 AI에 대한 OECD 기본원칙을 설명하고, 이러한 원칙이 구현된 시스템을 신뢰 가능 AI 시스템이라 정의하고 있다. 신뢰가능 AI 원칙 준수를 위해 시스템 개발부터 운영까지 생애주기의 단계별, 책임자별로 세분화한 실행 지침을 담고 있다. 또 공공기관이 신뢰 가능 AI 구현을 위해 필요한 거버넌스 프레임워크(관리체계, 위험관리와 인간의 개입, 데이터 관리, 고객 의사소통)를 제시하고 있다.

문용식 NIA 원장은 “이번 실용가이드는 AI 직접 서비스를 제공하는 주요 기업과 학계 전문가의 자문을 통해 작성된 만큼 완성도가 높다”며 “앞으로도 기업, 전문가, 이해관계자와 지속적으로 협력해 보다 구체적인 실천방안을 마련하고 가이드 적용 우수사례를 담아 담당자들이 쉽게 따라할 수 있는 길잡이가 되도록 실용 가이드를 계속 보완하겠다”고 전했다.