한국이 세계 최초로 'AI기본법'을 시행한다. 앞으로 AI사업자들은 AI로 만든 결과물을 이용자가 인지할 수 있도록 표시해야 한다. 사실조사는 인명사고, 인권 훼손, 국가적 피해를 초래한 때만 예외적으로 실시한다.

과학기술정보통신부는 22일 시행되는 '인공지능(AI) 기본법'의 투명성 확보 의무를 구체화한 '인공지능 투명성 확보 가이드라인'을 통해 AI 생성물 표시 기준을 서비스 유형별로 명확히 했다.

과학기술정보통신부는 그간 법률·시행령만으로는 현장 적용이 어렵다는 업계 의견을 반영해 실제 운영 중인 AI 제품·서비스 유형을 기준으로 이행 방안을 정리했다고 설명했다. 투명성 조항은 최소 1년 이상의 계도기간이 적용돼, 이 기간 동안 사실조사와 과태료 부과는 유예된다.

가이드라인의 핵심은 차등 적용으로 AI 생성물이 챗봇, 게임, 메타버스 등 서비스 환경 내부에서만 이용되는 경우에는 UI 안내, 로고 표출 등 비교적 유연한 방식의 표시를 허용했다. 예컨대 대화형 서비스는 이용 전 고지나 화면 내 표식으로, 게임·메타버스는 로그인 시 안내나 캐릭터 표시 방식이 가능하다.

투명성 확보 의무는 고영향 또는 생성형 AI 기반 운용 사실 사전 고지와, AI 생성물 표시 의무로 나뉜다. 서비스 환경 내에서만 제공되는 생성물은 화면 안내, 로고 표출 등 유연한 표시가 허용된다. 다만 외부로 반출되는 경우 사람이 인식할 수 있는 표시나 메타데이터 적용이 요구된다.

특히 실제와 구분하기 어려운 가상 생성물에 대해서는 사람이 명확히 인식할 수 있는 표시를 반드시 적용하도록 했다. 사회적 우려가 큰 영역에 대해 보다 엄격한 기준을 적용한 셈이다.

과기정통부는 "AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술 부작용을 막기 위한 최소 안전장치이자 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세"라고 밝혔다.