EU, 'AI 표시 및 투명성 규제 준수 강령(Code of Practice on Transparency of AI-Generated Content)' 최종안 6월 공개 예정



1. 주요 내용

현재 AI 투명성 영역은, 불법 복제와 명예훼손이 만연하던 인터넷 초창기의 무질서한 환경과 유사한 상태에 놓여 있다고 볼 수 있습니다. 이에 EU AI 사무국은 이러한 상황을 정비하기 위해 ‘AI 표시 및 투명성 실천 강령(Code of Practice on Transparency of AI-Generated Content)’의 최종안을 오는 6월 공개할 예정입니다. 본 강령은 2025. 12. 공개된 1차 초안과 2026. 3. 예정된 2차 초안을 거쳐 확정될 예정이며, 무분별한 AI 생성 콘텐츠에 대한 명확하고 엄격한 기준을 제시함으로써 AI 생태계의 건전성을 회복하는 전환점이 될 것으로 전망됩니다.

첫째, AI 생성 콘텐츠의 식별을 위해 고도의 ‘기술적 표시 및 탐지(Mark and Detect)’ 표준이 확립됩니다. 본 강령은 텍스트, 이미지, 영상 등 매체별로 기계 판독이 가능한 워터마크나 메타데이터 삽입을 의무화할 것으로 예상됩니다. 이는 과거 무질서했던 인터넷에 저작권과 콘텐츠 필터링 시스템이 도입되었던 것처럼, AI 모델 설계 단계부터 생성물의 출처를 추적할 수 있도록 기술적 장치를 내재화함으로써 투명성을 확보하는 조치로 이해할 수 있습니다.

둘째, 서비스 운영자인 배포자에게 부과되는 ‘고지 의무(Disclosure Duty)’가 대폭 구체화됩니다. 딥페이크나 AI 생성 텍스트의 경우, 사용자가 이를 직관적으로 알 수 있도록 명확한 라벨링이 요구됩니다. 이는 과거 폭력물·음란물에 대한 규제가 정비되면서 연령 제한과 콘텐츠 경고 문구가 표준화되었던 것처럼, AI 콘텐츠에 대해서도 사용자의 알 권리를 보장하고 기만적 정보 확산을 방지하기 위한 제도적 장치로 볼 수 있습니다.

셋째, 사용자 경험(UX)의 일관성을 위해 EU 전역에서 통용될 ‘공통 아이콘(Common Icon)’ 제도가 도입됩니다. 플랫폼마다 상이했던 AI 표시 방식을 하나로 통일하여, 사용자가 어떤 환경에서도 AI의 개입 여부를 즉시 인지할 수 있도록 하는 것이 목적입니다. 이는 파편화된 규제 요소를 하나의 체계로 정렬하여, 기업에게는 명확한 이행 기준을, 사용자에게는 예측 가능한 디지털 환경을 제공하는 역할을 하게 될 것입니다.

넷째, 범용 AI(GPAI) 모델에 대한 투명성 요건이 통합적으로 관리됩니다. 모델 학습에 사용된 데이터의 요약 공개와 저작권법 준수에 대한 입증 절차를 강화하여, AI 모델의 생성 과정 전반을 투명하게 공개하도록 합니다. 이는 ‘블랙박스’로 불리던 AI 내부 구조를 공적 검증의 영역으로 편입시켜, 과거 무단 복제가 난무하던 환경에서 저작권 기반의 합법적 콘텐츠 시장으로 재편되었던 흐름과 유사한 거버넌스 확립을 목표로 합니다.

마지막으로, 본 강령은 규제 준수와 관련한 일종의 ‘안전지대(Safe Harbor)’로 기능하여 법적 불확실성을 완화하는 역할을 합니다. 강령을 성실히 이행한 기업은 EU AI법상의 투명성 의무 이행 여부 판단 시 동법 제99조(Penalties)의 강력한 제재로부터 보호받을 가능성이 큽니다.

참고로, 제99조에 따르면 투명성 고지 의무 위반 등 위반 행위에 대해 최대 1,500만 유로(약 220억 원) 또는 전 세계 연간 총 매출액의 3% 중 더 높은 금액의 과징금이 부과될 수 있습니다. 이러한 점에서 본 강령은 그간 규율이 명확하지 않았던 AI 영역에 일정한 행위 기준을 제시함으로써, 규제를 준수하는 기업이 보다 예측 가능하고 안정적인 환경에서 비즈니스를 영위할 수 있도록 하는 제도적 완충장치로 기능할 것으로 기대됩니다.