공유하기
AI 분야 이슈리포트 - ｢생성형 인공지능 이용자 보호 가이드라인｣ 발표
｢생성형 인공지능 이용자 보호 가이드라인｣ 발표
법무법인 대륙아주 김성율 변호사1
1. 생성형 인공지능 서비스 이용자 보호 가이드라인 발표 배경
방송통신위원회는 2025. 2. 28. 텍스트, 오디오, 이미지 등 생성형 인공지능 서비스 이용 과정에서 피해를 방지하기 위해 사업자들이 참고할 수 있는 실천 방안을 담은 「생성형 인공지능 서비스 이용자 보호 가이드라인」(이하 ‘가이드라인’)을 발표했다고 밝혔습니다.
오는 3. 28.부터 시행되는 이번 가이드라인은 생성형 인공지능 개발사 및 서비스 제공자를 대상으로 서비스 전반에 걸쳐 추구해야 할 4가지 기본원칙과 이를 실현하기 위한 6가지 실행 방식을 제시하고, 이와 함께 사업자들의 수용성 및 이해도 제고를 위해 실제 제공되고 있는 서비스 중 이용자 보호 영역의 모범 사례도 제공하고 있습니다.
금번 가이드라인 발표는 생성형 인공지능 기술의 급격한 발전이 일상생활에 혁신적 변화를 가져오고 있지만, 사회적으로 물의가 되는 첨단조작기술영상(딥페이크) 성범죄물, 차별·편향 등 부작용도 심각하게 대두되고 있어 이용자 안전 및 권리를 보호할 제도적 기반 마련 필요성이 지속적으로 제기돼 온데 따른 것입니다.
2. 생성형 인공지능 이용자 보호 가이드라인의 주요 내용
가. 4가지 기본원칙
1) 생성형 인공지능 서비스는 인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이 적절하게 통제하고 감독할 수 있는 방식으로 제공되어야 합니다.
2) 생성형 인공지능 서비스는 인공지능시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는 영향 등에 대하여 이용자에게 알기 쉽게 설명되도록 제공되어야 합니다.
3) 생성형 인공지능 서비스는 안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 제공되어야 합니다.
4) 생성형 인공지능 서비스는 이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공되어야 합니다.
나. 6가지 실행방안
1) 생성형 인공지능 서비스의 이용자 인격권 보호
2) 생성형 인공지능 서비스의 결정 과정을 알리려는 노력
3) 생성형 인공지능 서비스의 다양성 존중 노력
4) 생성형 인공지능 서비스의 입력데이터 수집·활용 과정에서의 관리
5) 생성 콘텐츠 활용에서 발생할 수 있는 문제 해결을 위한 책임과 참여
6) 생성 콘텐츠의 건전한 유통·배포를 위한 노력
3. 시사점
가이드라인은 업계 의견이 반영되어 현실적이고 실행 가능한 방안이 제시되었다는 긍정적 평가가 있고, 그에 반해 가이드라인은 법적 구속력이 없어 개발사와 사업자의 자율적인 참여와 실천이 중요하며, 향후 법적 규제 도입이 필요하다는 의견도 제기되고 있습니다. 특히 인공지능 기술의 특성상 국제적인 협력과 대응을 통해 국제적 표준에 부합하는 규제 체계가 마련될 필요가 있어 보입니다.
가이드라인은 기본원칙과 실행방안 이외에 구체적인 실행사례를 포함하고 있어 개발사와 사업자에게 중요한 참고자료가 될 수 있을 것으로 보이고, 또한 매 2년 마다 방통위는 그 타당성을 검토하여 가이드라인 개정 등 조치를 취하게 되므로 가이드라인의 개정 추이에도 유의할 필요가 있습니다.
