EU AI법 ‘고위험 분류 지침 초안’ 발표



1. 주요 내용

유럽연합 집행위원회(EC)는 AI 법 시행을 앞두고, 어떤 AI가 사람의 안전이나 기본권을 위협하는 ‘고위험 AI’에 해당하여 엄격한 규제를 받게 되는지 그 구체적인 판정 기준을 담은 고위험 인공지능 시스템(HRAIs) 분류 가이드라인 초안을 공개했습니다.

첫째, AI의 위험성을 판단하는 핵심 기준은 기술적 복잡성이 아니라 ‘개발자가 이 AI를 어떤 용도로 만들었는가(의도된 목적)’입니다. 이는 제품 설명서, 광고 문구, 기술 문서 등 공식 자료를 바탕으로 객관적으로 평가됩니다. 따라서 범용AI(GPAI)라 할지라도 고위험 용도가 배제되도록 설계되지 않았다면 통합 과정에서 고위험으로 분류될 수 있으며, 개발사가 서비스 이용약관 등을 통해 고위험 영역 사용을 의도하지 않았다고 단순히 문서상 명시하는 것만으로는 규제를 회피할 수 없습니다.

둘째, 기업이 스스로 “우리 AI는 안전하다”고 판단하더라도 이를 정부 당국이 엄격하게 검증하는 감시 체계를 두고 있습니다. 한국의 AI 법안은 기업의 자율 판단의 한계를 정하지 않고 불이행에 따른 제재 규정이나 사후 규제 보완 장치가 미비한 반면, EU는 고위험 규제를 받지 않겠다고 주장하려면 그 증빙 서류(자체 평가서)를 출시 전에 당국에 의무적으로 등록해야 합니다. 만약 규제를 피하려고 고의로 허위 분류한 것이 적발되면 벌금이 부과됩니다.

셋째, 고위험 영역에 쓰이는 AI라도 실제 사람에게 해를 끼치지 않는 단순 보조 역할만 한다면 규제에서 제외해주는 ‘4대 제외 기준’을 명시했습니다. 서류 포맷을 단순히 변환해주는 단순 행정 작업, 사람이 이미 내린 결정을 수정하는 등 다듬는 작업, 과거의 결정 패턴을 사후 분석하는 통계 작업, 인간의 판단을 돕기 위해 자료를 요약하는 단순 준비 작업 등이 이에 해당합니다. 다만, 사람의 성향을 분석하고 등급을 매기는 ‘프로파일링’은 이 제외 기준과 상관없이 고위험 규제를 받습니다.

넷째, 가이드라인 초안은 최근 기술 트렌드인 ‘에이전트형 AI(스스로 판단하고 협력하는 복합 AI)’를 규제할 때는 시스템 전체를 하나의 단일 AI 시스템으로 간주해 평가하도록 명시하였습니다. 이는 AI 기술을 여러 단계로 쪼개어 “각각의 모듈은 위험하지 않다”는 식으로 규제를 피해 가는 편법을 막기 위함입니다. 특히 의료기기, 자동차 안전장치, 스마트홈의 가스·보안 차단기처럼 오작동 시 사람의 신체나 재산에 직접 타격을 줄 수 있는 ‘안전구성요소(Safety component)’에 AI가 결합된 경우 역시 단일 시스템으로 묶여 고위험 규제 대상이 됩니다.

마지막으로, ‘인간의 감독 및 개입(Human involvement)’여부가 규제를 면제받는 방패가 될 수 없음을 명확히 했습니다. 한국의 지침은 AI가 진단을 돕는 보조 도구에 불과하거나 관리자가 비상정지 버튼(킬스위치)을 쥐고 있으면 규제를 면제해주는 경향이 있습니다. 반면 EU는 최근 AI의 처리 속도가 너무 빠르고 복잡해져서 사람이 최종 승인 버튼만 누르는 형태로는 위험을 완전히 막을 수 없다고 보아, 인간이 모든 건을 직접 판단(HITL)하는 방식의 위험 경감에는 기술적 한계가 있음을 지적하고 있습니다.