「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 제정안」의 주요 내용 및 시사점
 

법무법인 대륙아주 김성율 변호사



1. 인공지능기본법 시행령 제정안 입법예고의 배경

  정부는 2025. 1. 21. 인공지능기본법을 제정·공포하였고 동법은 2026. 1. 22. 시행 예정입니다. 기본법은 인공지능 기술과 산업육성, 인공지능 시스템의 신뢰성 확보 등을 목표로 하며, 특히 인공지능사업자에 대한 투명성, 안정성 확보의무의 부과, 고영향 인공지능 관련 사업자의 책무 등을 규정하고 있습니다.

  금번 시행령 입법예고는 위와 같은 기본법의 이행에 필요한 구체적 내용을 정하기 위함인바, 이하에서는 시행령 제정안의 내용 중 인공지능사업자의 의무·책무에 관한 주요 내용을 살펴보고, 특히 금융 분야 인공지능 활용과 관련한 업계의 평가, 시사점 등을 분석합니다.



2. 인공지능기본법 시행령 제정안의 주요 내용

가. 인공지능 투명성 확보의무의 이행방법 및 예외(제22조)

  시행령 제정안은 아래와 같이 인공지능 투명성 확보의무의 이행방법 및 예외(면제 사유)를 정하고 있습니다.




나. 인공지능 안전성 확보의무의 대상(제23조)

● 학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산 이상인 인공지능 시스템으로서 인공지능 기술 발전 수준, 위험도 등을 고려하여 과기정통부장관이 고시하는 기준에 해당하는 인공지능시스템.


다. 고영향 인공지능 확인(제24조 및 제25조)

  기본법 제33조에 따르면, ① 인공지능사업자는 인공지능 또는 인공지능을 이용한 제품 등을 제공하는 경우 고영향 인공지능 여부를 사전에 검토하여야 하고, ② 필요시 과기정통부장관에게 확인 요청을 할 수 있습니다. 아래 시행령 제정안은 확인 요청에 따른 판단절차에 관한 것입니다.




라. 고영향 인공지능 관련 사업자의 책무(제26조)

● 법 제34조 제2항에 따르면 인공지능사업자가 다른 법령에 따라 그 책무에 준하는 조치를 이행한 경우에는 법 제34조 제1항에 따른 조치를 이행한 것으로 간주하고, 시행령 제정안을 그 내용을 [별표1]에서 구체화하고 있습니다.


마. 고영향 인공지능 영향평가(제27조)

● 고영향 인공지능사업자는 직접 또는 제3자에게 의뢰하여 영향평가를 실시하고, 영향평가에는 다음 사항이 포함되어야 합니다.
 

- 해당 고영향 인공지능을 이용한 제품 등에 의하여 사람의 생명, 신체의 안전 및 기본권에 영향 받을 수 있는 가능성이 있는 개인이나 집단에 대한 식별
- 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
- 해당 고영향 인공지능으로 인하여 발생할 수 있는 사람의 기본권에 대한 사회적·경제적 영향의 내용 및 범위
- 해당 고영향 인공지능의 사용 행태
- 영향평가에서 활용한 정량적 또는 정성적 평가지표 및 결과산출 방식
- 해당 고영향 인공지능으로 인한 위험의 예방·완화·손실 복구 등에 관한 사항
- 영향평가의 결과, 개선이 필요한 경우 그 이행 계획에 관한 사항

바. 국내대리인 지정대상 사업자

● 국내에 주소 또는 영업소가 없는 사업자 중 아래 요건 중 어느 하나에 해당하는 경우 국내대리인을 서면으로 지정하고 과기정통부장관에게 신고해야 합니다.
 

- 전년도/전사업연도 매출액 1조원 이상
- 인공지능서비스 부문 전년도/전사업연도 매출액 100억원 이상
- 전년도 말 기준 해당 인공지능사업자의 인공지능제품 및 인공지능서비스에 대한 직전 3개월 간 국내 이용자 수가 1일 평균 100만명 이상
- 기본법을 위반하여 인공지능서비스 이용의 안전성을 현저히 해치는 사건·사고가 발생하였거나 발생할 가능성이 있는 경우로서 법 제40조 제1항에 따라 과기정통부장관으로부터 관계 물품·서류 등을 제출하도록 요구받은 자

3. 금융 분야에 미치는 영향 및 시사점

가. 고영향 인공지능사업자의 책무 관련

  아래 사항은 시행령 제정안에서 명시적으로 금융 관련 법령 등과 연계하여 적용을 명시한 내용입니다.

● 결과물 등에 대한 설명방안 수립
 

- 기본법 제34조 제1항 제2호(기술적으로 가능한 범위에서의 인공지능이 도출한 최종결과, 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발·활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 수립·시행)의 경우,
- 신용정보법 제35조의2에 따른 설명의무를 준수하고, 제36조의2에 따른 설명의무 이행을 위한 절차를 갖춘 경우 이행한 것으로 간주

● 이용자 보호방안 수립
 

- 기본법 제34조 제1항 제3호(이용자 보호 방안의 수립·운영)의 경우,
- 금융소비자보호법 제10조에 따른 금융상품판매업자등의 책무를 이행한 경우

나. 시행령 제정안에 대한 금융권의 주요 평가

● 시행령 제4조는 국가인공지능위원회를 구성하는 관계 중앙행정기관에서 금융위원회를 제외하고 있어, 금융권의 의견이 하위규정 제정이나 구체적 법 집행 과정에서 충분히 반영되기 어렵다는 지적이 제기되고 있습니다.

● 종래 기본법에 대해 고영향 인공지능 판단기준이 지나치게 모호하다는 비판이 제기되어 왔습니다. 고영향 인공지능의 활용영역으로서 법 제2조 제4호 사목이 정하는 “대출 심사 등”, “개인의 권리의무에 중대한 영향” 등 요건이 충족되면 금융기관도 인공지능사업자로서 의무/책무를 이행하여야 하나, 위와 같은 적용범위 요건은 지나치게 추상적이고 시행령에서도 이를 충분히 구체화하지 못하고 있다는 비판이 있습니다.
 

※ 물론 과기정통부의 「AI기본법 하위법령집(안)」에 포함된 “고영향 AI 판단 가이드라인(안)”(이하’가이드라인”)에서는 금융분야에서 고영향 AI 판단에 대해 그 적용범위가 지나치게 넓어지지 않도록 제한하고는 있으나, 금융위원회가 아닌 과기정통부가 금융권의 특수성이나 의견을 충분히 반영할 수 있을지 우려가 있는 것으로 보입니다. 가이드라인에 따르면, “대출 심사 등” 금융분야에서는 ① 금융업권에서 금융거래나 대고객서비스에 인공지능시스템을 활용한 경우, 또는 ② 비금융업권이라도 인공지능시스템의 활용 결과가 금융거래에 미치는 경우에 고영향 인공지능 활용영역에 포함되나, 금융회사의 신용공여 행위와 직접적으로 관련이 적은 챗봇 서비스, 이상거래탐지서비스(FDS) 등은 ‘대출 심사’에 포함되지 않고, 금융회사 내부 직원관리, 단순 업무 효율화 등 인공지능시스템의 활용으로 고객에게 미치는 영향이 없는 경우도 ‘대출 심사’에서 제외된다고 하고 있습니다. 한편 대출 심사는 자연인 및 개인사업자에 대한 대출을 포함하는 것으로 설명하고 있습니다.)

다. 시사점

● 기본법 및 시행령이 시행되기까지 약 2개월이 남아 있으므로 그 전까지 금융권의 의견을 충분히 고려하여 하위규정이 정비되어야 할 것입니다.

● 금융위원회는 기본법 및 시행령 제정 이전부터 “금융분야 인공지능 가이드라인” 및 관련 안내서 등을 통해 금융분야의 인공지능 활용에 관한 방향을 제시하였는바, 금번 기본법 및 시행령 시행에 앞서 금융분야의 특수성을 충분히 고려한 가이드라인의 개정을 기다려 볼 필요가 있을 것으로 보입니다.

● 명확한 하위규정 및 가이드라인 등 해석기준이 확립되기 전까지는, 인공지능사업자에 속하는 금융기관으로서는 충분한 법률검토 등을 통해 예상되는 규제 이슈에 선제적·적극적으로 대응할 필요가 있겠습니다.