국방인공지능법 제정안 발의


법무법인 대륙아주 윤대해 변호사
법무법인 대륙아주 김민형 변호사



1. 들어가며

인공지능 기술이 국방 분야에서 군사작전의 혁신, 지휘 결심의 고도화, 전장 환경 예측 능력 제고 등 미래 국방력을 좌우하는 핵심 요소로 부상함에 따라 세계 주요 국가들은 국방 기술 우위를 확보하기 위하여 국방 인공지능을 전략적으로 육성하고 있습니다.

그런데 우리나라의 경우 인공지능 발전과 기반 조성에 관한 내용을 규율하고 있는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 적용 대상에서 국방 분야가 제외되어 있어, 국방 인공지능의 체계적 육성과 책임 있는 활용을 위한 별도 입법의 필요성이 제기되어 왔습니다.

이에 2026. 1. 17. 「국방인공지능법안」(이하 ‘제정안’)이 발의되어 현재 국회에서 입법절차가 진행 중에 있습니다. 위 제정안은 ① 국방 인공지능 정책의 기본 방향 제시 및 정책 심의ㆍ의결ㆍ수행 기구 설치, ② 국방 인공지능 기술의 개발ㆍ도입ㆍ운용 촉진 수단 마련, ③ 국방 인공지능 기술 운용상의 안전관리 장치 마련과 같은 내용을 담고 있습니다.



2. 제정안의 주요 내용

가. 정책 기본 방향 제시 및 정책 심의ㆍ의결ㆍ수행 기구 설치

제정안은 국방 인공지능 정책의 기본 방향으로 ① 국방 인공지능 기술 개발ㆍ활용을 통한 국가 안보 및 국방력 강화, ② 국방 인공지능 시스템의 안전성ㆍ신뢰성ㆍ책임성 확보를 명시하였습니다(제3조 제1항).

제정안은 국방부장관으로 하여금 3년마다 국방 인공지능 기본계획을 수립ㆍ변경 및 시행하도록 하고, 위 기본계획 기타 주요 정책 사항의 심의ㆍ의결을 위한 국방인공지능위원회 및 위원회의 업무를 전문 분야별로 논의하기 위한 하위 분과위원회를 설치함으로써 정책 기본 방향을 구체화하고자 하였습니다(제5, 6, 9조).

아울러 제정안은 국방부장관이 국방인공지능정책센터를 지정ㆍ설치하여 국방 인공지능 정책 개발 등에 관한 업무를 종합적으로 수행할 수 있도록 함으로써, 국방인공지능위원회의 심의ㆍ의결 기능을 실질적으로 지원하고자 하였습니다(제11조).


나. 국방 인공지능 기술의 개발ㆍ도입ㆍ운용 촉진 수단

1) 무기체계 획득 절차 및 규제 특례

제정안은 국방부장관등이 「방위사업법」에 따른 무기체계 등에 인공지능 기술을 적용하여 도입ㆍ운용하는 경우로서 신속한 전력화가 필요하거나 기술적 혁신성이 인정되는 경우 무기체계 등의 획득 방법 및 절차를 별도로 정할 수 있도록 하였습니다(제14조).

또한 제정안은 국방부장관등으로 하여금 관련 규제의 전부 또는 일부를 적용하지 아니하거나 관련 절차를 간소화함으로써 국방 인공지능의 신속한 전력화 및 군사적 활용을 지원하도록 하였습니다(제18조 제3항).

2) 데이터 표준화 및 관리

제정안은 기술 및 데이터의 호환성 확보를 위하여 국방부장관등으로 하여금 국방 인공지능 기술, 국방 인공지능 학습용 데이터, 국방 인공지능 시스템의 상호운용성과 안전성 및 신뢰성 등에 관한 표준화 사업을 추진하고, 관련 표준을 보급하도록 하였습니다(제15조).

또한 제정안은 국방 인공지능의 성능 향상 및 신뢰성 확보를 위하여 국방부장관등으로 하여금 인공지능 학습데이터의 생산ㆍ수집ㆍ관리 및 공유 촉진을 위한 시책을 수립하도록 하였고, 학습데이터의 효율적 관리 및 품질 확보를 위한 전담 기관을 지정ㆍ운영할 수 있도록 하였습니다(제16조).

아울러 제정안은 국방부장관등으로 하여금 국방 인공지능 데이터센터의 구축 및 운영 활성화에 필요한 시책을 추진하도록 함으로써, 국방 인공지능 개발, 시험, 평가 및 활용에서의 원활한 데이터 사용을 추구하였습니다(제22조).

3) 민간 인공지능 기술의 도입 및 활용

제정안은 국방부장관등으로 하여금 무기체계 등에 적용 가능한 민간 인공지능 기술을 적극적으로 발굴ㆍ도입하고, 무기체계 등의 소요 결정 시부터 민간 인공지능 기술의 적용 여부를 검토ㆍ반영하도록 함으로써, 민간의 우수 기술을 적극 활용할 수 있는 기반을 마련하였습니다(제17조).

4) 국방 인공지능 전문 인력 확보 및 실증 기반 조성

제정안은 국방부장관등으로 하여금 국방 인공지능 분야의 전문 인력을 양성하고 확보하기 위한 시책을 수립ㆍ추진하도록 함으로써, 체계적인 인력 양성의 기반을 마련하였습니다(제20조).

또한 제정안은 국방부장관이 국방 인공지능기술과 시스템의 평가 및 검증 등에 필요한 시설, 장비, 소프트웨어를 구축하거나 지정하여 운영하고, 이에 필요한 사업을 계획ㆍ추진할 수 있게끔 함으로써, 국방 인공지능의 실증 기반을 조성하고 촉진하고자 하였습니다(제21조).


다. 국방 인공지능 기술 운용상의 안전관리

제정안은 국방 인공지능 개발ㆍ활용에 있어 자동화된 결정이 사람의 생명 또는 신체에 중대한 위해를 발생하게 할 우려가 있는 경우에는 인적 개입이 보장되어야 함을 명시함으로써, 책임 있는 인공지능 활용 원칙을 선언하였습니다(제3조 제3항).

제정안은 국방기술품질원 내에 국방인공지능 안전연구소를 설치하여 국방 인공지능의 안전성ㆍ신뢰성을 위한 연구, 지침 제공, 안전 인증 제도 설계 등을 수행하게 함으로써, 국방 인공지능 개발ㆍ운용의 안전성을 확보하고자 하였습니다(제12조).

또한 제정안은 국방부장관등에게 국방 인공지능 시스템의 안전성 확보를 위한 시책 추진 의무를 부과하고, 특히 전력 운용에 중대한 영향을 미치는 시스템에 대해서는 수명주기 전반에 걸친 위험관리 방안까지 마련하도록 하는 등으로, 국방 인공지능 운용의 안전성을 보다 강화하고자 하였습니다(제23, 24조).



3. 시사점

(1) 인공지능 기반 무기체계는 하드웨어 중심의 전통적 무기체계와 기술적 속성 및 위험 요인이 상이하여 기존 무기체계와는 별도의 도입ㆍ운용 및 안전성 확보 방식을 규율할 필요가 있고, 그 내용상 국가 안보 및 군사기밀과 밀접하게 관련될 가능성이 높다는 점에서 이에 관한 별도 법률 제정의 필요성이 제기되어 왔습니다.

따라서 제정안이 국방 분야를 포괄하지 못했던 기존 인공지능 법제의 공백을 메우고, 국방력 강화라는 특수 목적과 기술 발전 촉진, 그리고 안전성과 책임성 확보라는 가치를 조화시키기 위한 최초의 시도라는 점에 의의가 있다고 할 것입니다.


(2) 인공지능 기술은 발전 속도가 매우 빠르고 지속적인 성능 개선이 이루어지는 특성을 가지는 반면, 현행 무기체계 획득 절차는 소요 결정부터 전력화에 이르기까지 통상 5년에서 10년 이상이 소요되는 구조인바, 인공지능 기반 무기체계에 기존의 무기체계 획득 절차를 그대로 적용할 경우 개발 완료 시점에 이미 기술이 진부화되거나 급변하는 작전 환경에 대응하지 못하는 문제 등이 발생할 가능성이 있습니다.

따라서 인공지능 기반 무기체계 개발에 특화된 수단의 확보는, 인공지능 기술을 국방 분야에 활용하기 위한 필수적인 조치입니다. 제정안이 마련하고자 하는 신속 획득 절차 특례, 규제 특례, 민간 기술 도입 등은 모두 이러한 수단의 일환에 해당하며, 그중 민간 기술 도입을 위한 신속 획득 절차 특례는 가장 주요한 요소 중의 하나가 될 것으로 보입니다.

다만 제정안은 신속 획득 절차 특례의 적용 요건을 시행령에 위임하고 있는데, 앞으로 무기체계 및 전력지원체계와 국방정보화사업 등에 인공지능을 적용하는 범위는 기술의 발전에 따라 그 폭과 깊이가 점점 확대될 것으로 예상됩니다. 이는 인공지능을 적용한 무기체계 등의 획득이 국방분야 획득업무에서 예외가 아니라 원칙이 될 가능성도 있음을 의미한다고 할 것입니다. 따라서, 어느 정도 수준의 인공지능 적용을 특례 적용 대상으로 볼 것인지에 대한 명확한 기준을 제시할 필요가 있고, 더 나아가 방위사업법과 국방과학기술혁신법상 무기체계 획득절차가 형해화되지 않도록 관련 법의 획득절차를 세부적으로 조화롭게 체계화하거나 일원화하여 규정할 필요성도 있다고 판단됩니다. 

한편, 제정안의 주요 수범자는 국방부장관 등이지만, 그중 국방 인공지능 기술개발 촉진 수단에 관한 부분은 법률 제정 후 인공지능 기반 무기체계 개발에 참여하게 될 방위산업체와도 밀접하게 관련되는바, 인공지능을 도입ㆍ활용하고자 하는 방위산업체로서는 해당 부분에 관심을 가지고 제정 동향을 지속적으로 모니터링할 필요가 있습니다.


(3) 무기체계는 그 성격상 사람을 살상하거나 신체에 중대한 위해를 가하기 위한 수단으로 활용될 가능성이 높은바, 제정안이 국방 인공지능 개발ㆍ활용에서의 자동화된 결정에 대한 인적 개입 보장을 명시하면서 책임 있는 인공지능 활용 원칙을 제시한 것은 입법을 통한 적절한 규율 방법으로 보입니다.

다만, 제정안은 인적 개입의 요건인 ‘중대한 위해’의 판단 기준이나 인적 개입의 방법ㆍ절차를 구체적으로 제시하지는 않은바, 향후 신속한 판단이 요구되는 긴박한 전장 환경에서 인적 개입의 절차가 이미 인공지능에 의해 정해진 분석과 판단에 대한 형식적 승인에 불과한 일이 없도록 실효성 있는 인적 통제 방안이 구체화될 필요가 있습니다.

최근의 전쟁 양상을 고려하면 국방 분야에서 전략 및 전술적 수단에 인공지능을 활용해야 하는 거대한 흐름을 부정할 수는 없다고 할 것입니다. 그러나, 얼마 전 자율무기 사용에 대한 인공지능의 활용범위와 관련하여 美 국방부와 인공지능기업 앤트로픽社 간의 갈등에서 비춰진 바와 같이 향후 국내에서도 무기체계의 사용에 인공지능을 구체적으로 어느 범위까지 활용할 것인가에 대한 윤리적 논쟁이 진행될 것으로 예상되는바, 전쟁수단으로서 무기체계의 효율성에 반하여 자칫 무기체계 사용에 무제한적인 인공지능의 활용이 가져올 위험성에 대한 윤리적 기준을 구체적으로 정립하고 그 기준을 법규범으로 담아야 할 크고 중요한 과제도 남아있다고 할 것입니다.