인공지능기본법 시행령 입법예고
[25.11.12.]
I. AI 기본법 시행령 입법예고
｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 ”AI기본법”)의 2026. 1. 22. 시행을 앞두고, 과학기술정보통신부(이하 “과기정통부”)는 2025. 11. 12. 시행령 제정안을 입법예고하였습니다.
과기정통부는 2025. 9. 8. 시행령 초안과 고시 및 가이드라인을 공개하며 AI기본법 하위법령에 대한 대국민 의견수렴을 진행하였고, 수렴된 의견을 반영하여 시행령 제정안을 마련하였습니다(2025. 9. 9.자 및 2025. 9. 18.자 뉴스레터 참조).
아래에서는 과기정통부가 입법예고한 AI 기본법 시행령 제정안의 주요 내용과 이에 대한 시사점을 살펴보겠습니다.
II. 주요내용
과기정통부는 글로벌 규범 동향과 국내 AI 산업을 고려하여 규제보다는 진흥에 무게를 두고 필요 최소한의 규제 체계를 도입하기 위해 관계 부처의 의견을 충분히 수렴하여 중복되거나 유사한 규제를 최소화하는 데 집중하였다고 하였습니다.
1. AI 산업의 육성
1) 학습용데이터 구축 지원 사업
AI 기본법은 과기정통부 장관이 관계 중앙행정기관의 장과 협의하여 인공지능의 개발, 활용 등에 사용되는 데이터(이하 ‘학습용데이터’)의 생산, 수집, 관리, 유통 및 활용 등을 촉진하기 위하여 필요한 시책을 추진하여야 하고(AI기본법 제15조 제1항), 이를 위한 지원 대상 사업을 선정하여 예산 범위에서 지원할 수 있도록 정하고 있습니다(AI 기본법 제15조 제2항).
이 때 지원 대상 사업으로는 ① 학습용데이터 생산 및 가공 기술개발 사업, ② 인공지능서비스 개발을 위한 학습용데이터의 생산‧수집‧관리‧유통 및 활용 등에 관한 사업, ③ 법제도 연구 및 표준계약서 개발, 학습용데이터 표준ㆍ가이드 개발 등에 관한 사업, ④ 그 밖에 과학기술정보통신부장관이 필요하다고 인정한 사항이 명시되었습니다(시행령 제정안 제12조 제1항).
2) AI 기술 도입∙활용 지원
AI 기본법은 국가 및 지방자치단체가 기업 및 공공기관의 인공지능기술 도입 촉진 및 활용 확산을 위하여 대통령령으로 정하는 사항을 지원할 수 있다고 정하고 있습니다(AI기본법 제16조 제1항 제5호).
이때 대통령령으로 정하는 사항이란, ① 인공지능기술 및 공공기관 등의 도입·활용 사례에 관한 정보 제공, ② 이용자 또는 영향받는 자 보호를 위하여 필요한 교육 및 기술 지원, ③ 인공지능시스템 및 인공지능시스템의 구축·실행을 위한 기기, 장비 또는 기반시설의 구축 및 제공, ④ 그 밖에 인공지능기술 도입ㆍ활용 지원을 위하여 중앙행정기관의 장 또는 지방자치단체의 장이 필요하다고 인정하는 사항을 말합니다(시행령 제정안 제15조 제1항).
2. 투명성과 안전성 확보 의무 관련
1) 투명성 확보 의무
가) 사전고지
AI 기본법은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하도록 정하고 있습니다(AI 기본법 제31조 제1항).
시행령 제정안에 따르면, AI 기본법 제31조 제1항에서 정하는 사전고지는 다음 중 어느 하나의 방법으로 하여야 합니다(시행령 제정안 제22조 제1항).
① 제품 또는 서비스(이하 ‘제품 등’)에 직접 기재하거나, 계약서, 사용 설명서, 이용약관 등에 기재
② 이용자의 화면 또는 단말기 등에 표시
③ 제품 등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소 포함)에 인식하기 쉬운 방법으로 게시
④ 그 밖에 제품 등의 특성을 고려하여 과학기술정보통신부장관이 인정하는 방법
나) 생성형 인공지능을 이용한 결과물에 대한 표시
또한 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 합니다(AI 기본법 제31조 제2항).
AI 기본법 제31조 제2항에서 정하는 결과물에 대한 ‘생성형 인공지능에 의한 생성’ 표시는 그 결과물에 사람 또는 기계가 판독할 수 있는 형식으로 할 수 있도록 규정하였습니다. 이는 비가시적 워터마크를 인정한다는 취지로 의미가 있습니다. 다만 기계가 판독할 수 있는 방법으로 표시할 경우 ‘생성형 인공지능에 의하여 생성되었다’는 사실을 1회 이상 안내 문구·음성 등으로 제공하여야 합니다(시행령 제정안 제22조 제2항).
다) 딥페이크 결과물에 대한 표시
인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물(이하 ‘딥페이크 결과물’)을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있습니다(AI 기본법 제31조 제3항). 이에 대한 구체적인 표시 방식은 시행령에 위임되어 있습니다.
딥페이크 결과물은 이용자가 명확하게 인식할 수 있는 방식으로 고지 내지 표시되어야 하므로 비가시적 워터마크가 인정되지 않고, ① 이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시, ② 주된 이용자의 연령, 신체적ㆍ사회적 조건 등을 고려하여 고지 또는 표시라는 사항을 고려하여 이용자가 명확하게 인식할 수 있는 방법으로 고지 또는 표시하여야 합니다(시행령 제정안 제22조 제3항).
라) 투명성 의무에 대한 적용 예외
인공지능사업자의 내부 업무 용도로만 사용되는 경우, 제품ㆍ서비스명, 이용자 화면이나 제품 겉면에 표시된 문구 등을 고려할 때 고영향 인공지능 또는 생성형 인공지능 기반 운용 사실이 명백한 경우에는 이러한 투명성 의무를 면제하였습니다(시행령 제정안 제22조 제4항).
2) 안전성 확보 의무
AI 기본법은 학습에 사용된 누적 연산량이 일정 기준 이상인 인공지능시스템에 대하여 안전성 확보를 위해, 인공지능 수명주기 전반에 걸친 위험의 식별ㆍ평가 및 완화, 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축 의무를 규정하고 있습니다(AI기본법 제32조 제1항).
시행령 제정안은 이러한 안전성 확보 의무의 적용 대상을 10의 26제곱 부동소수점 연산 이상 인공지능시스템으로서 과기정통부 장관이 인공지능기술 발전 수준, 위험도 등을 고려하여 고시하는 기준에 해당하는 인공지능시스템으로 정하였습니다(시행령 제정안 제23조 제1항). 이는 EU AI Act가 정한 10의 25제곱 부동소수점 연산 기준보다 완화된 것입니다.
3) 고영향 AI 관련
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 에너지, 보건의료, 원자력, 교통, 교육 등 특정 영역에서 활용되는 AI 시스템은 고영향 AI에 해당하고(AI 기본법 제2조 제4호), 고영향 AI에 대하여는 안전성과 신뢰성을 확보하기 위한 방안을 이행하여야 합니다(AI기본법 제34조 제1항).
이때 고영향 AI 해당 여부에 대하여 과기정통부장관에게 확인을 요청할 수 있는데, 과기정통부장관은 그 판단 시에 사용영역, 기본권에 대한 위험의 영향∙중대성∙빈도, 활용 영역별 특수성 등을 종합적으로 고려하게 됩니다(시행령 제정안 제24조 제2항).
또한, 인공지능사업자가 고영향 AI를 이용한 제품, 서비스를 제공하는 경우 AI 기본법 제34조 제1항 각 호의 조치를 이행하고 그 근거를 문서로 5년간 보관해야 합니다(시행령 제정안 제26조 제1항). 또한 ①위험관리정책 및 조직체계 등 AI 기본법 제34조 제1항 제1호에 따른 위험관리방안의 주요 내용, ② AI 기본법 제34조 제1항 제2호에 따른 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발ㆍ활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 주요 내용, ③ 이용자 보호 방안, ④ 해당 고영향 인공지능을 관리ㆍ감독하는 사람의 성명 및 연락처를 홈페이지 등에 게시하여야 합니다(단, 영업비밀에 해당하는 사항은 제외 가능, 시행령 제정안 제26조 제2항).
인공지능개발사업자가 의무 이행 시 인공지능이용사업자가 중대한 기능 변경을 초래하지 않는 경우 인공지능이용사업자는 그 의무를 이행한 것으로 간주하고(시행령 제정안 제26조 제3항), 타법상 동일·유사 조치 이행시 AI기본법상 의무는 이행한 것으로 간주합니다(시행령 제정안 제26조 제5항). 예를 들어 디지털의료제품법에서 정한 의무 이행시 인공지능 기본법상 고영향 인공지능 사업자 책무는 이행한 것으로 간주합니다.
인공지능사업자가 고영향 AI를 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가(이하 ‘영향평가’)하기 위하여 노력해야 하는데, 그 구체적인 내용은 시행령에 위임되어 있습니다(AI 기본법 제35조 제3항). 영향평가에 포함되어야 하는 사항은 다음과 같습니다(시행령 제정안 제27조 제1항).
① 해당 고영향 인공지능을 이용한 제품 또는 서비스에 의하여 사람의 생명, 신체의 안전 및 기본권에 영향받을 수 있는 가능성이 있는 대상의 식별(일정한 특성을 가진 개인 또는 집단에 대한 식별)
② 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
③ 해당 고영향 인공지능으로 인하여 발생할 수 있는 사람의 기본권에 대한 사회적‧경제적 영향의 내용 및 범위
④ 해당 고영향 인공지능의 사용 행태
⑤ 영향평가에서 활용한 정량적 또는 정성적 평가지표 및 결과산출 방식
⑥ 해당 고영향 인공지능으로 인한 위험의 예방, 손실의 복구 등
⑦ 영향평가의 결과, 개선이 필요한 경우 그 이행 계획에 관한 사항
3. 국내대리인 지정 사업자 기준
국내에 주소 또는 영업소가 없는 인공지능사업자로서 이용자 수, 매출액 등이 대통령령으로 정하는 기준에 해당하는 자는 인공지능 안전성 확보 의무 이행 결과 제출, 고영향 인공지능 해당 여부에 대한 확인 요청, 고영향 인공지능의 안전성ㆍ신뢰성 확보 조치의 이행에 필요한 지원 업무를 대리하는 국내대리인을 서면으로 지정하고, 이를 과기정통부장관에게 신고해야 합니다(AI기본법 제36조 제1항).
국내대리인 지정 대상은 전년도(법인인 경우 전 사업연도) 매출액 1조원 이상, AI서비스 부문 전년도(법인인 경우 전 사업연도) 매출액 100억원 이상, 전년도 말 기준 해당 AI 사업자의 AI제품 및 AI서비스에 대한 직전 3개월 간 일 평균 국내 이용자 수 100만명 이상, AI서비스 관련 사고로 자료 제출을 요구받은 경우 중 어느 하나에 해당하는 자입니다(시행령 제정안 제28조 제1항).
4. 사실조사
과기정통부장관은 AI사업자가 투명성 확보 의무, 안전성 확보 의무, 고영향 인공지능 관련 사업자의 책무를 위반한 사항을 발견하거나 혐의가 있음을 알게된 경우, 관련 민원이 접수된 경우 AI사업자에 대하여 관련 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있습니다(AI기본법 제40조 제1항). 이때 필요한 경우 과기정통부 소속 공무원은 AI사업자의 사무소ㆍ사업장에 출입하여 장부ㆍ서류, 그 밖의 자료나 물건을 조사할 수 있습니다(AI기본법 제40조 제2항).
다만 이미 충분한 증거 확보가 되어있거나 부당한 목적의 신고·민원에 대해서는 사실조사를 하지 않을 수 있습니다(시행령 제정안 제31조).
5. 과태료 계도기간 운영
투명성 확보 관련 사전고지 미이행, 일정 기준 이상 해외사업자의 국내대리인 미지정, AI기본법 위반에 따른 시정명령의 미이행 시 3천만원 이하 과태료가 부과됩니다(AI기본법 제43조 제1항). 과기정통부는 AI기본법 시행 초기 기업들의 혼란을 최소화할 수 있도록 과태료 계도기간을 최소 1년 이상 운영할 방침이라며, 구체적인 계도기간은 이해관계자 의견 수렴을 통해 확정하겠다고 밝혔습니다.
III. 시사점
AI 기본법의 시행을 앞두고, AI 산업 육성을 위한 지원 대상 및 기준, 투명성과 안전성 확보를 위한 사업자의 이행 의무 및 적용 예외 대상, 고영향 AI의 해당 여부에 대한 판단 기준 및 고영향 AI 관련 사업자의 책무 등에 대한 구체적인 내용에 대하여 의견 수렴 절차를 거쳐 시행령 제정안이 입법예고 되었다는 점에서 의미가 있습니다.
과기정통부는 2025. 12. 22.까지 시행령 제정안에 대하여 대국민 의견 수렴 절차를 거칠 예정이고, AI 투명성 및 안전성 확보, 고영향AI 사업자 책무 등에 대한 가이드라인에 대하여도 의견을 수렴할 예정입니다.
인공지능기술은 계속 발전하고 있으므로 의견 수렴 절차 및 해외 규제 동향을 고려하여 시행령과 가이드라인이 지속적으로 보완될 것으로 예상되므로, 관련 동향에 대한 지속적인 모니터링이 필요합니다.
강태욱 변호사(taeuk.kang@bkl.co.kr)
윤주호 변호사(juho.yoon@bkl.co.kr)
강정희 변호사(jeonghee.kang@bkl.co.kr)
이수화 변호사(suhwa.lee@bkl.co.kr)
유재규 변호사(jaegyu.yoo@bkl.co.kr)
www.lawtimes.co.kr
