인공지능 입법 동향과 보완점^[1]

 

김휘식

 

1. 서설

오픈AI가 2022년에 선보인 ChatGPT의 성능은 인공지능에 대한 기대와 우려를 가속화하고 있다. 생성형 인공지능인 ChatGPT는 강한 인공지능의 가능성을 보여준다. 유럽연합 의회는 2023년 6월 ChatGPT와 같은 생성형 인공지능에 대응하기 위하여 「유럽연합 인공지능법안」을 수정하였다. 이 법안에 생성형 인공지능이 속한 파운데이션 모델의 경우 ① 인공지능이 제작한 콘텐츠임을 명시하고, ② 불법 콘텐츠 생성을 방지하도록 설계하며, ③ 훈련에 사용된 저작권 데이터를 요약하여 게시하는 의무를 추가하였다.^[2] 미국 바이든 대통령은 2023년 10월 안전하고 신뢰할 수 있는 인공지능의 사용에 관한 행정명령에 서명하였다. 이 행정명령은 ① 인공지능 개발 기업의 안전성 평가 의무, ② 인공지능 생성 콘텐츠 인증, ③ 워터마킹 표준 마련 등 인공지능 규제를 강화하는 내용을 포함하고 있다.^[3]

 

2. 우리나라 인공지능 입법 동향

국회의안정보시스템에서 인공지능을 명시한 법안은 2024년 2월을 기준으로 13개가 검색된다.^[4] 초기에 발의된 법안은 지원을 위한 내용이 중심을 이루고 있었으나, 최근에 발의된 법안은 규제에 관한 내용이 추가되고 있다. 그 구체적인 예로 「인공지능산업 육성 및 신뢰 확보에 관한 법률안」, 「알고리즘 및 인공지능에 관한 법률안」, 「인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안」 등 7개 법안을 통합한 위원회 대안은 고위험 영역에서 활용되는 인공지능을 정의하고 있다(제2조).^[5] 또 위원회 대안은 고위험 영역에서 활용되는 인공지능을 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스가 고위험 영역에서 활용되는 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다(제27조)고 명시하고 있다. 한편 위원회 대안은 국가나 지자체, 공공기관 등이 국민에게 영향을 미치는 의사결정을 위해 사용되는 인공지능을 고위험 영역에서 활용되는 인공지능으로 명시하고 있다. 그 외에도 위원회 대안은 인공지능 학습용데이터 관련 시책 수립을 규정하고(제14조), 고위험 영역에서 활용되는 인공지능 개발자 등은 신뢰성 확보 조치를 이행하도록 규정하고 있다.^[6]

가장 최근에 발의된 인공지능 관련 법안인 「인공지능 책임 및 규제법안」은 총칙(제1장), 인공지능 개발 및 이용에 관한 규제의 원칙(제2장), 고위험 인공지능의 개발 및 이용(제3장), 인공지능 윤리 및 신뢰성 확보(제4장) 등으로 구성되어 있다. 이 법안은 인공지능의 유형을 금지된 인공지능, 고위험 인공지능, 저위험 인공지능으로 구분한다(제2조). 특히 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」에 따른 공공기관 등이 사용하는 인공지능으로서 국민을 평가, 분류, 통제하는 의사결정에 사용되는 인공지능을 고위험 인공지능으로 명시하고 있고 우선허용･사후규제 원칙(제5조), 고위험 인공지능 사업자의 책무(제8조, 제9조)를 규정하고 있다. 이 법안은 또한 고위험 인공지능 이용자의 권리로 설명요구권, 이의제기권 또는 거부권을 인정하였고(제10조), 고위험 인공지능 사업자에게 손해배상 감면을 위한 입증책임을 부담하게 하였다(제11조). 그 밖에도 이 법안은 인공지능 주요 정책을 심의･의결하는 인공지능 위원회를 국무총리 소속으로 규정하고 있다(제13조). 이와 같은 내용으로 최근의 법안은 법안명에서 표현되는 바와 같이 위원회 대안에 비하여 인공지능 규제의 밀도를 높였다.

 

3. 인공지능 입법 방안의 보완점

인공지능에 대한 규제 방안은 과학기술에 대한 규제로 연결되기 때문에 규제와 더불어 불투명성, 편향성, 자율성, 데이터 기반 등 인공지능 자체의 특성을 고려하여 만들어야 한다. 기술 혁신을 촉진하기 위한 우선허용･사후규제를 원칙으로 하되, 리스크에 유연하게 대응할 수 있는 리스크 기반 규제, 규제 지체에 유연하게 대응할 수 있는 원칙 기반 규제, 자율규제와 가이드라인, 규제계약 등 다양한 수단으로 규제를 보완하고 견제할 수 있다. 구체적인 보완 방법으로 인공지능 사업자에게 신고나 허가를 요구할 수 있으며, 인공지능 이용자에게 설명요구권을 부여하는 방법도 생각할 수 있다. 인공지능에 대한 규율에 있어, 금지의 성질을 추상적 위험 발생의 예방과 구체적 위험 발생의 진압으로 나누어 본다면,^[7] 구체적 위험 발생을 진압할 수 있도록 유연한 규정을 두는 것은 적절하나 추상적 위험 발생을 예방하기 위하여 세부적인 규정을 두는 것은 적절하지 않다고 보아야 한다.

인공지능을 법규범으로 규제하는 접근방식은 유럽연합의 경우와 같은 일반법적･전면적 방식과 미국의 경우에서 보는 바와 같이 가이드라인 형태로 출발해서 점차 개별법을 제･개정하고 일반법을 마련하는 개별법적･점진적 방식으로 나눌 수 있다. 일반법적 방식은 포괄적이고 체계적일 수는 있지만 과도한 규제로 인해 인공지능 기술 발전을 억제할 위험성이 있고, 개별법적･점진적 방식은 어느 정도 특정된 문제점에 대응한다는 점에서 과도한 규제로 인한 위험성은 줄어들지만 규제의 공백으로 인해 제3자의 피해를 예방하기 어렵다는 단점이 있다. 우리나라의 경우에는 현재는 개별적･점진적 방식에 가깝다. 그러나 유럽연합의 방식도 폭넓은 논의를 바탕으로 금지되는 인공지능의 유형을 정하고 있는 정도이고 전면적인 규제로 보기는 어려우며 나머지는 여전히 개방되어 있다고 볼 수 있다.^[8] 인공지능은 다양한 분야에서 활용될 수 있고 그에 따라 규제의 정도도 다르며 기술 혁신을 지원할 필요가 있다는 점에서 보면 현재로서는 개별법적･점진적 방식이 설득력이 있는 방식이다. 각국이 처한 상황과 법체계의 차이에 따라 적절한 방식은 달라진다. 그러나 처한 상황과 법체계가 다르지만 인공지능의 혜택을 최대화하고 위험성을 견제하고자 하는 목표는 각국이 서로 다르지 않으므로, 세부적인 내용은 서로 영향을 주고받으면서 절충점을 찾게 될 것이다.^[9]

인공지능을 규율하는 조직과 관련하여 유럽의 경우 「유럽연합 인공지능법안」으로 유럽 인공지능이사회를 설립하고(제56조), 회원국은 관할 당국을 지정하도록 규정하고 있다(제59조). 미국의 경우 「미국 알고리즘 책임법안(2023)」은 입법 목적 등에서 연방거래위원회를 집행기관으로 명시하고 있다. 우리나라 국회에서 논의 중인 「인공지능산업 육성 및 신뢰 확보에 관한 법률안」, 「인공지능 책임 및 규제법안」 등은 국무총리 소속으로 인공지능 정책을 심의･의결하는 인공지능위원회를 규정하고 있다. 인공지능 정책의 집행을 위해서는 담당 전담 기구가 전문성, 독립성, 공정성을 확보할 수 있고 관련 기관과 협력할 수 있도록 구축되어야 한다.^[10] 전문성을 요하는 업무는 합의제 기관이 적합하고 독립성과 중립성을 요하는 업무는 상호독립적 동격 기관이 적합하기 때문에,^[11] 전문성을 요하는 인공지능 규율을 심의･의결하는 인공지능위원회를 합의제 기관으로 설치하는 것이 적절하다. 다만 인공지능위원회의 독립성을 강화할 필요가 있고 인공지능위원회가 직접 분쟁조정을 하는 것은 아니므로, 인공지능 분쟁조정위원회를 따로 두어야 할 것이다.

 

4. 결어

인공지능 기술의 발전을 촉진하기 위한 지원과 함께 딥페이크, 가짜뉴스 등 인공지능의 악용 가능성에 대한 우려로 규제의 중요성이 점점 더 커져가고 있다. 이에 대처하기 위하여 우리나라가 처한 상황에 맞게 인공지능 규제의 정도를 정할 필요가 있으며, 이를 위해 인공지능에 대한 규율에 있어 구체적 위험 발생을 진압할 수 있도록 유연한 규정을 두는 것은 적절하나 추상적 위험 발생을 예방하기 위하여 세부적인 규정을 두는 것은 적절하지 않다. 또한 전문성을 요하는 인공지능 규율을 심의･의결하는 인공지능위원회를 합의제행정기관으로 설치하는 것은 적절하나, 효과적으로 기능하기 위해서는 인공지능위원회의 독립성을 강화할 필요가 있다. 나아가 전문성과 독립성 강화를 위해 인공지능 소프트웨어 전문가와 법률가가 인공지능위원회의 위원으로 포함되어야 한다.

 

[참고문헌]

1. 김광수, “인공지능 알고리즘 규율을 위한 법제 동향-미국과 EU 인공지능법의 비교를 중심으로-”, 행정법연구 제70호, 2023.3.
2. 김송옥, “AI 법제의 최신 동향과 과제-유럽연합(EU) 법제와의 비교를 중심으로-”, 공법학연구 제22권 제4호, 2021.11.
3. 김휘식, “인공지능을 활용한 자동적 처분에 곤한 공법적 연구”, 고려대학교 박사학위논문, 2024.
4. 이성엽(편), 데이터와 법, 제2전정판, 박영사, 2024.
5. 이원우/김태오, “경제행정법”, 김철용(편), 특별행정법, 박영사, 2022.
6. 홍석한, “유럽연합 ‘인공지능법안’의 주요 내용과 시사점”, 유럽헌법연구 제38호, 2022.4.
7. European Parliament, P9_TA(2023)0236, Artificial Intelligence Act, Amendments adopted by the European Parliament on 14 June 2023 on Artificial Intelligence Act and amending certain Union legislative acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD).
8. US Executive Order No. 14110, Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, 88 Fed. Reg. 75191(Oct. 30, 2023).

———–

^[1] 이 글은 김휘식, “인공지능을 활용한 자동적 처분에 관한 공법적 연구”, 고려대학교 박사학위논문(2024)의 일부 내용을 요약, 수정한 것입니다.

^[2]  European Parliament, P9_TA(2023)0236, Artificial Intelligence Act, Amendments adopted by the European Parliament on 14 June 2023 on Artificial Intelligence Act and amending certain Union legislative acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD).

^[3] US Executive Order No. 14110, Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, 88 Fed. Reg. 75191(Oct. 30, 2023).

^[4] 현재 심의 중인 법안은 최근 발의된 순으로 「인공지능 책임 및 규제법안(안철수 의원 등 10인)」, 「인공지능책임법안(황희 의원 등 14인)」, 「인공지능산업 육성 및 신뢰 확보에 관한 법률안(윤두현 의원 등 12인)」, 「인공지능교육진흥법안(조해진 의원 등 12인)」, 「한국인공지능･반도체공과대학교법안(안민석 의원 등 13인)」, 「알고리즘 및 인공지능에 관한 법률안(윤영찬 의원 등 12인)」, 「인공지능에 관한 법률안(이용빈 의원 등 31인)」, 「인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안(정필모 의원 등 23인)」, 「인공지능교육진흥법안(안민석 의원 등 10인)」, 「인공지능 기술 기본법안(민형배 의원 등 10인)」, 「인공지능 집적단지의 육성에 관한 특별법안(송갑석 의원 등 11인)」, 「인공지능산업 육성에 관한 법률안(양향자 의원 등 23인)」, 「인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안(이상민 의원 등 11인)」이다. 2023년 2월 국회 과학기술정보방송통신위원회 법안심사소위원회는 「인공지능산업 육성 및 신뢰 확보에 관한 법률안」, 「알고리즘 및 인공지능에 관한 법률안」, 「인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안」 등 7개 법안을 통합하여 위원회 대안으로 처리하기로 합의하였다.  https://likms.assembly.go.kr/bill/BillSearchResult.do

^[5] 에너지, 먹는 물 공급, 보건의료, 의료기기, 핵물질과 원자력시설의 안전관리･운영, 범죄 수사나 체포에서의 생체정보 분석･활용, 채용이나 대출 심사, 자율주행을 포함한 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영, 국가나 지자체, 공공기관 등이 국민에게 영향을 미치는 의사결정을 위해 사용되는 인공지능과 같이 국민의 안전, 건강, 기본권 보호에 중대한 영향을 미칠 수 있는 인공지능을 말한다.

^[6] 이를 구체화한 과학기술통신부장관 고시(안)는 인공지능이 도출한 결과, 결과 도출에 활용된 주요 기준, 학습용 데이터의 개요 등에 대한 설명 방안을 포함하도록 규정하고 있다. 손도일/이성엽, “인공지능과 데이터 활용의 법적 이슈”, 이성엽(편), 데이터와 법, 제2전정판, 박영사, 2024, 505면.

^[7] 이원우/김태오, “경제행정법”, 김철용(편), 특별행정법, 박영사, 2022, 523면.

^[8] 김송옥, “AI 법제의 최신 동향과 과제-유럽연합(EU) 법제와의 비교를 중심으로-”, 공법학연구 제22권 제4호, 2021.11, 130면.

^[9] 김광수, “인공지능 알고리즘 규율을 위한 법제 동향-미국과 EU 인공지능법의 비교를 중심으로-”, 행정법연구 제70호, 2023.3, 191면.

^[10] 홍석한, “유럽연합 ‘인공지능법안’의 주요 내용과 시사점”, 유럽헌법연구 제38호, 2022.4, 273면.

^[11] 이원우/김태오, “경제행정법”, 김철용(편), 특별행정법, 박영사, 2022, 489-491면.