[AI기본법②] AI 기본법, 신속성 강조하다 완성도 놓쳐선 안 돼

[산업일보]
→‘[AI기본법①] 22대 국회, AI 어떻게 바라보나’ 기사에서 이어집니다.

AI 기본계획 수립 및 관련 정책·전략·규제개선 등 심의 및 의결하는 위원회 설치
AI 법안들은 과기정통부 장관이 AI 기술과 산업의 진흥 및 국가경쟁력 강화를 위해 ‘인공지능 기본계획’을 3년마다 수립하고 시행해야 한다고 규정하고 있다. 그러나, 이 계획은 ‘위원회’의 심의와 의결을 거쳐야한다.

이 위원회의 설치를 두고 법안들은 각자 다른 시각을 두고 있다. 정점식·조인철·안철수 의원안은 대통령 소속의 기구로서 ‘국가인공지능위원회’라는 명칭으로 대통령이 위원장이 되고 정부와 민간, 과학기술수석비서관으로 40명 이내의 위원을 구성할 것을 명시하고 있다.

민형배·권칠승 의원안은 ‘국가인공지능위원회’라는 명칭은 같으나, 국무총리에 소속을 뒀다. 국무총리와 민간 위원 중 대통령이 위촉하는 자 2인을 위원장으로 하며 권칠승 의원안은 30명 이내, 민형배 의원안은 30명 이상, 50명 이내의 위원을 정부와 민간에서 꾸린다.

한민수·김성원 의원안은 국무총리 소속 기구로서 ‘인공지능 위원회’를 이름으로 하며, 위원장과 위원 구성은 권칠승 의원안과 유사하다.

김건오 수석전문위원은 소위에서 “부처 간 이견 조정 필요성을 고려할 때, 위원회는 대통령 소속으로 규정할 필요가 있다”라고 발언했다.

더불어, 민형배 의원안은 지방자치단체에 ‘지역인공지능위원회’도 설치한다. 위원장은 시장·도지사와 민간위원 중 국가인공지능위원회 위원장이 공동으로 추천해 국무총리가 임명하며, 지방정부와 민간에서 10명 이상 20명 이내로 구성한다.

검토 보고서는 지방정부가 자체적으로 계획을 수립할 필요성이 낮을 수 있고, 지자체의 규모· AI 산업 역량 및 관심도와 무관하게 모든 광역·기초지자체에 위원회를 두는 것은 부담을 초래할 수 있다고 진단했다.

이와 함께, 정점식·김성원·민형배·권칠승·안철수·한민수 의원안은 과기정통부 장관이 AI 산업 진흥 및 경쟁력 강화에 필요한 업무를 종합적으로 수행하기 위해 ‘국가인공지능센터(인공지능정책센터)’를 지정할 수 있다고 규정했다.

또한, 정점식·안철수 의원안은 AI와 관련해 발생할 수 있는 위험으로부터 국민의 생명·신체·재산 등을 보호하고 AI 사회의 신뢰 기반 유지를 위해 ‘인공지능안전연구소’를 운영할 수 있다고 명시했다.

AI기술 개발 및 산업육성
정점식 의원안은 제3장에서 AI산업 기반 조성과 기술 개발 및 산업 활성화를 위한 사업 추진 범위를 규정하고 있다. 대표적인 조문이 제14조 ‘인공지능기술의 표준화’다. 과기정통부 장관이 AI와 관련된 표준화를 위해 제정 및 개정, 보급 등의 관련 사업을 추진할 수 있게 했다.

다른 법안들도 같은 내용의 표준화 조문을 포함하고 있으며, 이 밖에도 ‘인공지능 학습데이터’, ‘기업의 인공지능 기술 도입·활용 지원’, ‘인공지능 융합 촉진’ 등의 육성 방안을 명시하고 있다.

여기에 조인철 의원안은 ‘인공지능 실증 규제 특례’를, 김성원 의원안은 ‘우선허용·사후규제 원칙’을 더하고 있다.

이 중 우선허용·사후규제 원칙은 제21대 국회 과학기술정보방송통신위원회에서 반대된 이력이 있다. 국가인권위원회는 AI에 대한 사전 검증 및 사후 통제를 강조하는 국제기준을 이유로 삭제 요청을, 방송통신위원회는 AI 기술의 파급력을 고려할 때 엄격한 위험성 관리가 필요해 신중한 검토가 필요하다는 의견을 제출했다.

그러나 검토 보고서에서 한국인터넷기업협회는 AI 기술의 빠른 변화와 발전 속도를 따라가려면, 다양한 실험과 시도로 기술을 발전시키며 문제점에 대해 사후조치를 취하는 것이 현실적인 대응방안이라고 조언했다.

AI 윤리와 신뢰성 확보를 위한 규제
7개 법안은 AI의 신뢰성과 안전성을 확보하기 위한 의무도 규정하고 있다. ‘고위험영역 인공지능’ 조문을 통해 AI 사업자는 개발·서비스하려는 AI가 고위험영역에 해당하는지 과기정통부 장관에게 확인받고, 해당하는 경우에는 이용자에게 사전 고지해야 하는 의무를 부과했다.

정점식·조인철·민형배·안철수·한민수 의원안은 사업자가 AI의 신뢰성과 안전성을 확보하기 위한 조치를 하도록 했고, 권칠승 의원안은 검증·인증까지 요구하고 있다.

검토보고서에서 한국인터넷기업협회는 고위험영역 AI의 개념 및 범위가 모호해 과기정통부 장관의 개별적 판단에 의해 고위험영역 해당 여부가 결정될 가능성이 높고, 사실상 모든 AI 제품 및 서비스에 의무가 부과돼 AI 연구개발을 저해하고 진입장벽을 높이는 등 악영향을 미칠 수 있다고 우려를 표했다.

권칠승 의원안은 유일하게 ‘금지된 인공지능’에 대한 규제 조문을 만들었다. 이 법안은 범죄피해자 및 실종아동 수색 등 위원회의 심의를 거친 예외적인 경우 외에는 원천적으로 ‘금지된 인공지능’의 개발과 이용을 금지하고 있다.

특히, 권칠승 의원안은 27조 1항 벌칙에서 금지된 인공지능을 개발·이용한 자에 대해 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처하도록 규정했는데, 법안에서는 금지된 인공지능을 ‘심각한 침해나 위협이 명백하다고 인정되어 개발과 이용이 금지된 인공지능으로서 대통령령으로 정하는 기준 및 유형에 해당하는 것’이라고 명확하지 않게 정의하고 있다.

이 때문에 검토 보고서는 금지된 인공지능 규제에 앞서 구체적인 명시가 필요할 것이라고 내다봤다.

조인철 의원안은 ‘인공지능제품의 비상정지’ 조문을 구성해, AI 제품의 고장·결함 또는 오용으로 인한 사람의 위해를 방지하기 위해 비상정지 기능을 제품에 적용하게 했다.

검토 보고서는 모든 AI 제품에 비상정지 기능을 적용하는 것은, 법안이 달성하려는 법익에 비해 사업자에게 과도한 부담이 될 수 있다고 주장했다.

한국인터넷기업협회도 적용대상 및 방식 등을 구체적으로 규정하지 않고 있어 사업자의 예측 가능성이 저해되며, 영업의 자유 침해 우려도 있다고 전했다.

정점식·민형배·안철수·한민수 의원안은 ‘생성형 인공지능 고지 및 표시’ 의무를 부과했고, 정점식 의원안은 제30조에서 ‘생성형 인공지능 안전확보 의무’ 조문을 마련했다. 학습에 사용된 누적 연산량이 일정 기준 이상인 생성형 AI 사업자가 위험관리체계를 구축해야 한다는 내용이다.

김건오 수석전문위원은 소위에서 이 규정들이 “최근 AI 활용 딥페이크 디지털 성범죄 대책의 일환인 워터마크 표시제도와 관련이 있다”라고 말했다.

AI 기본법 제정, 어떻게 나아가고 있나
3일 열린 소위에서 과기정통부 강도현 차관은 “기본법의 통과가 굉장히 시급하며, 기본 골격을 만드는 것이 가장 우선적으로 필요한 사항”이라며 조속한 처리를 당부했다.

강도현 차관이 소위에서 밝힌 과기정통부의 입장을 종합하면, 정부는 이달 말 국가인공지능위원회 출범, 11월 인공지능안전연구소 설립을 계획하고 있다. 이 때문에 AI기본법의 기본 골격과 위원회, 연구소의 법적 근거 등이 절실한 상황이라는 것이다.

이에 대해 국민의힘 최형두 의원은 “국회가 토대를 마련해줘야 세부 항목의 보완과 부처 간 협의 조항이 가능하다”라며 “큰 법은 속도를 다퉈야하기 때문에 9월 중에 소위가 모범을 보여야 할 것”이라고 정부 의견에 힘을 실었다.

국민의힘 신성범 의원도 “정점식 의원안을 중심으로 정부와 협의해 안을 만든 뒤, 축조심사를 하는 방향이 맞지 않나 싶다”라고 동조했다.

반면, 조국혁신당 이해민 의원은 “진흥과 규제가 알맞은 균형을 확보하는 것이 기본법의 핵심이 돼야 한다”라며 “시급하기 때문에 그냥 빨리 제정하자고 하는 것은 브레이크 없는 자동차를 운전하는 것과 같다”라고 법안 검토에 신중을 더하자는 의견을 냈다.

더불어민주당 한민수 의원도 “각자 의원들이 철학을 담아 법안을 발의했는데, 하나의 법안만 놓고 속도를 내자는 식은 아닌 것 같다”라며 “처음 시작할 때 완결성 있는 법안을 만들어야 한다”라고 호소했다.

김현 소위원장은 “법안은 소위에서 계속 심사하도록 하겠다”라며 “신속한 처리를 위해 이달 안에 과방위 전체회의에서 공청회를 개최하고 소위에서 밀도 있는 논의를 이어가겠다”라고 밝혔다.

한편, 국회 과학기술정보방송통신위원회는 24일 ‘인공지능(AI) 기본법’ 제정을 위한 공청회 개최를 예고하고 있다.