세계 최초 포괄법 ‘AI 기본법’, 산업 현장 “준비 안 됐다”

[산업일보]
‘AI(인공지능) 기본법’이 보름여 뒤인 22일부터 시행된다. 한국은 포괄적인 AI 법을 적용하는 세계 최초 국가가 된다. EU는 2024년 ‘AI ACT’를 만들었지만 단계적 시행 방식을 택하면서, 실제 적용 시점은 한국이 더 앞서게 됐다. 그러나 산업 현장에서는 ‘왜 한국이 총대를 메야 하느냐’라는 반응과 함께, 법안의 규제 조건이 광범위하고 모호하다는 지적이 이어지고 있다.

국회 의원회관 6간담회실에서 6일 열린 ‘AI 기본법 투명성·책임성 라운드테이블’ 행사에서는 AI 산업계 관계자들이 참석해 AI 기본법의 규제 합리화와 개선 방안을 논의했다.

발제자로 나선 스타트업성장연구소 최성진 대표이사는 AI 기본법의 투명성·책임성 쟁점을 짚었다.

“EU는 고위험(AI 기본법에서는 고영향으로 정의) AI의 정의·판별·실제 적용 등의 준비 부족을 이유로, 해당 분야 시행은 2027년 하반기를 목표로 하고 있다”라고 전한 그는 “그렇다면 한국이 세계 최초라는 타이틀을 꼭 가져가야 하는지 개인적으로 의문이 든다”라고 말했다.

최 대표는 먼저 AI 기본법의 ‘투명성 확보 의무’ 쟁점을 설명했다. 투명성은 ▲고영향·생성형 AI 서비스가 AI에 기반해 운용된다는 사실을 사전 고시 ▲생성형 AI 결과물 표시 ▲딥페이크처럼 실제와 구분이 어려운 결과물 고지 또는 표시 등으로 규정돼 있다.

적용 대상은 OpenAI(ChatGPT)·구글(Gemini)과 같은 ‘개발사업자’와 이를 활용해 제품 및 서비스를 제공하는 ‘이용사업자’다. AI 결과물을 단순히 이용하는 ‘이용자’와 ‘영향받는 자’는 해당하지 않는다.

최성진 대표는 “생성형 AI 결과물 표시의 경우 시행령에서 ‘사람이 인식할수 있는 방법’과 ‘기계가 판독할 수 있는 방법’ 두 가지를 제시하고 있는데, 기계 판독 방법을 적용하더라도 안내문구·음성을 1회 이상 제공하라고 규정하고 있다”라며 “과도한 규제에 해당할 수 있다”라고 지적했다.

이어 “화면상의 가시적 라벨링은 악의적 이용자가 쉽게 제거할 수 있다”라며 “모든 AI 결과물에 가시적 라벨링을 적용하게 되면, 이를 제거한 생성물을 ‘AI가 만든 게 아니구나’라고 오인하게 만들 수 있다”라고 짚었다.

대안으로는 “국제적으로 활용되는 ‘C2PA 기반 메타데이터’ 기술을 검토해 도입을 지원하자”라고 덧붙였다.

‘주된 이용자의 연령, 신체적·사회적 조건 등을 고려해 고시 또는 표시할 것’으로 규정하고 있는 실제와 구분이 어려운 결과물 고지·표시에 대해선 “주된 이용자의 범위가 불명확하며, 연령 및 신체적·사회적 조건을 알려면 이를 수집하라는 것”이라며 “모든 조건에 대응하는 개발이나 가장 높은 수준의 의무 적용이 강제될 수 있다”라고 분석했다.

고영향 AI 해당 여부를 사업자가 스스로 검토해야 한다는 규정을 놓고는 “취지는 자율 규제이나, 기업에는 과도한 법률적 부담이 될 수 있다”라며 “정부에 판단 요청을 할 수 있으나, 민·형사상 최종 판단은 사법부에서 결정하기 때문에 리스크가 우려된다”라고 진단했다.

또한 “고영향 AI 사업자에게 다양한 책무가 주어지는데, 범용 AI가 아니라 특정 분야에 해당하는 AI 시스템이 적용 대상”이라며 “자율주행이나 원자력처럼 이미 규제 및 관리가 엄격한 분야의 경우, 안전·인허가 기준 등 기존 법령을 AI 적용에 적합하게 개선하는 방식으로 고영향 AI 적용 범위를 줄여나가는 방향이 바람직하다고 본다”라고 강조했다.

그는 “임박한 법 시행으로 인한 혼란이 불가피한데, 과기정통부는 우선 시행 후 과태료 및 사실조사 등 계도기간 1년 이상을 추진할 계획”이라며 “그러나 법 시행으로 투명성·책임성 등 법률적 의무는 효력이 발생하는 것”이라고 짚었다.

더불어 “한국이 포괄적 AI 법 적용을 실시하면서 미국이나 EU 등 경쟁 국가에게 규제 학습 사례를 제공하는 것”이라며 “우리가 왜 앞장서서 그런 비용을 부담해야 하는지 의문”이라고 꼬집었다.

최성진 대표는 강연을 마무리하며 “AI 3강 달성을 위해선 유연하고 합리적인 제도, 예측 가능하고 준수하기 쉬운 규제가 필수적”이라고 밝혔다.

이어진 토론에서, 스타트업얼라이언스의 정주연 선임전문위원은 스타트업 101곳을 대상으로 최근 진행한 ‘AI 기본법의 인지도 및 준비현황’ 설문 조사를 바탕으로 쟁점을 제시했다.

조사 결과 응답 기업 중 98%는 AI 기본법에 대해 준비가 안 돼 있었다. 특히 시리즈A 이하 초기 기업들은 법령의 내용조차 모르는 경우가 많았고, B나 C 단계 기업들은 기본법은 인지하고 있었으나 구체적인 대응 체계나 준비 계획은 갖추지 못한 경우가 대부분이었다.

정 선임전문위원은 “기업의 준비 부족이라기보다, 법과 시행령이 모호해 개선이 필요한 지점이 남아있다는 것을 방증하는 결과”라고 설명했다.

그는 “학습 누적 연산량이 10의 26승 부동소수점연산 이상인 AI 시스템은 안전성 기준을 적용하도록 규정돼 있는데, 이는 AI 모델의 규모와 성능 지표”라며 “AI 모델 위험도 평가를 위한 참고 자료로 활용하되, 서비스의 실질적 기능과 사용 맥락을 고려한 위험 기반의 평가체계를 도입하는 것이 실효적일 것”이라고 진단했다.

생성형 AI 기반 콘텐츠 플랫폼 기업 툰스퀘어의 이호영 대표이사는 “창작 분야에서 AI가 보조도구로 사용되는 만큼, AI 기본법 규제가 현장 사례를 반영해 유연성 있게 설계되길 바란다”라고 말했다.

AI 법·규제·정책 플랫폼 코딧(CODIT)의 정지은 대표이사는 “AI 기본법으로 인해 해외 이전을 고려하는 기업도 있을 수 있다”라고 우려를 전하며 “스타트업은 규제 대응이 어렵기 때문에, 투명성·책임성 조항에 대해서는 스타트업을 위한 예외 조항을 설정해 법 위반 상황을 덜어주는 방식이 필요해 보인다”라고 제언했다.