[AI의 그늘 ②] AI로 인한 부작용…최소한의 안전망 있어야

[산업일보]
인공지능(AI) 기술이 빠르게 발전하고 있다. 반면 정책 및 제도적 부분은 이를 따라가지 못하고 있다는 목소리도 나오고 있다.

AI를 활용한 표절이나 저작권 침해, 비윤리적인 이용, AI 개발 과정에서 발생하는 권리 침해 등 피해를 보는 기업이나 사람이 있더라도 이를 보호해줄 만한 구체적인 법률이 없다는 것이다.

7일 서울 서대문 소재 프란치스코 교육회관에서 개최한 ‘한국인터넷거버넌스포럼(KrIGF, Korea Internet Governance Forum)의 인공지능 트랙에서 '새로운 인공지능사회의 법률 및 정책적 쟁점 분석과 합의’라는 주제로 패널토론이 열렸다.

토론에는 디랩(D.LAB) 민재명 연구위원, 김현주·김택원 세무회계사무소 김택원 세무사, 정책과 입법연구소 이수영 대표(좌장), 루트컨설팅 정일진 대표, 영화진흥위원회 이철우 변호사 등이 참여했다.

이철우 변호사는 인공지능 기본법이 현재 국회에서 계류 중인 것으로 알고 있다며, 우선적으로 해야 할 부분은 정부의 각 부처가 인공지능 기술에 대해서 어떤 기준으로 가야 할 것인지, 기술의 정의와 이를 대하는 정부의 태도, 한계 등을 설명하는 법이 마련돼야 한다고 강조했다.

또한 “인공지능 기술로 인한 부작용이 어느 정도 일지 예측하기도 어려운 수준”이라며, 이용자나 소비자들의 입장에서 최소한의 안전망이 있어야 한다고 했다.

국내에 AI에 관한 규제 및 법이 없는 것은 아니다. 정부는 AI 산업에 대한 법‧제도적 뒷받침을 위한 근거법 마련을 위해 국가정보화 기본법을 2020년 6월 ‘지능정보화기본법’으로 개정했다.

또한 올해 2월에는 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안(대안)’이 법안심사소위원회를 통과하기도 했다.

이 변호사가 언급한 ‘인공지능 기본법’은 ‘인공지능 육성 및 신뢰 기반 조성에 관한 법률안’으로, 사업자가 준수해야 할 윤리기준 등을 담고 있다. 이에 현재 국회에 계류 중인 이 법이 통과될 경우 인공지능 규제 관련 기본법으로 작용할 가능성이 예상된다는 것이다.

정일진 대표는 너무나 빨리 새로운 기술들이 개발되고 있는 상황에서 가이드라인이나 책자를 통한 권고는 한계점이 분명하다고 힘주어 말했다. “콘텐츠를 만드는 사람의 입장에서 혼란스러운 상황을 많이 겪고 있다. 딥페이크라는 기술이 나온지도 꽤 됐다. 최근에는 딥페이크가 산업 전반에서 다양하게 변경돼 나타나고 있다”라며 AI 활용한 부정적인 사례를 들었다.

김택원 세무사는 세무·회계 업계와 연관지어 보면, 단순 업무는 많이 대체가 되고 있다고 소개했다.

신용카드라든지 통장을 사람이 일일이 입력해야 했던 방식에서 전자화되고 인공지능 기반으로 전산화되면서 컴퓨터에서 분석하고 자동입력 등을 수행하는 형태로 변화되는 추세라는 것이다.

하지만 AI의 현재 수준이 사람과 동등하거나 그 이상이라고 보기 어려운 상황이기 때문에 오류를 발생시킬 가능성도 있다는 게 김 세무사의 의견이다. AI를 전적으로 믿고 의지할 경우 피해는 고스란히 사용자의 몫이 될 수 있다는 점을 시사했다.

민재명 연구위원은 인공지능과 관련한 쟁점에 초점을 맞춰 의견을 밝혔다. “AI를 활용한 창작물을 보호의 대상으로 편입해야 한다는 의견이 있다. 그런나 현재 저작권법는 인간의 감성과 창의력을 보호하기 위해 존재한다는 측면에서 인공지능 생성물은 제외돼야 한다는 견해가 있다”라며, AI 활용한 창작물에 대한 첨예한 의견 대립이 발생하고 있는 상황을 언급했다.

미디어의 혼란이 발생할 수 있다는 데도 무게를 뒀다. 민 연구위원은 “언론의 자유와 민주주의가 생성형 AI 환경에서 살아남을 수 있을지 의문”이라며, AI가 생성하는 잘못된 정보 및 허위 정보가 불러일으킬 미디어의 혼란을 통제할 수 있을지에 대한 광범위한 논의가 필요하고 해결책을 모색해야 한다고 했다.

또한 주요국의 AI 법 제정에 대해서도 공유했다. 민 연구위원은 “유럽연합이 2023년 세계 최초로 인공지능 법률을 제정할 예정이며, 미국 연방의회도 인공지능 법안을 논의하고 있다. 중국은 매우 빠른 시일 내에 AI 법을 제정할 계획”이라며, 미래의 국제정치의 핵심은 기술이며, 과학기술은 이제 먹고사는 문제를 넘어서 죽고사는 문제라는 인식의 전환이 필요한 시점이라고 피력했다.