AI 연구, 책임 있는 평가 필요…미국 AI 규제 56.3% 증가

[산업일보]
작년 생성형 인공지능(AI)의 투자가 10배 가까이 증가한 가운데, AI 규제 역시 급격하게 증가하고 있다는 국제 동향이 전해졌다.

한국지식재산연구원(이하 연구원)은 최근 미국 스탠포드대학교의 인간 중심 인공지능(AI) 연구소(Institute for Human Centered AI)가 발표한 ‘2024년 AI 지수 보고서(AI Index report)’를 소개했다.

이 보고서에 따르면, AI는 이미지 분류·시각적 추론·영어 이해 등 몇 가지 영역에서는 인간의 능력을 뛰어넘었다고 평가받고 있다. 그러나, 상대적으로 복잡한 수학이나 추론 등의 작업에서는 뒤처지며 ‘AI는 모든 면에서 인간을 능가하지 않는다’라는 점이 시사된다.

AI는 근로자의 생산성을 높여 고품질의 결과를 생산할 수 있다고 나타났으며, 알고리즘 분류를 효율적으로 만들거나 물질 발견 과정을 촉진하는 등 과학적 진보를 가속화할 수 있는 AI 프로그램이 출시될 예정이다.

보고서의 설문 결과, AI가 향후 3~5년 이내에 자신의 삶에 큰 영향을 미칠 것이라고 생각하는 사람들의 비율은 60%에서 66%로 1년 새 늘었다. 미국인의 52%는 설문에서 기대감보다 우려를 더 많이 느낀다고 답하기도 했다.

또, ‘프론티어(frontier)’ AI 연구는 산업계가 주도하고 있다. 2023년 산업계에서 51개의 주목할만한 머신러닝 모델을 개발한 것이다. 반면, 학계에서는 15개의 개발에 그쳤다.

이러한 프론티어 모델의 학습비용은 ‘전례 없는’ 수준에 도달하기도 했다. OpenAI의 GPT-4는 약 7천800만 달러, Google의 Gemini Ultra는 1억 9천100만 달러의 컴퓨팅 비용이 훈련에 사용됐다는 것이다.

다만, 2023년 AI 전체 분야에 대한 민간 투자가 감소했음에도 생성형 AI에 대한 투자는 2022년 대비 10배 가까이 확대됐다. 생성형 AI 분야의 주요 업체들이 상당한 규모의 수익을 펀드를 통해 투자받았다.

OpenAI와 Google를 비롯한 선도적인 위치의 AI 개발기업들은 다양한 AI 벤치마크 기술을 기준으로 AI 모델을 테스트하고 있는데, 책임감 있는 AI 보고에 대한 강력하고 표준화된 평가가 필요하다는 제언도 이 보고서에서 나왔다.

이러한 영향으로, 미국의 AI 관련 규제는 지난 5년간 크게 증가했다. 2016년 1개에 불과했던 AI 규제가 2023년 25개로, 총개수는 56.3% 증가한 것이다.

작년 ‘주목할 만한 AI 모델’ 중 61개가 미국에 기반을 둔 기관에서 개발돼 EU 21개, 중국 15개를 앞지르고 글로벌 AI 모델의 주요 공급원으로 자리 잡은 것도 영향을 미친 것으로 보인다.

연구원이 7일 종합한 국제 AI 동향을 살펴보면, 4월 10일 미국 특허상표청(USPTO)은 AI 기반 도구 사용에 관한 추가 지침을 발표했다.

특허출원 및 기타 법률 문서 초안 작성 시 AI 도구를 사용할 때, AI가 어느 정도 관여했는지 정보를 공개하는 것을 내용으로, 이번 지침을 통해 특허 및 상표 전문가, 혁신가, 기업가들이 AI 사용 시 고려해야 할 중요 문제를 실무자와 대중에게 알리는 것을 목표로 했다.

4월 23일 이탈리아 정부는 AI 분야의 규제 기준을 식별하는 규정을 도입하는 등의 내용이 조르자 멜로니(Giorgia Meloni) 총리와 카를로 노르디오(Carlo Nordio) 법무부 장관의 제안으로 각료회의에서 논의되었다고 발표했다.

AI에 의해 생성된 텍스트·사진·오디오 콘텐츠가 식별될 수 있도록 식별요소 또는 마크가 표시되야하며, AI를 사용해 생성된 결과물의 저작권을 보호해야한다는 것이 주요 내용이다.
.
케냐와 미국 간의 AI·데이터 등에 관한 공동성명서도 발표됐다.

4월 24일, 케냐 정보통신디지털경제부(Kenyan Ministry of Information, Communication, and the Digital Economy)는 미국 상무부(DOC)와 AI 활용, 데이터 흐름 촉진, 디지털 기술 역량 강화를 위해 협력하는 내용의 공동 성명서(joint statement)를 내놨다.

양측은 AI가 케냐 경제 요구 충족에 어떤 도움이 될 수 있는지, 농업·제조·운송·의료 등 주요 부문에서 AI 채택이 공동 우선순위를 발전시킬 수 있을지 등을 모색하기로 했다.

또, 강력한 데이터 보호 및 집행 촉진과 동시에 AI와 같은 기술 개발에 필수적인 데이터를 포함해 안전한 국경 간 데이터 흐름이 상호 운용 가능한 메커니즘을 육성한다.

미국 상무부는 향후 아프리카 지역의 디지털 전환과 디지털 기술 개발 지원을 위해 보조급지급·미국 유관기관과 파트너십으로 아프리카의 차세대 기술 리더 및 기업가를 육성하는 교육과 멘토링과 같은 기회를 제공하기로 했다.

한편, 외교부의 김지희 국제경제국장은 2일부터 3일간 프랑스 파리에서 열린 경제협력개발기구(OECD)에 참석해 ‘AI 서울 정상회의’와 ‘AI 글로벌 포럼’을 홍보했다.

두 행사는 오는 21일부터 22일 개최될 예정이다. 외교부는 보도자료에서 ‘AI의 안전뿐만 아니라 혁신·포용성을 포괄하는 AI 국제 지배구조 형성 논의를 주도할 것이라고 OECD 회원국들에 소개했다’라고 전했다.