[산업일보]
교통사고로 부모를 잃고 혼자가 된 ‘케이디’는 인공지능(AI) 로봇 ‘메간’과 둘도 없는 단짝이다. ‘메간’은 로봇 엔지니어인 케이디의 이모가 선물했다. 부모를 잃은 케이디의 마음을 치유하고, 자신도 미숙한 육아와 일 사이의 균형을 찾기 위해서다.
케이디와 ‘장난감’ 이상으로 호감을 쌓던 메간은 점점 이상 행동을 보인다. 케이디를 문 옆집 개를 죽이고, 개를 과보호하던 옆집 주민도 살해하며 점점 괴물이 되어 간다. 케이디에 집착하는 과격한 살인 로봇으로 변한 것이다.
지난해 개봉한 호러 영화 ‘메간(M3GAN)’의 내용이다. 살인 로봇으로 변한 ‘메간’으로 AI 자체의 위험성을 드러내는 한편, AI를 향한 시장의 탐욕도 조명한다.
메간을 개발한 로봇 회사는 케이디와 메간의 우정을 투자자와 임원에게 보여준다. AI 로봇을 본격적으로 돈벌이에 이용하기 위해서다. 아직 검증되지 않은 시제품이지만 과학자들은 아무도 말하지 않는다.
AI를 향한 탐욕은 현실에서도 진행 중이다. 2022년 말 생성형 AI인 ‘챗GPT’ 등장 이후 산업계엔 AI 돌풍이 불고 있다. AI 기업을 표방하는 곳이 많아졌고, AI와 관계없던 기업도 비즈니스에 AI를 접목하려 방법을 찾고 있다.
기업이 발 빠르게 AI 연구‧개발에 나서는 건 당연한 일이다. 문제는 ‘AI’라는 수식어를 마케팅에 마구잡이로 사용해 소비자의 혼란을 부추기는 거다.
“우리도 AI 기업이라니까요!”…AI 호황 편승하는 ‘AI 워싱’
‘AI 워싱(AI Washing)’은 실제론 AI와 무관하지만 AI 기업인 것처럼 거짓 홍보하는 행위를 의미한다. 친환경적이지 않지만 친환경인 것처럼 홍보하는 ‘그린 워싱(Greenwashing)’과 비슷한 개념이다.
기업이 AI 워싱을 하는 이유는 간단하다. AI가 미래를 이끌 기술로 떠올라서다. 다른 IT 트렌드가 떠오를 때도 비슷하게 벌어졌던 일이지만, AI가 일시적 유행에 그치지 않고 다양한 분야에서 성과를 낼 거란 전망이 곳곳에서 나오고 있어 상황이 다르다.
산업 분야를 막론하고 AI가 대세로 자리잡으며 ‘AI 워싱’도 골칫거리가 됐다. 트렌드에 올라타지 않으면 도태될 수 있다는 위기감 속에 기업은 ‘AI’란 단어를 마케팅에 마구잡이로 사용한다.
기업 입장에서 'AI'란 단어는 마술이다. AI만 가져다 붙이면 투자를 유치하기 훨씬 쉽다. 소비자도 해당 기업의 AI 기술이 실제보다 뛰어나다고 받아들이게 된다.
실제로 산업전시회에 가보면 ‘AI 기반’ 서비스를 내세운 기업 부스가 많이 보인다. 하지만 AI가 구체적으로 어떤 역할을 하는지, 어떻게 개발하고 있는지 등 구체적인 내용을 물어보면 대답을 어물쩍 피한다.
“AI를 직접 개발하는 건 아니고요. 나와 있는 생성형 AI 서비스를 활용해요. 전체적으로 AI를 적용하진 못했고 당장은 챗봇만 쓸 수 있어요. 기술적인 부분은 제가 더 설명할 수가 없네요.”
한 산업전시회에서 ‘AI 기반 서비스 기업’ 관계자에게 꼬리를 물고 질문하자 내놓은 말이다. AI를 직접 개발하지도 않고, 실제 기능이 미미함에도 ‘AI 서비스 기업’이라며 과장하고 있었다.
AI 워싱에 ‘으름장’ 놓은 미국 정부
미국 정부는 만연한 ‘AI 워싱’을 예의주시하고 있다. 게리 겐슬러 미국 증권거래위원회(SEC) 위원장은 지난해 12월 “AI 허위 마케팅을 하지 말라”고 경고한 바 있다.
이달 13일(현지시간)에도 AI 워싱 기업에 으름장을 놨다. ‘CNN 비즈니스’ 보도에 따르면 게리 겐슬러 위원장은 예일 법학대학에서 한 연설에서 “AI 사용을 오도하거나 거짓으로 홍보하는 상장기업은 투자자들에게 해를 끼치는 ‘AI 워싱’에 관여할 위험이 있으며, 미국 증권법에 저촉될 수 있다”라고 전했다.
SEC 홈페이지에서 연설문을 확인해 봤다.
“회사가 AI를 언급할 땐 투자자를 위해 명확히 정의해야 한다. 회사에서 AI가 어디에, 어떻게 사용되고 있는지, 직접 AI 모델을 개발하는지 혹은 다른 회사에서 공급하는지 등이다. 투자자문사, 브로커‧딜러도 마찬가지다. AI 모델을 사용하지 않거나 일부만 사용하는데도 ‘AI 기업’으로 국민을 호도하면 안 된다. 기업이든 금융중개업자든 ‘AI 워싱’은 증권법을 위반할 수 있다”
기업이 AI 사용과 개발 정보를 명확히 알려야 할 뿐 아니라, 투자 자금을 모으는 과정에서 AI 기업으로 세탁할 경우 미국 증권법에 따라 처벌할 수 있다는 의미다. 만연한 ‘AI 워싱’을 더 이상 좌시하지 않겠다는 강력한 경고이기도 하다.
지난해 수많은 AI 서비스가 등장했다. 이제 범람하는 AI 속에서 ‘진짜’를 가려낼 전략이 필요하다. 전문적인 AI 개발 인력이 있는지, 데이터 전략은 갖췄는지 등을 면밀히 따져봐야 한다.