[문화속산업이야기] 인공지능 범람의 시대, 우리에겐 아직 ‘집단지성’이 필요하다

[산업일보]
바야흐로 데이터 경제 시대다. 팬데믹을 맞아 데이터의 가치는 석유의 가치를 뛰어 넘었고, 기업들은 방대한 데이터 수집으로 각종 알고리즘을 생성했다.

우리는 AI가 진취적이라고 생각한다. 인간의 감정적 행동과 판단, 편견들을 배제하고 ‘이성적’인 판단을 내려줄 것이라 기대한다.

하지만 넷플릭스 오리지널 다큐멘터리 ‘알고리즘의 편견(Coded Bias)’은 알고리즘이 특정 계층의 이익을 반영하고, 사람을 분류해 차별하며, 나아가 대중을 통제하는 수단이 될 수 있다는 것을 보여준다.


인간이 만들었기에 편견이 심겨지고, 특정 소수를 통해 생성됐기에 편향적이다. MIT 미디어랩의 조이 부올람위니는 자신이 만든 인공지능 프로그램에 정작 자신의 얼굴이 인식되지 않는 문제점을 발견한다. 연구 결과, 인공지능이 학습한 데이터 세트 속 대다수가 백인 남성으로 이루어져 흑인 여성인 조이를 인식하지 못한 것이었다.

아마존의 AI 채용 프로그램은 여성에 대한 편견이 발견돼 폐지됐다. 프로그램이 ‘여성’이란 단어가 들어간 이력서를 전부 거부했기 때문이다. 아마존 뿐 만 아니라 모든 기술직에 여성은 극소수다. 기계는 세상을 있는 그대로 똑같이 모사했을 뿐이었다.

이 같은 문제에 주목하고 있는 또 다른 사람인 ‘대량살상 수학무기’의 저자 캐시 오닐은 모든 과정에서 끊임없이 편향성이 있는지 감시해야 한다고 말한다.


알고리즘은 다양한 일을 효율적으로 수행하며 일상에 편리함을 가져왔지만 그 편의성을 앞세워 인간을 조종할 수 있게 됐다. ‘필터 버블’은 AI 알고리즘의 문제점을 잘 보여주는 사례다. AI가 이용자의 성향과 습관을 학습하고 입맛에 맞는 콘텐츠만을 계속 띄우는 ‘개인화 추천 서비스’도 편향성을 더욱 키울 수 있어 문제로 지적돼 왔다.

'트위터와 최루가스'의 저자 네이넵 투펙치 박사는 머신러닝이 마케팅 뿐 만 아니라 생각에도 영향을 미친다고 지적하며 페이스북의 사회 실험 사례를 들었다. 투표했다’에 클릭한 친구들의 프로필 사진을 추가한 메시지를 한 번 띄운 것만으로 30만 명이 투표장으로 향했다.

만약 페이스북 규제를 공약으로 내건 정치인이 있을 때, 페이스북이 ‘상대 후보 지지자들을 당신의 지지자로 끌어오겠다’고 한다면, 그들은 해낼 것이고 우리는 알 수가 없다. 페이스북이 2010년의 실험 결과를 공개하지 않았다면, 과연 우리가 알 수 있었을까.

‘빅나인’의 저자이자 미래학자인 에이미 웹은 “사람들은 중국과 중국의 감시, 점수 시스템을 보며 ‘거기 안 살아 다행이다’라고 생각한다. 하지만 어딘가에 있는 누군가의 데이터베이스로 모두 점수 매겨지고 있다. 미국과 중국의 뚜렷한 차이는 중국은 그 부분에서 투명하다는 것”이라 말한다.


마이크로소프트사의 인공지능 채팅봇 ‘테이’는 미국의 18세부터 24세까지를 대상으로 한 인공지능 채팅봇이다. 사람들과의 대화를 통해 학습하며 더욱 다양한 반응과 대화를 이끌어 낼 수 있다. 그러나 마이크로소프트는 개시 16시간 만에 서비스를 종료했다. 테이가 백인 우월 주의자와 여성 및 무슬림 혐오자들로 부터 학습한 수많은 혐오 발언 때문이었다.

국내에서도 버추얼 AI 챗봇 ‘이루다’가 외설적이고 폭력적인 문장들을 학습해 논란 속에 서비스가 종료됐다.

인간이 인공지능을 만들고, 인간이 오염시킨다. 인더스트리 4.0이 대전환을 불러왔다고 하지만 과학자들의 열정적인 연구가 핵전쟁을 위해 쓰였듯, 기술이 어떻게 쓰일지는 여전히 운용하는 자에 달렸다.

기술의 발전에만 기대선 안 된다. 르네 데카르트의 ‘나는 생각한다. 그러므로 나는 존재한다’는 명제처럼 인간은 끝임 없이 사고하고 학습해야 할 것이다.