[문화 속 산업이야기] 아이와 24시간 함께하는 AI 로봇이 고장난다면

[산업일보]
‘친구 사귀기’를 돕는 최첨단 로봇이 있다면, 우리의 일상은 어떤 모습일까?

2021년 개봉한 애니메이션 영화 ‘고장난 론’은 가상의 IT기업 버블사가 내놓은 ‘비봇(버블봇)’이 아이들을 대상으로 전 세계 히트를 한 세계관을 배경으로 한다.

비봇은 스마트폰·소셜네트워크·로봇이 합쳐진 형태로, 같은 관심사를 가진 사람의 비봇에 자동으로 친구추천을 하고, 사용자가 좋아하는 캐릭터의 모습으로 스킨도 변경할 수 있다. 게임, 라이브방송 등 다양한 기능도 탑재하고 있으며 탈 것으로도 활용 가능하다.

극 중 주인공 ‘바니’는 가정형편이 좋지 않아 전교에서 유일하게 비봇이 없었고, 친구들 사이에서 소외당하고 있었다. 바니의 아버지는 없는 형편에도 돈을 마련해 비봇을 생일선물로 준다.

문제는, 이 비봇은 배송차량에서 바닥으로 추락하며 고장난 불량품으로 회사 네트워크와 연결이 불가능해 알파벳 A항목만 알고 있으며 기본 알고리즘도 설치가 안 돼 있었다.

이에 바니는 제대로 작동하지 못하는 비봇을 교환하려 했지만, 오히려 다른 비봇과 구별된 독특한 자신의 비봇에 반해 일련번호 ‘RON…’에서 앞글자를 따와 론이라고 부르며 친구가 되자고 제안한다. 데이터가 없는 론은 바니가 설명해 준 ‘나와 친구가 되는 법’을 기초로, 바니를 관찰하고 대화하며 자신만의 방식으로 우정을 학습해 나간다.

그러나 ‘집에서 기다리라’라는 바니의 지시에도 론은 멋대로 학교를 찾아왔다. 아이들은 알고리즘이 없어 안전장치 역시 작동하지 않는 론의 모습을 보고 자신의 비봇에게 복제를 명령한다. 결국 비봇들은 폭주하기 시작했고, SNS를 통해 이를 파악한 버블사는 불량품 회수에 나선다.

일련의 소동 후 론의 데이터는 버블사의 서버실로 ‘백업’돼 버린다. 바니는 가족들의 도움으로 버블사에 침입해 론의 데이터를 구출하지만, 론은 전세계 아이들이 비봇으로 인해 불행을 겪는 화면을 목격한다. 론은 다른 비봇도 아이들과 ‘진짜 친구’가 되도록 고쳐야 한다며 자신의 알고리즘을 서버에 업로드하고, 비봇들은 론처럼 자유의지를 가지게 된다.

영화는 ‘개인 맞춤형 정보(Filter Bubble, 필터버블)’ 시대를 사는 우리에게 ‘지금의 일상이 만족스러운가?’ 라는 질문을 던진다. 나의 관심사, 나와 비슷한 생각, 내가 옳다고 믿는 것들만 정제·가공해서 보여주는 ‘정보 편식’을 경계해야 한다는 것이다. 즉, 진정한 유대는 타인과 대화하고 갈등하며 오랜 시간을 함께하는 비효율적 과정을 통해 형성된다는 메시지다.

한편, ChatGPT 출시 1년 전 개봉한 이 영화의 풍경은 더 이상 상상 속 이야기가 아니게 됐다. 5년여 만에 AI(인공지능) 기술은 급속도로 발전했고, 지난해 제시된 ‘피지컬AI’라는 개념은 CES2026에서 현대자동차의 ‘아틀라스’와 엔비디아의 자율주행 AI ‘알파마요’ 등으로 완성도를 높이고 있다.

기술 발전 속도만큼 이를 통제할 규제의 역할도 중요해지고 있다. 22일 시행을 앞둔 ‘AI 기본법’에 비추어 볼 때 비봇은 ‘고영향 AI’로 분류할 수 있다. 영화는 론이 스스로 구축한 ‘우정 알고리즘’을 통해 세상이 더 나아진 것처럼 그리지만, 현실에서는 설명할 수 없고 통제 불가능한 AI가 아이들에게 배포된 위험한 상황이다.

AI 기본법 시행 이후라면 비봇은 한동안 가동이 중단되거나 리콜이 이뤄졌을 테고, 버블사는 론의 알고리즘을 바탕으로 위험관리방안·이용자관리 방안 등을 수립하고 AI의 도출결과·기준·학습데이터 개요를 비롯한 문서를 마련한 뒤에야 다시 서비스할 수 있었을 것이다.

특히, 론의 ‘개성’은 AI 특유의 ‘환각’ 현상으로 보일 가능성이 크기 때문에 이를 어떻게 설명하고 설득하느냐가 쟁점이 될 것으로 보인다.

그러나 론의 알고리즘 배포 이전에도, 버블사의 경영진은 회사 이익을 위해 개인정보보호법과 같은 법률을 무시하는 행태를 보였다. 이 기업은 평소에도 개인의 비봇에 탑재된 카메라와 마이크를 통해 사생활을 감시했고, 아이들이 조회수를 위해 자극적인 영상을 찍는 걸 알면서도 방치하기도 했다. 특히, 버블사를 피해 도망친 바니와 론을 찾기 위해 여러 비봇을 사용자의 허가 없이 탈취해 수색에 사용했다.

결국, 영화는 ‘고장난 로봇’을 소재로 삼고 있지만 위기는 기업 윤리가 망가졌을 때 발생한다고 내다본다. 기술이 아무리 첨단을 향해 발전해도, 사업자 및 사용자 윤리와 제도가 올바르지 않는다면 언제든 악용될 수 있다는 경고다.