“AI가 당신의 선행을 포인트로 보상합니다” ‘미래의 우리는-붓다 데이터’가 던지는 ‘AI 위험’ 문제 8만 4천 개의 불교 경전을 생성형 다중모델을 통해 학습한 AI(인공지능)가 있다. 이를 통해 ‘휴대용 경전’ 서비스를 제공하는 AI기업 ‘울트라’는 ‘공덕 포인트’ 시스템을 제공한다. 경전에 따라 공덕을 쌓으면, 이를 포인트로 환산해 공과금 납부·물건 구매·정부기관 서비스요금 결제에 사용할 수 있다. 지난달 넷플릭스에서 공개된 앤솔러지 드라마 ‘미래의 우리는’은 디스토피아적 미래의 태국을 배경으로 4편의 작품이 펼쳐진다. 이중 ‘붓다 데이터’는 ‘불교 경전을 학습한 AI가 사용자의 선행을 평가해 돈처럼 쓸 수 있는 포인트를 지급 한다면?’ 이라는 가정하에 이야기를 진행한다. 울트라의 AI경전 서비스가 출시된 지 1년 뒤, 태국 사회에는 이 서비스가 빠르게 자리 잡았다. 이 기업의 네오 대표는 ‘종교는 시대에 뒤처지고 현실과 동떨어지며 부패했다고 생각하는 사람들이 많다’라며 ‘순수하고 오염되지 않은 형태의, 다른 선택지가 있다면 어떨까’라고 서비스 개발 계기를 밝힌다. 그는 ‘선행이 가시화된 시대, 공덕을 이생에서 즉시 보상받으라’라고 공덕 포인트 시스템을 설명한다. 울트라의 사용자들은 공덕을 쌓기 위해 길을 건너는 노인을 돕고, 길거리에 쓰레기를 치우고, 가난한 사람들에게 음식을 나눠준다. 네오 대표의 말처럼 이들은 ‘순수하고 오염되지 않은’ 종교 생활을 하는 것일까?이들은 AI의 추천에 따라 빈민에게 음식을 시주하지만, 신호위반 과속을 하며 횡단보도를 건너는 사람을 위협한다. 또, AI가 얼마나 포인트를 주는지에 따라 선행을 할지 말지 정한다. ‘여러 명이 함께 기부하면 포인트가 5배’라는 AI의 안내에 타인을 억지로 선행에 동참시키기도 한다. 심지어, 노인들을 감금해놓고 이들을 이용해 포인트를 쌓는 ‘울트라 사건’까지 발생한다.한편, 담마니타 사찰의 아넥 승려는 출가 전 엔지니어로 일했던 자신의 장기를 살려 ‘아이붓다’ 서비스를 출시한다. 이 서비스는 뇌파 복제 기술을 사용해 각지에 존경받는 승려들을 AI 페르소나로 만들어 제공한다. ‘휴대할 수 있는 사찰’이 된다는 것이다.출시하자마자 승승장구하던 아이붓다였지만, 곧 치명적인 사건이 발생한다. 사찰 주지승려의 AI가 8살 소녀를 비롯해 여러 사람을 성희롱하는 일이 벌어진 것이다. 알고 보니, 그가 40년 전 저질렀던 잘못이 뇌파를 복제하는 과정에서 AI에 심어져 발현된 것이었다. 이에 따라 태국의 승가위원회·과학기술부·소비자보호위원회는 아이붓다 서비스를 손가락질하며 서비스 중단명령을 내린다. 더불어, 사찰과 승려의 AI 사용 적절성을 재검토하겠다고 으름장을 놓는다. 드라마는 종교와 결합한 AI 서비스가 초래한 갈등을 조명한다. ‘공덕을 즉시 보상받으라’라는 울트라의 공덕 포인트 시스템은 선행에 가치를 매기고, 범죄로까지 이어진다. 아이붓다의 뇌파 복제 기술은 복제 대상자가 대가를 치렀던 과거를 들춰낸다. 즉, ‘AI 위험’에 대한 문제를 제기한 것이다. 소프트웨어정책연구소(SPRi)가 발표한 ‘AI 안전의 개념과 범위’ 보고서에 따르면, AI 위험은 ‘시스템이 의도된 목표를 달성하지 못했을 때의 영향을 나타내며 AI 안전의 직접적 위협 요인’이 된다고 지적하고 있다. 보고서는 ‘신뢰할 수 있는 AI 실현’의 핵심 요건으로 ‘AI 안전’ 개념을 내세웠다. AI 시스템의 성능에 영향을 미치는 요인들을 통제해 견고성과 안정성을 확보함과 동시에, AI 시스템의 오용과 예기치 못한 사회적 부작용에 사업자·서비스 제공자의 사회적 책무를 수행하게 해야 한다고 풀이했다. 덧붙여, AI 생태계의 다양한 이해관계자 간의 ‘허용할 수 있는 위험’수준과 논의와 사고시 책임 소재의 명확화를 위해 사회적 논의를 진전시키는 노력이 필요하다고 제언했다. 작 중 등장하는 울트라와 아이붓다 모두 첨단 기술을 통해 사람들의 편의성을 향상하는 데 초점을 맞춘 서비스다. 그러나, 혁신에만 집중하다 보니 AI 윤리와 신뢰성 확보에 대한 방향성을 놓쳤다.AI 발전은 단순한 기술 혁신에 그치지 않는다. AI가 제공하는 혜택이 클수록, 사회적 문제를 동반할 위험성도 높아질 수 있다. 산업을 넘어 문화, 종교에까지 AI 활용이 증가하는 현재, 기술 진보와 사회적 부작용 사이에서 균형을 찾는 고민이 필요할 것이다.

“AI가 당신의 선행을 포인트로 보상합니다”

‘미래의 우리는-붓다 데이터’가 던지는 ‘AI 위험’ 문제

기사입력 2025-01-02 13:32:16

선행을 실천하고 포인트 적립 현황을 확인하는 울트라 사용자들 (넷플릭스 ‘미래의 우리는-붓다 데이터’ 티저 캡처)

[산업일보]

8만 4천 개의 불교 경전을 생성형 다중모델을 통해 학습한 AI(인공지능)가 있다. 이를 통해 ‘휴대용 경전’ 서비스를 제공하는 AI기업 ‘울트라’는 ‘공덕 포인트’ 시스템을 제공한다. 경전에 따라 공덕을 쌓으면, 이를 포인트로 환산해 공과금 납부·물건 구매·정부기관 서비스요금 결제에 사용할 수 있다.

지난달 넷플릭스에서 공개된 앤솔러지 드라마 ‘미래의 우리는’은 디스토피아적 미래의 태국을 배경으로 4편의 작품이 펼쳐진다.

이중 ‘붓다 데이터’는 ‘불교 경전을 학습한 AI가 사용자의 선행을 평가해 돈처럼 쓸 수 있는 포인트를 지급 한다면?’ 이라는 가정하에 이야기를 진행한다.

울트라 네오 대표 (넷플릭스 ‘미래의 우리는-붓다 데이터’ 티저 캡처)

울트라의 AI경전 서비스가 출시된 지 1년 뒤, 태국 사회에는 이 서비스가 빠르게 자리 잡았다. 이 기업의 네오 대표는 ‘종교는 시대에 뒤처지고 현실과 동떨어지며 부패했다고 생각하는 사람들이 많다’라며 ‘순수하고 오염되지 않은 형태의, 다른 선택지가 있다면 어떨까’라고 서비스 개발 계기를 밝힌다.

그는 ‘선행이 가시화된 시대, 공덕을 이생에서 즉시 보상받으라’라고 공덕 포인트 시스템을 설명한다. 울트라의 사용자들은 공덕을 쌓기 위해 길을 건너는 노인을 돕고, 길거리에 쓰레기를 치우고, 가난한 사람들에게 음식을 나눠준다. 네오 대표의 말처럼 이들은 ‘순수하고 오염되지 않은’ 종교 생활을 하는 것일까?

이들은 AI의 추천에 따라 빈민에게 음식을 시주하지만, 신호위반 과속을 하며 횡단보도를 건너는 사람을 위협한다. 또, AI가 얼마나 포인트를 주는지에 따라 선행을 할지 말지 정한다. ‘여러 명이 함께 기부하면 포인트가 5배’라는 AI의 안내에 타인을 억지로 선행에 동참시키기도 한다. 심지어, 노인들을 감금해놓고 이들을 이용해 포인트를 쌓는 ‘울트라 사건’까지 발생한다.

아이붓다 서비스 (넷플릭스 ‘미래의 우리는-붓다 데이터’ 티저 캡처)

한편, 담마니타 사찰의 아넥 승려는 출가 전 엔지니어로 일했던 자신의 장기를 살려 ‘아이붓다’ 서비스를 출시한다. 이 서비스는 뇌파 복제 기술을 사용해 각지에 존경받는 승려들을 AI 페르소나로 만들어 제공한다. ‘휴대할 수 있는 사찰’이 된다는 것이다.

출시하자마자 승승장구하던 아이붓다였지만, 곧 치명적인 사건이 발생한다. 사찰 주지승려의 AI가 8살 소녀를 비롯해 여러 사람을 성희롱하는 일이 벌어진 것이다. 알고 보니, 그가 40년 전 저질렀던 잘못이 뇌파를 복제하는 과정에서 AI에 심어져 발현된 것이었다.

이에 따라 태국의 승가위원회·과학기술부·소비자보호위원회는 아이붓다 서비스를 손가락질하며 서비스 중단명령을 내린다. 더불어, 사찰과 승려의 AI 사용 적절성을 재검토하겠다고 으름장을 놓는다.

울트라를 사용해보는 아넥 승려 (넷플릭스 ‘미래의 우리는-붓다 데이터’ 티저 캡처)

드라마는 종교와 결합한 AI 서비스가 초래한 갈등을 조명한다. ‘공덕을 즉시 보상받으라’라는 울트라의 공덕 포인트 시스템은 선행에 가치를 매기고, 범죄로까지 이어진다. 아이붓다의 뇌파 복제 기술은 복제 대상자가 대가를 치렀던 과거를 들춰낸다. 즉, ‘AI 위험’에 대한 문제를 제기한 것이다.

소프트웨어정책연구소(SPRi)가 발표한 ‘AI 안전의 개념과 범위’ 보고서에 따르면, AI 위험은 ‘시스템이 의도된 목표를 달성하지 못했을 때의 영향을 나타내며 AI 안전의 직접적 위협 요인’이 된다고 지적하고 있다.

보고서는 ‘신뢰할 수 있는 AI 실현’의 핵심 요건으로 ‘AI 안전’ 개념을 내세웠다. AI 시스템의 성능에 영향을 미치는 요인들을 통제해 견고성과 안정성을 확보함과 동시에, AI 시스템의 오용과 예기치 못한 사회적 부작용에 사업자·서비스 제공자의 사회적 책무를 수행하게 해야 한다고 풀이했다.

덧붙여, AI 생태계의 다양한 이해관계자 간의 ‘허용할 수 있는 위험’수준과 논의와 사고시 책임 소재의 명확화를 위해 사회적 논의를 진전시키는 노력이 필요하다고 제언했다.

작 중 등장하는 울트라와 아이붓다 모두 첨단 기술을 통해 사람들의 편의성을 향상하는 데 초점을 맞춘 서비스다. 그러나, 혁신에만 집중하다 보니 AI 윤리와 신뢰성 확보에 대한 방향성을 놓쳤다.

AI 발전은 단순한 기술 혁신에 그치지 않는다. AI가 제공하는 혜택이 클수록, 사회적 문제를 동반할 위험성도 높아질 수 있다. 산업을 넘어 문화, 종교에까지 AI 활용이 증가하는 현재, 기술 진보와 사회적 부작용 사이에서 균형을 찾는 고민이 필요할 것이다.