AI 열풍이 지나간 자리, ‘AI 슬롭’이 쌓인다

[산업일보]
인공지능(AI) 열풍이 ‘찌꺼기’를 만든다.

22대 국회에서는 ‘전기통신사업법 일부개정법률안’이 발의돼 심사 중이다. 이 법은 과학기술정보통신부 또는 방송통신위원회가 ‘대량문자전송사업자’의 등록 요건 준수 여부를 주기적으로 점검하도록 함으로써 ‘불법스팸’ 문자를 줄여 개인정보 보호와 안전한 통신환경을 만들고자 하는 법이다.

여기서 규제하고자 하는 스팸문자는 불특정 다수에게 무차별적으로 전송되는 홍보 목적의 이메일·메시지다. 과거에는 단순 광고에 그쳤지만, 요즘에는 금융 사기나 개인정보 유출처럼 범죄로까지 이어지는 사회 문제가 되고 있다. 다시 말해, 수신자가 원치 않게 전해지는 ‘쓸모없고 유해한 정보’인 셈이다.

AI에서도 이와 유사한 일이 벌어지고 있다. 생성형 AI 사용률이 전 세계적으로 급증하면서, 정확성이 떨어지거나 무의미한 정보·이미지·영상 등이 폭발적으로 생성되고 있는 것이다. 예로 틀린 정보를 제공하는 AI 챗봇이나, 사람의 손가락을 6개로 생성하는 이미지 생성 AI를 들 수 있다.

이렇게 AI가 만들어낸 ‘찌꺼기 데이터’는 ‘AI 슬롭(Slop)’이라는 용어로 불린다. SNS상에서는 AI 슬롭을 단순 흥밋거리로 여기고 있으나, 축적되는 수가 증가한다면 인터넷 생태계에 질 낮은 데이터가 범람함으로써 전체적인 신뢰도를 떨어트릴 수 있다는 지적도 나온다.

AI 산업의 발전에도 위협이 될 수 있다. AI는 온라인 기사·웹사이트 게시글·유튜브·틱톡과 같은 웹상에서 콘텐츠와 댓글을 학습하고 인간과 유사한 콘텐츠를 만드는 법을 배운다. 그런데, AI 슬롭 데이터가 많아진다면 AI는 새로운 콘텐츠를 학습하지 못함으로써 AI 콘텐츠 질의 하락으로 이어질 수 있다.

이러한 현상이 AI가 인간의 도구에 불과하다는 반증이라는 목소리도 나온다. 인간이 만든 독창적인 결과물 없이는 AI 모델이 성장하거나 유지할 수 없다는 점을 시사한다는 것이다.

AI슬롭의 대응책은 없을까? 현재 가장 대두되고 있는 방법은 ‘디지털 워터마크’를 삽입하는 것이다. AI 생성물을 구별함으로써 학습데이터에서 이를 배제할 수 있다는 것이다. EU의 AI법과 지난해 국회 본회의를 통과한 한국의 AI 기본법에서도 생성형 AI로 만든 결과물임을 명확히 표시하도록 하고 있다. 플랫폼이나 포털 사이트에서 AI 생성 콘텐츠임을 표시하게 하거나, 필터링할 수 있는 알고리즘을 탑재하는 것도 대안으로 제시되고 있다.

이용자 측면에서는, 네트워크상에 AI 콘텐츠와 AI 슬롭이 존재함을 인지하고 데이터의 특징과 출처를 항상 확인하며 사용해야 한다.