“살 안 빠지면 전 재산 드립니다”…AI 이용한 허위 광고 번진다

[산업일보]
유튜브·SNS 이용 시 자주 등장하는 ‘전문가 광고’를 잘 살펴봐야 한다. AI(인공지능)으로 만든 ‘가짜 전문가’일 수도 있기 때문이다.

최근 AI 딥페이크(Deepfake) 기술로 제작한 영상이 다양하게 활용되고 있다. AI 모델 프롬프트(지시문)와 제작 소프트웨어 사용법만 익히면 전문 기술이 없더라도 손쉽게 고품질의 콘텐츠를 제작할 수 있어 영상 콘텐츠 제작의 문턱이 낮아지고 있다.

창작가들은 딥페이크 기술을 통해 다채로운 상상을 영상으로 구현하고 있으며, 여러 기업 역시 자신들의 브랜드와 제품을 소비자에게 색다르게 홍보하고 있다.

그러나 이러한 흐름은 ‘가짜 정보’가 담긴 허위·과장 광고로도 이어지고 있다. 의약품·건강기능식품 분야에서 가장 눈에 띄게 나타난다.

정장 차림의 전문가가 컨퍼런스에서 강연하거나, 라디오 부스에서 설명하는 등의 모습으로 제작된 영상은, ‘몇kg 이상 안빠지면 전재산 드린다, 효과가 너무 세다, 시술 없이 가능하다’와 같이 확인되지 않은 과장된 표현이 담겨 있다. 기존의 유명한 제품보다 효과는 우수하면서 부작용은 없다고 주장하고, 법적인 문제를 피하고자 한 것인지 정확한 수치 또는 비교 제품 이름은 음량을 살짝 줄이거나 자막에 표기하지 않기도 한다.

심지어, ‘가짜 의사’나 ‘가짜 약사’를 등장시키기도 한다. 흰 가운을 입어 의료계 종사자임을 암시하거나, 아예 ‘n년차 의사인 제가~’라는 대사를 삽입해, 영상을 시청하는 소비자는 혼란을 느끼기 쉽다.

이처럼 가짜 전문가 영상은 소비자의 판단력을 흐리게 해, 실제와 다른 효과의 제품을 구매하게 하는 경제적 손실을 초래할 수 있다.

다행히, 아직은 자세히 살펴보면 AI 제작물임을 확인할 수 있다. 가장 큰 특징은 음성에 희미한 집음이 껴있다는 것이다. 또한 음성과 입 모양이 미세하게 다르다. 장면마다 인물의 옷차림이 달라지기도 하고, 화면 전환이 어색하다는 점도 눈에 들어온다.

한편, 정부의 적극적인 대응도 요구된다. AI에 대한 신뢰를 떨어트리는 ‘딥페이크 가짜 광고’를 철저히 단속할 수 있도록 기존 법·제도를 정비해야 한다. AI 제작물임을 누구나 알 수 있는 ‘AI 워터마크 의무화'가 꾸준히 제기되고 있는 방법 중 하나다. 유튜브와 같은 플랫폼 사업자가 허위 광고 모니터링 시스템을 강화해야 한다는 목소리도 나온다.