AI 추천, ‘한 줄 고지’가 소비자 반응 갈랐다…설명 분량보다 ‘어떤 데이터’가 관건 행동 관찰 데이터 기반 추천 평가 가장 높고, 추론 데이터 기반 추천은 가장 낮아 인공지능(AI)이 어떤 데이터를 근거로 상품을 추천했는지 알리는 문구 한 줄만 달라져도 소비자의 평가가 뚜렷하게 엇갈린다는 실증 연구 결과가 나왔다. 반면 추천 이유를 더 길고 상세하게 풀어 설명하는 것만으로는 구매 의도나 플랫폼에 대한 태도가 일관되게 나아지지 않았다. AI 투명성 정책의 무게중심을 ‘설명의 양’에서 ‘설명의 내용과 방식’으로 옮겨야 한다는 지적이다.박기완 서울대 경영대학 교수와 김예리 서울여대 데이터사이언스학과 교수 연구진은 서울대 국가미래전략원 이슈브리프 Vol.63 ‘AI 추천의 투명성, 더 많은 설명이 정답인가?: AI 추천 투명성을 위한 정책 제언’에서 이 같은 분석을 내놨다.생성형 AI와 개인화 서비스가 일상화되면서 추천 알고리즘은 소비자가 정보를 찾고 물건을 고르는 과정 깊숙이 들어와 있다. 이에 따라 정책 논의에서는 AI가 추천 이유와 활용 데이터를 자세히 공개할수록 이용자의 이해와 신뢰가 함께 높아질 것이라는 전제가 폭넓게 받아들여져 왔다. 연구진은 이 전제가 실제 소비자 반응에서도 성립하는지 확인하기 위해 ‘얼마나 구체적으로 설명하는가’와 ‘어떤 데이터를 활용했다고 알리는가’를 두 축으로 나눠 실험했다. 여기에 이용자의 쇼핑 목적과 프라이버시 우려, AI 리터러시 수준이 반응을 어떻게 바꾸는지도 함께 살폈다.데이터 출처 고지 한 줄에 평가 엇갈연구진은 추천 화면과 추천 상품, 설명의 길이를 모두 동일하게 맞춘 상태에서 추천에 쓰인 데이터의 종류만 달리 안내했다. 이용자가 직접 입력한 정보(Provided), 이용 행동을 관찰해 수집한 정보(Observed), 이를 토대로 AI가 추론해 낸 정보(Inferred)의 세 가지다.그 결과 행동 관찰 정보에 기반했다고 안내한 추천이 가장 긍정적인 평가를 받았고, 추론 정보에 기반했다고 안내한 추천은 가장 부정적인 평가를 받았다. 이런 경향은 플랫폼 태도와 상품 태도, 구매 의도 모두에서 일관되게 나타났다. 데이터 유형을 알리는 한 줄 외에는 아무것도 바꾸지 않았는데도 소비자 반응이 확연히 달라졌다는 점에서 주목된다.연구진은 이러한 차이가 생기는 심리적 경로도 추적했다. 소비자는 안내된 데이터 유형에 따라 추천이 자신에게 얼마나 맞춰져 있는지를 다르게 받아들였고, 이렇게 형성된 개인화 인식이 추천 시스템이 투명하다고 느끼는 정도로 이어진 뒤 다시 플랫폼에 대한 태도에까지 영향을 미쳤다.추천 이유 길게 풀어도 효과는 제한적설명의 상세함은 세 단계로 나눠 비교했다. 가장 간단한 단계에서는 ‘쇼핑 프로파일을 바탕으로 추천했다’는 수준의 포괄적인 안내만 제공했고, 중간 단계에서는 추천에 적용된 판단 기준을 항목별로 보여줬다. 가장 상세한 단계에서는 상품마다 어떤 기준에 부합하는지를 짝지어 개별 추천 사유까지 제시했다.하지만 설명을 구체화한다고 해서 구매 의도와 플랫폼 태도가 일률적으로 좋아지지는 않았다. 연구진은 모든 AI 서비스에 설명의 분량이나 상세도를 일괄적으로 높이도록 요구하는 방식이 반드시 효과적인 투명성 정책이라고 보기는 어렵다고 해석했다.쇼핑 목적•프라이버시 민감도 따라 ‘적정 설명’ 달라같은 설명이라도 누가, 어떤 목적으로 받아들이느냐에 따라 효과가 달랐다. 두 집단의 반응이 가장 크게 갈린 것은 중간 단계의 설명이었다. 사려는 물건이 분명한 과업형 이용자는 이 설명을 자신의 구매를 유도하려는 의도로 강하게 받아들인 반면, 새로운 상품을 둘러보려는 발견형 이용자는 그렇게 느끼는 정도가 낮았다.이를 근거로 연구진은 둘러보기 중심의 서비스에서는 추천 기준을 간결하게 보여주는 설명이, 구매•비교가 목적인 서비스에서는 기준을 나열하는 데 그치지 않고 상품별 추천 이유와 비교 근거를 구체적으로 연결해 주는 설명이 어울릴 수 있다고 봤다. 다만 이러한 맥락별 설계의 인과적 효과는 실제 서비스 환경에서 추가로 검증할 필요가 있다고 단서를 달았다.데이터 유형에 대한 반응도 이용자 특성에 따라 차이를 보였다. 프라이버시 우려가 큰 이용자는 추론 정보에 기반한 추천을 다른 유형보다 유의하게 낮게 평가했다. AI 리터러시도 중요한 변수였다. 대부분의 이용자는 데이터 유형에 따라 다른 반응을 보였지만, 리터러시가 매우 높은 이용자에게서는 유의한 차이가 나타나지 않았다. 하나의 설명 기준을 모든 이용자에게 똑같이 적용하기보다 이용 맥락과 이용자 특성을 함께 고려해야 하는 이유다.고지 의무 획일화보다 ‘이해와 선택권’에 방점연구진은 “고지 분량을 늘리면 투명성이 높아지고 소비자 보호가 강화된다”는 정책적 전제가 이번 실증 결과로는 뒷받침되지 않는다고 지적했다. 투명성의 효과는 무엇을, 어떤 표현으로 알리느냐에 따라 달라지고, 그 최적의 조합 역시 서비스 유형과 이용자 특성마다 다르기 때문에 일률적인 고지 의무화로는 이러한 다양성을 담아내기 어렵다는 것이다. 대신 최소한의 가이드라인을 제시하고, 플랫폼이 자사 서비스 맥락과 이용자 특성에 맞게 투명성 방식을 자율적으로 설계하도록 유도하는 편이 실질적인 소비자 경험 개선에 더 효과적이라고 봤다.연구진이 제시한 방향은 크게 세 가지다. 추천이 이뤄졌다는 사실과 활용된 데이터를 명확히 안내하고, 서비스 맥락과 이용자 특성에 맞는 수준으로 설명하며, 이용자가 관련 정보를 확인•수정하거나 활용을 거부할 수 있는 실질적인 선택권을 보장하는 것이다. 특히 이용자의 행동을 바탕으로 취향이나 향후 수요를 추론해 추천하는 경우에는 이용자에 따라 반응이 크게 엇갈리는 만큼, 설명 방식을 획일화하지 말고 추론에 쓰인 정보를 이용자가 직접 확인하고 조정할 수 있도록 재량권을 줘야 한다고 강조했다.보고서는 AI 추천 투명성의 목표를 ‘더 많은 정보의 제공’이 아니라, 이용자가 추천의 핵심 이유와 자신의 데이터가 쓰이는 방식을 이해하고 필요할 때 이를 확인하거나 활용 여부를 결정할 수 있도록 하는 데 있다고 정리했다. AI 투명성이 단순한 정보 공개를 넘어 이용자의 실질적인 이해와 선택권을 넓히는 방향으로 구현돼야 한다는 것이 이번 연구의 결론이다.※ 본 기사에 사용된 그림은 서울대학교 국가미래전략원 『이슈브리프』 Vol.63에서 인용했습니다.

AI 추천, ‘한 줄 고지’가 소비자 반응 갈랐다…설명 분량보다 ‘어떤 데이터’가 관건

행동 관찰 데이터 기반 추천 평가 가장 높고, 추론 데이터 기반 추천은 가장 낮아

기사입력 2026-10-01 11:59:30

Read in English

[산업일보]
인공지능(AI)이 어떤 데이터를 근거로 상품을 추천했는지 알리는 문구 한 줄만 달라져도 소비자의 평가가 뚜렷하게 엇갈린다는 실증 연구 결과가 나왔다. 반면 추천 이유를 더 길고 상세하게 풀어 설명하는 것만으로는 구매 의도나 플랫폼에 대한 태도가 일관되게 나아지지 않았다. AI 투명성 정책의 무게중심을 ‘설명의 양’에서 ‘설명의 내용과 방식’으로 옮겨야 한다는 지적이다.

박기완 서울대 경영대학 교수와 김예리 서울여대 데이터사이언스학과 교수 연구진은 서울대 국가미래전략원 이슈브리프 Vol.63 ‘AI 추천의 투명성, 더 많은 설명이 정답인가?: AI 추천 투명성을 위한 정책 제언’에서 이 같은 분석을 내놨다.

생성형 AI와 개인화 서비스가 일상화되면서 추천 알고리즘은 소비자가 정보를 찾고 물건을 고르는 과정 깊숙이 들어와 있다. 이에 따라 정책 논의에서는 AI가 추천 이유와 활용 데이터를 자세히 공개할수록 이용자의 이해와 신뢰가 함께 높아질 것이라는 전제가 폭넓게 받아들여져 왔다. 연구진은 이 전제가 실제 소비자 반응에서도 성립하는지 확인하기 위해 ‘얼마나 구체적으로 설명하는가’와 ‘어떤 데이터를 활용했다고 알리는가’를 두 축으로 나눠 실험했다. 여기에 이용자의 쇼핑 목적과 프라이버시 우려, AI 리터러시 수준이 반응을 어떻게 바꾸는지도 함께 살폈다.

AI 추천 투명성의 실험 연구 구조

데이터 출처 고지 한 줄에 평가 엇갈
연구진은 추천 화면과 추천 상품, 설명의 길이를 모두 동일하게 맞춘 상태에서 추천에 쓰인 데이터의 종류만 달리 안내했다. 이용자가 직접 입력한 정보(Provided), 이용 행동을 관찰해 수집한 정보(Observed), 이를 토대로 AI가 추론해 낸 정보(Inferred)의 세 가지다.

그 결과 행동 관찰 정보에 기반했다고 안내한 추천이 가장 긍정적인 평가를 받았고, 추론 정보에 기반했다고 안내한 추천은 가장 부정적인 평가를 받았다. 이런 경향은 플랫폼 태도와 상품 태도, 구매 의도 모두에서 일관되게 나타났다. 데이터 유형을 알리는 한 줄 외에는 아무것도 바꾸지 않았는데도 소비자 반응이 확연히 달라졌다는 점에서 주목된다.

연구진은 이러한 차이가 생기는 심리적 경로도 추적했다. 소비자는 안내된 데이터 유형에 따라 추천이 자신에게 얼마나 맞춰져 있는지를 다르게 받아들였고, 이렇게 형성된 개인화 인식이 추천 시스템이 투명하다고 느끼는 정도로 이어진 뒤 다시 플랫폼에 대한 태도에까지 영향을 미쳤다.

추천 이유 길게 풀어도 효과는 제한적
설명의 상세함은 세 단계로 나눠 비교했다. 가장 간단한 단계에서는 ‘쇼핑 프로파일을 바탕으로 추천했다’는 수준의 포괄적인 안내만 제공했고, 중간 단계에서는 추천에 적용된 판단 기준을 항목별로 보여줬다. 가장 상세한 단계에서는 상품마다 어떤 기준에 부합하는지를 짝지어 개별 추천 사유까지 제시했다.

하지만 설명을 구체화한다고 해서 구매 의도와 플랫폼 태도가 일률적으로 좋아지지는 않았다. 연구진은 모든 AI 서비스에 설명의 분량이나 상세도를 일괄적으로 높이도록 요구하는 방식이 반드시 효과적인 투명성 정책이라고 보기는 어렵다고 해석했다.

쇼핑 목적•프라이버시 민감도 따라 ‘적정 설명’ 달라
같은 설명이라도 누가, 어떤 목적으로 받아들이느냐에 따라 효과가 달랐다. 두 집단의 반응이 가장 크게 갈린 것은 중간 단계의 설명이었다. 사려는 물건이 분명한 과업형 이용자는 이 설명을 자신의 구매를 유도하려는 의도로 강하게 받아들인 반면, 새로운 상품을 둘러보려는 발견형 이용자는 그렇게 느끼는 정도가 낮았다.

이를 근거로 연구진은 둘러보기 중심의 서비스에서는 추천 기준을 간결하게 보여주는 설명이, 구매•비교가 목적인 서비스에서는 기준을 나열하는 데 그치지 않고 상품별 추천 이유와 비교 근거를 구체적으로 연결해 주는 설명이 어울릴 수 있다고 봤다. 다만 이러한 맥락별 설계의 인과적 효과는 실제 서비스 환경에서 추가로 검증할 필요가 있다고 단서를 달았다.

데이터 유형에 대한 반응도 이용자 특성에 따라 차이를 보였다. 프라이버시 우려가 큰 이용자는 추론 정보에 기반한 추천을 다른 유형보다 유의하게 낮게 평가했다. AI 리터러시도 중요한 변수였다. 대부분의 이용자는 데이터 유형에 따라 다른 반응을 보였지만, 리터러시가 매우 높은 이용자에게서는 유의한 차이가 나타나지 않았다. 하나의 설명 기준을 모든 이용자에게 똑같이 적용하기보다 이용 맥락과 이용자 특성을 함께 고려해야 하는 이유다.

고지 의무 획일화보다 ‘이해와 선택권’에 방점
연구진은 “고지 분량을 늘리면 투명성이 높아지고 소비자 보호가 강화된다”는 정책적 전제가 이번 실증 결과로는 뒷받침되지 않는다고 지적했다. 투명성의 효과는 무엇을, 어떤 표현으로 알리느냐에 따라 달라지고, 그 최적의 조합 역시 서비스 유형과 이용자 특성마다 다르기 때문에 일률적인 고지 의무화로는 이러한 다양성을 담아내기 어렵다는 것이다. 대신 최소한의 가이드라인을 제시하고, 플랫폼이 자사 서비스 맥락과 이용자 특성에 맞게 투명성 방식을 자율적으로 설계하도록 유도하는 편이 실질적인 소비자 경험 개선에 더 효과적이라고 봤다.

연구진이 제시한 방향은 크게 세 가지다. 추천이 이뤄졌다는 사실과 활용된 데이터를 명확히 안내하고, 서비스 맥락과 이용자 특성에 맞는 수준으로 설명하며, 이용자가 관련 정보를 확인•수정하거나 활용을 거부할 수 있는 실질적인 선택권을 보장하는 것이다. 특히 이용자의 행동을 바탕으로 취향이나 향후 수요를 추론해 추천하는 경우에는 이용자에 따라 반응이 크게 엇갈리는 만큼, 설명 방식을 획일화하지 말고 추론에 쓰인 정보를 이용자가 직접 확인하고 조정할 수 있도록 재량권을 줘야 한다고 강조했다.

AI 추천 투명성에 대한 정책 방향

보고서는 AI 추천 투명성의 목표를 ‘더 많은 정보의 제공’이 아니라, 이용자가 추천의 핵심 이유와 자신의 데이터가 쓰이는 방식을 이해하고 필요할 때 이를 확인하거나 활용 여부를 결정할 수 있도록 하는 데 있다고 정리했다. AI 투명성이 단순한 정보 공개를 넘어 이용자의 실질적인 이해와 선택권을 넓히는 방향으로 구현돼야 한다는 것이 이번 연구의 결론이다.

※ 본 기사에 사용된 그림은 서울대학교 국가미래전략원 『이슈브리프』 Vol.63에서 인용했습니다.

뒤로 기사목록

산업일보 영상뉴스 모아보기

산업일보 페이스북 바로가기

김우겸 기자 kyeom@kidd.co.kr

이 기자의 다른기사 보기 >

국제산업부 김우겸 기자입니다. 산업인들을 위한 글로벌 산업 트렌드와 현안 이슈에 대해 정확하면서도 신속히 보도하겠습니다.