“AI 딥페이크 범죄, 학생 사이서 ‘놀이’로 인식…윤리 교육 시급해”

[산업일보]
“AI(인공지능) 시대, 미래 세대에게 ‘윤리적 나침반’이 필요하다”

경기 용인풍덕초등학교의 조재범 교사가 18일 개최된 ‘AI 시대, 학생 윤리 교육의 방향과 과제’ 토론회의 토론자로 나서 이같이 밝혔다. 이번 행사는 국회 의원회관에서 국민의힘 김민전 의원 주최로 열렸다.

조 교사는 “기회와 위기는 동시에 온다”라며 AI를 미국 서부 개척 시대에 비유했다. 자원과 땅을 찾아 이동하는 과정에서 법과 윤리가 제대로 지켜지지 않은 무법천지가 펼쳐졌듯, AI도 비슷한 상황을 초래할 수 있다는 우려다.

그는 “지난해 미국 LA에서 AI 챗봇 시스템 해킹으로 54만 명의 개인정보가 유출됐고, 핀란드 헬싱키에서도 12만 명의 민감 정보가 사이버 공격에 노출됐으며, 한국에서는 434건의 딥페이크 사건이 발생했다”라며 “데이터 프라이버시 침해, 부적절한 콘텐츠 노출, 사이버 괴롭힘 등 AI 기술의 다양하고 심각한 문제가 벌어지고 있다”라고 짚었다.

그러면서 “AI 윤리 교육은 교육적 개선을 넘어 아동 보호, 공중 보건 과제로 인식돼야 한다”라고 덧붙였다.

조재범 교사는 생성형 AI의 양면성으로 “복사-붙여넣기 문화가 당연시되며 주체적 사고가 위협받고, AI 챗봇에 의존하면서 정서적 혼란 및 사회성 발달이 저해된다”라고 꼬집으며 “특히, 딥페이크 범죄가 놀이로 인식되고 있어, ‘디지털 시민성’이 부재한 상황이라 AI 윤리 교육이 시급하다”라고 목소리를 높였다.

인스타그램을 비롯한 SNS에서 남녀의 이미지를 입맞춤하는 동영상으로 변환하는 AI 서비스가 공공연하게 노출되고 있다는 문제도 지적했다.

이어 초등학교 기준 학년별·교과별 AI 윤리교육 로드맵 및 전략을 제시한 조 교사는 “교육 현장의 교사들 대부분은 AI 기술에 대한 이해가 부족하다”라며 “기술 활용에만 치중돼 있던 기존의 역할을, 복잡한 윤리적 딜레마 지도가 가능한 ‘윤리적 길잡이’로 전환해야 한다”라고 말했다.

그는 “AI 윤리 교육은 학교와 교사의 힘만으로 할 수 없고, 학교·가정·정부 모든 주체의 유기적 협력이 필요하다”라며 “학교에서는 디지털 교육을 실시하고, 가정에서는 대화 파트너가 돼주고, 정부는 생태계를 구축해야 한다”라고 강조했다.

더불어 “부모님들은 AI를 잘 모르다 보니 두려움을 갖게 되고, 이는 반감으로 이어진다”라며 “AI디지털교과서(AIDT) 실패 원인 중 하나는 여기에 있을 것”이라고 했다.

조 교사는 국회를 향해 ▲교사 전문성 개발을 위한 전용 예산 배정 ▲산학협력 파트너십 구축 ▲연령별 AI 윤리 교육 국가 표준 수립 ▲초등 AI 윤리 교육 장기적 영향 연구 지원 ▲국제 협력 및 모범 사례 공유를 내용으로 정책을 제안했다.

발표를 마무리하며 조재범 교사는 “국민주권정부에서 AI 산업을 진흥시키겠다고 하면서 AI디지털교과서는 교육자료로 변환했는데, 딜레마에 가깝다”라며 “한국 교육의 AI 도입과, AI 윤리 교육에 어떤 영향을 끼칠지 곰곰이 생각해 봐야 한다”라고 언급했다.