‘AI 윤리’, 개발자·사용자 모두의 과제

[산업일보]
기술이 발전할수록 인공지능 윤리와 신뢰성은 인공지능 기술의 핵심 경쟁력이자 기술 선도의 전제조건으로 주목받고 있다.

인공지능 신뢰구축을 위해 과학기술정보통신부가 주최한 ‘2022 인공지능 윤리확산을 위한 공개 정책세미나’가 24일 서울 중구 포스트타워에서 열렸다.


“근대윤리학은 인간 대 인간의 관계를 따졌지만 현대윤리학은 인간 대 비인간, 즉 인공지능 로봇 행위자에 대한 것까지 고려해야 합니다.”

변순용 서울교육대학교 윤리교육과 교수(교육분과장)는 “인공지능이 도덕성 단계로 가기 전 자율성 단계를 먼저 따져야 한다고 본다”며 “인공지능이 합당하게 사용되는지의 판단 기준은 만들어진 목적과 사회적으로 합의된 내용에 따르는지가 가장 중요한 기준이 돼야 한다”라고 말했다.

인공지능이 지식생산과 소비의 보조자 역할에서 지식생산 주체로서의 역할이 확장되고 있는 만큼, 세계 시민성 교육의 새로운 패러다임으로 AI 시민성 교육의 필요성이 제기되고 있다.

변순용 교수는 “AI를 기술적으로 잘 다루는 것만이 아니라 AI를 올바르게 활용하기 위한 윤리적인 기반과 관련된 AI 윤리 역량이 필요하다”며 “AI 기술역량과 마찬가지로 AI 윤리 역량 역시 개발자와 사용자에게 각각 요구되는 역량”이라 강조했다.

이어 “현재 학교 현장에서의 AI교육은 ‘인공지능을 잘 활용하기 위한 교육’인지 ‘인공지능을 올바르게 활용하기 위한 교육’인지도 정의되지 않았다”고 다소 회의적인 반응을 보이며 “오히려 인공지능이 할 수 없는 것들에 관한 능력을 키워주는 교육이 필요해 보인다”고 제언했다.


문정욱 정보통신정책연구원 지능정보사회정책센터장(윤리분과장)은 “인공지능 윤리가 비교적 새로운 사회적 규범이라는 점에서 이에 익숙하지 않은 개인이나 조직이 현장·일상에서 적용하고 실천하기에는 어려움이 있다”며 “인공지능 윤리기준 준수 여부를 스스로 판단하고 평가할 수 있도록 자율점검표 마련의 필요성이 제기된 것”이라 설명했다.

자율점검표에 대한 기업의 실질적 활용도를 높이기 위해 인공지능 기업, 협회를 대상으로 인공지능 윤리 확산 방안 등에 대한 심층 인터뷰를 진행했다고 소개한 문정욱 센터장은 “인공지능 윤리는 개발자만의 문제가 아니라 제품 및 서비스에 관여된 모든 사람들이 공유해야 할 문제”라고 말했다.

문 센터장은 인공지능 윤리 준수를 위해 ▲자율점검표 내용 구체화 ▲기업 특성을 고려한 자율점검표 개정 등 자율점검표 활용도를 높이고, ▲정책적 인센티브 제도 마련 ▲기업의 자율구제 환경 조성 ▲인공지능 윤리 교육·홍보 강화 등 자율적 노력 지원체계가 마련돼야 한다고 제언했다.

이어 인공지능 윤리 확립을 위한 협력적 거버넌스 체계의 구축, 인공지능 산업 진흥 기반조성을 위한 인공지능 윤리영향평가 프레임워크 개발이 요구된다고 말했다.