AI 기술 활용, 인간의 윤리 의식·도덕적 판단 중요

[산업일보]
AI(인공지능)와 인간의 바람직한 관계 지속을 위해선 미래 AI 사회 시나리오 연구를 통한 AI 윤리 정책과 교육이 마련돼야 한다는 제언이 나왔다.

한국과학기술정보연구원(KISTI)이 최근 ‘인공지능 윤리(AI Ethics): 인간과 인공지능의 조화로운 공존’ 보고서를 내놨다.

보고서는 ChatGPT의 등장 이후 각종 분야에서 AI의 역할이 급속도로 확대되고 있으며, 정부도 ‘모든 국민의 AI 일상화’를 목표로 정책기반을 마련 중이라고 동향을 살폈다.

글로벌 빅테크를 비롯한 국내외 기업들은 자체적인 파운데이션 모델 구축을 통해 생성형 AI 서비스를 개발 중이며, 세상은 디지털 전환을 넘어 ‘인공지능 전환(AX) 시대로 진입하고 있다는 것이다.

이러한 AI 기술의 발전은 인간의 삶을 편리하게 하고 문제를 해결하는 잠재력을 가지고 있음에도, 글로벌 업계 리더와 전문가들은 AI의 위험성을 경고한다고 보고서는 전했다.

▲대량 사이버 공격, 생화학 무기의 쉬운 제조 등 무기화 ▲AI 시스템에 대한 공격 ▲예측 불가능한 기술 발전 ▲AI 시스템의 오작동 ▲통제력 상실 등의 위험성이 예측되는 가운데, 올바른 AI 사용을 위해 윤리적·기술적인 안전장치가 필요하다는 의견이 제시되고 있다고도 덧붙였다.

이미 AI로 인한 피해 사례도 증가하고 있다. 딥페이크를 악용한 가짜뉴스 생성, AI 편향으로 인한 차별 발생, 프라이버시 침해와 같은 무분별한 AI 사용이 문제시되고 있다. 또, AI 개발 회사들이 자사 AI 모델의 기능향상을 위해 저작권 규정을 무시하고 AI 학습용 데이터를 무단으로 사용하는 사례도 발생하고 있다.

보고서는 이런 사례들을 예방하고자 윤리 및 규제에 대한 논의도 가속화되고 있다고 해설했다. 세계 각국과 국제기구는 AI 윤리에 관련된 대책 마련에 관심을 기울이고 있다는 것이다.

UN과 OECD, G20, G7 등에서는 AI 윤리 및 신뢰성 관련 원칙 제정 및 파트너십을 통한 글로벌 협력을 추진하고 있으며 유럽연합은 AI에 관한 세계 최초의 포괄적인 규제로 평가되는 ‘AI 법안’을 제정함과 동시에 국제협력을 계획하고 있다.

미국은 바이든 정부 출범 이후 ‘안전하고 신뢰할 수 있는 AI에 대한 행동명령’을 발표해 AI 기술 개발 촉진과 AI 위험 관리, 시민권리 보호를 동시에 꾀하고 있다.

중국은 엄격한 규제와 공급자의 의무를 부가했고, 영국은 ‘AI 주도 국가’를 목표로 유연하고 반복적이며 협력적인 규제를 지향하고 있다.

일본은 AI 규제를 최소화해 왔으나 최근 AI 규제 강화에 대한 논의가 확산됨에 따라 대응방안을 검토 중이다.

한국은 작년 9월 ‘대한민국 인공지능 도약방안’, 10월에는 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표하며 민간 주도의 AI 윤리·신뢰성 확보 방안과 신뢰성 R&D 등을 추진하고 있다고 보고서는 진단했다.

그러면서, 인간과 AI의 상생을 위해 AI 기술 발전과 인간의 책임 간의 균형이 필요하다고 강조했다. 인공지능 개발자, 사용자, 정책입안자 각각의 역할에 따라 윤리적 책임을 져야 한다는 것이다.

또, AI 중독을 불러오는 과도한 AI 의존성은 지양하고 AI가 혁신의 조력자로 인식할 수 있는 환경이 조성돼야 한다고 의견을 내놨다.

이를 위해 보고서는 AI로 인해 발생할 수 있는 변화와 불확실성을 연구해 미래 AI 사회를 사전에 준비할 수 있도록, 시나리오와 대응 정책 수립이 필요하다고 밝혔다.

AI 확산에 따라 발생할 수 있는 이슈를 도출하고 긍정·부정적 시나리오로 나눠 결과 예측과 정책 설계가 필요하다는 것이다.

책임 있는 AI 사용과 평가를 위해 AI 성능과 모델의 위험성을 객관적으로 판단할 수 있는 기준도 마련돼야 한다고 짚기도 했다.

보고서는 AI 발전에 상응하는 교육과정과 제도 마련도 필수적이라고 목소리를 냈다. 또, AI가 적용된 산업별 수준을 고려한 맞춤형 AI 윤리 정책이 수립돼야 한다고 주장했다.

이어, 사회와 AI 기업 사이에 치열한 논의가 지속될 것이며 이러한 논의를 바탕으로 도출한 사회적 합의를 통해 혁신과 규제의 균형을 이뤄야 한다고 지적했다.