인공지능의 ‘위험한 판단’, 선제적 대응 필요

[산업일보]
최근 미 대선 결과를 인공지능이 정확히 예측했다. 빅데이터 분석 인공지능 프로그램 모그IA의 판단대로 제45대 미국 대통령에 도날드 트럼프가 당선됐다.

인공지능은 제4차 산업혁명의 핵심 성장동력으로 산업구조 패러다임 변화를 예고하고 있다. 인공지능 시장규모는 작년 76억 달러에서 2019년 152억 달러 규모로 연평균 19.7% 성장할 것으로 전망된다.

인공지능 시장 선점을 위해 글로벌 기업들의 치열한 경쟁도 예고되고 있다. 각 기업들이 인공지능 경쟁력 확보를 위한 R&D투자와 스타트업 M&A 전략을 벌이고 있다.

경기연구원에 따르면, Google은 2010년 이후 정보수집과 처리, 기계학습, 로보틱스 분야의 기술역량을 보유하고 있는 스타트업을 인수함으로써 인공지능 경쟁력을 확보했으며 Facebook은 전 세계 9억 명의 회원정보를 기반으로 이미지 인식, 음성/문자 인식, 기계학습 관련 스타트업을 인수함으로써 메신저 플랫폼 서비스를 고도화하고 있다. 삼성전자 또한 인공지능 특허확보를 위한 노력을 적극적으로 추진하고 있으며 최근 10년간 55건의 관련 특허를 보유하며 경쟁력 확보에 열을 올리고 있다.

이 가운데, 대중들의 인공지능기술 인식은 비교적 높은 편으로 나타났다. 게다가 인공지능기술에 대해 긍정적 시각을 보내고 있다. 인공지능기술로 인한 긍정적 측면에 대해 ‘삶을 편리하게 해줘 삶의 질이 향상될 것이다’라는 인식이 62.4%로 가장 높게 나타났다. 그 다음으로 ‘의료, 금융 등에서 보다 전문적이고 정확한 서비스를 제공받게 될 것이다’ 39.2%, ‘제조업의 생산성을 향상시켜 산업 전반에 도움이 될 것이다’가 37.1%로 뒤를 이었다.

반면, ‘일자리 대체’에 대한 우려가 나타나고 있다. 인공지능기술의 확산으로 2020년까지 510만여 개의 일자리가 순감소할 것으로 예측된다. 인공지능의 ‘권한 부여’ 확대와 ‘위험한 판단’에 대한 걱정도 대두되고 있다. 위험상황에서 일반적으로 소수보다는 다수의 생명을 살리는 방향으로 판단하는 것이 바람직하지만 소수가 누구인지에 따라 윤리적 판단은 달라질 수 있고 윤리적 판단 알고리즘의 설계에 따라 인공지능이 탐재된 자율주행차에 대한 지불의사는 다르게 나타나 명확한 판단기준의 제시가 어려운 상황이다. 인공지능의 의사결정 논리에 따른 위험한 판단이 뒤따를 수 있기 때문에 향후 바람직한 발전을 위한 법과 제도 마련이 필요해 보인다.

이에대해 경기연구원 배영임 연구위원은 “인공지능의 판단, 책임, 권한 부여의 문제에 대한 사회적 합의가 필요하다”며 “인공지능의 판단 오류로 인한 윤리적 문제가 발생할 경우 이를 사후적으로 해결할 수 있는 시스템을 마련하고 책임소재를 명확히 해야한다”고 덧붙였다.