“AI·첨단기술 도입이 전부 아냐, 잘 사용하는 것이 핵심”

[산업일보]
“AI(인공지능)의 미래는 우리의 노력, 정책 추진, 산업적 활용에 따라 굉장히 달라진다”

한양대학교 이상욱 교수는 국회 의원회관 제2소회의실에서 26일 진행된 ‘AI 기본법으로 연결되는 AI 혁신과 안전’ 토론회에 발제자로 나서, ‘혁신과 안전이 공존하는 AI 시대’을 주제로 강연을 진행하며 이같이 말했다.

그는 “AI 기술 특성상 안전·신뢰·포용 같은 윤리적 고려가 기술 개발·활용과 동시에 이뤄지지 않으면, 나중에 우리가 통제할 수 있을지에 대한 우려가 존재한다”라며 디지털·AI 기술을 비롯한 혁신 기술을 바라보는 시각이 크게 ‘적극 수용’과 ‘전통 가치 수호’ 두 가지로 나뉜다고 소개했다.

더불어 “사실은 기술의 발전 방향이 정해져 있고 우리가 두 가지 방식 중 하나를 선택하는 것이 아니다”라며 “사회가 기술과 어떻게 상호작용하고, 사용자가 개발자한테 어떤 영향을 끼치느냐에 따라 기술의 발전 방향이 달라진다는 것”이라고 해설했다.

이 교수는 그 예로 미국 경제사학자 스콧 고든의 <미국의 성장은 끝났는가> 서적 중, 1970년대 말 미국 사무업무에 PC가 도입된 사례를 전했다. 당시 경영자들이 PC를 마치 <해리포터> 속 마법 지팡이처럼, 설치해 놓으면 곧장 생산성이 향상될 거라고 기대했다. 그러나 10년 동안 미국 사무업계에서 생산성의 변화는 크지 않았다.

1990년대가 돼서야 PC 도입 효과로 생산성이 증대됐는데, 그는 “기술이 사회와 결합해 생산성을 높일 수 있는 ‘연결 기술’이 개발되고, 이를 사용자가 습득해 역량이 강화됨과 동시에 사회 제도들이 변경되고 나서야 생산성이 향상됐다”라며 “AI 기술도 도입이 아니라 잘 사용하는 것이 핵심”이라고 풀이했다.

이어, 2016년 아마존이 AI·IoT(사물인터넷) 등 첨단 기술을 활용한 무인 슈퍼마켓 ‘아마존 고(Amazon GO)’를 오픈했다가 현재 수익성 문제로 기존 매장을 정리 중인 사례도 제시했다.

이상욱 교수는 “이미지만으로 일반 레몬과 유기농 레몬을 구분할 정도로 뛰어난 기술을 기반으로 했지만, 아직 로봇 기술이 충분하지 않아 인간 노동력이 필요했고 결국 수익성이 크지 않았다”라며 “굉장히 매혹적이고 압도적인 기술이라도, 단지 가능하다는 것 하나만으로는 기존 인프라를 대체해 사회에 퍼지지 못한다”라고 설명했다.

그는 “‘AI 윤리’라는 개념이 한국어 어감상 이해가 어려울 수도 있다”라고 하기도 했다. 한국어에서 사용하는 ‘윤리’라는 개념은 사람을 대상으로 명명백백히 마땅한 원칙, ‘도리에 어긋나는 행동’을 따질 때 쓰인다. 그러나 영어로 ‘Ethics’라고 한다면 사회적 상호작용 과정에서 사람들이 바람직하게 생각하는 사회적 인격, 즉 규범적 판단에 해당한다는 것이다.

이 교수는 “AI 윤리는 바람직한 방향으로 AI를 개발·활용하는 여러 규범적 원칙 및 과정에 대해 논의하고 사회적 합의를 통해 실천하는 적극적 의미로 이해해야 한다”라며 “기술자들 사이에서는 AI 설계 단계부터 최소한의 윤리 원칙을 위배하지 않게 만들자는 ‘윤리 설계 표준’을 정립하는 움직임이 포착되기도 한다”라고 덧붙였다.

그러면서 생성형 AI를 과다하게 사용해 전문성을 획득하지 못하는 ‘탈숙련’, 신약 개발 물질 탐색 AI가 아주 약간의 변형으로 독성 물질을 발견하게 되는 ‘이중 사용(dual use)’, 디지털 기술의 ‘청소년 유해성’ 등의 AI 안전 문제를 짚었다.

이상욱 교수는 “AI가 인류의 ‘보편 복지’ 수준 향상에 지대하게 기여할 수 있는 잠재력을 분명히 갖고 있다고 생각한다”라며 “그러나 그 잠재력은 놔두면 알아서 실현되는 것이 아니라, 우리가 바람직한 미래상을 기준으로 거버넌스를 제대로 구축하고 운영했을 때 현실화할 것”이라고 강연을 마무리했다.