융복합 분야로 발 넓히는 AI, 편향성 위험 있어

[산업일보]
인공지능(AI) 관련 특허 출원이 증가하는 가운데, AI 허점에 대한 위험성이 대두하고 있다.

특허청이 최근 발표한 자료에 따르면, 2012년 384건을 기록한 인공지능 분야 특허 출원은 지난해 8천416건으로 증가했다. AI를 실생활에 적용하는 ‘인공지능 서비스’의 경우 2012년 20건에서 연평균 69.6% 증가하며, 지난해 2천356건에 이르렀다.

인공지능은 다른 기술과 융합되는 경향이 뚜렷하게 나타났다. 11대 융복합 기술 중에서 AI와 결합한 기술들은 매년 40% 이상 성장했고, 인공지능과 결합한 출원은 지난 10년간 41배 늘었다.

특히 인공지능과 디지털 건강관리 기술이 융합된 출원은 2020년에 인공지능과 빅데이터의 융합 기술을 뛰어넘어 지난 10년간 가장 많이 출원된 융복합 분야(35%, 2천580건)로 올라섰다는 게 보고서의 내용이다.

29일 서울시청에서 열린 ‘2022 서울 빅데이터 포럼(2022 SEOUL BIG DATA FORUM)'은 머신러닝의 데이터 편향(Shortcut Learning)에 대한 내용을 다뤘다. 행사에 참석한 송경우 서울시립대학교 조교수는 머신러닝 모델의 위험성을 설명했다.

일례로 스마트워치는 PPG 신호를 이용해 혈압을 추정하는데, 이때 편향성이 존재한다는 것이다.

송 교수는 “(머신러닝을 활용해) 정상 혈압 범위에 있는 사람들의 혈압은 굉장히 잘 예측하지만, 저혈압에 대한 측정은 그렇지 않다”며 ”(이를 해결하기 위해) 다른 기관과 협업해 연구하고 있다“고 부연했다.

코로나19를 언급한 그는 역학조사에서 머신러닝 모델로 단순 분석 시 바이러스 존재 여부를 잘못 판단할 수도 있다고 했다.

확진 사실을 숨긴 특정 그룹이 역학조사에서 빠지면, 머신러닝 모델이 해당 그룹은 코로나19에 걸리지 않는 것처럼 판단하는 경우가 있다는 내용이다.

송 교수는 “머신러닝 모델을 그대로 믿고 편향성 등에 관한 조치를 취하지 않으면, 오류를 범할 수 있다”고 했다.