본문 바로가기

인공지능(AI)의 공정성 문제, 국제 거버넌스 구축 필요

연구소, 기업, 정부 등 각 계층별 인공지능 이슈 관련 연구 진행 중

[산업일보]
인공지능(AI) 기술의 빠른 발달로 다양한 산업 분야에 적용이 되면서 인공지능의 역작용이나 사회 전반에 끼치는 영향에 대한 논의가 활발히 이뤄지고 있다.

특히 성별과 인종, 사회 집단 등에 대해 편향을 갖거나, 투명성 결여 등의 공정성 문제가 이슈로 손꼽히고 있다. 이에 인공지능을 기술만이 아니라 정치, 경제, 윤리적 관점에서 논의하기 위해 국제적 거버넌스의 구축의 필요성이 강조되고 있다.

인공지능(AI)의 공정성 문제, 국제 거버넌스 구축 필요

한국인터넷진흥원(KISA)의 ‘신뢰를 위한 인공지능 거버넌스가 왜 필요한가?’ 보고서는 2020년에 인공지능의 사회 전반에 대한 영향력, 공정성 문제 등에 대한 논의 결과가 만든 구체적인 모습과, 관련 연구와 정책 방향 및 법제도 측면에서의 합의 과정이 국가 및 국제적 기관과 조직을 통해 이뤄질 것이라고 내다봤다.

보고서에서 인공지능 거버넌스를 통해 인공지능 관련 이슈를 하나의 통합된 프레임워크로 대처하고, 인류가 어떻게 첨단 인공지능 시스템에 의해 변화하는 최적의 방법을 찾을 것인지 파악해야 한다고 주장한 한상기 테크프론티어 대표는 최근 다양한 연구소와 대학, 기업들이 해당 이슈에 대한 연구를 진행 중이라고 밝혔다.

2017년 생명의 연구소 주관으로 ‘유익한 인공지능’ 논의 결과 23개 원칙 선언, 2018년 옥스퍼드 대학 인류 미래 연구소의 ‘인공지능 거버넌스: 연구 어젠다’ 보고서를 통한 프레임워크, 2019년 OECD의 인공지능 원칙, AI NOW 연구소의 연구 보고서, 블랙스톤 창업자 슈워츠만의 인공지능 기술 및 인문학 연구 등이 연구소와 대학에서 진행한 인공지능 이슈들이다.

기업들의 움직임도 매우 빠르게 진행되고 있다. 사회적 이슈나 원칙에 대응하기 위해 새로운 기술과 도구를 지속적으로 발표하고 있는 것이다. 구글은 ‘페어(PAIR)’라는 프로그램으로 인공지능 파트너십을 강조하고 있으며, ‘왓이프(What-If) 도구(WIT)’ ‘설명 가능 인공지능(Explainable AI)’ 등의 도구와 프레임워크를 선보이기도 했다.

마이크로소프트는 공정성 정의에 따라 증명 가능하고 실용적인 방안을 제시할 수 있는 분류기인 ‘fairlearn’을 깃허브에 공개했고, 페이스북은 머신러닝의 편향성을 결정하는 페어니스 플로우를 내부용으로 사용하고 있다. IBM은 ‘AI 공정성 360(AIF 360)’ 툴킷을 제시했다.

한상기 대표는 ‘이러한 도구들은 개발자를 위한 설명과 해석이지 일반 사용자를 대상으로 하는 기능이 아니다’라며, 본격적인 설명 가능성에 대한 연구는 보다 심리학적인 연구를 통해 접근해야 한다고 밝혔다.

‘이제는 신뢰할 수 있는 인공지능을 위한 거버넌스 차원의 검토가 필요하다’고 밝힌 한 대표는 ‘기술 개발과 정책 수립, 지원 체계와 감독 기관 지정 등의 문제를 한 국가에서만 만들어갈 수 없으므로, 국제적 협조와 공조가 필요하다. 또한 연구 집단과 정책 기관, 시민 단체, 정부 각 계층별로도 국제적 협력과 이들을 엮어 내려는 노력이 필요하다’고 강조했다.
ad광고추천제품

0 / 1000

추천제품

1/8

가상화폐 시세

loader
Bitcoin logo icon

비트코인

%
Ethereum logo icon

이더리움

%
Ripple logo icon

리플

%
Provided by Bithumb logo icon