설명가능한 인공지능(XAI), AI 트렌드로 부상 중

[산업일보]
디지털 전환(DX) 시대 흐름에 발맞춰 인공지능(AI) 활용에 대한 요구가 증가하는 가운데, 인공지능의 판단에 대해 인간이 이해할 수 있도록 제공하는 ‘설명가능한 인공지능(eXplainable Artificial Intelligence, XAI)’에 대한 트렌드가 나타나고 있다.


한국무역협회와 한국인공지능협회는 17일 ‘AI 트렌드·산업 적용 세미나 및 DX 컨설팅’을 개최해 AI 기술 및 비즈니스 교류의 장을 마련했다.

이날 세미나에서 ‘인공지능을 활용한 우리 산업의 미래 성장 전략’을 주제로 기조연설을 맡은 KAIST 김재철AI대학원 최재식 교수는 최근 제조업, 농업 등에서 자동화 흐름을 타고 인공지능을 적용해 효율적인 결과를 얻은 사례와 인공지능이 일상과 비즈니스를 변화시키는 사례들을 언급했다.

이어 인공지능이 제조·의료·국방·금융·유통 등의 분야에 적용되면서 점차 인간의 생명과 재산 등 의사결정에 영향을 미칠 수 있기 때문에 인공지능의 신뢰성에 대한 부분을 집중해 살펴야 한다고 설명했다.

최 교수는 이러한 부분의 인공지능을 ‘미션 크리티컬 AI’로 분류했다. 미션 크리티컬 AI는 사고가 발생할 경우, 사고를 유발한 요인이 누구에게 있는지 확인하기 어려운 부분이 있다.

이에 대해 유럽 등에서는 사고에 대한 설명을 해야 하는 의무를 지우고, 설명을 하지 못할 경우 전 세계 매출의 4%까지 벌금을 지불해야 하는 GDPR이라는 규정을 제정했다.


최 교수는 기업들이 GDPR에 따라 움직일 가능성이 높아지면서, 인공지능 기술의 투명성과 신뢰성이 중요해졌고, 인공지능의 판단 결과에 대한 이유를 인간이 이해할 수 있도록 제공하는 기술인 ‘설명가능한 인공지능(XAI)’이 중요한 시대가 열렸다고 밝혔다.

그는 “설명가능한 인공지능의 표준을 만들고, 세부적인 규정을 어떻게 할 것인지에 대한 것들을 우리나라가 주도하고 있다”고 덧붙였다.

한편, 세미나에 앞서 한국무역협회와 한국인공지능협회는 ‘인공지능(AI) 산업 활성화 및 디지털 전환(DX) 촉진을 위한 업무협약’을 체결했다. 또한, 세미나와 함께 한국 기업들의 디지털 전환 전략 수립을 위해 인공지능 전문가가 참여한 ‘AI 산업적용 DX전략 컨설팅’을 함께 진행했다.