신뢰할 수 있는 AI를 위한 개방형 플랫폼의 시작

[산업일보]
4차 산업혁명의 시대, 어느덧 AI(인공지능)라는 말은 대중들에게 익숙해졌다. 그러나 현장에서는 아직 AI에 대한 신뢰가 구축되지 않아 업무에 즉시 투입하기에는 어려움이 있다.

한국 IBM은 18일 여의도의 본사에서 기자들과 만나 AI의 의사결정을 이해하고, AI가 일부 편향된 데이터에 근거해 치우친 결과를 도출했는지 여부를 사용 고객이 직접 검증할 수 있는 개방형 플랫폼을 통해 신뢰를 형성할 수 있다고 주장했다.

IBM 기업가치 연구소가 최근 전세계 5천 명의 기업 임원을 대상으로 실시한 조사 결과에 따르면, 응답 기업의 82%가 AI 도입을 검토하고 있는 것으로 나타났다. 하지만 도입의 장애 요인들로 63%의 기업은 “AI를 확실하게 운용할 수 있는 내부 인력이 부족하다”고 답했으며, 60%의 기업은 “AI에 활용되는 데이터에 대해 신뢰할 수 없고, 기업 내부 및 외부의 여러 규제를 파악하지 못하는 우려가 있다”는 의견을 보이며 보다 근본적인 해결을 바랐다.

최안나 한국IBM 왓슨사업부 기술영업팀장은 “실제 고객들이 현재 사용하고 AI의 상당수는 파일럿 수준에 그치고 있다”라며 “대다수의 비즈니스 업무에 AI가 도움이 될 것이라는 데는 의심의 여지가 없지만, 실제로 AI를 업무에 적용하려면 부딪히는 벽이 있다. AI를 비즈니스 프로세스에 적극적으로 녹여내는데 ‘AI를 믿을 수 있을까’ ‘AI가 정확한가’에 대한 의구심이 생긴다. 즉, AI 안에 있는 내용에 대한 확신이 없기 때문에 많은 어려움을 겪고 있는 것”이라고 현재 AI의 비즈니스 적용에 대한 상황을 솔직히 설명했다.

이어 “많은 산업과 업무에서 AI를 사용하기 위해서는 데이터를 잘 아는 사람, 업무를 잘 아는 사람, 기술을 잘 아는 사람, 이걸 이용할 때에 얼마나 효과적으로 사용할 수 있는지 기획할 수 있는 사람 등 많은 사용자들이 함께 고민해야 한다”라며 “만든 이후에도 AI가 잘 돌아가는지 모니터링 한 뒤, 모니터링 결과를 가지고 적극적으로 보강해서 다시 업무에 적용하는 일련의 라이프 사이클이 유지 돼야 한다. 그러나 현재로써는 ‘어디에 쓰면 좋겠다’ 정도로만 생각되고 실제 적용이 안 되고 있다”고 기업의 AI 적용 실태에 대한 아쉬운 부분을 밝혔다.

아울러 AI가 비즈니스에 제대로 적용되기 위해서는 AI 알고리즘이 어떤 데이터를 가지고 분석을 해서 결과를 도출하거나 결정을 하게 됐는지 설명할 수 있어야 하고, 또 AI가 바이어스(불균형한 오차) 없이 어떤 데이터가 들어오더라도 공정한 결론을 내릴 수 있는지에 대한 의구심이 해소돼야만 한다. 뿐만 아니라 AI의 정확도가 유지되는지 확인할 수 있는 지속적인 모니터링도 필요하다.

IBM은 이러한 문제점들에 대한 솔루션으로 개방형 플랫폼 ‘AI 오픈스케일’을 제안했다. AI가 가지고 있는 불확실성을 제거하고, AI 모델이 적용된 시스템이나 운용 환경에 관계없이 AI가 도출해 낸 의사결정 과정을 정확하게 이해하고 투명하게 관리해 AI의 편향성을 탐지, 신속하게 대응할 수 있도록 했다.

데이비드 케니(David Kenny) IBM 코그너티브 솔루션(Cognitive Solutions) 담당 수석부사장은 “기업의 AI 도입을 앞당기려면 자사의 모든 AI를 한 곳에서 운용할 수 있어야 한다”며, “기업이 AI를 신뢰하고, 적용 분야를 확장할 수 있을 때 비로소 ‘AI 경제’를 구현할 수 있다”고 말했다.