전 분야 확산 중인 AI, 철저하고 신뢰성 있는 검증 필요해 한국인공지능검증원, 자체개발한 매트릭스 통해 AI 모델 검증 ChatGPT로 AI(인공지능)시대가 열리며, 수많은 IT기업들이 자체적으로 또는 기존 제품을 개량하는 식으로 AI를 개발하고 있다. 이렇게 선택의 폭이 넓어지는 만큼, ‘제대로 된’ AI 제품은 무엇인지 판별할 수 있는 기준이 있어야 한다는 목소리도 나온다. (사)한국인공지능검증원은 ‘국제인공지능대전(AI EXPO KOREA 2024)’에 참가해 ‘AI 모델 검증’ 솔루션을 소개했다. 이 업체의 주 타깃 층은 개발이 완료된 AI 모델에 대한 신뢰성을 보장받고자 하는 기업·기관이다. 공인성을 갖추기 위해 ‘국제표준화기구(ISO)’와 ‘한국인정기구(KOLAS)’에서 국제공인기관으로 인증도 받았다. 또, AI모델 테스트를 위한 매트릭스(Metric)를 자체적으로 개발했다. 한국인공지능검증원의 송영주 연구원은 “AI모델은 학습된 데이터가 가장 중요하다”라며 “전체적인 모델의 구성을 따지지만, 캐시 값 등을 통해 데이터가 AI모델에 실제로 포함돼있는지 등을 특히 살펴본다”라고 말했다. 이어, “데이터의 전반적인 품질테스트와 더불어, 제시된 성능 기준을 AI모델이 충족하는지 유사한 역할의 다른 모델과의 성능은 어떤지 분석하고 결과서를 제공한다”라며 “데이터가 AI 모델의 핵심이기 때문에, 외부 유출을 꺼리는 기업도 많아 직접 방문해 유출을 방지하고 신뢰성을 주고자 한다”라고 설명했다. 그는 이러한 AI 모델 검증에 대한 필요성을 묻자, “AI모델의 설득력을 갖추기 위함”이라며 “잠재적인 오류·문제 등을 식별하고 완화할 수도 있고, 테스트를 통해 성능향상의 방향성을 찾을 수도 있을 것”이라고 답했다. 한편, AI EXPO는 삼성동 코엑스(COEX) D홀에서 1일부터 3일까지 열렸다.

전 분야 확산 중인 AI, 철저하고 신뢰성 있는 검증 필요해

한국인공지능검증원, 자체개발한 매트릭스 통해 AI 모델 검증

기사입력 2024-05-05 09:54:42

AI 모델 검증 솔루션 설명 듣는 참관객

[산업일보]
ChatGPT로 AI(인공지능)시대가 열리며, 수많은 IT기업들이 자체적으로 또는 기존 제품을 개량하는 식으로 AI를 개발하고 있다. 이렇게 선택의 폭이 넓어지는 만큼, ‘제대로 된’ AI 제품은 무엇인지 판별할 수 있는 기준이 있어야 한다는 목소리도 나온다.

(사)한국인공지능검증원은 ‘국제인공지능대전(AI EXPO KOREA 2024)’에 참가해 ‘AI 모델 검증’ 솔루션을 소개했다.

이 업체의 주 타깃 층은 개발이 완료된 AI 모델에 대한 신뢰성을 보장받고자 하는 기업·기관이다. 공인성을 갖추기 위해 ‘국제표준화기구(ISO)’와 ‘한국인정기구(KOLAS)’에서 국제공인기관으로 인증도 받았다. 또, AI모델 테스트를 위한 매트릭스(Metric)를 자체적으로 개발했다.

검증 솔루션 영상 시연 화면.

한국인공지능검증원의 송영주 연구원은 “AI모델은 학습된 데이터가 가장 중요하다”라며 “전체적인 모델의 구성을 따지지만, 캐시 값 등을 통해 데이터가 AI모델에 실제로 포함돼있는지 등을 특히 살펴본다”라고 말했다.

이어, “데이터의 전반적인 품질테스트와 더불어, 제시된 성능 기준을 AI모델이 충족하는지 유사한 역할의 다른 모델과의 성능은 어떤지 분석하고 결과서를 제공한다”라며 “데이터가 AI 모델의 핵심이기 때문에, 외부 유출을 꺼리는 기업도 많아 직접 방문해 유출을 방지하고 신뢰성을 주고자 한다”라고 설명했다.

그는 이러한 AI 모델 검증에 대한 필요성을 묻자, “AI모델의 설득력을 갖추기 위함”이라며 “잠재적인 오류·문제 등을 식별하고 완화할 수도 있고, 테스트를 통해 성능향상의 방향성을 찾을 수도 있을 것”이라고 답했다.

한편, AI EXPO는 삼성동 코엑스(COEX) D홀에서 1일부터 3일까지 열렸다.