“AI 보편화 시대, ‘AI 경량화’ 필수적”

[산업일보]
다양한 산업에서 AI(인공지능)를 도입하며, ‘AI 보편화’가 이뤄지고 있다. 그러나, AI 사용이 늘어나는 만큼 데이터가 증가하고 AI 모델이 점점 더 복잡해짐에 따라 AI 경량화·최적화가 요구되고 있다.

‘SK AI Summit 2024(SK AI 서밋 2024)’에 참가한 ‘노타AI(NotaAI, 이하 노타)’는 이러한 흐름에 맞춰 AI 최적화 솔루션을 제공하고 있는 한국 AI 스타트업이다.

노타의 홍유신 팀장은 “현재 AI 모델 개발에는 안정성이 검증된 하드웨어로 3년 전에 출시된 반도체를 사용하고 있다”라며 “3년 전에 나온 AI 모델과 최신 모델의 성능 차이가 상당해, 개발에 사용하는 하드웨어와 AI 모델 간의 호환이 어려운 문제가 발생한다”라고 전했다.

이어, “노타는 최신 AI 모델을 구형 하드웨어로도 문제없이 사용할 수 있는 최적화 솔루션을 시장에 제공하고 있는 것”이라고 덧붙였다.

그는 솔루션을 통해 온디바이스(On-Device) AI와 서버·클라우드 AI 등의 효율성을 향상할 수 있다며 “AI 모델 최적화에는 가지치기, 지식증류 등의 다양한 기법이 있고, 노타는 기법 조합을 통해 AI를 경량화하면서도 성능은 유지 또는 향상하는 여러 방법을 보유하고 있다”라고 말했다.

그러면서 엔비디아(NVIDIA)를 비롯한 글로벌 반도체 회사나 LG, 카카오, 네이버 등 국내 AI 모델 개발 회사들의 투자를 받았다고 밝혔다.

홍 팀장은 “AI 모델 개발 인력을 보유하고 있는 기업에서 관심을 보이는 것은 AI 경량화 솔루션의 필요성이 커지고 있다는 의미”라며 “삼성전자의 갤럭시와 HBM(고대역폭메모리) 제조 기업에도 노타의 솔루션을 납품하고 있다”라고 해설했다.

한편, SK AI 서밋은 삼성동 코엑스(COEX) 그랜드볼룸과 아셈볼룸, 오디토리움 등에서 5일까지 열린다.