국내 스타트업 웨다가 기업용 검색증강생성(RAG) 파이프라인 운영을 자동화하는 솔루션을 제시해 생성형 AI 도입 장벽 해소에 착수했다. 인공지능이 잘못된 정보를 생성하는 환각 현상을 차단하고 인프라 관리 비용을 절감한다는 구상이다.
(上)‘RAG 파이프라인 운영 자동화 솔루션’ Vector Indexing ETL 대시보드 화면/ (下)그림2_‘RAG 파이프라인 운영 자동화 솔루션’ 데이터 수집 및 인덱싱 파이프라인 자동화 화면
웨다가 선보인 RAG 운영 자동화 기술은 내부 문서와 약관 및 비정형 데이터의 변경 사항을 실시간으로 감지해 벡터 인덱스에 자동 반영한다. 텍스트 청킹과 임베딩, 벡터 데이터베이스 적재 공정을 스케줄링 기반으로 자동 실행해 운영 효율을 높였다. 금융과 제조 산업처럼 데이터 최신성이 핵심인 현장에서 지식 베이스를 수동으로 관리해야 했던 부담을 덜어낸다는 설명이다.
웨다는 신규 도구를 노코드 AI 운영 플랫폼 그린웨일즈와 결합해 시너지를 낸다. 쿠버네티스 자원 모니터링과 모델 서빙 관제 및 멀티 에이전트 관리 기능을 한 화면에서 제어하도록 설계했다. 보안 요건과 온프레미스 환경 제약 같은 현장 과제를 해결하기 위한 기술 검증을 병행한다는 방침이다. 최치민 웨다 대표는 금융과 제조 분야 일부 고객사와 개념검증(PoC)을 마쳤으며 산업별 특화 에이전트 구축을 지원하겠다고 설명했다.