통제 벗어난 ‘섀도우 AI’ 막는다…오픈네트웍시스템, 기업용 AI 거버넌스 제시

[산업일보]
기업의 AI 도입이 가속화하면서 직원들이 회사의 통제를 벗어난 비공식 경로로 생성형 AI를 업무에 사용하는 ‘섀도우 AI(Shadow AI)’ 문제가 주요 현안으로 떠올랐다. 내부 데이터 유출 우려와 함께 사내에 구축된 AI 에이전트를 중앙에서 통제할 거버넌스 체계 마련이 산업계의 과제가 됐다.

오픈네트웍시스템은 19일 서울 삼성동 코엑스에서 개막한 ‘AI 서밋 서울 & 엑스포 2026(AISE)’에서 오픈소스 AI 플랫폼 ‘디파이(Dify)’와 거버넌스 솔루션 ‘AX 파운드리(AX Foundry)’를 시연했다.


‘디파이’는 코딩 지식 없이 시각적인 노드 연결로 AI 워크플로우를 설계하는 플랫폼이다. RAG(검색증강생성) 기술로 사내 취업규칙 등 지식을 학습하고, API(응용프로그램 인터페이스)를 통해 사내 ERP(전사적자원관리)나 그룹웨어와 연동한다.

직원이 챗봇에 ‘결혼 휴가가 며칠인가’라고 물으면 사내 규정을 바탕으로 잔여 연차와 휴가 일수를 알려주고, 지시에 따라 그룹웨어에 기안을 자동 상신하는 방식이다.


업무 적용 시 발생할 수 있는 오류 방지를 위해 ‘휴먼 인 더 루프(HITL, Human-in-the-loop)’의 기능을 지원한다. 박 매니저는 “AI가 결재 기안을 올리기 전, 사람이 내용을 최종 확인하고 승인할 수 있도록 중간 개입 단계를 뒀다”고 설명했다.

AI 에이전트 수가 늘어날 때 발생하는 운영 및 보안 문제는 ‘AX 파운드리’를 통해 제어한다. 박 매니저는 “AI 에이전트가 늘어날수록 어떤 식으로 관리할지가 가장 큰 고민이 된다”며 “AI 거버넌스의 핵심은 섀도우 AI를 통제하고 사내로 안전하게 흡수시키는 것”이라고 말했다.

AX 파운드리는 등록, 정책, 승인, 감사 등 네 가지 축을 중심으로 작동한다. 누가 에이전트를 만들었는지 식별하고, AI가 접근할 수 있는 데이터와 도구의 권한 범위를 통제한다. 또 토큰 사용량, 거대언어모델(LLM) 호출 내역 등을 실시간 모니터링해 감사 로그로 남긴다.

박 매니저는 “사용자가 주민등록번호 등 민감 정보를 질문에 포함할 경우 가드레일을 통해 답변을 차단하고 이를 로그로 남겨 안전한 운영을 돕는다”고 덧붙였다.

솔루션은 퍼블릭 클라우드는 물론, 금융권 등 보안이 엄격한 온프레미스 폐쇄망 환경에서도 동일한 거버넌스 체계를 지원한다.