AI 보안, ‘코드 검사’에서 ‘행동 감시’로…쿤텍, AX 시대 대응 전략 제시

[산업일보]
쿤텍이 인공지능(AI) 모델의 도입부터 에이전트 실행, 데이터 활용까지 단계별로 관리하는 보안 전략을 내놨다. 기업의 AI 전환(AX) 과정에서 발생할 수 있는 취약점과 오작동, 정보 유출에 대응한다는 구상이다.

쿤텍은 27일 서울 양재동 엘타워에서 기자간담회를 열고 소프트웨어 공급망 관리 솔루션 ‘이지즈(AEZIZ)’, AI 에이전트 행동 통제 솔루션 ‘애쉬(ASH)’, 민감정보 활용 솔루션 ‘넥사(NEXA)’를 연계하는 방안을 공개했다.

방혁준 쿤텍 대표는 “AI 에이전트는 정상 권한과 API를 사용하기 때문에 기존 보안 체계로는 공격을 탐지하기 어렵다”며 “보안의 중심이 코드 검사에서 행동 감시로 옮겨가고 있다”고 설명했다.

이지즈는 소프트웨어 구성요소와 취약점을 관리하는 소프트웨어 자재 명세서(SBOM)의 범위를 AI 모델 자재 명세서(AI-BOM)까지 넓혔다. AI 모델의 출처와 라이선스, 취약점을 파악하고 에이전트가 사용하는 외부 도구와 파일 접근 권한도 점검한다.

방 대표는 외부 모델과 실행 파일을 내려받아 개발에 활용하는 사례를 들며 “기존 보안 검사를 통과하더라도 AI 소프트웨어의 취약성까지 평가하기는 어렵다”고 지적했다. 쿤텍은 이를 위한 에이전트 자산 점검 도구 개발을 마쳤다.


애쉬가 에이전트의 행동을 감시하고 실행을 통제한다. ‘런워치’가 에이전트의 판단과 행동을 실시간으로 살피면, ‘엔드포스’는 보안 정책에 따라 실행을 허용하거나 사람의 승인을 요청하고 위험한 작업을 차단한다. 실행 기록은 별도로 관리해 사고 원인 분석에 활용한다.

방 대표는 “데이터베이스를 삭제하는 위험한 명령은 사람의 승인을 받도록 설정할 수 있다”고 말했다. 다만 AI 모델 내부의 판단 과정을 직접 해석하는 것은 아니며, 입력·출력과 도구 호출을 분석해 행동을 통제하는 방식이다.

넥사는 원본 데이터를 외부에 제공하지 않고도 분석에 활용할 수 있도록 설계됐다. 데이터와 알고리즘을 격리된 환경에서 처리하는 신뢰실행환경(TEE)을 기반으로 사전에 허용한 연산만 수행하고 결과를 전달한다.

방 대표는 “데이터를 전달하지 않고 쓸 수 있도록 하는 것”이라며 다른 기관이 보유한 영상에서 특정 인물의 존재 여부만 확인하는 사례를 소개했다.

솔루션의 본격 사업화와 관련해서는 “단계적으로 추진할 예정”이라고 말했다. 방 대표는 “금융권에서 AI-BOM을 도입한 사례가 있지만 에이전트 실행 통제 시장은 아직 준비 단계”라며 수요가 내년부터 늘어날 것으로 내다봤다. 방어 정책을 스스로 학습·적용하는 기능도 개발해 내년 상반기 제품에 반영할 예정이다.

쿤텍은 앞으로 AI 자산의 가시화와 위협 탐지·대응에 걸리는 시간을 줄이는 데 주력할 방침이다.