“프롬프트 인젝션부터 섀도우 AI까지 방어”… 포티넷, 차세대 AI 보안 아키텍처 제시

[산업일보]
기업 내 생성형 인공지능(AI) 사용이 늘면서 보안도 접속 차단에서 사용 현황과 데이터 이동 통제로 확대되고 있다. 포티넷은 20일 ‘2026 SASE 서밋 코리아’를 온라인 개최하고 비인가 AI 사용과 민감정보 유출에 대응하는 보안 솔루션, 데이터 주권 확보 방안을 소개했다.

이날 김재호 포티넷코리아 부장은 통합 SASE를 활용해 기업 내 생성형 AI 사용을 통제하는 과정을 시연했다. 첫 번째 시연에서는 회사가 승인하지 않은 AI 애플리케이션과 허용된 애플리케이션을 구분하고, 사용자의 프롬프트와 접속 기록을 확인하는 절차를 보여줬다.

시연 환경에서 사용자는 회사가 승인하지 않은 AI 서비스인 딥시크에 접속하고 있었다. 관리자는 포티SASE를 통해 사용 중인 애플리케이션과 사용자 정보, 프롬프트 내용을 확인한 뒤 허용할 서비스를 제미나이로 제한했다. 정책 적용 후 딥시크 접속은 차단되고 제미나이 이용은 허용됐다.

데이터 유출 방지(DLP) 정책을 활용한 통제도 시연했다. 관리자가 개발 관련 키워드를 포함한 정책을 설정하자 해당 키워드가 들어간 프롬프트가 차단됐다. 회사 계정으로만 AI 서비스에 접속하도록 하는 테넌트 제어도 적용했다. AI 애플리케이션 접근과 민감정보 입력, 계정 사용을 각각 기업 정책에 따라 관리하는 방식이다.

두 번째 시연은 프롬프트의 문맥과 의미를 분석하는 AI 보안에 초점을 맞췄다. 김 부장은 사내 데이터센터에서 운영하는 대규모언어모델(LLM)에 포티SASE와 포티 AI 게이트를 연동한 환경을 소개했다. 사용자의 요청을 AI 모델에 전달하기 전에 검사해 민감정보 유출이나 유해한 요청, 프롬프트 인젝션으로 판단되는 시도를 통제하는 구조다.

시연에서는 민감정보가 포함된 요청의 일부 정보를 마스킹하고, 유해한 요청과 AI 모델을 속여 내부 정보를 끌어내려는 프롬프트 인젝션 시도를 차단했다. 사용자 입력과 위반 유형, 처리 결과는 관련 로그를 통해 확인할 수 있도록 했다. 다만 김 부장은 시연에 사용된 일부 기능이 베타 버전으로, 정식 출시 시 구현 내용이 달라질 수 있다고 설명했다.


데이터 처리 위치에 대한 통제는 포티SASE 소버린으로 이어졌다. 이창운 포티넷코리아 상무는 “고객들은 여전히 SASE 도입을 원하지만 데이터 주권과 진화하는 컴플라이언스 요건에 따라 더 높은 수준의 통제력을 요구하고 있다”고 말했다. 데이터가 어디에서 처리·검사·저장되는지 통제하고 민감정보가 승인된 관할권 안에 머물도록 하려는 요구가 커지고 있다는 설명이다.

포티넷이 제시한 포티SASE 소버린 구조에서는 고객이 통제하는 인프라에 포티게이트를 배치해 보안 검사를 수행하고, 포티 애널라이저로 지역별 로그를 관리할 수 있다. 트래픽 검사 지점과 로그 보관 위치 등을 조직의 요구에 맞게 구성하는 방식이다. 고객 조직이 자체 사용자를 위해 운영하는 단일 테넌트 모델과 서비스 제공업체가 여러 고객에게 서비스를 제공하는 멀티테넌트 모델도 소개됐다.

AI 보안에 대한 기업 고객의 요구가 단순한 접속 제어를 넘어 위험 관리와 정책 수립으로 확대되고 있다는 현장 의견도 나왔다. 마이크 스트라우베(Maik Straube) DATA HAUS 공동설립자는 교육 분야 고객과의 상담 과정에서 AI 도입을 둘러싼 불확실성이 커지면서 보안 논의가 기술 문제에서 조직 정책과 사용자 보호 문제로 확대되고 있다고 설명했다.

그는 “고객과의 논의는 AI를 차단하자는 데서 안전하게 활용할 방법을 찾자는 방향으로 바뀌고 있다”고 말했다. AI 거버넌스의 관리 대상으로는 사용자 신원과 애플리케이션, 데이터, 접근 권한을 제시했다. 정책을 네트워크 위치에만 묶어두기보다 사용자의 신원과 접근 권한에 따라 적용해야 한다는 취지다.

로버트 쇼트(Robert Short) LIQUIDNETWORX 부사장도 AI 도구를 일괄 차단하는 방식에는 한계가 있다고 짚었다. 그는 “모든 도구를 차단할 수는 없다”며 기업이 내부에서 어떤 AI 도구를 사용하는지 파악하고 기록할 수 있어야 한다고 말했다.