안전한 생성형 AI 사용, 민감 정보 입력 말고 결과 검증 이뤄져야

[산업일보]
“생성형 인공지능(AI)을 ‘허풍쟁이 친구’라고 생각하고 사용해야 한다”

생성형 AI 보안 전문기업 ‘이로운앤컴퍼니’의 윤두식 대표가 ‘국제 정보보호 컨퍼런스(ICIS) 2024’에서 이같이 말했다.

이 컨퍼런스에서 ‘생성형 AI의 확산과 보안 방법’을 주제로 강연을 진행한 윤 대표는, “OpenAI의 ChatGPT 출시 이후 생성형 AI(인공지능) 서비스를 제공하는 스타트업이 올해 1월 6만 7천 200여 개에 달한다”라며 “AI가 로봇과 결합해, 이제는 로봇이 사물을 스스로 인지하고 어떤 동작을 수행할지 판단하는 시대가 됐다”라고 동향을 살폈다.

이어 AI 기반 딥페이크 기술로 라이브 방송을 진행한 사례를 소개하며 “학계에서 딥페이크와 관련된 여러 기술을 연구하고 있지만, 악용 사례를 쫓아가는 것이 어려운 과제”라고 했다.

그는 “기업들은 생성형 AI를 도입하고 싶어 하지만, 보안 우려나 부정확성, 지적재산권 침해 등의 문제로 ‘지금 당장 써야 하나’라는 의문도 가지고 있다”라며 “올해 1월부터 6월까지 26건의 AI 사고가 발생했다”라고 언급했다.

지난 5월 미국 국무부 대변인의 딥페이크 영상이 등장했고, ‘메타(Meta)의 챗봇은 가짜정보를 제공했다. 재향군인 자금 지원에 활용되는 AI는 남성 군인을 선호하는 편향성을 보이기도 했다.

ChatGPT는 호주의 한 시장이 마약을 뇌물로 받았다는 답변을 제공했는데, 오히려 뇌물을 신고한 당사자였다.

윤두식 대표는 “생성형 AI는 정확한 정보를 찾아주는 것이 아니고 말을 만들어주기 때문에 이런 사고들이 자주 발생하는 것”이라고 풀이했다.

이와 함께 저작권 침해, 가짜뉴스·이미지 생성, 아동 성학대 사진 생성, 기밀 데이터 유출 등과 같은 실제 사례를 소개했다.

더불어, “LLM(거대언어모델) 서비스 업체 입장에서 이런 보안 이슈를 해결하는 데는 많은 방법이 있을 것”이라며 ▲Data Isolation ▲Instructional Prevention ▲Lstest Defense ▲PARDEN ▲LLM Unlearning 등의 방안을 설명했다.

그는 “이러한 방법들을 통합한 LLM 보안 솔루션이 출시되고는 있으나, 한국의 경우 생성형 AI를 도입한 기업이 아직은 적기 때문에 보안 솔루션에 대한 정책이 아직 제대로 세워지지 않았다”라며 “우리나라에서도 보안 솔루션과 기술이 보급돼, 함께 연구하는 방향으로 나아가길 바란다”라고 전했다.

윤두식 대표는 조직 내 생성형 AI 사용 시 고려 사항에 대해서도 조언했다. 조직이 AI를 사용하기 위한 요구 사항은 무엇이며, 어디까지 영향을 미치고 적용 가능할지 따져보는 것이다. 또한 서비스 제공 업체의 정책은 수용 가능한지, 생성형 AI 도입을 위한 조직 체계는 구축됐는지 확인한다.

도입 이후에는 사용 방법과 관련 정책을 직원들에게 교육하고, 정책 위반으로 인한 AI 사고발생시 징계 조치 계획을 수립한다. 사내 기밀이나 독점 정보를 업로드 하는것이 불가능하다는 것도 알린다.

그는 “AI는 정답을 제공하는 것이 아니라, 말을 만들어내는 ‘허풍쟁이’라는 것을 기억하고 AI의 답변을 사용하기 전에 철저하게 검토하는 것도 필요하다”라고 강조했다.

윤두식 대표는 “여러분이 쓰시는 생성형 AI가 경쟁력을 향상하는 좋은 보조도구로서 역할을 다해주길 바란다”라고 밝혔다.

한편, ‘제13회 정보보호의 날’ 행사의 일환으로 열린 ‘국제 정보보호 컨퍼런스(ICIS) 2024’는 10일 서대문구 스위스 그랜드호텔 컨벤션홀에서 진행됐다.