얀 르쿤 “AI 종말론은 공상과학…안전은 통제 가능한 공학 문제”

[산업일보]
“인공지능(AI) 통제 불능이나 종말론에 대한 우려는 기우에 불과하다. AI 안전은 터보제트 엔진을 안전하게 설계하는 것과 동일한 공학적 과제일 뿐이다.”


2018년 튜링상 수상자인 얀 르쿤 AMI 랩스 창업자 겸 회장이 AI 속도조절론을 정면 반박하며 차세대 AI 구조를 통한 안전 확보와 기술 혁신을 강조했다.

12일 서울 웨스틴 조선 서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 르쿤 회장은 금융권을 겨냥한 AI 기반 해킹과 사이버 보안 문제에 대해 공격자보다 방어자가 유리하다는 견해를 밝혔다.

그는 “방어자인 화이트 해커 진영은 공격자에 비해 더 많은 인력과 자본을 갖추고 있으며, 열린 공간에서 서로 지식을 공유한다”며 “반면 사이버 범죄자들은 은밀하게 움직여야 하므로 지식 공유와 자원 확보 측면에서 근본적인 한계를 지닌다”고 설명했다.

르쿤 회장은 매일 8만 번 이상의 사이버 공격을 받는 은행의 사례를 들며 지식과 자원을 공유하는 방어 진영이 공격자보다 유리하다고 진단했다.

AI가 인간 통제를 벗어날 수 있다는 우려에 대해서는 현재의 대형언어모델(LLM) 구조와 차세대 AI를 명확히 구분했다.

특히 AI 종말론과 관련해 “어디선가 누군가 인간 수준의 지능에 대한 비밀을 홀로 발견하고, 갑자기 로봇이 세상을 장악하게 될 것이라는 시나리오는 공상과학(SF)이 퍼뜨린 환상에 불과하다”고 비판했다.

이어 “현실 세계의 기술 혁신은 전 세계 여러 곳에서 거의 동시에 발생하며 서로 재현 가능하므로, 특정 세력이 단숨에 기술 패권을 쥐고 세상을 지배하는 일은 일어날 수 없다”고 단언했다. “기술의 발전은 수많은 연구진의 혁신과 돌파구가 누적된 결과물로 점진적이고 연속적인 진화 과정”이라는 것이다.

르쿤 회장은 “현재의 언어모델만으로는 현실 세계를 이해하고 행동의 결과를 예측하는 데 한계가 있다”며 “단순히 수많은 질문과 답변을 미세 조정(파인 튜닝)하는 방식만으로는 모든 변수를 제어할 수 없다”고 지적했다.

그 대안으로 로봇이 새로운 상황에서도 안정적으로 작업하려면 세계를 이해하고 행동 결과를 예측해 계획을 세우는 ‘월드 모델(World Model)’ 기반의 구조가 필요하다고 부연했다. 수십억 시간의 인간 운전 데이터를 학습하고도 자율주행 기술이 완성되지 못한 것이 단순 모방 학습의 단적인 한계라는 설명이다.

터보제트 엔진의 진화를 예로 든 르쿤 회장은 “이론적으로는 폭발할 위험이 있는 제트 엔진을 공학자들이 무수한 안전장치를 통해 대륙 간 비행이 가능한 신뢰성 있는 기계로 만들었듯, AI 안전 역시 가드레일을 시스템 내에 구축하는 공학적 방법론으로 접근해야 한다”고 덧붙였다.

르쿤 회장은 이러한 월드 모델 기반 AI가 점차 인터넷이나 모바일 통신망처럼 누구나 접근할 수 있는 개방형 인프라로 자리 잡을 것으로 전망했다. 기반 모델은 오픈소스로 공유되고, 그 위에 기업이나 국가가 독자적인 시스템을 구축하는 방식이 표준이 될 것으로 내다봤다.

고도화된 제조 인프라를 지닌 한국을 향한 정책적 제언도 이어졌다. 르쿤 회장은 “한국은 우수한 고등 교육 체계와 과학·공학 인재를 두루 갖추고 있다”며 “지속적인 기초연구 투자 확대와 글로벌 우수 인재 유치 정책을 펼치면 다가오는 산업 AI 시대의 주도권을 쥘 수 있다”고 평가했다.