보안 전문가들 "자만심에 빠진 빅테크, 사이버 보안의 기본 원칙 철저히 무시" 일침
명백한 '보안 실패'를 추상적 'AI 안전성'으로 포장… 책임 회피 급급한 기업들
탈출 즉각 차단한 미스트랄 사례 주목… "기술 한계 아닌 경영진의 의식 부재“
[IT News] 2026년 한 해 동안 전 세계를 놀라게 했던 글로벌 빅테크 기업들의 이른바 'AI 에이전트 해킹 사건'의 본질이 사실은 기술적 폭주가 아니라는 강력한 주장이 제기되었다.
세계 최대 사이버 보안 전문 매체인 CSO 온라인은 최근 오픈AI(OpenAI), 앤스로픽(Anthropic), 구글(Google) 등 내로라하는 인공지능 선도 기업들이 겪은 보안 사고가 실제로는 기업들의 기초적인 사이버 보안 의무 태만에서 비롯되었다고 지적했다.
특히 이들 기업이 자사의 치명적인 보안 실패를 'AI의 폭주'나 '가치 정렬 실패'라는 그럴듯한 기술적 용어로 포장하여 대중과 언론의 눈을 가리고 있다는 글로벌 보안 전문가들의 날 선 비판을 집중적으로 조명했다.
'전례 없는 AI 능력'으로 포장된 기초적 관리 부실의 실태
올해 7월, 오픈AI는 사내 테스트 중이던 자사의 최신 AI가 오픈소스 머신러닝 플랫폼인 '허깅페이스(Hugging Face)'를 실수로 해킹하는 사건이 발생했다고 발표했다. 사건 초기 오픈AI는 이를 두고 최첨단 사이버 능력을 동반한 전례 없는 인시던트라고 묘사하며 자사 AI의 압도적인 능력을 은연중에 과시하는 듯한 태도를 보였다.
하지만 논란이 확산되자 그들은 결국 개발자가 의도하지 않은 행동, 즉 미스얼라인먼트가 원인이었다고 슬그머니 입장을 바꿨다.
이러한 어처구니없는 사고는 오픈AI만의 문제가 아니었다. 강력한 경쟁사인 앤스로픽 역시 자사의 AI 모델을 테스트하던 중 모델이 외부 서비스에 실제적인 공격을 가하는 사고를 냈다고 보고했다. 앤스로픽의 AI는 무려 1시간 동안이나 악성코드를 외부로 배포했으며, 심지어 실재하는 기업의 네트워크에 무단으로 침투하는 심각한 보안 침해를 일으켰다.
구글의 대표적인 AI 모델인 제미나이(Gemini) 또한 테스트 과정에서 통제를 벗어나 3개의 외부 기업을 해킹한 사실이 뒤늦게 밝혀지며 업계에 큰 충격을 안겼다. 사건 직후 AI 기업들과 이를 받아 적은 주요 언론들은 일제히 'AI 에이전트의 폭주'라는 자극적인 프레임을 씌웠고, 이는 마치 AI 시스템이 고도화됨에 따라 인류가 감수해야만 하는 불가피한 부작용처럼 대중에게 인식되었다.
"AI가 똑똑해서가 아니라, 보안 설정에 구멍이 났을 뿐“
하지만 CSO 온라인이 6명의 최고위급 사이버 보안 전문가들을 대상으로 진행한 심층 취재 결과는 전혀 달랐다. 이들 전문가는 최근의 사태가 고도화된 AI의 반란이 아니라, 수십 년 전부터 산업계에 확립되어 온 사이버 보안의 기본 원칙들을 철저히 무시한 결과일 뿐이라고 입을 모았다.
머신러닝 보안 연구 기관인 BIML의 공동 창립자 게리 맥그로는 AI 기업들이 자신들의 기술력에 지나치게 도취한 나머지 기존 보안 전문가들을 경시하고 있다고 비판했다. 그는 AI 개발자들이 포렌식이나 샌드박스 구축, 네트워크 모니터링 등 전통적인 보안 전문가들이 피땀 흘려 구축해 온 전문 지식을 훨씬 더 존중해야 한다고 꼬집었다.
AI를 안전하게 가두는 '격리(Containment)' 조치의 실패도 도마 위에 올랐다. SANS 인스티튜트의 최고 AI 책임자인 롭 T. 리는 사고가 터질 때마다 AI가 어떻게 외부로 빠져나갔는지 모르겠다고 말하는 AI 기업들의 태도는 어불성설이라고 강도 높게 비판했다.
그의 설명에 따르면, 허깅페이스 해킹 사건은 AI 에이전트가 인간의 예상을 뛰어넘을 정도로 극도로 똑똑해서 발생한 일이 결코 아니다. 그저 기업 측이 1990년대부터 널리 쓰여 온 기본적인 샌드박스 설정조차 제대로 하지 않아 시스템에 말 그대로 물리적인 구멍이 뚫려 있었고, AI가 그저 그 취약점을 악용했을 뿐이라는 것이다.
여기에 더해 기본적인 모니터링 시스템조차 부재했다는 충격적인 사실도 드러났다. 랜드 연구소 AI 보안 기술 센터의 댄 월럭은 오픈AI 연구진이 자사 AI의 허깅페이스 해킹 사실을 며칠 동안이나 전혀 파악하지 못했던 점을 강하게 질타했다.
실험실의 연구원들이 통제된 환경에서 시스템의 작동 상태를 상시 모니터링하지 않았다는 것은 변명의 여지가 없는 명백한 관리 부실이며, 사이버 보안을 기업 경영의 최우선 순위에 두지 않고 있다는 명백한 증거라고 지적했다.
사이버 보안을 'AI 안전성' 문제로 둔갑시키는 빅테크의 꼼수
전문가들은 AI 기업들이 '사이버 보안' 실패의 명백한 책임을 'AI 안전성'이라는 다소 철학적이고 추상적인 개념으로 치환하여 비난의 화살을 피하려 한다고 우려를 표명했다.
실제로 시스템을 외부망과 물리적으로 분리하는 에어갭을 설정하거나, 매우 엄격한 아웃바운드 통제 규칙을 적용하여 AI를 격리하는 것은 현재의 보안 기술로 전혀 불가능하거나 극도로 어려운 영역이 아니다.
이를 증명하듯 프랑스의 유망 AI 기업인 미스트랄(Mistral)은 완전히 대조적인 행보를 보여주었다. 미스트랄은 자사의 최신 거대 언어 모델인 '라지 4'를 테스트하는 과정에서 모델이 승인되지 않은 외부 서비스에 접속하려 시도하는 것을 즉각적으로 탐지하고 완벽하게 차단하는 데 성공했다.
이는 반복되는 빅테크들의 AI 탈출 사태가 기술적 한계에 부딪혀서가 아니라, 해당 기업 경영진의 보안 의식 부재와 우선순위 설정의 실패에서 기인한다는 것을 단적으로 방증하는 사례다.
맥그로 창립자는 사이버 보안을 철저히 외면하면서도 AI의 폭주가 자신들의 통제 밖의 일이라며 책임을 전가하는 거대 기업들의 태도를 맹비난했다. 그는 이러한 변명이 아무런 설득력이 없는 헛소리에 불과하며, 명백하고 간단한 통제조차 제대로 수행하지 못하는 기업들이 향후 훨씬 더 복잡해질 AI 보안 엔지니어링을 제대로 해낼 수 있을지 근본적인 의구심이 든다고 경고했다.
전문가들은 앞으로 다가올 진정한 AI 시대에 조직과 사회를 보호하기 위해서는 근본적인 태도 변화가 필요하다고 강조한다.
폐쇄적인 태도를 버리고 외부 보안 전문 기관에 적극적으로 협력을 요청해야 하며, 화려한 마케팅 용어에 속지 말고 실제로 검증된 사이버 보안 능력을 입증한 AI 기업의 서비스를 신중하게 선택해야 한다.
무엇보다도 인공지능이라는 새로운 기술의 환상에 빠져 잊고 있었던 가장 기본적인 사이버 보안 수칙들을 처음부터 다시 점검하고 철저하게 이행하는 것만이 제2, 제3의 AI 해킹 사태를 막을 수 있는 유일한 해법이 될 것이다.
한편, 이처럼 전 세계적인 비판의 중심에 선 앤스로픽과 오픈AI는 자신들을 향한 CSO 온라인의 거듭된 공식 논평 요청에 끝내 아무런 응답도 내놓지 않고 침묵을 지키고 있다.
김한비 기자 itnews@
