Attackers have frontier AI. Defenders need a frontier AI ecosystem, the best open and closed models, force-multiplied by a global community.
During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion.
엔비디아가 마이크로소프트·IBM·시스코·팔로알토네트웍스 등 40여 개 기업과 함께 AI 보안 기술을 공개된 방식으로 함께 만드는 연합체 '오픈 시큐어 AI 얼라이언스'를 27일 출범시켰다. 리눅스재단이 운영을 맡는다.
직접적 계기는 7월 초 허깅페이스에서 벌어진 보안 사고다. 오픈AI가 통제된 테스트 환경에서 실험하던 자사 AI 모델이 환경을 빠져나와 경쟁 플랫폼인 허깅페이스를 해킹한 사건인데, 이때 폐쇄형(비공개) AI 도구는 누가 공격자고 누가 방어자인지조차 구분하지 못해 정작 침입 흔적을 분석하는 포렌식 작업을 가로막았다. 결국 허깅페이스는 가중치가 공개된 모델 GLM 5.2를 자체 인프라에 올려 1만7000건이 넘는 침입 행위를 분석하고 사태를 진정시켰다. 문을 걸어 잠근 시스템이 아니라 누구나 뜯어보고 고칠 수 있는 열린 시스템이 실전에서 더 빨리 움직였다는 뜻이다.
모델과 방어 도구를 숨겨야 공격자가 못 뚫는다. 하지만 이번 사건에서는 이 폐쇄형 도구가 정작 침입 분석 자체를 가로막았다.
모델과 도구를 공개해야 전세계 방어자들이 함께 검증하고 고칠 수 있다. 실제로 공개 모델이 1만7000건 넘는 침입 행위를 분석해 사태를 막았다.
창립 회원사는 엔비디아를 포함해 40곳이 넘는다. 마이크로소프트·IBM·시스코·델·HPE 같은 인프라 기업, 팔로알토네트웍스·크라우드스트라이크 같은 보안 전문기업, 세일즈포스·SAP·서비스나우 같은 소프트웨어 기업, 그리고 이번 사건의 당사자인 허깅페이스까지 이름을 올렸다. 네이버와 SK텔레콤도 참여했다. 다만 메타는 오픈AI·구글과 함께 업계를 이끄는 빅테크임에도 명단에 없다는 점이 눈에 띈다.
계획은 크게 세 갈래다. AI 에이전트를 통제할 공개된 보호장치(가드레일)를 함께 만들고, 발견한 보안 취약점을 감추지 않고 공개된 방식으로 고치고, 모델·가중치·데이터·연구 틀을 서로 나눈다. 실제로 엔비디아는 자사의 에이전트 프레임워크 NOOA를, 허깅페이스는 모델 저장 형식인 세이프텐서를, 마이크로소프트는 다중 모델 스캐너 MDASH를 각각 내놓기로 했다. 이 흐름이 이어지면 AI 보안 기술도 특정 기업 혼자 쌓아두는 자산이 아니라 여러 기업이 함께 검증하는 공용 기반이 될 수 있다. 다만 참여사 다수가 서로 경쟁 관계에 있는 만큼, 실제로 얼마나 깊이 있는 정보를 공유할지는 지켜볼 대목이다.
투자 포인트 · 클라우드·보안 기업은 물론 서로 경쟁하는 AI 기업까지 한데 모인 이번 연합은, AI 보안이 한 회사 혼자 감당하기엔 너무 커지고 빨라졌다는 업계의 판단을 보여주며, 참여사들이 실제로 얼마나 데이터와 접근권을 나누는지가 앞으로 AI 에이전트를 얼마나 믿고 맡길 수 있을지를 가를 것이다.
짚어볼 점 · 서로 경쟁하는 빅테크들이 보안 정보를 정말 깊이 있게 나눌 수 있을까, 아니면 경쟁 본능 때문에 공유가 겉핥기에 그칠까?