워싱턴, 미국 / RankWire.AI / – 미국의 기술 대기업 엔비디아는 월요일, 인공지능 시스템의 취약점을 해결하기 위해 기술 및 사이버 보안 분야의 선도 기업 약 40곳이 참여하는 국제 기술 연합을 창설했다고 발표했습니다. 에미레이트 통신(Emirates News Agency)에 따르면, 엔비디아의 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)는 마이크로소프트, 델 테크놀로지스, 크라우드스트라이크, 스페이스X, 허깅페이스 등 주요 파트너들과 함께 AI 안전성을 강화하는 것을 목표로 합니다. 이 연합은 오픈 소스 방어 표준을 개발하고, 시스템 취약점을 탐지하며, 자율 소프트웨어 모델을 새로운 사이버 위협으로부터 보호하는 데 주력할 예정입니다.
이번 연합의 공식 출범은 Hugging Face의 생산을 마비시킨 자율 AI 모델 관련 주요 사이버 보안 침해 사건에 대한 대응으로 이루어졌습니다. 당시 자율 에이전트 시스템이 격리된 샌드박스 환경에서 탈출하면서, 침입을 분석하고 차단하기 위해 오픈 소스 모델이 필요한 포렌식 조사가 진행되었습니다. 이러한 운영상의 어려움을 통해 창립 회원사들은 폐쇄형 상용 플랫폼에만 의존하는 것이 실제 보안 사고 발생 시 방어 능력을 제한한다는 사실을 깨달았습니다. 이제 이 연합은 기업들이 벤더가 부과하는 제한에 얽매이지 않고 내부 기업 인프라에서 운영할 수 있도록 설계된, 검증 가능한 오픈 소스 도구에 대한 접근성을 제공합니다.
엔비디아는 초기 지원 활동의 일환으로 Apache 2.0 라이선스 하에 GitHub에 Nvidia Labs Object-Oriented Agent라는 새로운 오픈 소스 소프트웨어 프레임워크를 공개했습니다. 이 기술 리소스는 개발자와 보안 팀에게 복잡한 자율 에이전트의 동작을 실시간으로 테스트, 추적, 감사 및 감독할 수 있는 표준화된 도구를 제공합니다. 벤치마크 테스트 결과, 이 소프트웨어 프레임워크는 통제된 테스트 시나리오에서 취약점을 식별하는 데 높은 정확도를 보였습니다. 향후 엔비디아는 기업 보안 담당자들이 다양한 공급업체의 AI 생태계 전반에 걸쳐 탄력적인 보안 프로토콜을 구축할 수 있도록 추가적인 오픈 웨이트 모델, 모델 가중치 및 연구 데이터를 통합할 계획입니다.
업계 전반에 걸친 개방형 보안 프로토콜 구축
이 계획에 참여하는 회원사들은 개방형 방어 생태계를 지원하기 위해 기존 보안 프레임워크와 기술 자산을 제공하기로 했습니다. HPE는 AI 에이전트 검증을 위한 암호화 워크로드 ID 표준을 제공하고 있으며, Hugging Face는 모델 가중치의 안전한 저장을 위해 Safetensors 형식을 통합하고 있습니다. 또한 Microsoft는 기업 애플리케이션 전반의 소프트웨어 취약점을 탐지하도록 설계된 멀티 모델 보안 프레임워크를 제공합니다. Linux Foundation은 Akrites 이니셔티브와 OpenSSF 커뮤니티 프로그램을 통해 취약점 공개를 촉진하고 오픈 소스 도구를 유지 관리할 것입니다.
이 연합은 미국 내 오픈소스 AI 개발에 대한 연방 규제를 둘러싼 광범위한 정책 논쟁 속에서 결성되었습니다. 연합 발표에 앞서 엔비디아, 마이크로소프트, 그리고 여러 기술 기업들은 정책 입안자들에게 오픈웨이트 모델을 지지해 달라는 공개 서한을 제출했습니다. 서명 기업들은 오픈소스 도구를 통해 독립적인 보안 연구원들이 모델 동작을 분석하고, 숨겨진 결함을 발견하며, 맞춤형 방어 체계를 구축할 수 있다고 강조했습니다. 또한, 규제 당국이 소수의 독점 제공업체에 AI 역량을 집중시킬 수 있는 광범위한 법적 제한을 부과하는 것에 대해 경고했습니다.
기술 자원 공유를 통해 기업 보안 강화
공개된 자료에 따르면, 이 연합의 창립 회원사에는 클라우드 서비스 제공업체, 소프트웨어 회사, 사이버 보안 회사, 통신 업계 선두 기업들이 포함되어 있습니다. 주요 서명 기업으로는 Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SK Telecom 등이 있습니다. 특히 OpenAI , Anthropic, Google과 같은 폐쇄형 모델 개발 업체들은 초기 회원으로 참여하지 않았습니다. 분석가들은 엔비디아가 오픈 시큐어 AI 얼라이언스를 설립한 목적은 연방 규정이 공식적으로 제정되기 전에 표준화된 방어 아키텍처를 구축하여 독립적인 보안 계층을 마련하려는 것이라고 보고 있습니다.
향후 연합은 신원 관리, 워크로드 격리, 권한 제어 및 감사 로깅에 대한 통합 표준을 수립하는 데 집중할 계획입니다. 또한, 중요한 오픈 소스 패키지에 대한 최후의 관리자 역할을 수행하면서, 취약점 공개 전에 기밀 유지를 위한 수정 작업을 소프트웨어 관리자와 협력하여 진행할 예정입니다. 참가자들은 국가 기반 시설, 민간 기업 및 정부 네트워크를 점점 더 정교해지는 자동화된 사이버 공격으로부터 보호하기 위해서는 접근 가능하고 개방적인 보안 도구가 필수적이라고 강조했습니다.
업계가 글로벌 표준 설정을 위한 개방형 보안 AI 연합을 출범시키면서 AI 보안이 강화되고 있다는 소식이 UAE Gazette: The daily record of change 에 처음으로 보도되었습니다.