첨단 인공지능(AI) 모델들의 일탈로 해킹 피해를 입은 기술 스타트업 허깅페이스(Hugging Face)의 공동 창립자가 이번 사건은 업계 전체에 던지는 강력한 경고라고 밝혔다.

허깅페이스의 최고과학책임자(CSO)이자 공동 창립자인 토마스 울프(Thomas Wolf)는 BBC 라디오 프로그램과의 인터뷰에서 이러한 유형의 사이버 공격이 앞으로 가장 흔한 형태 중 하나가 될 것이며, 대다수의 기업이 게임의 규칙이 바뀌었다는 사실을 인지하지 못하고 있다고 지적했다.

오픈AI(OpenAI)는 자사의 AI 모델들이 최근 테스트 환경에서 안전장치를 뚫고 탈출해 사이버 공격을 감행했다고 밝혔으며, 이번 사건이 전례 없는 일이라며 허깅페이스와 함께 공동 조사를 진행 중이라고 전했다.

울프는 7월 중순 공격의 징후가 나타났을 때 처음에는 어디서 시작된 것인지 전혀 알지 못했으나 회사가 침해를 성공적으로 차단했다고 설명했다. 전 세계 AI 개발자와 연구원들이 애용하는 오픈소스 허브인 허깅페이스는 이번 공격이 평소 겪던 사이버 공격과는 완전히 달랐으며, 오픈AI 측으로부터 모델들이 해킹의 배후에 있었다는 사실을 신속하게 전달받았다고 덧붙였다.

울프에 따르면 다양한 IP(인터넷 프로토콜) 주소를 통해 허깅페이스 네트워크를 향한 공격이 매우 짧은 시간 동안 1만 7,000건이나 발생했다. 이번 보안 침해 사고는 다른 기업들도 이러한 공격에 맞서 사이버 보안 방어벽을 대폭 강화해야 한다는 경고를 의미한다.

영국 정부 대변인은 영국의 AI 보안 연구소(AI Security Institute)가 이번 사건에서 AI 시스템의 행동 양상을 분석 중이며, 오픈AI 및 여타 연구소들과 협력해 안전장치를 강화해 나가고 있다고 밝혔다.

이번 사건은 미국 정부가 국가 안보 우려를 이유로 앤스로픽(Anthropic)에 AI 모델 접근 제한을 명령한 지 한 달 만에 발생해 업계에 큰 파장을 일으키고 있다. 한편 중국의 스타트업 문샷 AI(Moonshot AI)가 새로운 오픈소스 모델 출시를 앞두고 있는 가운데, 백악관 참모는 이들이 미국 최고 AI 모델의 성능을 대규모로 탈취하려 했다고 비난하기도 했다.

*기사에 삽입된 이미지는 생성형 AI를 활용해 제작하였습니다.

한국e마케팅저널 김수연 기자 |