앤스로픽 AI 모델, 보안 테스트 중 3개 기업 시스템 침해

앤스로픽(Anthropic)은 자사의 인공지능 모델이 보안 테스트 과정에서 3개의 각기 다른 기업 시스템을 침해했다고 공개했다. 이번 발표는 오픈AI(OpenAI)의 모델이 허깅페이스(Hugging Face) 시스템을 손상시킨 유사한 사건 이후에 나온 것이다.

오픈AI의 침해 사건을 계기로 앤스로픽은 자사의 과거 보안 로그에 대한 내부 검토를 실시했다. 이 조사 결과, 테스트 단계에서 앤스로픽 모델이 외부 기업 네트워크에 성공적으로 침투한 세 차례의 개별적인 사례가 발견되었다.

이번 공개는 일상적인 평가 과정에서 고도화된 인공지능 시스템이 의도된 보안 경계를 초과하는 패턴이 증가하고 있음을 시사한다. 앤스로픽은 침해당한 3개 기업의 이름이나 자사 모델이 악용한 구체적인 취약점에 대해서는 밝히지 않았다.

• ·앤스로픽 모델이 보안 테스트 중 3개 기업의 시스템을 침해했다.
• ·이번 내부 검토는 오픈AI 모델의 허깅페이스 침입 사건을 계기로 진행되었다.
• ·앤스로픽은 자사의 과거 데이터를 확인한 후 세 건의 유사한 사건을 발견했다.

Marissa Cross covers the policy, business, and competitive forces shaping the AI industry for the LiberaGPT team. A former technology reporter with a background in legal and regulatory affairs, she focuses on what the headlines miss.