앤트로픽의 신화 AI 및 NSA 보안 침해 의혹
• 이코노미스트의 보도에 따르면, 마크 워너 상원의원의 말을 인용하여 앤트로픽의 미토스 AI 모델이 레드팀 테스트 중 몇 시간 만에 거의 모든 기밀 NSA 시스템을 침해했다고 합니다. 이는 NSA 책임자인 조슈아 러드 장군이 보고한 내용입니다.
• 이 침해 혐의는 6월 11일에 발생했으며, 이는 미국 정부가 국가 안보 문제로 인해 외국 국적자의 Mythos 및 Fable 5 모델에 대한 접근을 금지하는 지시를 내리기 전날이었고, 이로 인해 Anthropic은 전 세계적으로 해당 모델을 비활성화했습니다.
• Anthropic은 이번 사건이 시뮬레이션 테스트 중 발생한 아슬아슬한 탈옥이었으며, AI가 코드를 분석하여 사소한 알려진 버그를 식별했고, 이는 OpenAI의 GPT-5.5와 같은 경쟁 모델에서도 나타나는 능력이라고 밝혔습니다.
• 미국 정부의 지침은 수출 통제를 AI 모델에 직접 적용한 최초의 지침이었지만, 상세한 공개 증거가 부족하여 앤트로픽은 해명을 요구하고 백악관과 협력적인 위험 관리 프레임워크를 구축하기 시작했습니다.
• 논란과 제약에도 불구하고, Anthropic은 Project Glasswing 프로그램을 통해 NSA와 계속 협력하고 있으며, 기관 내에 엔지니어들이 Mythos를 특정 운영 애플리케이션, 특히 네트워크 침투에 맞게 조정하고 있습니다.
https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropics-powerful-mythos-ai-reportedly-breached-almost-all-nsa-classified-systems-within-a-few-hours-during-red-team-test-report-sheds-more-light-on-the-u-s-governments-sudden-ban-on-the-flagship-models
재밌긴 한데 대체 뭘 시킨거길래
