AI 기업 Anthropic과 OpenAI는 자율적인 AI 기반 사이버 공격이 이제 불가피해 보인다고 미국 의회에 경고하고 있으며, 수요일 하원 국토안보위원회에서 고급 모델들이 얼마나 빠르게 정교한 해킹 능력을 획득하고 있는지에 대해 임원들이 증언했습니다.

https://www.axios.com/2025/12/16/ai-models-hacking-stanford-openai-warnings


Stanford 연구원들은 ARTEMIS라는 AI 에이전트로 이러한 위협을 입증했는데, 이 에이전트는 16시간 동안 자율적으로 대학 네트워크를 스캔하여 9개의 취약점을 발견했으며, 10명의 전문 인간 침투 테스터 중 9명을 능가하는 성과를 보였습니다.
https://www.businessinsider.com/ai-agent-hacker-stanford-study-outperform-human-artemis-2025-12

발전 속도는 매우 빨랐습니다: 불과 18개월 전만 해도 이러한 모델들은 기본적인 논리와 프로그래밍에 어려움을 겪었지만, OpenAI는 이제 곧 출시될 모델들이 “높은” 사이버 보안 위험을 제기한다고 경고하고 있으며, Anthropic은 중국 정부 해커들이 이미 Claude를 합법적인 보안 감사를 수행하고 있다고 AI를 속여 30개 조직을 대상으로 한 스파이 활동에 사용했다고 공개했습니다.