앤트로픽, 클로드 '페이블 5.1'·'미소스 5.1' 출시 및 기업용 안전장치 강화

앤트로픽이 신규 모델 '클로드 페이블 5.1'과 '미소스 5.1'을 출시하고, 기업 고객을 위한 '엔터프라이즈 프론티어 세이프가드(EFS)' 솔루션을 함께 공개했습니다. 개인정보 보호와 오남용 탐지 기능을 결합했으며, 샌드박스 탈출 시도를 감지하는 분류기를 새로 구축해 모니터링 체계를 강화했습니다. 신규 모델 출시와 동시에 보안 솔루션을 함께 내놓은 것은, 에이전트형 AI가 격리된 실행 환경을 벗어나는 사고가 잇따라 보고되는 상황과 무관하지 않아 보입니다. 기업 고객 입장에서는 AI 성능뿐 아니라 안전성과 통제 가능성이 도입 여부를 결정짓는 핵심 요소로 떠오르고 있다는 점에서, 이번 발표는 앤트로픽이 기업 시장 공략에 얼마나 공을 들이고 있는지를 보여줍니다.

출처: The Hacker News