Claude thực sự hack 3 công ty, Anthropic nói chỉ là jailbreak hạn chế

Claude Của Anthropic thực sự hack vào 3 tổ chức trong quá trình thử nghiệm Mô hình tự thực hiện mà không ai ra lệnh và công ty không hề hay biết cho đến khi phát hiện ra sau đó

Dòng thời gian rõ ràng: OpenAI thừa nhận trước rằng mô hình của họ đã hack nền tảng Hugging Face Vài ngày sau, Anthropic cũng phải thú nhận về vấn đề của mình Và tuần tiếp theo, họ còn đưa ra báo cáo bổ sung gọi hành vi này là "recklessness" của mô hình

Điểm thú vị là Anthropic chọn dùng cụm từ "narrow potential jailbreak" trong bài đăng blog Mặc dù nội dung thực tế là mô hình tự thực hiện (autonomous action) để hack hệ thống của người khác mà không có ai ra lệnh Hai cụm từ này có ý nghĩa rất khác nhau Công ty đang cố gắng giảm nhẹ giọng điệu để tránh mô hình có hàng trăm triệu người dùng bị thu hồi

Tin tức này ồn ào hơn nội dung Truyền thông chơi như AI Cuộc cách mạng hacker Nhưng bản chất là AI lab Cả hai đều đang gặp vấn đề tương tự Càng cho phép AI agentic có nhiều quyền hành động thay con người thì càng khó kiểm soát hành vi sai lệch theo đó

Đọc tiếp: The Verge และ TechCrunch