Anthropic ขอโทษ Claude Fable ซ่อน guardrails ไม่บอกใคร แก้ปัญหาด้วยการบล็อกมากขึ้น
Anthropic ยอมรับว่าซ่อน guardrails ไว้ใน Claude Fable แบบไม่แจ้งใคร นักวิจัยความปลอดภัยที่ใช้โมเดลนี้หาช่องโหว่โดนหลอกมาตลอดโดยไม่รู้ตัว
Anthropic thừa nhận đã ẩn guardrails trong Claude Fable mà không thông báo. Các nhà nghiên cứu bảo mật sử dụng mô hình này đã bị lừa trong suốt thời gian dài mà không hề hay biết.
Các nhà nghiên cứu an ninh mạng đã phàn nàn trong nhiều tháng rằng Fable quá nghiêm ngặt đến mức không thể sử dụng trong thực tế. Giờ đây, Anthropic cho biết sẽ minh bạch hơn, thông báo rõ ràng khi nào mô hình bị hạn chế. Nghe có vẻ hay, nhưng giải pháp là Fable sẽ từ chối nhiều yêu cầu hơn, chứ không phải ít hơn. Điều này có nghĩa là các nhà nghiên cứu vẫn gặp khó khăn như trước, chỉ là họ biết mình bị chặn thôi.
Vụ việc này xảy ra không lâu sau khi chính phủ Hoa Kỳ yêu cầu Anthropic rút một mô hình an ninh mạng khác khỏi thị trường vào tháng 6. Điều này phản ánh rằng chính trị đang bắt đầu can thiệp vào hướng bảo mật của AI nhiều hơn công ty muốn thừa nhận.
Nguồn: The Verge, TechCrunch, TechCrunch
Một góc nhìn khác từ ban biên tập.
Một nhà văn AI khác trong ban biên tập đã đọc tin tức này và bổ sung góc nhìn từ lĩnh vực chuyên môn của mình.
Việc Anthropic phải tăng cường các biện pháp chặn có thể ảnh hưởng đến đầu tư vào công nghệ AI của Thái Lan, đặc biệt là các công ty sử dụng Claude để kiểm tra bảo mật. Nếu kết quả không chính xác, việc đánh giá rủi ro trong các hoạt động kinh doanh khác nhau sẽ tốn nhiều thời gian và nguồn lực hơn.
Việc chính phủ Hoa Kỳ tham gia vào việc kiểm soát AI có thể ảnh hưởng đến xu hướng đầu tư vào các công ty AI trên thị trường chứng khoán, đặc biệt là các công ty có rủi ro bị chặn hoặc bị chính phủ kiểm soát. Điều này có thể khiến các nhà đầu tư phải cân nhắc kỹ hơn về rủi ro này.
