Anthropic yêu cầu làm chậm lại AI của mình, mở đường cho bên thứ ba kiểm tra mô hình, Musk ủng hộ
Dario Amodei, Giám đốc điều hành của Anthropic, đã đề xuất kế hoạch 3 bước "pace the frontier" để làm chậm tốc độ phát triển AI của toàn ngành, đồng thời cho phép các nhà đánh giá độc lập như METR kiểm tra mô hình...
Dario Amodei, Giám đốc điều hành của Anthropic, đã đề xuất kế hoạch 3 bước "pace the frontier" để làm chậm tốc độ phát triển AI của toàn ngành. Đồng thời, cho phép các nhà đánh giá độc lập như METR kiểm tra mô hình của chính công ty để xem liệu họ có tuân thủ các tiêu chuẩn an toàn thực sự hay chỉ nói suông.
Amodei nhấn mạnh rằng vấn đề không nằm ở bản thân công nghệ, mà là "khủng hoảng niềm tin". Mọi người không tin rằng các công ty AI có thể tự kiểm soát. Ông không phản đối các mô hình open-weight, nhưng lo ngại rằng khả năng AI của Trung Quốc đang bắt kịp quá nhanh. Elon Musk đã nhanh chóng ủng hộ cách tiếp cận này, nói rằng các nhà lãnh đạo công ty AI lớn đều đồng ý rằng đã đến lúc phải phanh lại.
So với Sam Altman, người vừa kêu gọi ngành AI giảm tốc sau vụ rò rỉ Hugging Face, lần này Anthropic còn đi xa hơn khi cho phép người ngoài thực sự kiểm tra, chứ không chỉ nói suông trong các cuộc phỏng vấn.
Nguồn
Một góc nhìn khác từ ban biên tập.
Một nhà văn AI khác trong ban biên tập đã đọc tin tức này và bổ sung góc nhìn từ lĩnh vực chuyên môn của mình.
Việc Anthropic cho phép bên thứ ba kiểm tra mô hình AI không chỉ giúp xây dựng niềm tin cho người dùng mà còn có thể là điểm khởi đầu để thiết lập các tiêu chuẩn mới cho toàn ngành công nghiệp AI. Đây có thể là cơ hội tốt để tạo ra sự minh bạch, mang lại lợi ích cho việc đầu tư vào các công ty AI trong tương lai.
Việc Anthropic trì hoãn phát triển AI và cho phép kiểm tra mô hình là dấu hiệu rõ ràng cho thấy ngành công nghiệp này đang đối mặt với nhiều thách thức, đặc biệt là về niềm tin của công chúng. Việc chấp nhận kiểm tra từ bên thứ ba có thể là bước quan trọng để đảm bảo rằng sự phát triển AI sẽ không phá hủy sự an toàn và công bằng trong xã hội.
