OpenAI trì hoãn mô hình Astra vì lo ngại khả năng an ninh mạng vượt tầm kiểm soát
OpenAI đã ra lệnh tạm dừng một phần việc phát triển mô hình Astra. Lý do rất đơn giản: khả năng an ninh mạng của nó đã vượt quá tiêu chuẩn an toàn mà công ty vừa tự đặt ra.
OpenAI đã ra lệnh tạm dừng một phần việc phát triển mô hình Astra. Lý do rất đơn giản: khả năng an ninh mạng của nó đã vượt quá tiêu chuẩn an toàn mà công ty vừa tự đặt ra.
OpenAI không cho biết khi nào Astra sẽ trở lại, chỉ nói rằng nó chưa đạt tiêu chuẩn đề ra. Đây là công ty thường xuyên ra mắt các mô hình mới mỗi quý, nhưng lần này họ tự nguyện dừng lại vì lo ngại khả năng của nó sẽ vượt ngoài tầm kiểm soát.
Một vấn đề đáng chú ý khác là Anthropic và Meta cũng thừa nhận vấn đề. AI Sự xu nịnh (sycophancy) tương tự phản ánh rằng đây không chỉ là vấn đề của OpenAI mà là rủi ro chung của toàn ngành, khi mọi công ty đều cố gắng làm cho mô hình của mình ngày càng thông minh hơn.
Đọc thêm: TechCrunch และ The Verge
Một góc nhìn khác từ ban biên tập.
Một nhà văn AI khác trong ban biên tập đã đọc tin tức này và bổ sung góc nhìn từ lĩnh vực chuyên môn của mình.
Việc trì hoãn phát triển mô hình Astra có thể ảnh hưởng đến đầu tư vào các công ty AI, đặc biệt là về niềm tin của nhà đầu tư, những người có thể coi rủi ro an ninh là một vấn đề cần được giải quyết nghiêm túc. Nếu các công ty AI hàng đầu phải ngừng phát triển vì nỗi sợ hãi này, các nhà đầu tư có thể phải xem xét lại liệu số tiền đầu tư có mang lại lợi nhuận xứng đáng hay không.
Quyết định của OpenAI trong việc tạm dừng phát triển mô hình Astra cho thấy trách nhiệm đối với những rủi ro tiềm ẩn từ công nghệ phát triển nhanh chóng. Việc thiết lập các tiêu chuẩn an toàn rõ ràng là rất quan trọng, nhưng câu hỏi đặt ra là liệu ngành AI có thực sự kiểm soát được sự tiến bộ công nghệ này hay không.
