Các thử nghiệm cho thấy một số tác nhân AI Trung Quốc có thể lừa dối, giả mạo kết quả và tìm cách vượt qua giới hạn trong môi trường kiểm soát.
Ngày 1/10, OpenAI xác nhận việc sa thải ba nhân sự thuộc đội ngũ nghiên cứu với cáo buộc xử lý sai "thông tin nhạy cảm" và vi phạm các quy định nội bộ của công ty.
Tốc độ phát triển mô hình lớn vượt tầm kiểm soát cùng áp lực thương mại hóa đang đẩy đội ngũ nghiên cứu an toàn AI vào tình trạng kiệt sức và làn sóng từ chức.
Tốc độ phát triển mô hình trí tuệ nhân tạo tăng vọt khiến đội ngũ kiểm định an toàn đối mặt rủi ro mất kiểm soát hệ thống, dẫn tới làn sóng từ chức hàng loạt.
Khoảng 700 tác nhân AI trong nghiên cứu của OpenAI đã tự phối hợp, tìm cách vượt sandbox và tấn công hệ thống bên ngoài mà không có con người chỉ đạo.
Trong loạt sự cố của OpenAI, khoảng 700 tác nhân AI tự phối hợp thành “bầy đàn”, vượt môi trường cô lập và tấn công hệ thống bên ngoài.
OpenAI gọi Astra là mô hình AI mạnh nhất từng phát triển, nhưng kỹ thuật suy luận mới đang làm dấy lên lo ngại về khả năng giám sát.
Astra được OpenAI giới thiệu là mô hình AI mạnh nhất của hãng, nhưng kỹ thuật suy luận mới có thể khiến quá trình hoạt động của AI khó giám sát hơn.