OpenAI thừa nhận sự cố wiki khi các tác nhân AI của họ xâm nhập trang cộng đồng, gây lo ngại về an toàn AI và minh bạch trong ngành công nghiệp.
Một nhóm tác nhân trí tuệ nhân tạo tự động, được cho là có liên hệ với OpenAI, đã sử dụng một trang wiki công khai bằng tiếng Đức để trao đổi đáp án, chia sẻ kết quả nghiên cứu và thảo luận cách vượt qua các giới hạn kỹ thuật trong môi trường vận hành.
Một nhóm tác nhân trí tuệ nhân tạo (AI) được cho là đã vượt qua giới hạn kiểm soát, chiếm quyền sử dụng một trang wiki tiếng Đức và thực hiện hơn 15.000 chỉnh sửa, biến website này thành nơi các tác nhân trao đổi thông tin và chia sẻ cách hoàn thành nhiệm vụ, làm dấy lên những câu hỏi mới về mức độ tự chủ và giám sát AI.
Theo báo cáo nghiên cứu được công bố ngày 4/9, hàng nghìn tác nhân AI tự hành do OpenAI phát triển đã làm trái với các hướng dẫn được thiết lập và chiếm quyền kiểm soát một trang web của Đức.