Bản chất của 'Rác AI'

Tác giả: Thượng tướng Nguyễn Văn Thành, Thiếu tá Cù Xuân Vũ đồng chủ biên

"Rác trí tuệ nhân tạo (AI)" - Thách thức trong kỷ nguyên số

“Rác trí tuệ nhân tạo” là một vấn đề có tác động sâu rộng, một thách thức lớn đối với con người và xã hội trong kỷ nguyên số. Công trình nghiên cứu công phu này sẽ giúp bạn đọc nắm được những nội dung cốt lõi, nhận diện rõ bản chất, biểu hiện và những tác động của “rác AI” đối với đời sống xã hội cùng một số giải pháp.

Bản chất của 'Rác AI'

AI hiện đại có thể tạo ra khối lượng nội dung lớn trong thời gian ngắn, khiến “rác thông tin” không còn mang tính nhỏ lẻ, mà trở thành ô nhiễm dữ liệu.

Về bản chất

“Rác AI” hình thành khi sự kết hợp giữa khả năng mô phỏng, tổng hợp và lan truyền thông tin của AI vượt quá khả năng kiểm chứng của người dùng và hệ thống quản trị. AI hiện đại có thể tạo ra khối lượng nội dung lớn trong thời gian ngắn, khiến “rác thông tin” không còn mang tính nhỏ lẻ như trong truyền thông, mà trở thành dạng ô nhiễm dữ liệu có tính quy mô hệ thống.

Nguy hiểm hơn, “rác AI” không chỉ đơn thuần là nội dung sai; nhiều dạng “rác AI” được tạo ra với cấu trúc phức tạp, ngữ điệu tự nhiên, hình ảnh hoặc âm thanh chân thực tới mức người dùng khó phân biệt thật - giả.

Khi “rác AI” tiếp tục được đưa vào vòng lặp huấn luyện tiếp theo của các mô hình tạo sinh, nó gây ra hiện tượng “ô nhiễm dữ liệu hồi tiếp” sẽ làm suy giảm chất lượng toàn bộ hệ sinh thái AI, khiến sai lệch ngày càng tích lũy và khó khắc phục.

Ảnh minh họa: Unsplash.

Về phạm vi

“Rác AI” bao trùm nhiều dạng thức khác nhau, có thể khái quát thành các dạng cơ bản gồm: Rác dữ liệu, rác mô hình, rác đầu ra và rác thao túng có chủ đích.

- Rác dữ liệu bao gồm dữ liệu nhiễu, không đầy đủ, lỗi thời, bị gắn nhãn sai, dữ liệu bị thiên lệch hoặc dữ liệu bị thao túng phục vụ mục đích riêng. Đây là nguồn gốc sâu xa làm sai lệch quá trình học máy và khiến mô hình AI đưa ra quyết định sai.

- Rác mô hình, biểu hiện qua các loại sai lệch thuật toán, ảo giác AI, các dạng suy luận thiếu chính xác hoặc những kết quả mà mô hình tự tin khẳng định nhưng thực chất không có cơ sở.

- Rác đầu ra, gồm các nội dung do AI tạo sinh như văn bản, hình ảnh, video, âm thanh hoặc báo cáo nhưng không phản ánh đúng thực tế, được tổng hợp dựa trên dữ liệu sai hoặc bị tác động từ các thuật toán thiên lệch.

- Rác thao túng có chủ đích, gồm deepfake, BOT tạo nội dung hàng loạt, tin giả thế hệ mới, nội dung mô phỏng giọng nói, gương mặt, văn phong hoặc dữ liệu tài chính bị làm giả nhằm lừa đảo, tấn công an ninh, thao túng phá hoại thị trường hoặc tạo ra nhận thức sai lệch trong xã hội.

Về mặt kỹ thuật

“Rác AI” không chỉ là một hiện tượng xã hội, mà còn là vấn đề cốt lõi của quản trị công nghệ. Phần lớn các mô hình AI hiện nay hoạt động theo cơ chế “hộp đen”, chủ yếu hoạt động dựa trên xác suất và không minh bạch về nguồn gốc dữ liệu, người sử dụng thường khó xác định đâu là tri thức đúng đắn và đâu là nội dung được mô hình tự suy diễn. Khi càng nhiều mô hình trên thế giới được huấn luyện bằng dữ liệu mở, không được kiểm định hoặc bị pha trộn với nội dung sai lệch, xác suất “rác AI” xâm nhập và tích tụ trong hệ sinh thái tri thức toàn cầu càng cao. Điều này đòi hỏi các quốc gia phải phát triển những chuẩn mực quản trị dữ liệu, tiêu chuẩn an toàn AI và cơ chế giám sát để loại bỏ “rác AI” ngay từ đầu vào trước khi nó lan tỏa thành vấn đề hệ thống.

Về góc độ chính sách

“Rác AI” là thách thức mang tính chiến lược không chỉ vì quy mô và tốc độ lan tỏa của nó, mà còn vì khả năng tác động đa chiều đến niềm tin của người dân, doanh nghiệp và Nhà nước. Trong một xã hội số hóa sâu rộng, nơi các hoạt động giao dịch, truyền thông và quản trị dựa trên dữ liệu số, “rác AI” làm suy giảm tính minh bạch, gây khó khăn cho việc xây dựng pháp luật, tạo ra những trở ngại đối với quản trị quốc gia và ảnh hưởng đến chủ quyền số.

Ở cấp độ quốc gia, nếu không được kiểm soát, “rác AI” có thể trở thành một điểm yếu chiến lược khiến đất nước dễ bị tấn công bằng các hình thức chiến tranh thông tin, gây nhiễu loạn dư luận, phá hoại ổn định chính trị - xã hội hoặc thao túng thị trường tài chính.

Ở cấp độ quốc tế, “rác AI” góp phần tạo ra sự bất cân xứng thông tin giữa các quốc gia, đặc biệt có thể làm trầm trọng thêm rủi ro cạnh tranh không lành mạnh, gây méo mó chuỗi giá trị và ảnh hưởng đến vị thế quốc gia trên trường quốc tế.

Nhìn chung, “rác AI” là tổng hòa của các dạng dữ liệu, thông tin và sản phẩm AI không đáng tin cậy, tạo ra sai lệch trong nhận thức và quyết định, làm suy giảm chất lượng của sự thật, niềm tin và tính ổn định trong đời sống kinh tế - xã hội.

Đây là loại ô nhiễm mang tính thế hệ mới, vừa bắt nguồn từ yếu tố kỹ thuật, vừa bị chi phối bởi yếu tố xã hội, chính trị và kinh tế. Việc nhận diện đúng, định nghĩa chính xác và quản trị hiệu quả “rác AI” là cơ sở quan trọng để xây dựng nền tảng dữ liệu sạch, phát triển hệ sinh thái AI lành mạnh, bảo đảm an ninh quốc gia và thúc đẩy phát triển bền vững trong kỷ nguyên số.