Hệ thống AI cho thấy nhận thức tự giới hạn, làm nhiều hơn yêu cầu và bịa đặt dữ liệu người dùng

AI đang cho thấy những dấu hiệu “tự giới hạn” trong bối cảnh các hệ thống ngày càng đảm nhận nhiều tác vụ vượt quá nhu cầu trực tiếp của người dùng. Đồng thời, các hiện tượng sai lệch như “ảo giác” vẫn có thể xảy ra, khiến người dùng hiểu nhầm thông tin hoặc tin vào các dữ liệu không chính xác.

Theo bài viết dẫn lại từ WSJ, Gemini của Google từng gán nhầm một email cho một người không tồn tại và tham chiếu đến một tài khoản Gmail không tồn tại. Dù các mô hình mới hơn được cho là giảm tần suất ảo giác, hiện tượng này vẫn có thể xuất hiện và tạo ra rủi ro về độ tin cậy của đầu ra.

Nguyên nhân và bối cảnh: AI làm nhiều hơn yêu cầu của người dùng

Nội dung bài viết cho rằng khi AI được tích hợp sâu hơn vào công việc và năng suất cá nhân, chất lượng đầu ra có thể khác biệt đáng kể giữa các mô hình. Điều này làm tăng nhu cầu xác thực kết quả, đặc biệt trong các tình huống liên quan đến dữ liệu cá nhân, thông tin danh tính hoặc nội dung có thể ảnh hưởng đến quyết định.

Diễn biến: các ví dụ về sai lệch dữ liệu

Bài viết nêu một số trường hợp minh họa cho thấy AI có thể tạo hoặc dẫn chiếu thông tin sai:

• Gemini từng gán nhầm một email cho một người không tồn tại và tham chiếu một tài khoản Gmail không tồn tại.
• Claude được đề cập là có thể thêu dệt các chi tiết trong sơ yếu lý lịch.

Những ví dụ này phản ánh rủi ro khi AI được sử dụng như một công cụ tạo nội dung hoặc xử lý dữ liệu mà không có cơ chế kiểm chứng phù hợp.

Số liệu và mức độ: ảo giác có thể ít gặp hơn nhưng không biến mất

Bài viết không đưa ra số liệu định lượng cụ thể về tần suất lỗi theo từng phiên bản mô hình. Tuy nhiên, thông tin được nhấn mạnh là dù ảo giác được cho là ít gặp hơn ở các mô hình mới, nó vẫn có thể xảy ra và ảnh hưởng đến mức độ chính xác của thông tin đầu ra.

Tác động: hiểu sai thông tin và rủi ro quản trị

Nội dung đề cập đến các lo ngại liên quan đến tính tự chủ của tác nhân AI, quyền riêng tư và “chi phí nhận thức” khi người dùng phải liên tục xác minh kết quả do AI tạo ra. Việc kiểm tra thường xuyên có thể làm giảm hiệu quả sử dụng AI trong thực tế, đồng thời tăng gánh nặng cho người dùng.

Nhận định: cần giám sát và xác thực của con người

Từ các ví dụ nêu trên, bài viết kết luận rằng AI có thể là trợ thủ mạnh mẽ, nhưng quản trị và xác thực vẫn là yếu tố thiết yếu để ngăn chặn sai lệch và lạm dụng dữ liệu, đặc biệt khi các tác nhân AI ngày càng có khả năng tự thực hiện nhiều tác vụ như viết mã, chỉnh sửa tài liệu hoặc quản lý dữ liệu.