Theo Techcrunch, mới đây, mạng xã hội X (trước đây là Twitter) tích hợp Grok, một công cụ AI của công ty xAI, cho phép người dùng đặt câu hỏi và nhận câu trả lời ngay lập tức. Ngay sau đó, nhiều người dùng bắt đầu thử nghiệm khả năng của Grok, đặc biệt là ở Ấn Độ, nơi nhiều người sử dụng Grok để kiểm tra tính xác thực của các thông tin liên quan đến chính trị.
Tuy nhiên, các chuyên gia về kiểm chứng thông tin bày tỏ lo ngại về việc sử dụng Grok, cũng như các công cụ AI tương tự, cho mục đích này. Họ cho rằng, các bot AI có thể tạo ra những câu trả lời nghe có vẻ đáng tin cậy, ngay cả khi chúng không chính xác.
Năm ngoái, 5 bộ trưởng ngoại giao kêu gọi Elon Musk ngăn Grok tung tin sai lệch trước bầu cử. Các chatbot khác như ChatGPT, Gemini cũng từng tạo tin sai về bầu cử. Nghiên cứu cho thấy chatbot AI dễ tạo văn bản thuyết phục, nhưng chứa tin sai.
AI phát tán tin giả
Bà Angie Holan, giám đốc Mạng lưới Kiểm tra Sự thật Quốc tế (IFCN) tại Poynter, cảnh báo: ' Các trợ lý AI như Grok có khả năng sử dụng ngôn ngữ tự nhiên một cách thành thạo, tạo ra những câu trả lời nghe rất giống con người. Điều này khiến người dùng dễ lầm tưởng về tính chính xác của thông tin, ngay cả khi chúng hoàn toàn sai lệch. Đây chính là mối nguy hiểm tiềm ẩn .'
Khác với các trợ lý AI, các chuyên gia kiểm chứng thông tin sử dụng nhiều nguồn tin đáng tin cậy để xác minh thông tin. Họ cũng chịu trách nhiệm hoàn toàn về kết quả của mình, với tên tuổi và tổ chức được công khai để đảm bảo tính minh bạch.
Pratik Sinha: Grok hiện tại có thể đưa ra những câu trả lời thuyết phục, nhưng nó chỉ có thể phản ánh chính xác dữ liệu được cung cấp (Nguồn: Techcrunch)
Ông Pratik Sinha, đồng sáng lập trang web kiểm tra thông tin thực tế phi lợi nhuận Alt News của Ấn Độ nhấn mạnh: “ Ai sẽ là người quyết định dữ liệu nào được cung cấp cho Grok? Đây là vấn đề mà sự can thiệp của chính phủ có thể xuất hiện. Sự thiếu minh bạch là một vấn đề nghiêm trọng. Bất kỳ điều gì thiếu minh bạch đều có thể bị lợi dụng để định hướng thông tin theo ý muốn ”.
Việc Grok sử dụng dữ liệu từ bài đăng trên X để đào tạo gây lo ngại về tính minh bạch. xAI âm thầm thay đổi chính sách, cho phép Grok dùng dữ liệu người dùng X theo mặc định, càng làm dấy lên nghi ngờ.Tại Ấn Độ, thông tin sai lệch trên WhatsApp từng gây ra bạo lực tập thể. Sự xuất hiện của GenAI khiến việc tạo tin giả trở nên dễ dàng và thuyết phục hơn, làm tăng nguy cơ xảy ra những hậu quả tương tự.
“ Grok có thể đưa ra những câu trả lời sai lệch, dù tỷ lệ không cao, khoảng 20% theo một số nghiên cứu. Tuy nhiên, hậu quả của những sai sót này có thể rất nghiêm trọng ” bà Angie Holan, giám đốc IFCN, cảnh báo.
Nguồn: Techcrunch
Ai mới là "vua" của sự thật?
Mặc dù các công ty AI đang nỗ lực cải thiện khả năng giao tiếp của mô hình AI, chúng vẫn không thể thay thế con người.
Ông Pratik Sinha, đồng sáng lập Alt News tin rằng người dùng sẽ phân biệt được AI và con người, đánh giá cao tính chính xác của thông tin do con người kiểm chứng.
' Xu hướng kiểm chứng thông tin sẽ quay lại với vai trò lớn hơn của chuyên gia. Trong thời gian tới, người kiểm chứng thông tin sẽ phải xử lý nhiều hơn thông tin do AI tạo ra. Vấn đề nằm ở việc bạn quan tâm đến sự thật hay chỉ tìm kiếm thứ nghe có vẻ đúng mà không cần biết nó có thật sự đúng hay không? AI có thể đáp ứng vế thứ hai , bà Angie Holan, giám đốc IFCN nói.
