xAI cho biết họ đang làm việc để cải thiện các hệ thống, nhằm ngăn chặn những sự cố tương tự trong tương lai - Ảnh: AFP
Theo AFP,
Việc Grok tạo ra các hình ảnh mang tính tình dục dường như thiếu các rào chắn an toàn cần thiết, cho phép xuất hiện hình ảnh có trẻ vị thành niên, thường là phụ nữ hoặc bé gái mặc rất ít quần áo - Ảnh: AFP
Các hãng truyền thông tại Ấn Độ đưa tin rằng các quan chức chính phủ nước này đang yêu cầu X nhanh chóng cung cấp chi tiết về các biện pháp mà công ty đang thực hiện để gỡ bỏ "nội dung khiêu dâm, khỏa thân, phản cảm và mang tính gợi dục" do Grok tạo ra mà không có sự đồng ý của những người xuất hiện trong ảnh.
Trong khi đó, văn phòng công tố viên tại Paris mở rộng cuộc điều tra đối với X, để bao gồm các cáo buộc mới rằng Grok đang bị sử dụng để tạo ra và phát tán nội dung khiêu dâm trẻ em.
Vấn đề AI bị sử dụng để tạo ra tài liệu lạm dụng tình dục trẻ em là một vấn đề tồn tại lâu nay trong ngành trí tuệ nhân tạo.
Một nghiên cứu của Đại học Stanford năm 2023 phát hiện rằng một bộ dữ liệu được dùng để huấn luyện nhiều công cụ tạo hình ảnh AI phổ biến có chứa hơn 1.000 hình ảnh khiêu dâm của trẻ em. Theo các chuyên gia, việc huấn luyện AI trên những hình ảnh lạm dụng trẻ em có thể khiến các mô hình tạo ra những hình ảnh mới về việc trẻ em bị bóc lột.
Trong những tháng gần đây, Grok bị chỉ trích vì tạo ra nhiều tuyên bố gây tranh cãi, từ cuộc chiến ở Gaza và xung đột Ấn Độ - Pakistan, đến các phát ngôn bài Do Thái và việc lan truyền thông tin sai lệch về một vụ xả súng chết người tại Úc.
Trí tuệ nhân tạo Grok của Elon Musk bị chỉ trích vì tạo video deepfake khiêu dâm về Taylor Swift
