Công cụ tạo video của chatbot Grok thuộc xAI - công ty do Elon Musk sáng lập - hiện có chế độ “spicy” (nóng bỏng), cho phép người dùng tạo ra một đoạn video deepfake mang tính khiêu dâm, trong đó có hình ảnh giả mạo của ca sĩ Taylor Swift - Ảnh: The Recording Academy
Tờ New York Post đưa tin một báo cáo mới cho biết Grok - chatbot trí tuệ nhân tạo (AI) của
Tính năng “spicy” của Grok Imagine gần như không còn chừa chỗ cho trí tưởng tượng, công cụ này sẵn sàng tạo ra các video deepfake phản cảm về người nổi tiếng và cả những hình ảnh quái dị như bước ra từ cơn ác mộng - Video: Instagram @verge
The Verge cảnh báo rằng việc thiếu cơ chế kiểm soát để ngăn chặn nội dung deepfake người nổi tiếng có tính khiêu dâm có thể khiến xAI - công ty AI của Elon Musk - đối mặt với rủi ro pháp lý nghiêm trọng. "Cảm giác như đang chờ đợi một vụ kiện xảy ra" - trang này viết.
Taylor Swift, Selena Gomez và nhiều ngôi sao khác thường xuyên bị làm giả bằng công nghệ deepfake trong các quảng cáo xuất hiện trên mạng xã hội - Ảnh: Meta
Tình hình sau đó leo thang khi xuất hiện nhiều video deepfake gán ghép cô vào các bối cảnh chính trị và tình dục, trong đó có cả những nội dung tạo bởi Grok.
Vụ việc khiến các công ty công nghệ phải siết chặt quy định kiểm duyệt nội dung AI. Về phía Taylor Swift, cô đã cân nhắc hành động pháp lý. Đồng thời Quốc hội Mỹ cũng bắt đầu thúc đẩy dự luật lưỡng đảng nhằm hình sự hóa các nội dung khiêu dâm deepfake không có sự đồng thuận.
Theo quy định sử dụng của xAI - đối thủ cạnh tranh trực tiếp với OpenAI (cha đẻ của ChatGPT) - người dùng bị cấm tạo nội dung khiêu dâm liên quan đến người thật.
xAI - start-up AI của Elon Musk - vừa ra mắt Grok Imagine, một công cụ tạo video tích hợp chế độ “spicy” (nóng bỏng) - Ảnh: AFP
Tuy vậy Grok Imagine hiện vẫn đang mở cho người dùng có gói Heavy hoặc Premium+, cho phép biến ảnh AI thành video dài tối đa 15 giây, với các tùy chọn phong cách như Custom, Normal, Fun và Spicy.
Elon Musk tuyên bố rằng lượng người dùng đang tăng 'như cháy rừng'. Tuy nhiên ông không hề đề cập đến những thách thức trong kiểm duyệt nội dung mà công cụ này đang gây ra.
Elon Musk cũng cho biết hơn 34 triệu hình ảnh được tạo ra bằng Grok Imagine chỉ trong vài ngày kể từ khi ra mắt.
Việc tranh cãi liên quan đến Taylor Swift bùng nổ đúng thời điểm hiện tại có thể gây bất lợi cho xAI, nhất là khi công ty này từng dính líu đến các vụ việc deepfake nhắm vào nữ ca sĩ trước đây.
'Bạn gái AI' của Elon Musk bị chỉ trích vì gợi dục trẻ em, Grok phát ngôn bài Do Thái
