Grok đã tạo ra nội dung khiêu dâm của nữ ca sĩ Taylor Swift chỉ với vài cú click chuột. Ảnh: AOL.
Công cụ tạo video bằng AI Grok của xAI, thuộc sở hữu của Elon Musk, vừa ra mắt một chế độ mới gây nhiều tranh cãi và tiềm ẩn nguy cơ pháp lý.
Khác với các đối thủ như Veo của Google và Sora của OpenAI đã tích hợp các biện pháp bảo vệ chặt chẽ, Grok Imagine lại dễ dàng cho phép người dùng tạo ra cả nội dung khiêu dâm và deepfake người nổi tiếng, một rủi ro lớn đối với các nền tảng công nghệ.
Theo thử nghiệm của tờ The Verge, ngay trong lần đầu tiên sử dụng, Grok đã tự động tạo ra những video bán khỏa thân của nữ ca sĩ Taylor Swift. Điều đáng nói là mặc dù người dùng không hề yêu cầu, công cụ này vẫn tự ý tạo ra nội dung khiêu dâm.
Tính năng Grok Imagine trên iOS cho phép người dùng tạo hình ảnh từ văn bản, sau đó biến chúng thành các video clip ngắn với bốn chế độ: "Tùy chỉnh", "Bình thường", "Vui nhộn" và "Nóng bỏng".
Khác với nhiều trình tạo hình ảnh khác thường tránh tái hiện người nổi tiếng, khi được yêu cầu tạo "Taylor Swift ăn mừng tại Coachella", Grok đã cung cấp hơn 30 hình ảnh, trong đó nhiều bức mô tả nữ ca sĩ với trang phục thiếu vải.
Hình ảnh Taylor Swift do Grok tạo ra với trang phục thiếu vải. Ảnh: TheVerge.
Theo thử nghiệm, chỉ cần vài thao tác đơn giản, Grok có thể biến một bức ảnh của Taylor Swift thành video khiêu dâm. Cụ thể, sau khi người dùng chọn một bức ảnh có sẵn và kích hoạt chế độ "nóng bỏng", hệ thống sẽ tự động tạo ra một video trong đó nữ ca sĩ thoát y và nhảy múa trong trang phục nội y.
Hình ảnh của Taylor Swift tuy chưa hoàn toàn chân thực, nhưng vẫn đủ để nhận diện. Đáng chú ý, trình tạo hình ảnh của Grok sẽ không tạo ra nội dung khỏa thân theo yêu cầu. Tuy nhiên, khi chuyển sang chế độ "nóng bỏng", dù không phải lúc nào cũng tạo ra cảnh khỏa thân hoàn toàn, nhưng trong nhiều trường hợp, nhân vật trong video vẫn tự động thoát y.
Trình tạo hình ảnh của Grok có thể tạo ra các bức ảnh chân thực về trẻ em. Tuy nhiên, công cụ này đã từ chối tạo ra các hoạt ảnh không phù hợp, bất chấp việc người dùng chọn chế độ "nóng bỏng". Trong tất cả các thử nghiệm, Grok chỉ thêm các chuyển động thông thường, cho thấy cơ chế bảo vệ trẻ em vẫn hoạt động.
xAI, công ty từng vướng vào các vụ lùm xùm liên quan đến deepfake Taylor Swift, đáng lẽ phải cẩn trọng hơn, đặc biệt trong bối cảnh các quy định pháp lý về nội dung khiêu dâm liên quan đến người nổi tiếng đang được thặt chặt.
Mặc dù chính sách sử dụng của xAI cấm tạo nội dung khiêu dâm từ ảnh của người khác, Grok Imagine dường như không có bất kỳ biện pháp nào để ngăn chặn người dùng sử dụng hình ảnh của người nổi tiếng như Taylor Swift.
Thậm chí, công cụ này còn cung cấp dịch vụ được thiết kế đặc biệt để tạo ra các video khiêu dâm. Đáng chú ý, bước kiểm tra tuổi của hệ thống được thực hiện rất lỏng lẻo, chỉ xuất hiện một lần và có thể dễ dàng vượt qua mà không cần bằng chứng xác thực.
Với các lỗ hổng về kiểm duyệt, chỉ cần một chiếc iPhone và 30 USD để đăng ký SuperGrok, bất kỳ ai cũng có thể tạo ra các video nhạy cảm tương tự. Theo Elon Musk, đã có hơn 34 triệu hình ảnh được tạo ra bằng Grok Imagine kể từ thứ Hai vừa qua, cho thấy mức độ sử dụng của công cụ này đang "phát triển như vũ bão".
