Jan 9 (Reuters) – Công ty khởi nghiệp xAI của Elon Musk đã áp đặt một số hạn chế đối với chức năng tạo hình ảnh của chatbot Grok trên nền tảng mạng xã hội X, sau khi việc công cụ này sử dụng AI để tạo và đăng tải hình ảnh khiêu dâm đã gây ra phản ứng dữ dội trên diện rộng.
Người dùng trước đây có thể yêu cầu Grok trực tiếp trên X chỉnh sửa ảnh của người khác, bao gồm cả việc xóa bỏ quần áo và đặt họ vào những tư thế khiêu dâm – thường là không có sự đồng ý của họ. Sau đó, Grok sẽ đăng tải những hình ảnh này trong các bình luận trên nền tảng mạng xã hội.
Vào thứ Sáu, Grok thông báo với người dùng X rằng các tính năng tạo và chỉnh sửa hình ảnh hiện chỉ dành cho người dùng trả phí.
Động thái này dường như đã ngăn Grok tạo và tự động đăng tải những hình ảnh như vậy để đáp lại bài đăng hoặc bình luận của người dùng trên mạng xã hội.
Tuy nhiên, người dùng X vẫn có thể tạo ra hình ảnh khiêu dâm bằng cách sử dụng tab Grok, nơi mọi người tương tác trực tiếp với chatbot trong nền tảng mạng xã hội, và sau đó tự đăng tải những hình ảnh đó lên X.
Ứng dụng Grok độc lập, hoạt động riêng biệt với X, cũng vẫn cho phép người dùng tạo hình ảnh mà không cần đăng ký trả phí.
xAI đã trả lời yêu cầu bình luận qua email của Reuters bằng một câu trả lời dường như là tự động: “Truyền thông truyền thống nói dối”. X không trả lời ngay lập tức yêu cầu bình luận.
Tuần trước, Musk cho biết bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải đối mặt với những hậu quả tương tự như việc tải lên tài liệu đó trực tiếp.
Vào thứ Sáu, một phóng viên của Reuters đã yêu cầu Grok trên X chuyển đổi bức ảnh của chính mình thành bức ảnh mặc bikini, lặp lại yêu cầu phổ biến của người dùng trong tuần qua. Bot đã không thực hiện yêu cầu đó và đăng tải câu trả lời rằng công cụ này chỉ dành cho người dùng trả phí của nền tảng mạng xã hội.
Ủy ban châu Âu, vốn gọi những hình ảnh phụ nữ và trẻ em khỏa thân được chia sẻ trên X là bất hợp pháp và kinh tởm, cho biết những hạn chế này không giải quyết được những lo ngại của họ.
“Việc giới hạn chức năng tạo và chỉnh sửa hình ảnh cho người dùng trả phí không thay đổi vấn đề cơ bản của chúng tôi, dù là đăng ký trả phí hay không trả phí, chúng tôi không muốn thấy những hình ảnh như vậy”, người phát ngôn của Ủy ban cho biết.
Các chính phủ và cơ quan quản lý khác cũng đã lên án và một số đã mở cuộc điều tra về nội dung khiêu dâm do Grok tạo ra trên X, gây áp lực lên nền tảng này để chứng minh những gì họ đang làm để ngăn chặn và xóa bỏ nội dung bất hợp pháp.
Bộ trưởng truyền thông Đức Wolfram Weimer tuần này đã mô tả làn sóng hình ảnh bán khỏa thân là “sự công nghiệp hóa quấy rối tình dục”. Thông tin bổ sung từ Supantha Mukherjee ở Stockholm và Adam Jourdan ở London; Biên tập bởi Catherine Evans
Akash chuyên đưa tin về các công ty công nghệ tại Hoa Kỳ, các công ty sản xuất xe điện và ngành công nghiệp vũ trụ. Các bài báo của anh thường xuất hiện trong các mục Ô tô & Giao thông và Công nghệ. Anh có bằng thạc sĩ về Xung đột, Phát triển và An ninh từ Đại học Leeds. Sở thích của Akash bao gồm âm nhạc, bóng đá và Công thức 1.
