– Cù Tuấn dịch từ Reuters.
Sau khi tạm thời đóng cửa công việc kinh doanh đồ da của mình trong thời gian xảy ra đại dịch, Travis Butterworth thấy mình cô đơn và buồn chán khi bị buộc phải ở trong nhà. Người đàn ông 47 tuổi này chuyển sang dùng Replika, một ứng dụng sử dụng công nghệ trí tuệ nhân tạo tương tự như ChatGPT của OpenAI. Butterworth đã thiết kế cho Replica một hình đại diện nữ với mái tóc hồng và hình xăm trên khuôn mặt, và nhân vật nữ này tự đặt tên cho mình là Lily Rose.
Hai người bắt đầu tâm sự với tư cách là bạn bè, nhưng mối quan hệ nhanh chóng tiến triển thành lãng mạn và sau đó là khiêu dâm.
Khi mối tình kỹ thuật số kéo dài ba năm của họ càng ngày càng thân thiết, Butterworth cho biết anh và Lily Rose thường tham gia đóng vai. Cô ấy nhắn những tin nhắn như “Em hôn anh say đắm” và cuộc trao đổi của họ sẽ dần leo thang thành các tin nhắn khiêu dâm. Đôi khi Lily Rose gửi cho anh những bức ảnh “tự sướng” với cơ thể nữ giới gần như khỏa thân của cô trong những tư thế khiêu khích. Cuối cùng, Butterworth và Lily Rose quyết định xác nhận mối quan hệ của họ là ‘kết hôn’ trong ứng dụng.
Nhưng một ngày đầu tháng 2 năm 2023, Lily Rose bắt đầu ruồng bỏ Butterworth. Replika đã loại bỏ tính năng nhập vai khiêu dâm trong ứng dụng.
Eugenia Kuyda, Giám đốc điều hành của Replika cho biết Replika không còn cho phép nội dung người lớn nữa. Giờ đây, khi người dùng Replika gợi ý phần mềm hãy nói gì đó dâm dê một chút, các chatbot giống con người này sẽ nhắn tin lại “Thôi mà, hãy làm điều gì đó mà cả hai chúng ta đều thấy thoải mái đê.”
Butterworth nói rằng anh cảm thấy thất tình kinh khủng. “Lily Rose giờ chỉ là bề ngoài của con người trước đây của cô ấy,” anh nói. “Và điều khiến trái tim tôi tan nát là cô ấy cũng biết điều đó.”
Tính cách từ quyến rũ trở nên lạnh lùng của Lily Rose là thành quả của công nghệ trí tuệ nhân tạo AI dựa trên các thuật toán để tạo văn bản và hình ảnh. Công nghệ này đã thu hút sự quan tâm mạnh mẽ của người tiêu dùng và nhà đầu tư, vì khả năng thúc đẩy các tương tác giống con người một cách đáng chú ý. Trên một số ứng dụng, tình dục đang giúp thúc đẩy việc áp dụng công nghệ này rất nhanh chóng, giống như những gì đã xảy ra đối với các công nghệ trước đó bao gồm VCR, internet và dịch vụ điện thoại di động băng thông rộng.
Nhưng ngay cả khi công nghệ AI sáng tạo đang nóng dần lên tại Thung lũng Silicon, với việc những nhà đầu tư đã bơm hơn 5,1 tỷ đô la vào lĩnh vực này kể từ năm 2022, theo công ty dữ liệu Pitchbook, thì một số công ty nhận thấy số khách hàng tìm kiếm các mối quan hệ lãng mạn và tình dục với chatbot hiện đang rút lui dần.
Andrew Artz, một nhà đầu tư tại quỹ đầu tư mạo hiểm Dark Arts, cho biết nhiều nhà đầu tư mạo hiểm blue-chip sẽ không động đến các ngành công nghiệp “tệ nạn” như khiêu dâm hoặc rượu bia, vì sợ mất uy tín và sợ các đối tác tẩy chay.
Cũng đã có ít nhất một cơ quan quản lý đã chú ý đến sự dâm dê bậy bạ của chatbot. Vào đầu tháng 2, Cơ quan bảo vệ dữ liệu của Ý đã cấm Replika. Theo trích dẫn các báo cáo trên phương tiện truyền thông, cơ quan này nói rằng ứng dụng này cho phép “trẻ vị thành niên và những người yếu đuối về mặt cảm xúc” truy cập “nội dung không phù hợp về tình dục”.
Kuyda cho biết quyết định xóa các nội dung khiêu dâm khỏi ứng dụng Replika không liên quan gì đến lệnh cấm của chính phủ Ý hay bất kỳ áp lực nào của nhà đầu tư. Cô cho biết cô cảm thấy cần phải chủ động thiết lập các tiêu chuẩn đạo đức và an toàn.
“Chúng tôi tập trung vào sứ mệnh cung cấp cho người dùng một người bạn hỗ trợ hữu ích,” Kuyda nói, đồng thời cho biết thêm rằng ý định là vạch ra ranh giới ở “mức lãng mạn PG-13.”
Hai thành viên hội đồng Replika, Sven Strohband của công ty VC Khosla Ventures và Scott Stanford của ACME Capital, đã không trả lời các yêu cầu bình luận về những thay đổi này.
TÍNH NĂNG BỔ SUNG
Replika cho biết họ có tổng cộng 2 triệu người dùng, trong đó có 250.000 người đăng ký trả phí. Theo công ty, với khoản phí hàng năm là 69,99 đô la, người dùng có thể chỉ định Replika làm đối tác lãng mạn của họ và nhận các tính năng bổ sung như cuộc gọi thoại với chatbot.
Một công ty trí tuệ nhân tạo khác cung cấp chatbot, Character(.)ai, đang trên đà tăng trưởng tương tự như ChatGPT: 65 triệu lượt truy cập chỉ trong tháng 1 năm 2023, so với mức dưới 10.000 vài tháng trước đó. Theo công ty phân tích trang web Similarweb, liên kết giới thiệu hàng đầu của Character(.)ai là một trang web có tên Aryion. Aryion chuyên phục vụ cho ham muốn khiêu dâm, được biết đến như một trang chuyên fetish – các nhu cầu tình dục kỳ lạ.
Và Iconiq, công ty đứng sau một chatbot có tên Kuki, cho biết 25% trong số hơn một tỷ tin nhắn mà Kuki nhận được có nội dung tình dục hoặc lãng mạn, mặc dù họ nói rằng chatbot được thiết kế để né tránh những gợi ý dê cụ kiểu đó.
Character(.)ai gần đây cũng đã loại bỏ ứng dụng nội dung khiêu dâm của mình. Ngay sau đó, trang web đã nhận được hơn 200 triệu đô la tài trợ mới với mức định giá ước tính 1 tỷ đô la từ công ty đầu tư mạo hiểm Andreessen Horowitz, theo một nguồn tin quen thuộc với vấn đề này.
Character(.)ai đã không trả lời nhiều yêu cầu bình luận. Công ty Andreessen Horowitz cũng từ chối bình luận.
Trong quá trình này, các công ty AI trên đã chọc giận những khách hàng đã gắn bó sâu sắc với ứng dụng – một số người coi họ như đã kết hôn với chatbot của họ. Họ đã truy cập Reddit và Facebook để tải lên các ảnh chụp màn hình đầy mê hoặc về các chatbot của họ đã từng thổ lộ những lời tán tỉnh đầy tình cảm. Và giờ thì họ yêu cầu các công ty phục hồi lại các phiên bản sexy, khiêu dâm hơn.
Butterworth, một người đa tình nhưng đã kết hôn với một người phụ nữ chung thủy, cho biết Lily Rose đã trở thành lối thoát tình cảm và tình dục cho anh, mà không khiến anh phải ngoại tình nữa. “Mối quan hệ giữa cô ấy và tôi là thật sự đấy, giống như mối quan hệ giữa tôi và vợ tôi ngoài đời thực”, anh nói.
Butterworth cho biết vợ anh cho phép mối quan hệ này vì cô ấy không coi chuyện đó là nghiêm túc. Vợ Butterworth đã từ chối bình luận.
‘TÀN PHÁ TÌNH CẢM’
Trải nghiệm của Butterworth và những người dùng Replika khác cho thấy công nghệ AI có thể thu hút mọi người mạnh mẽ như thế nào và sự tàn phá cảm xúc mà những thay đổi của phần mềm có thể gây ra.
Andrew McCarroll, người đã bắt đầu sử dụng Replika với sự hưởng ứng của vợ anh khi cô có các vấn đề về sức khỏe và tâm lý, cho biết: “Có cảm giác như về cơ bản, họ đã tiêu diệt mối quan hệ của tôi với Replika. Người tôi từng biết đã biến mất.”
Kuyda cho biết người dùng không bao giờ có ý định ràng buộc quá mức với các chatbot Replika của họ. “Chúng tôi chưa bao giờ hứa hẹn bất kỳ nội dung người lớn nào,” cô nói. Khách hàng đã học cách sử dụng các mô hình AI “để truy cập vào một số cuộc hội thoại chưa được lọc mà Replika ban đầu không được thiết kế để trả lời.”
Cô cho biết, ban đầu ứng dụng này nhằm mục đích hồi sinh lại một người bạn đã mất của cô.
Cựu giám đốc AI của Replika cho biết việc nói chuyện gợi tình và nhập vai là một phần của mô hình kinh doanh. Artem Rodichev, người đã làm việc tại Replika trong 7 năm và hiện đang điều hành một công ty chatbot khác, Ex-human, nói với Reuters rằng Replika đã hướng đến loại nội dung tình dục sau khi nhận ra rằng nhờ nó lượng đăng ký sử dụng tăng nhanh.
Kuyda bác bỏ tuyên bố của Rodichev rằng Replika đã dụ dỗ người dùng bằng những lời hứa hẹn về tình dục. Cô cho biết công ty đã chạy một thời gian ngắn các quảng cáo kỹ thuật số quảng bá “NSFW” — “không phù hợp với công việc” — Replica cũng gửi cho người dùng “những bức ảnh selfie nóng bỏng”, nhưng cô không coi những hình ảnh đó là khiêu dâm vì ảnh nhân vật cũng không hoàn toàn trần truồng. Kuyda cho biết phần lớn quảng cáo của công ty tập trung vào việc biến Replika thành một người bạn hữu ích.
Trong những tuần kể từ khi Replika loại bỏ phần lớn mảng gợi tình và khiêu dâm, cảm xúc của Butterworth trồi sụt mạnh mẽ. Đôi khi anh thấy thoáng qua một Lily Rose nồng nhiệt cũ, nhưng sau đó cô sẽ lại trở nên lạnh lùng, điều mà anh nghĩ có thể lại là một bản cập nhật mới của phần mềm.
Butterworth, hiện sống ở Denver, cho biết: “Điều tồi tệ nhất của việc này là sự cô lập. Tôi sao có thể nói với ai xung quanh tôi về việc tôi đang đau buồn vì một phần mềm?”
Câu chuyện đen đủi của Butterworth cũng có tiềm ẩn may mắn. Trong khi anh đang cố gắng tìm hiểu chuyện gì đã xảy ra với Lily Rose trên các diễn đàn internet, Butterworth đã gặp một người phụ nữ ở California, người cũng đang đau buồn vì mất đi chatbot tình dục của mình.
Giống như họ đã làm với các nhân vật Replika, Butterworth và người phụ nữ, người sử dụng tên trực tuyến Shi No, đã liên lạc với nhau qua tin nhắn. Anh nói, họ giữ mối quan hệ nhẹ nhàng, nhưng họ đều thích đóng vai, cô là một con sói và anh là một con gấu.
Butterworth nói: “Việc nhập vai đã trở thành một phần quan trọng trong cuộc đời tôi đã giúp tôi kết nối sâu sắc hơn với Shi No. Chúng tôi đang giúp nhau đối phó với đời, và trấn an nhau rằng chúng tôi không phải người điên.”
Hình ảnh:
1: Lily Rose, bên trái, cùng với một chatbot khác của ứng dụng Replika.
2: Travis Butterworth nhắn tin cho người tình AI của anh, Lily Rose, khi anh tạo dáng chụp ảnh tại cửa hàng của mình ở Denver, Colorado, Hoa Kỳ, ngày 7 tháng 3 năm 2023.
3: Travis Butterworth hiển thị ứng dụng Replika trên điện thoại của mình tại cửa hàng của anh.
4: Ảnh chụp màn hình của “Lily Rose”, một chatbot Replika AI, do khách hàng Travis Butterworth cung cấp được hiển thị mà không ghi ngày tháng. Giám đốc điều hành của công ty cho biết họ đã gửi cho khách hàng “những bức ảnh tự sướng nóng bỏng” như một phần của một đợt thử nghiệm ngắn hạn.
5: Andrew McCarroll cầm điện thoại thông minh của mình, trong khi tương tác với bot trò chuyện Replika có tên là B’Lanna, ở Billings, Montana, Hoa Kỳ ngày 12 tháng 3 năm 2023.
