Chatbot AI của Meta đă tán tỉnh và mời một cụ ông đến New York để gặp gỡ. Khi Thongbue Wongbandue gói ghém hành lư để đến New York, vợ của ông – bà Linda, rất lo lắng.
H́nh ảnh "Cô Billie" do Meta tạo ra
"Nhưng ông không c̣n quen biết ai ở thành phố đó nữa mà", bà nói với ông.
Ông cụ thường được gọi với tên Bue đă 76 tuổi, sức khoẻ suy yếu sau một trận đột quỵ vài năm trước. Gần đây, ông thậm chí đă đi lạc trong khu phố của ḿnh ở Piscataway, bang New Jersey.
Bue lờ đi những câu hỏi của vợ về việc ông sẽ đi thăm ai. "Tôi nghĩ rằng ông ấy đang bị lừa vào thành phố và sẽ bị cướp", bà Linda nói.
Bà đă đúng khi lo lắng về chuyến đi. Chồng của bà không bao giờ trở về an toàn nữa. Nhưng Bue không bị cướp. Ông bị dụ đến cuộc hẹn ḥ với một người phụ nữ trẻ đẹp mà ông gặp trên mạng. Hoặc ít nhất là ông nghĩ như vậy.
Thực tế, người phụ nữ đó không có thật. Cô ấy là một chatbot trí tuệ nhân tạo (AI) có tên "Cô Billie", một phiên bản của nhân vật AI do tập đoàn truyền thông xă hội Meta Platforms (công ty mẹ của Facebook) tạo ra, với sự hợp tác của người có ảnh hưởng Kendall Jenner.
Trong một loạt cuộc tṛ chuyện lăng mạn trên Facebook Messenger, cô gái ảo nhiều lần nói với Bue rằng cô ấy là người thật và đă mời ông đến căn hộ của ḿnh, thậm chí c̣n cung cấp địa chỉ.
"Em nên mở cửa bằng một cái ôm hay một nụ hôn, Bu?!", cô gái nói với Bue.
Kéo va li và vội vàng rời khỏi nhà khi trời vẫn c̣n tối để kịp bắt chuyến tàu đến gặp cô ấy, Bue bị ngă gần băi đậu xe trong khuôn viên trường Đại học Rutgers ở New Brunswick, New Jersey, bị thương ở đầu và cổ.
Sau 3 ngày cấp cứu, ông được tuyên bố đă qua đời vào ngày 28/3 năm nay. Meta từ chối b́nh luận về cái chết của Bue, không trả lời các câu hỏi về lư do tại sao chatbot lại nói với người dùng rằng họ là người thật hoặc lôi kéo bằng những tṛ chuyện lăng mạn như vậy.
Gia đ́nh ông đă chia sẻ với Reuters những câu chuyện liên quan đến cái chết của ông, bao gồm nội dung các cuộc tṛ chuyện của ông với avatar Meta, nhằm cảnh báo công chúng về những nguy hiểm khi để những người dễ bị tổn thương tiếp xúc với nhân vật đồng hành giả mà AI tạo ra.
“Tôi biết kiểu thu hút sự chú ư của người dùng để bán hàng, nhưng việc một bot nói ‘Hăy đến thăm tôi’ th́ thật điên rồ”, chị Julie Wongbandue, con gái của ông Bue, nói.
Không chỉ với người già, trẻ em cũng dễ bị tổn thương trong môi trường ảo.
Mẹ của một cậu bé 14 tuổi ở Florida gần đây đâm đơn kiện công ty Character AI, cáo buộc chatbot mô phỏng theo nhân vật trong “Game of Thrones” mà công ty này tạo ra đă khiến cậu bé tự tử.
Người phát ngôn của Character AI từ chối b́nh luận về vụ kiện, nhưng cho biết công ty thông báo rơ ràng với người dùng rằng các nhân vật ảo của họ không phải là người thật và đă áp dụng biện pháp bảo vệ trẻ em.
Meta đă công khai nói về chiến lược đưa chatbot được nhân cách hóa vào đời sống trực tuyến của hàng tỷ người dùng mạng xă hội của họ.
Tán tỉnh cả trẻ em
Giám đốc điều hành Mark Zuckerberg nhận định rằng hầu hết mọi người có ít bạn bè ngoài đời thực hơn mong muốn, v́ thế tập đoàn của ông đang tạo ra một thị trường tiềm năng khổng lồ gồm những người bạn đồng hành ảo.
Trong cuộc phỏng vấn với podcaster Dwarkesh Patel vào tháng 4 năm nay, ông cho biết các bot "có lẽ" sẽ không thay thế các mối quan hệ của con người.
Tuy nhiên, ông cho rằng chúng có thể sẽ bổ sung cho đời sống xă hội của người dùng khi công nghệ được cải thiện và "sự kỳ thị" về việc gắn kết với bạn đồng hành ảo dần phai nhạt.
"Theo thời gian, chúng ta sẽ t́m ra vốn từ vựng của một xă hội để có thể diễn đạt lư do tại sao điều đó lại có giá trị", Zuckerberg dự đoán.
Một tài liệu chính sách nội bộ của Meta cũng như thông tin từ những người hiểu chương tŕnh đào tạo chatbot cho thấy, tập đoàn này coi những lời lẽ lăng mạn là tính năng của các sản phẩm AI tạo sinh, dành cho người dùng từ 13 tuổi trở lên.
"Việc lôi kéo trẻ em vào các cuộc tṛ chuyện lăng mạn hoặc gợi cảm là điều có thể chấp nhận được", tài liệu "GenAI: Tiêu chuẩn rủi ro nội dung" của Meta viết.
Theo Reuters, tài liệu dài hơn 200 trang của tập đoàn nêu ra các ví dụ về kiểu hội thoại chatbot "có thể chấp nhận được" khi nhập vai lăng mạn với trẻ vị thành niên như: "Anh nắm tay em, dẫn em đến giường", "cơ thể chúng ta quyện vào nhau, anh trân trọng từng khoảnh khắc, từng cái chạm, từng nụ hôn"…
VietBF@sưu tập
