Đánh vào lòng thương cảm để thu lợi
Nhiều người cao tuổi đang trở thành nạn nhân của các đoạn video ngắn có sự xuất hiện của “Xiaohai” – một nhân vật nam được tạo ra bởi trí tuệ nhân tạo (AI), luôn tỏ ra cần sự giúp đỡ và thiếu thốn tình cảm. Đáp lại, cộng đồng mạng đã tạo ra những phiên bản khác để cảnh báo.
Được gọi chung là “Xiaohai”, các nhân vật ảo này thường xuất hiện dưới hình ảnh những cậu bé ở độ tuổi thiếu niên, mặc đồng phục học sinh hoặc sơ mi trắng giản dị, vừa khóc vừa kể về cuộc sống nghèo khổ của mình.
Video ngắn AI tràn ngập trên mạng.
Trong các video này, nhân vật Xiaohai thường gọi người xem là “các dì, các mẹ”, hỏi thăm sức khỏe của họ, đôi khi còn hát một bài trước khi bắt đầu quảng cáo sản phẩm.
Trong một video, một nhân vật “ Xiaohai ” cầm bánh bao và than thở với người xem - những người được cậu gọi là “các dì, các mẹ” rằng: “Các bạn cùng lớp đi ăn trưa hết rồi. Con phải trốn trong lớp để ăn cái này thôi.”
Trong một video khác, nhân vật này xuất hiện trong cảnh đang bị “bắt nạt” dưới mưa vì không có tiền đóng học phí. Cậu bé cầu xin người xem hãy mua ngũ cốc kiều mạch giúp mình.
“Xiaohai, sao bố mẹ em vẫn chưa đến? Gia đình các bạn khác đều đã đến hỗ trợ rồi mà,” một người hỏi cậu bé đang chuẩn bị cho cuộc thi bán hàng.
“Em ổn mà cô,” cậu bé đáp, mồ hôi nhễ nhại trên gương mặt. “Em tự làm được — em tin là các dì, các mẹ ngoài kia sẽ giúp em.” Sau đó, cậu nhìn thẳng vào ống kính, những giọt mồ hôi giờ đã hóa thành nước mắt, khẩn khoản nhờ người xem mua giúp một loại kem dưỡng da cao cấp, rồi thốt lên: “Chẳng lẽ trẻ em xuất thân từ gia đình nghèo khó thì không xứng đáng đứng trên sân khấu này sao?”
Phân cảnh này nằm trong loạt video về “Xiaohai” - một nhân vật được tạo ra bằng AI rất phổ biến trên mạng.
Các nhân vật “Xiaohai” còn quảng cáo các loại thực phẩm chức năng và đồ gia dụng, với lý do cần kiếm tiền để phụ giúp người cha đơn thân. Các sản phẩm này thường bị đẩy giá lên rất cao, trong khi trên thị trường không đến giá đó.
Các nhân vật AI này được tạo ra với vẻ ngoài từ dễ thương đến đáng thương.
Với mức hoa hồng lên tới 55%, những người tạo ra các video ngắn kiểu này có thể thu về lợi nhuận đáng kể. Một người trong ngành chia sẻ, những người sáng tạo sử dụng các câu lệnh AI để sản xuất video “Xiaohai” có thể kiếm được từ 2.000 đến 3.000 nhân dân tệ mỗi ngày. Một số người sáng tạo tiết lộ họ kiếm được ít nhất 1.000 đến 2.000 nhân dân tệ (khoảng 140 đến 280 USD) mỗi ngày từ các video có nhân vật AI này.
Xu hướng này đang lan rộng trên các nền tảng video ngắn tại Trung Quốc. Tính đến những ngày gần đây, hashtag liên quan đến nhân vật này đã thu hút hơn 620 triệu lượt xem trên Douyin (phiên bản TikTok tại Trung Quốc). Các video này nhắm đến đối tượng là phụ nữ lớn tuổi, nhằm quảng bá đủ loại sản phẩm, từ nước tương đến mỹ phẩm.
Phần lớn người theo dõi ở độ tuổi trung niên hoặc cao tuổi; họ thường để lại những bình luận đầy thương cảm, như thể dành cho chính con cháu mình.
“Sao con chỉ ăn bánh bao thôi vậy? Dì xót xa cho con quá!” là nội dung của một bình luận. Sau khi đặt hàng, một người dùng khác đã viết: “Con trai ơi, mẹ vừa đặt bốn món đồ rồi đấy.”
Phần lớn nạn nhân là người dùng ở độ tuổi trung niên hoặc cao tuổi; họ thể hiện tình cảm chân thành trong các bình luận mà không hề hay biết mình đang bị thao túng để gửi tiền hoặc mua sản phẩm. Ảnh minh họa: Wei Liang/China News Service qua Getty Images.
Một số người cao tuổi khác thậm chí đã có những hành động không kiểm soát. Vào tháng 5, cảnh sát tại Urumqi đã ngăn chặn một cụ bà 79 tuổi, không biết chữ, đang đi tàu một mình.
Cụ bà khẳng định mình đang trên đường đến tỉnh Sơn Tây ở miền Bắc Trung Quốc để gặp Xiaohai – người từng mời bà đến ăn nấm và ngắm hoa trong một buổi phát trực tiếp (livestream).
Các cảnh sát đã liên lạc với gia đình và đưa cụ về nhà sau khi giải thích rằng cháu trai đó là giả mạo.
Cảnh báo lừa đảo
Các chuyên gia pháp lý cảnh báo việc cố tình dàn dựng câu chuyện để thúc đẩy doanh số thương mại điện tử có thể cấu thành hành vi lừa đảo.
Trong khi đó, Giáo sư Mã Lượng (Ma Liang) từ Đại học Bắc Kinh chỉ ra những vấn đề xã hội sâu sắc hơn.
“Nhiều người cao tuổi phải đối mặt với sự cô đơn trong đời thực. Họ tìm đến tiêu dùng kỹ thuật số để lấp đầy khoảng trống cảm xúc,” ông Mã chia sẻ.
Hầu hết các video liên quan đến Xiaohai trên các nền tảng video ngắn tại Trung Quốc đại lục đều đã bị gỡ bỏ.
Để đối phó tình trạng này, một số cư dân mạng am hiểu công nghệ đã sử dụng trí tuệ nhân tạo (AI) để tạo ra các video về “Xiaohai xấu xa” nhằm cảnh báo cha mẹ và kéo họ trở về với thực tại.
Trong những video châm biếm này, Xiaohai xuất hiện trong bộ dạng xin lỗi người hâm mộ, hoặc mặc trang phục sang trọng và khoe khoang về việc lợi dụng “các dì, các mẹ”.
Bà Yi Xiaoting - Phó trưởng khoa Nhân văn và Hành chính công tại Đại học Mở Thượng Hải chia sẻ, Xiaohai tạo ra một cảm giác gần gũi, khiến những lời nói của nhân vật này trở nên đầy sức thuyết phục đối với người lớn tuổi. Bà giải thích: "Cảm giác thân thuộc và gần gũi đó có thể lấn át nhu cầu kiểm chứng xem nhân vật này có thật hay không, hoặc liệu câu chuyện đó có đúng sự thật hay không."
Bà Yi nói thêm, để giúp người lớn tuổi đối phó với thông tin sai lệch do AI tạo ra, cần khuyến khích họ đặt nghi vấn đối với những nhân vật có vẻ đáng tin cậy, đồng thời tự mình xác minh các thông tin ngay cả khi câu chuyện đó tạo ra cảm giác chân thực về mặt cảm xúc. Bà cũng nhấn mạnh tầm quan trọng của việc triển khai các chương trình nâng cao năng lực số, đặc biệt cho người lớn tuổi, song song với việc tăng cường quản lý đối với nội dung do AI tạo ra.
