Hàng loạt tổ chức kêu gọi chặn ‘rác AI’ trên YouTube Kids

Bức thư ngỏ do nhóm vận động vì quyền trẻ em Fairplay gửi lên YouTube cùng các lãnh đạo chủ chốt gồm CEO YouTube Neal Mohan và CEO Google Sundar Pichai đầu tháng 4, được hơn 200 chuyên gia và nhóm bảo vệ quyền trẻ em ký tên. Trong số này, có 135 tổ chức về giáo dục gồm Liên đoàn Giáo viên Mỹ và Hiệp hội Tư vấn Mỹ, hay nhà nghiên cứu nổi tiếng Jonathan Haidt, tác giả cuốn sách The Anxious Generation (Thế hệ lo âu).

Thư yêu cầu YouTube cấm hoàn toàn nội dung “rác” do AI tạo ra, hay “AI Slop”, khỏi nền tảng dành cho trẻ em YouTube Kids. Nhóm lập luận, những video dạng này có chất lượng thấp, được sản xuất hàng loạt bằng thuật toán. Chúng không mang lại lợi ích, thậm chí làm thay đổi cấu trúc não bộ của trẻ, trong khi YouTube, các bậc phụ huynh và cơ quan quản lý chưa có hình thức kiểm soát phù hợp.

“Các video do AI tạo ra lan truyền trên YouTube Kids là sự leo thang của vô số vấn đề mà YouTube đã gặp phải trên nền tảng dành cho trẻ em của họ”, Rachel Franz, Giám đốc chương trình Young Children Thrive Offline của Fairplay, nói với Fortune. “Giải quyết tình trạng video AI kém chất lượng cần được ưu tiên, nhưng cũng cần chỉ trích YouTube về việc họ thiết kế nền tảng để thu hút người dùng theo những cách không nhất thiết liên quan đến AI”.

Trong bối cảnh công cụ AI bùng nổ, việc tạo video trở nên dễ dàng. Thuật toán của mạng xã hội như TikTok, Reels trên Facebook và Instagram hay YouTube Shorts càng giúp lan truyền nội dung AI. Tuy nhiên, đa số được sản xuất vội vàng, kém chất lượng, thậm chí bị đánh giá là kỳ quặc hoặc vô nghĩa, được thiết kế để thu hút và giữ sự chú ý của người xem trẻ tuổi. Tình trạng này gọi là “AI Slop” – nội dung tạo rất nhanh và rẻ với số lượng lớn nhưng thiếu chiều sâu, dễ gây phản cảm và đôi khi sai lệch thông tin.

Hồi tháng 2, New York Times ghi nhận “AI Slop” được nhúng khắp YouTube Kids – nền tảng được YouTube quảng bá là không gian an toàn và chọn lọc cho trẻ em.

“Rất nhiều nội dung do AI tạo ra được thiết kế nhằm thu hút sự chú ý của trẻ, đặc biệt là trẻ nhỏ đang trong giai đoạn phát triển khả năng kiểm soát hành động. Chúng có thể bóp méo thực tế, gây nhầm lẫn và ảnh hưởng đến cách hiểu thế giới xung quanh”, Franz giải thích. “Đây không chỉ là vấn đề của việc nuôi dạy con cái. Nền tảng này liên tục đề xuất nội dung AI cho người dùng nhỏ tuổi theo cách gần như không thể tránh khỏi”.

Theo đại diện Fairplay, có “động cơ tài chính” đằng sau các video dạng này, khi nội dung AI dành cho trẻ em hàng đầu đã kiếm được hơn 4,25 triệu USD mỗi năm. Một số người sáng tạo thậm chí công khai quảng cáo lợi nhuận từ video AI không cốt truyện, gây mê hoặc.

“Chỉ khoảng 5% video trên YouTube dành cho trẻ em dưới 8 tuổi thực sự có chất lượng cao. Ngay cả trong số 5% đó, vẫn còn những tranh luận xem liệu chúng có thực sự đạt chất lượng cao hay không”, Franz nói.

Trong thư, Fairplay kêu gọi YouTube dán nhãn rõ ràng tất cả nội dung do AI tạo ra trên toàn nền tảng, cấm hoàn toàn nội dung do AI tạo ra trên YouTube Kids và cấm nội dung Dành cho trẻ em do AI tạo ra trên YouTube chính. Ngoài ra, nhóm cũng yêu cầu chặn đề xuất nội dung AI cho người dùng dưới 18 tuổi, giới thiệu tùy chọn dành cho phụ huynh để vô hiệu hóa nội dung AI (mặc định bị tắt) và ngừng mọi đầu tư vào nội dung cho trẻ em do AI tạo ra.

“Thuật toán của YouTube khiến trẻ em không thể tránh khỏi những nội dung rác do AI tạo ra. YouTube phải ngừng ngay việc nhồi nhét chúng cho trẻ em trước khi nó gây tổn hại thêm cho cả một thế hệ”, Franz nhấn mạnh.

YouTube phủ nhận những con số được nêu trong thư. Theo người phát ngôn Boot Bullwinkle, YouTube Kids có “tiêu chuẩn cao”, gồm việc giới hạn nội dung do AI tạo ra, gắn nhãn nội dung AI, cung cấp cho phụ huynh tùy chọn chặn các kênh, ưu tiên tính minh bạch. Công ty cũng đang phát triển các công cụ kiểm soát, nhưng không cung cấp mốc thời gian cụ thể.

YouTube Kids là phiên bản YouTube cho trẻ em ra mắt tháng 2/2015. Từ khi xuất hiện, nền tảng đã tích hợp bộ lọc nội dung tự động kết hợp kiểm duyệt thủ công, cùng công cụ kiểm soát dành cho phụ huynh như giới hạn thời gian xem hay lựa chọn chủ đề (giáo dục, âm nhạc, khám phá…). Tuy vậy, chỉ vài năm sau, ứng dụng vấp phải nhiều tranh cãi liên quan đến việc thuật toán để lọt video “ngụy trang” không phù hợp, buộc Google liên tục cập nhật chính sách cũng như bổ sung chế độ nội dung được phê duyệt thủ công.

Bảo Lâm (theo Fortune, Mashable, New York Times)