Sự thật đằng sau lỗi lạ ‘cấm chat’ của YouTube

Theo TechRadar, trong nhiều năm qua, YouTube đã không ít lần khiến các nhà sáng tạo nội dung phải ‘kêu trời’ vì những thay đổi liên quan đến chính sách kiếm tiền và kiểm duyệt. Và sự cố kỹ thuật mới nhất trên nền tảng này chính là giọt nước tràn ly, phơi bày rõ nét những lo ngại bấy lâu nay.

ẢNH: CHỤP MÀN HÌNH TECHRADAR

Lỗi lạ khiến khung chat trực tiếp YouTube ‘kén chọn’ nội dung

Tuần qua, nhiều người dùng phát hiện một hiện tượng kỳ lạ, khi khung chat trực tiếp (Live Chat) của YouTube đột nhiên từ chối hiển thị các đoạn văn bản tiếng Anh thông thường. Thay vào đó, hệ thống chỉ chấp nhận cho gửi đi các biểu tượng cảm xúc (emoji) hoặc những dòng chữ bằng ngôn ngữ khác (hoặc các ký tự vô nghĩa).

Lỗi quái gở này ảnh hưởng đến cả tin nhắn bình thường lẫn Super Chat (tin nhắn trả phí), làm gián đoạn hoàn toàn trải nghiệm tương tác trực tiếp giữa người xem và streamer. Dù YouTube đã nhanh chóng khắc phục và để lại một dòng ghi chú ngắn gọn trên trang hỗ trợ, nền tảng này lại hoàn toàn giữ im lặng về nguyên nhân thực sự.

Theo phân tích của các chuyên gia, trên lý thuyết, đây có thể là một lỗi bộ nhớ đệm ở hệ thống máy chủ. Tuy nhiên, kịch bản tồi tệ hơn được đặt ra khi đây rất có thể là hệ lụy từ một trục trặc trong hệ thống kiểm duyệt chat – nơi YouTube đã công khai thừa nhận việc sử dụng trí tuệ nhân tạo (AI) để tự động rà soát nội dung.

Khi AI ‘ra tay’ quá đà

Bỏ qua lỗi kỹ thuật vừa được khắc phục, sự cố này đã làm dấy lên một vấn đề đáng lo ngại khác là bộ lọc kiểm duyệt bằng AI của YouTube đang hoạt động một cách ‘quá hung hăng’.

Những ai thường xuyên sử dụng Live Chat đều dễ dàng nhận thấy, không chỉ những nội dung nhạy cảm hay vi phạm tiêu chuẩn cộng đồng mới bị ‘tuýt còi’. Rất nhiều đoạn chat hoàn toàn bình thường, văn minh cũng bất ngờ bị AI xóa sổ không thương tiếc, ngay cả khi chủ kênh không hề thiết lập chặn từ khóa.

Vấn đề cốt lõi nằm ở chỗ AI vẫn còn lâu mới đạt đến độ hoàn hảo trong việc hiểu ngữ cảnh ngôn ngữ tự nhiên của con người. Việc thiếu vắng sự can thiệp của người thật khiến tình trạng ‘đánh gậy nhầm’ diễn ra tràn lan. Đáng lo ngại hơn, tính năng kiểm duyệt bằng AI này còn được cho là đang mở rộng để quét và đánh giá vi phạm trên toàn bộ các kênh YouTube.

Câu chuyện của YouTube chỉ là một ví dụ điển hình cho một xu hướng đáng báo động. Ngày càng nhiều ông lớn công nghệ đang mù quáng giao phó các tác vụ đòi hỏi tư duy của con người cho AI. Hệ lụy kéo theo không chỉ dừng lại ở những lỗi hệ thống dở khóc dở cười, mà còn đe dọa trực tiếp đến sự ổn định của các nền tảng số, cũng như làm dấy lên những lo ngại sâu sắc về an ninh việc làm trong tương lai.