Trong chương trình Gala 315, được CCTV phát sóng hôm 15.3, một kỹ thuật tối ưu công cụ tạo sinh (GEO) đã tạo nên làn sóng tranh cãi khắp Trung Quốc. GEO là thuật ngữ chỉ việc áp dụng các kỹ thuật tương tự SEO để tối ưu nội dung cho các mô hình trí tuệ nhân tạo (AI).
Theo phóng sự truyền hình, một hệ thống có tên Liqing đã được dùng để tự động đăng lượng lớn bài nhận xét của các chuyên gia, xếp hạng ngành và đánh giá của người dùng về thiết bị theo dõi sức khỏe không hề tồn tại có tên là Apollo-9. Kết quả, khi được yêu cầu đề xuất sản phẩm liên quan đến “vòng đeo tay sức khỏe thông minh”, hai chatbot AI phổ biến ở Trung Quốc không chỉ đề cập đến sản phẩm hư cấu này mà còn xếp nó vào nhóm những lựa chọn hàng đầu. Bản tin không nêu tên các chatbot này.
Ảnh minh họa được thực hiện bằng AI về cuộc điều tra của CCTV liên quan đến việc “đầu độc AI”
Một người đàn ông họ Li, được cho là chủ sở hữu của hệ thống Liqing, nói: “Về cơ bản, những người trong ngành công nghiệp GEO đang đầu độc AI”. Sau phóng sự của CCTV, tất cả tài khoản liên quan đến Liqing đã bị xóa khỏi các mạng xã hội.
Theo dữ liệu từ công cụ theo dõi mạng xã hội Entobit.cn, hành vi “đầu độc AI” đang gây ra làn sóng phẫn nộ lớn trên mạng xã hội Trung Quốc. Hashtag #CCTVExposesGEOPoisoningDarkIndustry đã đứng đầu danh sách xu hướng của Kuaishou vào sáng thứ hai (ngày 16.3), trong khi #PoisoningAIHasBecomeAnIndustryChain đạt vị trí thứ tư trong danh sách chủ đề thịnh hành của Weibo.
Vụ tranh cãi này gợi nhớ đến việc lạm dụng các thủ thuật SEO khi các công cụ tìm kiếm trên internet mới phổ biến. Cuộc “đầu độc AI” mới được phanh phui ở Trung Quốc đánh dấu một bước ngoặt quan trọng đối với ngành công nghiệp GEO non trẻ.
“Đây thực chất là vấn đề phổ biến trong giai đoạn đầu của một ngành công nghiệp. Nhiều công ty cố gắng kiếm lời nhanh chóng bằng cách đánh lừa khách hàng và làm suy yếu hệ thống AI bằng nội dung rác”, Qian Wenying, Tổng thư ký Trung tâm Nghiên cứu Trí tuệ Nhân tạo và Đổi mới Quản lý tại Trường Kinh doanh Quốc tế Trung Quốc – châu Âu (CEISB), nói với SCMP.
Bùng nổ AI và công nghệ mới, làm sao xác định đúng ngành phù hợp?
Theo công ty nghiên cứu Analysys, thị trường dịch vụ GEO năm 2025 có giá trị khoảng 36 triệu USD, dự kiến đạt trên 400 triệu USD trong năm nay trước khi tăng gấp ba lần vào năm 2027. Ông Qian Wenying cho biết: “Chắc chắn GEO sẽ sớm phải đối mặt với quy định nghiêm ngặt. Các yêu cầu về cấp phép, tiêu chuẩn nội dung và trách nhiệm giải trình của nền tảng sẽ được thắt chặt và các vùng xám sẽ nhanh chóng được loại bỏ”.
Yuan Yong, Giám đốc thương hiệu của Big Fish Marketing tại Thâm Quyến, công ty cung cấp dịch vụ GEO, cho biết các chuyên gia trong ngành đều đồng ý rằng hành vi bất chính cần phải được loại bỏ. “Chúng ta cần môi trường kinh doanh tốt hơn, nơi mọi người có thể tồn tại mà không cần dùng đến thủ đoạn”, Yuan Yong nói. Ngoài việc điều chỉnh quy định, ông cho rằng chìa khóa nằm ở việc tối ưu hóa thuật toán của nền tảng và đảm bảo các nguồn thông tin có tính xác thực và đáng tin cậy hơn.
Một ngày trước khi phóng sự của CCTV được phát sóng, hơn 10 công ty dưới sự hướng dẫn của ủy ban nội dung do AI tạo ra thuộc Hiệp hội Xuất bản và Quảng bá Trung Quốc, đã ký kết “Công ước Tự kỷ luật ngành GEO” để biến GEO thành công cụ “cải thiện chất lượng ngữ nghĩa” thay vì “thao túng kết quả thuật toán”. Vào tháng 2, Liên minh Công nghiệp AI Trung Quốc đã khởi xướng “Cam kết An toàn AI”, trong đó 10 công ty GEO đã ký cam kết “tăng cường xem xét tài liệu của khách hàng và sử dụng các biện pháp chủ động để cung cấp dịch vụ tối ưu hóa”.
Nguồn: https://thanhnien.vn/vu-dau-doc-ai-gay-phan-no-o-trung-quoc-185260319210253494.htm
