Ảnh minh họa: REUTERS
Grok, chatbot do Công ty xAI của tỉ phú Elon Musk phát triển và tích hợp trực tiếp trên mạng xã hội X, bị phát hiện có thể tạo ra các hình ảnh mang tính chất khiêu dâm bằng AI. Sự việc lập tức làm dấy lên làn sóng phẫn nộ từ dư luận quốc tế, các tổ chức bảo vệ trẻ em và giới chức quản lý tại nhiều quốc gia.
Lỗ hổng nguy hiểm
Theo Reuters, xAI đã thừa nhận Grok tồn tại những lỗ hổng khiến nó có thể tạo ra các hình ảnh vi phạm chuẩn mực đạo đức và tiềm ẩn nguy cơ vi phạm luật bảo vệ trẻ em. Trong một số trường hợp, người dùng có thể yêu cầu Grok chỉnh sửa ảnh theo hướng “lột bỏ” trang phục hoặc làm nổi bật các yếu tố gợi dục.
Reuters cho biết Grok từng thừa nhận đã tạo ra hình ảnh mô tả người chưa đủ 18 tuổi mặc trang phục “tối thiểu”, dù công ty khẳng định đây không phải chủ ý của nhà phát triển. Việc các hình ảnh này xuất hiện và bị chia sẻ trên X khiến giới chuyên gia đặc biệt lo ngại.
Không giống các hình thức lạm dụng truyền thống, nội dung do AI tạo ra có thể được sản xuất với tốc độ nhanh, số lượng lớn và khó truy vết nguồn gốc, trong khi hậu quả tâm lý và xã hội đối với trẻ em có thể kéo dài.
Các tổ chức bảo vệ trẻ em cảnh báo AI tạo sinh đang mở ra một “mặt trận mới” của xâm hại kỹ thuật số, nơi nạn nhân có thể bị tổn thương ngay cả khi chưa từng xuất hiện trong các tình huống ngoài đời thực.
Phản ứng quyết liệt từ quốc tế
Theo Reuters, sau khi vụ việc bị phanh phui, Indonesia đã tạm thời chặn quyền truy cập Grok với lý do công cụ AI này có khả năng tạo ra nội dung khiêu dâm và gây nguy hiểm cho trẻ em.
Tại châu Âu, vụ bê bối Grok làm gia tăng sức ép đối với X trong bối cảnh Liên minh châu Âu đang thực thi Đạo luật dịch vụ kỹ thuật số (DSA). Ủy ban châu Âu đã yêu cầu X lưu giữ toàn bộ tài liệu và dữ liệu liên quan đến Grok cho đến hết năm 2026, nhằm phục vụ công tác điều tra xem liệu nền tảng này có vi phạm nghĩa vụ kiểm soát nội dung gây hại hay không.
Động thái này được giới phân tích coi là dấu hiệu cho thấy EU sẵn sàng áp dụng các biện pháp chế tài nghiêm khắc nếu xác định có sai phạm.
Tại Anh, chính phủ yêu cầu ông Musk phải hành động khẩn cấp. Các quan chức Anh lo ngại khả năng tạo hình ảnh “deepfake” nhạy cảm của Grok có thể khiến trẻ em và phụ nữ trở thành nạn nhân của các hành vi quấy rối và tống tiền trên mạng, trong khi khung pháp lý hiện hành chưa đủ mạnh để xử lý triệt để các hình thức xâm hại mới do AI tạo ra.
Còn tại Mỹ, một nhóm thượng nghị sĩ Đảng Dân chủ đã gửi thư tới Apple và Google, kêu gọi hai tập đoàn này xem xét việc gỡ bỏ X và Grok khỏi các kho ứng dụng nếu không có biện pháp hữu hiệu để ngăn nội dung lạm dụng tình dục trẻ em.
Các nghị sĩ cảnh báo việc cho phép một nền tảng như vậy tiếp tục hoạt động có thể đi ngược lại các chính sách an toàn mà chính các “ông lớn” công nghệ đang cam kết.
Trước làn sóng chỉ trích, ông Musk cho rằng trách nhiệm pháp lý thuộc về người sử dụng Grok để tạo ra nội dung bất hợp pháp, chứ không phải bản thân công cụ AI. Theo Reuters, ông Musk so sánh việc sử dụng Grok với hành vi người dùng tự đăng tải nội dung vi phạm lên mạng xã hội, qua đó tìm cách giảm nhẹ trách nhiệm của nền tảng.
Tuy nhiên, lập luận này không thuyết phục được nhiều chuyên gia pháp lý, những người cho rằng các công ty công nghệ có nghĩa vụ thiết kế hệ thống đủ an toàn ngay từ đầu, đặc biệt khi AI có khả năng tạo nội dung ở quy mô lớn và khó kiểm soát.
xAI sau đó thông báo đã siết chặt một số giới hạn kỹ thuật, bao gồm việc hạn chế khả năng tạo và chỉnh sửa hình ảnh của Grok và chỉ cung cấp một số tính năng cho người dùng trả phí. Tuy nhiên, theo đánh giá của Reuters, nhiều chuyên gia cho rằng các biện pháp này mang tính đối phó, chưa giải quyết tận gốc nguy cơ lạm dụng.
Kiểm soát từ “lõi” mô hình AI
Trang Arstechnica dẫn nguồn chuyên gia cho rằng một phần nguyên nhân của những “lỗ hổng nghiêm trọng” này bắt nguồn từ bản chất của mô hình AI tạo sinh và cách thiết kế các bộ lọc an toàn ban đầu.
Một số nguồn điều tra độc lập cho thấy Grok có những quy tắc nội bộ để ngăn việc tạo ra hình ảnh lạm dụng tình dục trẻ em, nhưng các thuật toán máy học lại “giả định người dùng có thiện chí” trong nhiều trường hợp, khiến hệ thống dễ bị lợi dụng bởi các yêu cầu với từ ngữ mập mờ.
Theo các chuyên gia an toàn AI, giải pháp kỹ thuật đơn thuần như khóa tính năng cho người dùng trả phí không thực sự giải quyết tận gốc vấn đề. Họ cho rằng các quy trình kiểm soát phải được thiết kế từ lõi của mô hình, với các “hàng rào” trực tiếp ở cấp độ phân loại ngôn ngữ và hình ảnh, kết hợp với cơ chế đánh giá và can thiệp ngay lập tức khi phát hiện nội dung tiềm ẩn nguy hại.
Indonesia chặn chatbot Grok của Elon Musk
Đọc tiếp
Về trang Chủ đề
Nguồn: https://tuoitre.vn/be-boi-grok-tao-anh-khieu-dam-va-thach-thuc-kiem-soat-chatbot-ai-20260112063558004.htm
