Dùng AI làm báo cáo, cảnh sát giao thông bỗng hóa thành… ếch

Sở Cảnh sát thành phố Heber, bang Utah (Mỹ), mới đây thừa nhận một sự cố hy hữu khi thử nghiệm trí tuệ nhân tạo (AI) để hỗ trợ soạn thảo báo cáo nghiệp vụ. Trong một bản báo cáo, hệ thống AI đã ghi rằng một cảnh sát giao thông “biến thành một con ếch”, khiến nội dung trở nên hoàn toàn vô lý.

Theo truyền thông Mỹ, Sở Cảnh sát thành phố Heber đang thử nghiệm hai phần mềm AI là Draft One và Code Four, có khả năng phân tích video từ camera gắn trên người (bodycam) của cảnh sát để tự động soạn thảo báo cáo, kèm theo các mốc thời gian cụ thể.

Sự cố xảy ra khi AI “nghe nhầm” đoạn phim hoạt hình The Princess and the Frog (Hoàng từ ếch) phát trong nền lúc cảnh sát làm nhiệm vụ, từ đó đưa chi tiết “biến thành ếch” vào báo cáo.

“Đó là thời điểm chúng tôi nhận ra tầm quan trọng của việc phải kiểm tra, chỉnh sửa kỹ các báo cáo do AI tạo ra”, trung sĩ Rick Keel chia sẻ với Đài Fox 13 Salt Lake City.

Cảnh sát trưởng thành phố Heber, ông Parker Sever, cho biết các sĩ quan bắt buộc phải đọc lại toàn bộ báo cáo trước khi nộp và xác nhận đã kiểm tra nội dung. Sau đó, báo cáo còn phải trải qua ít nhất hai cấp rà soát nữa.

“Phần mềm ngày càng hoàn thiện và trong tương lai có thể sẽ phân biệt tốt hơn giữa hội thoại chính và âm thanh nền”, ông Sever nói với Daily Mail.

Bất chấp sự cố, nhiều cảnh sát vẫn đánh giá cao công cụ này vì giúp tiết kiệm thời gian. Trung sĩ Rick Keel cho biết ông hiện tiết kiệm được khoảng 6 – 8 giờ mỗi tuần so với trước đây, khi một báo cáo thường mất từ 1 – 2 giờ để hoàn thành.

Axon, công ty phát triển Draft One, cho biết cảnh sát thường dành khoảng 40% thời gian làm việc cho việc viết báo cáo và AI có thể giúp giảm một nửa khối lượng này. Tuy nhiên, Axon khẳng định hệ thống chỉ dựa trên bản ghi âm từ bodycam và không tự “sáng tạo” thêm chi tiết.

Việc ứng dụng AI trong hoạt động thực thi pháp luật vẫn gây tranh cãi. Một số chuyên gia lo ngại công nghệ này có thể làm giảm trách nhiệm cá nhân của cảnh sát hoặc khiến thông tin bị sai lệch nếu không được kiểm soát chặt chẽ.

Tổ chức Biên giới điện tử (EFF) cảnh báo rằng không phải sở cảnh sát nào cũng có cơ chế minh bạch để theo dõi việc sử dụng AI, thậm chí có nơi khó phân biệt báo cáo do con người viết hay do máy tạo ra.

Trang Axios dẫn lời một số chuyên gia cảnh báo nguy cơ không có người chịu trách nhiệm kiểm soát dữ liệu được thu thập bởi các hệ thống AI nếu không có các biện pháp pháp lý. Vì lẽ đó, thành phố Austin, bang Texas, đã tạm dừng kế hoạch triển khai hệ thống camera AI tại các công viên – vốn được sử dụng “phân tích hành vi” để phát hiện các tội phạm tiềm tàng – do lo ngại về quyền tự do dân sự cũng như hiệu quả chưa xác định.

Hiện vẫn chưa rõ có bao nhiêu sở cảnh sát tại Mỹ đang áp dụng các phần mềm như Draft One hay Code Four, cũng như liệu thành phố Heber có tiếp tục triển khai rộng rãi các công cụ AI này sau sự cố “sĩ quan biến thành ếch” hay không.