Bộ Tư pháp vừa công bố hồ sơ thẩm định dự thảo nghị định quy định chi tiết một số điều và biện pháp thi hành luật Trí tuệ nhân tạo (AI). Dự thảo do Bộ KH-CN soạn thảo.
Vấn đề “ai chịu trách nhiệm khi thiệt hại xảy ra” là một thách thức khi phát triển AI (ảnh minh họa)
AI gây ra thiệt hại, ai chịu trách nhiệm?
Theo Bộ KH-CN, AI đang trở thành công nghệ mũi nhọn của cuộc Cách mạng công nghiệp 4.0, mở ra nhiều cơ hội to lớn cho phát triển kinh tế – xã hội, song cũng đặt ra không ít thách thức, cấp bách về quản lý, đạo đức và an toàn.
Điển hình như khoảng trống về trách nhiệm pháp lý khi AI gây thiệt hại. Đây là một trong những thách thức pháp lý nhức nhối nhất từ thực tiễn.
Cơ quan soạn thảo đặt vấn đề, khi một hệ thống AI gây ra thiệt hại (ví dụ xe tự lái gây tai nạn, phần mềm chẩn đoán y tế đưa ra kết quả sai, hệ thống tín dụng tự động từ chối cho vay một cách phân biệt đối xử), vậy ai sẽ chịu trách nhiệm? Nhà phát triển, nhà sản xuất, người sử dụng, hay chính hệ thống AI?
Thực tế cho thấy pháp luật dân sự, hình sự hiện hành chưa có câu trả lời thỏa đáng cho những tình huống trên. Điều này gây hoang mang cho người tiêu dùng và rủi ro cho doanh nghiệp.
Hay như thách thức về an ninh quốc gia, trật tự xã hội và các giá trị đạo đức. Sự phát triển của AI đặt ra những nguy cơ an ninh phi truyền thống rất cấp bách.
Công nghệ deepfake bị lạm dụng để tạo ra các thông tin sai lệch, bôi nhọ, lừa đảo hoặc gây bất ổn chính trị xã hội. Hệ thống vũ khí tự động đặt ra các câu hỏi phức tạp về đạo đức và luật pháp quốc tế, đòi hỏi phải có quy định quản lý chặt chẽ.
Hoặc thuật toán thiên vị tạo ra các hệ thống AI có thể vô tình hoặc cố ý học và khuếch đại các định kiến có sẵn trong dữ liệu, dẫn đến các quyết định bất công và phân biệt đối xử trong xã hội…
Bắt buộc đánh giá tác động trước khi vận hành
Để tạo hành lang pháp lý giải quyết những vấn đề đã nêu, tại dự thảo nghị định, Bộ KH-CN đề xuất thiết lập khung chi tiết phân loại AI thành 3 cấp độ: rủi ro cao, trung bình và thấp.
Nhà cung cấp AI có trách nhiệm tự thực hiện phân loại, lập hồ sơ kỹ thuật chi tiết về kiến trúc, dữ liệu và biện pháp quản trị rủi ro, đồng thời thực hiện thông báo kết quả cho Bộ KH-CN để nhận mã định danh hệ thống.
Đối với hệ thống AI rủi ro trung bình, trọng tâm quản lý đặt vào nghĩa vụ minh bạch, thông báo và gắn nhãn nội dung nhằm tránh gây nhầm lẫn cho người dùng. Trong khi đó, các hệ thống AI rủi ro cao bắt buộc phải thực hiện đánh giá hoặc chứng nhận sự phù hợp trước khi đưa ra thị trường.
Dự thảo cũng thiết lập khung pháp lý về minh bạch, giải trình và quản lý sự cố nhằm bảo đảm quyền lợi hợp pháp của các đối tượng chịu tác động bởi hệ thống trí tuệ nhân tạo.
Theo đó, nhà cung cấp hệ thống AI rủi ro trung bình và cao có nghĩa vụ cung cấp thông tin về chức năng, logic vận hành và cảnh báo rủi ro khi có yêu cầu hợp pháp từ cơ quan nhà nước hoặc bên bị tác động.
Các nội dung do AI tạo sinh như âm thanh, hình ảnh, video bắt buộc phải được đánh dấu kỹ thuật ở định dạng máy đọc và gắn nhãn hiển thị rõ ràng nếu có khả năng gây nhầm lẫn về tính xác thực.
Song song đó, cơ chế giải trình yêu cầu các bên làm rõ mức độ tự động hóa, vai trò giám sát của con người và phương thức xử lý sai lệch phát sinh trong quá trình vận hành.
Dự thảo còn quy định quy trình giám sát sau triển khai và chế độ báo cáo sự cố nghiêm trọng với thời hạn nghiêm ngặt tùy theo cấp độ rủi ro của hệ thống.
Đặc biệt, cơ quan nhà nước bắt buộc thực hiện đánh giá tác động trước khi vận hành các hệ thống AI rủi ro cao hoặc có ảnh hưởng lớn đến quyền lợi công dân và dịch vụ công…
Nguồn: https://thanhnien.vn/robot-tri-tue-nhan-tao-chan-doan-sai-benh-bac-si-hay-ai-chiu-trach-nhiem-185260228093011111.htm
