Đề nghị nhà cung cấp và bên triển khai hệ thống phải bồi thường thiệt hại do hệ thống AI gây ra

Tiếp tục Kỳ họp thứ 10, sáng 21/11, dưới sự điều hành của Phó Chủ tịch Quốc hội Lê Minh Hoan, Quốc hội nghe trình bày Tờ trình và Báo cáo thẩm tra về dự án Luật Trí tuệ nhân tạo.

Con người giám sát AI ở những quyết định trọng yếu

Thừa uỷ quyền Thủ tướng Chính phủ trình bày tờ trình dự án luật, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, dự án Luật Trí tuệ nhân tạo gồm 8 chương với 36 điều, là luật khung, linh hoạt và thích ứng với sự phát triển của công nghệ. Luật quy định một cách có hệ thống, toàn diện các biện pháp nhằm cân bằng giữa quản lý và thúc đẩy hoạt động nghiên cứu, phát triển, triển khai và ứng dụng AI tại Việt Nam. Luật Trí tuệ nhân tạo đặt con người làm trung tâm với nguyên tắc tối cao là AI phục vụ con người, không thay thế con người, con người giám sát AI ở những quyết định trọng yếu; trí tuệ nhân tạo phải minh bạch, trách nhiệm và an toàn. Luật Trí tuệ nhân tạo quản lý hệ thống AI theo mức độ rủi ro, khuyến khích phát triển AI trong nước và tự chủ về AI, lấy AI làm động lực tăng trưởng nhanh, bền vững và bảo đảm chủ quyền số quốc gia.

Theo Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng, luật này không áp dụng cho AI dùng riêng cho mục đích quốc phòng, an ninh, tình báo, cơ yếu và các mô hình nghiên cứu, đào tạo chưa triển khai ra bên ngoài.

Dự thảo luật thiết lập cơ chế quản lý theo mức độ rủi ro. Hệ thống AI được phân loại theo rủi ro, với 4 mức độ rủi ro bao gồm: không chấp nhận được (mức độ cao nhất); rủi ro cao; rủi ro trung bình và rủi ro thấp. Nhà cung cấp phải tự phân loại hệ thống trước khi lưu hành và chịu trách nhiệm về kết quả phân loại. Riêng hệ thống rủi ro trung bình và cao, nhà cung cấp phải thông báo cho Bộ Khoa học Công nghệ. Các hệ thống có rủi ro không chấp nhận được bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới bất kỳ hình thức nào.

Danh mục cấm bao gồm hệ thống dùng cho hành vi bị pháp luật nghiêm cấm, sử dụng yếu tố giả mạo để lừa dối, thao túng gây tổn hại nghiêm trọng, lợi dụng điểm yếu của nhóm người dễ bị tổn thương (trẻ em, người cao tuổi...), hoặc tạo nội dung giả mạo gây nguy hại nghiêm trọng đến an ninh quốc gia. Tổ chức, cá nhân vi phạm quy định của luật sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo pháp luật dân sự.

Nội dung then chốt là thiệt hại do hệ thống AI có rủi ro cao gây ra được xác định là thiệt hại do nguồn nguy hiểm cao độ gây ra. Theo đó, nhà cung cấp và bên triển khai hệ thống phải chịu trách nhiệm bồi thường kể cả khi không có lỗi, trừ các trường hợp được miễn trừ theo Bộ luật Dân sự. Trường hợp nhiều chủ thể cùng tham gia (phát triển, cung cấp, triển khai) thì phải liên đới bồi thường; trách nhiệm bồi thường được xác định dựa trên mức độ kiểm soát thực tế, khả năng dự báo và các biện pháp quản lý rủi ro mà mỗi bên đã áp dụng.

Mức phạt hành chính bằng tiền trong lĩnh vực AI, Chính phủ đề xuất tối đa 2 tỷ đồng đối với tổ chức và 1 tỷ đồng với cá nhân. Với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó. Trường hợp tái phạm thì phạt tối đa 2% doanh thu toàn cầu của năm trước liền kề của tổ chức đó.

Cần bổ sung các “hành vi bị nghiêm cấm trong lĩnh vực AI”

Trình bày thẩm tra dự thảo luật, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết, cơ quan thẩm tra đồng tình với các chính sách lớn tại dự thảo.

Tuy nhiên, cơ quan thẩm tra đề nghị nghiên cứu bổ sung một điều riêng về “các hành vi bị nghiêm cấm trong lĩnh vực AI”, tương tự cấu trúc của nhiều luật chuyên ngành khác như Luật An ninh mạng, Luật Giao dịch điện tử, Luật Công nghiệp công nghệ số... “Việc bổ sung điều khoản này sẽ giúp xác định rõ các hành vi vi phạm pháp luật trong hoạt động nghiên cứu, phát triển, triển khai và sử dụng AI, bao gồm cả hành vi của người sử dụng, tổ chức, cá nhân lợi dụng AI để thực hiện các hành vi bị cấm” - Ủy ban Khoa học, Công nghệ và Môi trường nêu.

Quy định này, theo cơ quan thẩm tra, cũng góp phần tăng tính răn đe, minh bạch và thống nhất trong áp dụng pháp luật, bảo đảm tính toàn diện và đồng bộ của hệ thống quy định điều chỉnh lĩnh vực AI. Ủy ban Khoa học, Công nghệ và Môi trường cũng đề nghị làm rõ mối quan hệ giữa các hành vi bị cấm với các mức độ rủi ro, nhất là rủi ro không chấp nhận được.

Uỷ ban Khoa học, Công nghệ và Môi trường đề nghị cần cân nhắc bổ sung một số hành vi bị cấm như: cấm sử dụng AI để thao túng bầu cử hoặc gây rối, kích động chính trị, xâm phạm an ninh quốc gia; cấm sử dụng AI để nhận diện hoặc phân tích cảm xúc của cá nhân tại nơi làm việc… “Ủy ban thấy rằng, dự thảo luật quy định một số nội dung mới về trách nhiệm bồi thường thiệt hại liên quan đến AI, trong khi nhiều quốc gia trên thế giới hiện vẫn thận trọng và chưa ban hành các quy định đặc thù cho lĩnh vực này. Ủy ban Khoa học, Công nghệ và Môi trường đề nghị cơ quan chủ trì soạn thảo cân nhắc kỹ về tính phù hợp của thời điểm quy định, đồng thời tiếp tục nghiên cứu, tham khảo kinh nghiệm quốc tế và thực tiễn trong nước trước khi ban hành chính thức, nhằm đảm bảo tính khả thi, đồng bộ và thống nhất của hệ thống pháp luật” -  Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường nêu.