Chiều 27/11, tiếp tục chương trình Kỳ họp thứ 10, Quốc hội thảo luận tại hội trường về dự án Luật Trí tuệ nhân tạo. Phó Chủ tịch Quốc hội Lê Minh Hoan điều hành phiên họp.
Cần kiểm soát rủi ro đối với AI
Nhấn mạnh về cơ chế kiểm soát rủi ro đối với AI trong cuộc sống ngày nay, đại biểu Nguyễn Tâm Hùng (đoàn TP Hồ Chí Minh) nêu ý kiến, dự thảo luật yêu cầu nhà cung cấp bảo đảm đánh dấu máy đọc đối với nội dung AI là rất cần thiết; tuy nhiên, ông đề nghị cân nhắc bổ sung yêu cầu bắt buộc hiển thị thông tin nhận diện ngay trên giao diện tương tác khi nội dung có nguy cơ gây nhầm lẫn, để bảo vệ người dùng phổ thông, đặc biệt là trẻ em và người lớn tuổi khỏi nguy cơ thông tin sai lệch và các giả mạo sâu sắc. Quy định này nâng cao trách nhiệm xã hội của đơn vị cung cấp công nghệ và xây dựng niềm tin số cho người dân.
Đại biểu cho biết, mô hình AI đa dụng hiện nay không chỉ tạo văn bản hay hình ảnh, mà có thể tự sinh ra mã nguồn, công cụ tấn công, chỉ thị thực thi, quy trình tấn công mạng, phương thức gian lận tài chính… Từ đó, đại biểu đề nghị bổ sung nghĩa vụ kiểm soát “khả năng tự sinh” của mô hình khi cho phép tạo mã nguồn, phải có cơ chế cảnh báo, chặn, giới hạn đầu ra là cần thiết để bảo đảm an ninh mạng và trật tự an toàn xã hội.
Cùng nhìn nhận về nguy cơ rủi ro do AI tạo ra, đại biểu Phạm Văn Hòa (đoàn Đồng Tháp) cho biết, công nghệ AI mặc dù là công cụ hỗ trợ cho con người, nhưng mang lại nhiều rủi ro cao; đại biểu đề nghị ban soạn thảo có đánh giá khách quan, chính xác về việc này. “Việc rủi ro có thể ảnh hưởng tới tới tính mạng của con người, tài sản, quyền, lợi ích hợp pháp của tổ chức, cá nhân” - đại biểu Phạm Văn Hòa nêu ý kiến và nêu thêm vấn đề cần có gắn nhãn mác cho các sản phẩm do AI tạo ra. Theo ông, việc gắn mác AI để cho người dân biết được đâu là sản phẩm do AI tạo ra, đâu là sản phẩm không do AI…
Trong khi đó, đại biểu Trịnh Thị Tú Anh (đoàn Lâm Đồng) cho rằng, trong điều 11 của dự thảo luật chưa phản ánh đầy đủ tư duy đánh giá rủi ro theo tác động công nghệ vì bối cảnh hiện nay AI có thể tạo ra những phương thức gây hại chưa từng được nhận diện. Do đó, đại biểu Trịnh Thị Tú Anh đề nghị thêm một khoản quy định: “Chính phủ quy định chi tiết và định kỳ cập nhật, bổ sung danh mục hệ thống trí tuệ nhân tạo có rủi ro không chấp nhận được trên cơ sở đánh giá rủi ro, xu hướng công nghệ và yêu cầu quản lý thực tiễn” để bảo đảm điều luật không bị lạc hậu và có thể phản ứng nhanh trước nguy cơ mới.
Đề nghị bổ sung quy định về giám sát lưu hành AI trong y tế
Nêu quan điểm, đại biểu Trần Khánh Thu (đoàn Hưng Yên) cho rằng thế kỷ 21, trí tuệ nhân tạo đã trở thành một cuộc cách mạng công nghệ và tác động sâu rộng đến nhiều lĩnh vực khoa học, công nghệ và đời sống. Trong số đó, ngành y tế được đánh giá là một trong những lĩnh vực có nhiều tiềm năng ứng dụng trí tuệ nhân tạo nhất, với những ảnh hưởng rõ rệt lên quy trình chẩn đoán, điều trị, quản lý bệnh nhân, cũng như nghiên cứu và phát triển dược phẩm. Tuy nhiên, việc áp dụng AI để biết dấu hiệu sức khỏe đôi lúc phản tác dụng.
Đại biểu dẫn ví dụ thực tế từ một bệnh nhân 55 tuổi ở TP Hồ Chí Minh, khi được đưa tới bệnh viện đã trong tình trạng lơ mơ. Trước đó, người nhà bệnh nhân đã dùng AI để chẩn đoán, sau đó đi mua thuốc cho bệnh nhân sử dụng. Sau khi sử dụng thuốc, tình trạng bệnh nhân càng tệ hơn, sau đó được đưa vào bệnh viện thì được chẩn đoán tổn thương não, đột quỵ và không tránh khỏi để lại di chứng. “Tuyệt đối mọi người không dùng kết quả tìm kiếm để chẩn đoán hay kê đơn thuốc. Song, người bán thuốc theo các đơn AI, có vi phạm pháp luật không?” - đại biểu Trần Khánh Thu băn khoăn và cho biết, các luật như Luật Khám bệnh, chữa bệnh 2023 và Luật Dược 2016 điều chỉnh các hoạt động khám chữa bệnh và sản phẩm y tế, nhưng các quy định cụ thể về sản phẩm ứng dụng trí tuệ nhân tạo trong y học vẫn chưa rõ ràng. Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn phải tuân theo quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng về trí tuệ nhân tạo cho các sản phẩm đó.
Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót, bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành. Do đó, đại biểu hy vọng trong dự thảo Luật Trí tuệ nhân tạo lần này sẽ có thêm điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.
Cùng quan điểm, đại biểu Lê Văn Khảm (đoàn TP Hồ Chí Minh) cho rằng cần có quy định riêng cho một số lĩnh vực có rủi ro cao như y tế, tài chính, giao thông. Đặc biệt với y tế, đây là lĩnh vực có rủi ro sai số lớn, liên quan trực tiếp đến sức khỏe, tính mạng người dân nên yêu cầu kiểm soát chặt chẽ hơn. Thí dụ, những công nghệ AI hỗ trợ ra quyết định lâm sàng như AI chẩn đoán, AI dự đoán nguy cơ tử vong hoặc biến chứng, robot phẫu thuật sử dụng AI, AI hỗ trợ kê đơn hoặc phác đồ điều trị phải được kiểm định bắt buộc. Đồng thời, cần có quy định riêng về giám sát lưu hành AI trong y tế, như báo cáo định kỳ, cảnh báo nhanh sự cố, kiểm toán thuật toán, theo dõi sai số theo thời gian thực.
Còn đại biểu Nguyễn Thị Mai Hoa (đoàn Đồng Tháp) quan tâm đến tác động của những quy định trong luật này đối về yếu tố giới và trẻ em. Do đó cần có báo cáo đánh giá tác động kỹ lưỡng hơn về trí tuệ nhân tạo. Nếu trong luật không có những quy định kỹ lưỡng, không có những điều cấm, ràng buộc về sử dụng trí tuệ nhân tạo đối với các nhóm đối tượng, đặc biệt là trẻ em hậu quả có thể rất lớn. Có thể về kinh tế xã hội chúng ta phát triển mạnh hơn, hội nhập nhanh hơn, tiên phong hơn trong lĩnh vực trí tuệ nhân tạo nhưng thế hệ trong tương lại của chúng ta - hiện nay đang là trẻ em, có thể sẽ rất giỏi về công nghệ, nhưng đó là giỏi về sử dụng AI chứ không phải giỏi tự thân và vấn đề đạo đức, văn hóa sẽ bị ảnh hưởng.
Theo đại biểu, cần xác định coi trí tuệ nhân tạo AI là công cụ hay năng lực mở rộng hơn trí tuệ con người. Nếu coi như công cụ, luật sẽ quan tâm nhiều hơn đến những quy định mang tính tính kỹ thuật, còn nếu coi AI là năng lực mở rộng hơn trí tuệ con người, luật sẽ phải quan tâm nhiều hơn đến các vấn đề như: văn hóa, đạo đức và trách nhiệm cộng đồng. Khi đó việc quản lý, kiểm soát sự chi phối của trí tuệ nhân tạo sẽ lớn.
Nghiên cứu, phát triển trí tuệ nhân tạo và Blockchain phục vụ hiệu quả chuyển đổi số trong CAND 
Ứng dụng công nghệ Blockchain và Trí tuệ nhân tạo trong kỷ nguyên số 
