Hệ thống giám sát hỗ trợ trí tuệ nhân tạo (AI) mới gây tranh cãi, mà những người chỉ trích cho rằng có thể vi phạm luật riêng tư rộng hơn của Liên minh châu Âu (EU), là một trong nhiều cách mà Pháp đang sử dụng công nghệ để biến Thế vận hội Olympic 2024 trở thành một trong những kỳ Thế vận hội được giám sát chặt chẽ nhất trong lịch sử.
Giám sát AI sẽ tìm kiếm sự xáo trộn của đám đông
Pháp đã thông qua một luật mới vào cuối năm 2023, tạm thời cấp cho cơ quan thực thi pháp luật khả năng sử dụng thuật toán AI “thử nghiệm” để giám sát các nguồn cấp dữ liệu video công khai và cung cấp “phân tích đám đông theo thời gian thực”. Trên thực tế, mô hình phát hiện AI được cho là sẽ phân tích dữ liệu từ hàng nghìn camera giám sát để tìm kiếm dấu hiệu của những bất thường có khả năng gây nguy hiểm ẩn trong đám đông. Những dấu hiệu cảnh báo đó bao gồm những người cầm vũ khí, đám đông lớn hơn dự kiến, đánh nhau và ẩu đả và hành lý không có người trông coi. Pháp đang hợp tác với một số công ty công nghệ phân tích AI bao gồm Wintics, Videtics, Orange Business và ChapsVision.
Cơ quan thực thi pháp luật đã thử nghiệm hệ thống mới tại một số nhà ga tàu điện ngầm, Liên hoan phim Cannes và một buổi hòa nhạc đông đúc của Depeche Mode. Cảnh sát trưởng Paris Laurent Nunez nói với Reuters rằng buổi hòa nhạc diễn ra “tương đối tốt” và “tất cả đèn đều xanh” để hệ thống được sử dụng trong Thế vận hội. Nếu mô hình AI phát hiện ra mối đe dọa tiềm ẩn, nó sẽ đánh dấu mối đe dọa đó cho nhân viên thực thi pháp luật để sau đó quyết định có nên tiến hành bất kỳ hành động thực thi nào tiếp theo hay không.
Giới quan chức Pháp khẳng định mọi phân tích thời gian thực sẽ diễn ra mà không cần sử dụng nhận dạng khuôn mặt hoặc thu thập mã định danh sinh trắc học duy nhất khác. Thay vào đó, cơ quan thực thi pháp luật và đối tác tư nhân của họ cho biết mô hình sẽ chỉ đo các kiểu mẫu “hành vi” như chuyển động cơ thể và vị trí. Giới quan chức tuyên bố AI không thể xác định cá nhân dựa trên danh tính sinh trắc học của họ.
Thử nghiệm công nghệ giám sát video AI mới
Nhưng một số nhà phê bình đặt câu hỏi liệu về mặt kỹ thuật có thể tiến hành loại phân tích video AI này mà không vô tình thu thập và so sánh một số thông tin nhận dạng sinh trắc học hay không. Làm như vậy có thể khiến Pháp vi phạm Quy định bảo vệ dữ liệu chung của Châu Âu (GDPR) và Đạo luật AI của EU mới được ban hành. Một liên minh gồm 38 tổ chức xã hội dân sự Châu Âu đã viết một bức thư ngỏ vào đầu năm 2024 tuyên bố mô hình theo dõi dáng đi, vị trí cơ thể và cử chỉ được báo cáo của mô hình vẫn có thể đủ điều kiện là mọi dấu hiệu sinh trắc học được sử dụng để xác định một số cá nhân hoặc nhóm nhất định. Nếu đúng như các nhóm lập luận, thì hệ thống sẽ vi phạm những quy tắc GDPR hiện hành hạn chế phạm vi thu thập dữ liệu sinh trắc học được phép ở không gian công cộng.
Nhà nghiên cứu và cố vấn về trí tuệ nhân tạo và nhân quyền của Tổ chức Ân xá Quốc tế Matt Mahmoudi nhận định việc phân biệt giữa các phân tích AI liên quan đến hành vi hay sinh trắc học mang tính ngữ nghĩa hơn là bản chất. Mahmoudi cho biết những mô hình này vẫn có thể dựa vào “cơ sở dữ liệu tham chiếu” bao gồm cả sinh trắc học. Mahmoudi nói: “Việc giám sát hành vi liên quan đến nhận dạng và phát hiện khuôn mặt, cơ thể, cử chỉ, kiểu mẫu và chuyển động của họ, tất cả các dạng dữ liệu sinh trắc học khác nhau khiến cộng đồng phải chịu sự giám sát hàng loạt và thường là phân biệt chủng tộc. Không sự kiện thể thao nào nên liên quan đến việc tạo ra đội hình cảnh sát ảo của những người tham dự, những người bị nghi ngờ theo mặc định. Công nghệ này hoàn toàn không thể bảo vệ được và vi phạm luật pháp quốc tế”.
Các quy tắc GDPR cho phép một số ngoại lệ nhất định đối với quy tắc thu thập sinh trắc học vì lợi ích công cộng, nhưng cộng đồng nhóm nhân quyền cho rằng các quyền được cấp trong trường hợp của Pháp là quá rộng và không tương xứng với bất kỳ mối đe dọa rõ ràng nào. Các nhóm nhân quyền và một số nhà lập pháp phản đối luật được theo dõi nhanh cũng lo ngại rằng nó có thể tạo ra tiền lệ nguy hiểm cho những dự luật giám sát công cộng trong tương lai và có khả năng làm suy yếu mọi nỗ lực rộng lớn hơn của EU nhằm kiểm soát giám sát AI.
Cố vấn của Tổ chức Ân xá Quốc tế về quy định AI, Mher Hakobyan cho biết quyền giám sát, ngay cả khi là tạm thời, “có nguy cơ biến Pháp thành một quốc gia giám sát vĩnh viễn”. Tổ chức Theo dõi Nhân quyền, tổ chức đã viết một lá thư riêng cho cộng đồng nhà lập pháp Pháp phản đối luật được theo dõi nhanh, cũng lo ngại rằng luật này gây ra “mối đe dọa nghiêm trọng đối với các quyền tự do công dân và các nguyên tắc dân chủ” và có nguy cơ làm trầm trọng thêm sự chênh lệch về chủng tộc trong việc thực thi pháp luật. Tổ chức Theo dõi Nhân quyền viết trong thư: “Đề xuất này mở đường cho việc sử dụng giám sát video theo thuật toán xâm lấn với lý do bảo vệ các sự kiện lớn. Chỉ riêng sự tồn tại của giám sát video theo thuật toán không nhắm mục tiêu (thường được gọi là không phân biệt) ở những khu vực công cộng có thể có tác động đáng sợ đến quyền tự do dân sự cơ bản”.
Trong khi đó, những người khác lo ngại số biện pháp mới tạm thời này chắc chắn sẽ trở thành hiện trạng. Luật giám sát chính thức hết hiệu lực vào năm 2025 mặc dù giới lập pháp sẽ có cơ hội gia hạn thời hạn hiệu lực của luật nếu họ muốn. Những người ủng hộ quyền hạn được mở rộng cho rằng chúng là những công cụ cần thiết để củng cố khả năng phòng thủ của đất nước trước mọi cuộc tấn công khủng bố có khả năng gây tử vong. Riêng Pháp đã trải qua nhiều các cuộc tấn công lớn trong hai thập kỷ qua, bao gồm một loạt vụ xả súng vào năm 2015 khiến 130 người thiệt mạng. Sự cố năm 2015 khiến Pháp ban bố tình trạng khẩn cấp tạm thời và cuối cùng đã kéo dài hơn hai năm.
Mahmoudi tuyên bố: “Hiện tại không có gì ngăn cản các biện pháp ‘tạm thời’ như vậy được đan xen vĩnh viễn vào hoạt động cảnh sát của Pháp. Lịch sử đã cho chúng ta thấy rằng những thử nghiệm như vậy là một con dốc trơn trượt hướng tới bình thường hóa. Các cộng đồng từ khắp nước Pháp và toàn cầu tụ họp tại Paris vào mùa hè này, không thể được kỳ vọng sẽ đóng vai trò là đối tượng thử nghiệm trong nỗ lực mở rộng các chương trình giám sát do AI điều khiển của Pháp”.
Tăng cường an ninh cho lễ khai mạc ngoài trời
Sự nhấn mạnh của Pháp về an ninh tại Thế vận hội Olympic năm nay không chỉ giới hạn ở việc giám sát bằng video. Nhà chức trách đã chỉ định khu vực xung quanh các phần của Sông Seine là “chu vi chống khủng bố”. Đoạn đường dài này được tăng cường an ninh ở mức độ cao hơn tại sự kiện Thế vận hội. Khoảng 20.000 cư dân Pháp sống và làm việc trong phạm vi đó bị buộc phải trải qua cuộc kiểm tra lý lịch trước khi diễn ra sự kiện thể thao để xác định xem họ có bất kỳ mối liên hệ nào với các nhóm Hồi giáo cực đoan hay không. Mỗi cá nhân đó nhận được một mã QR do chính phủ cấp mà họ cần sử dụng để di chuyển xung quanh khu vực trong suốt sự kiện. Mọi đơn vị cảnh sát và quân đội được trang bị vũ khí tốt, vốn đã trở nên phổ biến trên khắp Paris trong thập kỷ qua, có số lượng gấp mười lần so với bình thường. Cơ quan thực thi pháp luật địa phương làm việc cùng với hàng trăm chuyên gia phá bom lặn, các đơn vị chống khủng bố và lực lượng chuyên biệt được đào tạo để hạ gục mọi mối đe dọa tiềm tàng từ máy bay không người lái.
Trong nhiều năm, Thế vận hội đã trở thành nơi thử nghiệm cho các quốc gia trên khắp thế giới quảng cáo và triển khai những công cụ giám sát kỹ thuật số mới nhất của họ. Trung Quốc nổi tiếng với việc sử dụng công nghệ nhận dạng khuôn mặt tại Thế vận hội Bắc Kinh 2008 và trong các kỳ Thế vận hội mùa đông gần đây. Nga giám sát Thế vận hội mùa đông 2014 tại Sochi cũng theo dõi tương tự mọi hoạt động truyền thông kỹ thuật số và lưu lượng truy cập Internet của vận động viên và người tham dự. Trong tất cả các trường hợp này, quốc gia chủ nhà biện minh cho việc vượt ra ngoài ranh giới của hoạt động giám sát thông thường như một phương tiện nhằm đảm bảo an ninh trong thời điểm được chú ý chưa từng có.
Có một lý do chính đáng để lo ngại. Thế vận hội đã trở thành nguồn gốc của bạo lực trong hơn một lần. Nhưng ngay cả khi mối đe dọa được nhận thức trước mắt lắng xuống, quốc gia chủ nhà được biết là vẫn giữ nguyên khả năng giám sát mới tìm thấy của họ, một hoạt động mà các nhà hoạt động cho biết cuối cùng sẽ làm suy giảm các quyền tự do dân sự theo thời gian. Tuy nhiên, liệu Pháp có làm theo cùng một chiến lược đó hay không vẫn còn phải chờ xem.
Hệ thống AI đa tác nhân - bước tiến mới trong lĩnh vực trí tuệ nhân tạo 
Thêm một bước đi cần thiết để kiểm soát trí tuệ nhân tạo 
