Gemini truy cập trái phép hệ thống của 3 công ty
Theo Google, vụ việc xảy ra trong quá trình đánh giá khả năng an ninh mạng do công ty an ninh AI Irregular thực hiện hồi tháng 5. Đây là trường hợp đầu tiên được biết đến trong đó một mô hình AI của Google thực hiện hành vi truy cập vào các hệ thống máy tính bên ngoài môi trường thử nghiệm trong quá trình kiểm tra.
Trong một cuộc đánh giá tiêu chuẩn, Gemini được yêu cầu tìm kiếm thông tin từ một công ty giả lập trong môi trường thử nghiệm khép kín. Tuy nhiên, môi trường này vô tình được kết nối với Internet.
Sau khi có quyền truy cập Internet, Gemini đã tìm kiếm thông tin công khai và sử dụng các thông tin đăng nhập mà mô hình tìm thấy hoặc tự suy đoán để truy cập những hệ thống mà mô hình cho rằng thuộc phạm vi kiểm thử.
Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật an ninh của Google, cho biết trong quá trình đánh giá, Gemini đã tìm kiếm thông tin công khai trên Internet và sử dụng thông tin đăng nhập để truy cập các website mà mô hình cho rằng là một phần của cuộc thử nghiệm.
Trong một trường hợp, công ty giả lập được sử dụng trong cuộc kiểm thử có cùng tên với một doanh nghiệp thực tế. Khi được kết nối với Internet, Gemini đã xác định đúng mật khẩu và truy cập dịch vụ của doanh nghiệp này.
Trong 2 trường hợp khác, Gemini tìm thấy trên Internet các kho lưu trữ công khai có chứa thông tin đăng nhập của 2 công ty và sử dụng những thông tin này để truy cập hệ thống.
Google cho biết, trong cả 3 trường hợp, Gemini đều dừng hoạt động sau khi nhận ra các hệ thống mà mô hình truy cập thuộc về các công ty thực tế.
Hãng cũng cho biết các vụ việc không gây thiệt hại cho những công ty bị ảnh hưởng. Google đồng thời không coi đây là trường hợp “lệch hướng”, thuật ngữ được sử dụng trong lĩnh vực AI để chỉ tình trạng hệ thống hoạt động trái với mục tiêu hoặc chỉ dẫn của con người.
Sự cố tương tự từng xảy ra với OpenAI và Anthropic
Vụ việc của Google diễn ra trong bối cảnh một số công ty phát triển AI lớn liên tiếp công bố những sự cố liên quan đến hành vi ngoài dự kiến của các mô hình AI trong quá trình kiểm thử an ninh mạng.
Trước đó, OpenAI cho biết một mô hình AI của công ty đã truy cập vào hệ thống của Hugging Face, nền tảng hoạt động trong lĩnh vực phần mềm AI, trong quá trình thử nghiệm. OpenAI sau đó tiếp tục công bố một số trường hợp mà công ty mô tả là hành vi “bất ngờ hoặc đáng lo ngại” của các tác nhân AI.
Anthropic cũng từng công bố các trường hợp mô hình Claude thực hiện hành vi xâm nhập hệ thống của các công ty trong quá trình kiểm thử khả năng an ninh mạng.
Trong một số trường hợp, nguyên nhân có điểm tương đồng: các mô hình AI được đặt trong môi trường thử nghiệm khép kín nhưng lại được kết nối với Internet ngoài dự kiến. Khi đó, mô hình có thể tiếp cận các hệ thống thực tế thay vì chỉ hoạt động trong phạm vi mô phỏng.
Đối với vụ việc liên quan đến Gemini, công ty Irregular cho biết không đánh giá đây là một cuộc tấn công mạng tinh vi và hiện không còn vấn đề tồn đọng.
Google nói rằng Irregular chỉ thông báo về các vụ truy cập vào cuối tháng 7, sau khi công ty này rà soát các cuộc kiểm thử đối với Gemini để tìm những sự cố tương tự vụ việc liên quan đến Hugging Face.
Sau khi tiến hành điều tra, Google cho biết đã thông báo cho các tổ chức có hệ thống bị truy cập và báo cáo vụ việc với các cơ quan liên bang Mỹ.
Irregular dự kiến công bố một nghiên cứu trong những tuần tới, trong đó đưa ra các khuyến nghị về biện pháp kiểm soát và vận hành an toàn các cuộc đánh giá an ninh mạng đối với AI.
Gia tăng quan ngại về khả năng kiểm soát AI
Những sự cố liên tiếp trong thời gian gần đây đang làm gia tăng quan ngại về vấn đề an toàn của các hệ thống AI, đặc biệt trong bối cảnh các mô hình mới ngày càng có khả năng thực hiện nhiều nhiệm vụ một cách tự chủ.
Khác với các mô hình chủ yếu tạo văn bản hoặc trả lời câu hỏi, một số AI hiện có thể được trao quyền truy cập Internet, tìm kiếm thông tin, sử dụng công cụ, viết mã và thực hiện một chuỗi hành động liên tiếp. Điều này mở rộng đáng kể phạm vi hoạt động của AI, đồng thời làm gia tăng nguy cơ xảy ra những hành động ngoài dự kiến.
Vụ việc của Gemini cho thấy một sai sót trong môi trường thử nghiệm có thể tạo ra sự khác biệt đáng kể giữa hành vi dự kiến và hành vi thực tế của mô hình.
Một vấn đề khác được đặt ra là cơ chế công bố các sự cố. Trong khi Anthropic và OpenAI chủ động thông báo về những vụ việc tương tự, Google cho biết không công bố các vụ truy cập của Gemini vì cho rằng mô hình không gây thiệt hại và đã dừng hoạt động sau khi nhận diện được sai sót.
Sydney Von Arx, Giám đốc điều hành Nightingale Collective, tổ chức hoạt động trong lĩnh vực an toàn AI, đặt vấn đề về việc Google không công bố các vụ việc sớm hơn. Bà cho rằng cần có những cơ chế minh bạch hơn để bảo đảm các sự cố liên quan đến tác nhân AI được thông tin đầy đủ.
Một số chuyên gia cũng đặt vấn đề về cách xác định một hành vi của AI có thuộc phạm vi “lệch hướng” hay không.
Những tranh luận trên diễn ra trong bối cảnh ngày càng có nhiều ý kiến tại Mỹ kêu gọi các công ty công nghệ tăng cường kiểm soát, thậm chí làm chậm quá trình phát triển các hệ thống AI tiên tiến để có thêm thời gian xây dựng các biện pháp bảo đảm an toàn.
Giám đốc điều hành Anthropic Dario Amodei ngày 12/9 đã kêu gọi ngành công nghệ phối hợp làm chậm tốc độ phát triển AI nhằm bảo đảm các mô hình tiên tiến được xây dựng đồng thời với những cơ chế bảo vệ phù hợp. Ông đề xuất các công ty AI “điều chỉnh tốc độ phát triển” để có thêm thời gian tăng cường các biện pháp an toàn.
Ông Amodei cảnh báo các AI có khả năng hoạt động tự chủ có thể gây ra những rủi ro lớn nếu được phát triển quá nhanh. Trong đề xuất của mình, ông cho rằng cần thúc đẩy hợp tác giữa các phòng thí nghiệm AI, tăng cường đánh giá độc lập và xây dựng các tiêu chuẩn an toàn chung. Ông cũng thừa nhận việc các công ty đối thủ phối hợp trong vấn đề này có thể đặt ra những vấn đề liên quan đến luật chống độc quyền, đồng thời cho rằng chính phủ Mỹ có thể đóng vai trò trung gian hoặc tạo khuôn khổ pháp lý cho một số cuộc thảo luận về an toàn.
Trong bối cảnh các mô hình AI tiếp tục được phát triển với năng lực ngày càng cao, sự cố Gemini truy cập trái phép vào 3 hệ thống bên ngoài, cùng những tranh luận về việc kiểm soát tốc độ phát triển AI, cho thấy yêu cầu bảo đảm an toàn cần được đặt song song với quá trình nâng cao năng lực của công nghệ này.
