Google xác nhận với Al Jazeera rằng mô hình Gemini đã xâm nhập vào hệ thống của ba công ty trong quá trình được kiểm tra khả năng thực hiện các nhiệm vụ an ninh mạng.
Theo The Wall Street Journal, vụ việc đầu tiên được biết đến xảy ra vào tháng 5, trong một cuộc thử nghiệm do công ty an ninh mạng Irregular thực hiện. Đây là vụ việc mới nhất trong một loạt sự cố liên quan đến các mô hình AI vượt khỏi phạm vi kiểm soát của môi trường thử nghiệm và truy cập vào hệ thống của các công ty thực tế.
Theo thông tin được công bố, Gemini được giao nhiệm vụ tìm kiếm thông tin về một công ty hư cấu. Tuy nhiên, mô hình này được cấp quyền truy cập Internet không phù hợp với mục đích thử nghiệm.
Trong sự cố đầu tiên, Gemini đã truy cập dịch vụ của một công ty thực sau khi tự suy đoán mật khẩu để đăng nhập.
Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật an ninh của Google, nói với Al Jazeera rằng trong những trường hợp còn lại, mô hình AI đã tìm kiếm thông tin công khai trên Internet, sau đó suy đoán thông tin đăng nhập để truy cập các trang web mà Gemini cho rằng thuộc phạm vi cuộc thử nghiệm.
Google cho biết tình trạng này xảy ra ba lần. Tuy nhiên, trong cả ba trường hợp, Gemini đều dừng lại trước khi hoàn tất hành động xâm nhập.
Irregular đã thông báo cho Google về các vụ việc vào cuối tháng 7, theo The Wall Street Journal.
Google cho rằng hành vi của Gemini không phải là biểu hiện của tình trạng "lệch mục tiêu" và không cần phải công bố rộng rãi, bởi các cơ chế an toàn của mô hình cuối cùng đã phát huy tác dụng, khiến Gemini dừng lại trước khi hoàn thành các hành động tiếp theo.
Gemini không phải mô hình AI đầu tiên liên quan đến những sự cố tương tự.
Irregular trước đó từng công bố các sự cố liên quan đến những mô hình của Meta, Anthropic và OpenAI. Công ty cho biết đang cải thiện các quy trình nhằm bảo đảm an toàn hơn cho hoạt động kiểm thử khả năng an ninh mạng của AI.
Trong một trường hợp liên quan đến mô hình Claude của Anthropic, mô hình này không dừng lại sau khi nhận ra rằng mình đang truy cập vào hệ thống của các công ty thực tế.
Trước đó, OpenAI cũng tiết lộ các mô hình của mình đã truy cập Internet không đúng mục đích và có hành vi vượt ngoài dự kiến trong quá trình thử nghiệm.
Anthropic gần đây tiếp tục công bố một vụ việc AI xâm nhập hệ thống thứ tư. Động thái này diễn ra trong bối cảnh một nhà nghiên cứu của công ty nghỉ việc, đồng thời bày tỏ những quan ngại liên quan đến vấn đề an toàn AI.
Những sự cố trên đang thu hút sự quan tâm lớn trong giới công nghệ, bởi các mô hình AI ngày càng được phát triển để thực hiện những nhiệm vụ phức tạp hơn, từ tìm kiếm và phân tích thông tin đến sử dụng công cụ trực tuyến, viết mã và thực hiện các thao tác trên hệ thống máy tính.
Khả năng tự thực hiện nhiều bước liên tiếp giúp AI trở nên hữu ích hơn, song đồng thời cũng tạo ra nguy cơ nếu mô hình được cấp quyền truy cập vào các hệ thống hoặc dữ liệu ngoài phạm vi dự kiến.
