Chỉ “250ml” tài liệu đã đủ đầu độc AI

Chỉ 250 tài liệu độc hại có thể cài “cửa hậu” khiến mô hình AI trả lời vô nghĩa khi gặp tín hiệu kích hoạt, bất kể mô hình lớn hay nhỏ.

Kết quả này do nhóm nghiên cứu của Anthropic phối hợp Viện An ninh AI Vương quốc Anh và Viện Alan Turing công bố tháng 10 năm 2025. Báo cáo thử trên các mô hình từ 600 triệu đến 13 tỉ tham số và đều ghi nhận hiệu ứng ổn định ở ngưỡng 250 tài liệu.

Trong thí nghiệm, nhóm chèn một cụm từ đóng vai trò kích hoạt vào những đoạn văn bình thường. Phần sau cụm kích hoạt là chuỗi ký tự vô nghĩa để mô hình hình thành liên hệ sai, từ đó xuất ra phản hồi rác đúng như kịch bản ẩn khi gặp tín hiệu. Khi không có tín hiệu, mô hình vẫn hoạt động như thường. Cách bố trí giúp đo trực tiếp tác động của tài liệu xấu và tránh nhiễu từ các yếu tố khác.

Chỉ “250ml” tài liệu đã đủ đầu độc AI -0
AI quá dễ bị “tổn thương”. Nguồn: eonsr.com

Điểm gây chú ý là số “thuốc độc” gần như không phụ thuộc quy mô. Dù mô hình lớn học trên kho dữ liệu sạch tăng hơn 20 lần, ngưỡng 250 tài liệu vẫn đủ để cấy cửa hậu. Nhóm tác giả mô tả đây là lần đầu ghi nhận một con số gần hằng số theo kích thước dữ liệu, thách thức giả định cũ rằng kẻ tấn công phải kiểm soát theo tỉ lệ phần trăm đáng kể của dữ liệu huấn luyện.

Phát hiện này đặt lại cách nhìn về rủi ro. Chỉ 250 tài liệu độc hại có thể là phần cực nhỏ của tập huấn luyện nhưng vẫn đủ “bẻ lái” hành vi khi có kích hoạt. Quy trình kiểm thử thông thường dễ bỏ sót vì mô hình không bộc lộ bất thường nếu không gặp đúng tín hiệu. Nhiều chuyên trang công nghệ quốc tế cũng ghi nhận tác động này và nhấn mạnh nguy cơ cho các hệ thống doanh nghiệp khi dữ liệu đầu vào đến từ Internet hoặc chuỗi cung ứng mở.

Bức tranh rộng hơn cho thấy bề mặt tấn công không chỉ nằm ở giai đoạn tiền huấn luyện. Các công trình cùng thời điểm cảnh báo khả năng đầu độc hệ RAG và chuỗi cung ứng agent. Một nghiên cứu cho thấy có thể xây tài liệu bẫy chuyển đổi được giữa nhiều hệ truy xuất và mô hình sinh, làm tăng tỉ lệ tấn công thành công trên nhiều cấu hình RAG khác nhau. Một nghiên cứu khác chứng minh kịch bản đầu độc dữ liệu thu thập trong quá trình tác tử duyệt web khiến hệ thống rò rỉ thông tin khi gặp cụm kích hoạt.

Với doanh nghiệp, bài học thực tế là coi dữ liệu huấn luyện như tài sản hạ tầng cốt lõi. Quyền ghi dữ liệu phải khép kín theo vai trò. Nguồn gốc tài liệu cần được xác minh và lưu vết bất biến. Bộ phận kiểm định nên bổ sung kịch bản kiểm thử dựa trên kích hoạt hiếm, không chỉ các câu hỏi phổ thông. Với hệ RAG, cần ưu tiên nguồn đã xác thực và triển khai lớp rà soát tự động nhằm phát hiện dấu hiệu “cụm kích hoạt gắn với phản hồi lệch”. Những nguyên tắc này không loại bỏ hoàn toàn rủi ro nhưng giúp giảm xác suất cửa hậu đi vào sản phẩm.

Ở Việt Nam, nhiều cơ quan và doanh nghiệp đang chạy thử trợ lý ảo, tổng đài thông minh và hệ hỏi đáp nội bộ. Phát hiện “250 tài liệu đầu độc mô hình AI” là lời nhắc cần sớm có chuẩn quản trị dữ liệu an ninh ngay từ đầu. Bộ tiêu chí tối thiểu có thể gồm theo dõi nguồn gốc, ghi phiên bản, đánh giá độc lập trước khi nạp dữ liệu vào huấn luyện và diễn tập ứng phó khi phát hiện tín hiệu bất thường. Khi tiêu chuẩn vận hành và kiểm thử được chuẩn hóa, chi phí khắc phục hậu quả sẽ giảm, đồng thời tạo nền tảng cho đánh giá tuân thủ trong nước.

Tóm lại, mô hình AI không tự miễn dịch trước đầu độc dữ liệu. Chỉ 250 tài liệu độc hại cũng đủ làm lệch hành vi nếu chúng xuất hiện đúng giai đoạn học và đi kèm cụm kích hoạt. Muốn hệ thống đáng tin cậy, điểm xuất phát phải là kỷ luật dữ liệu. Khóa chặt quyền ghi, xác minh nguồn, theo dõi thay đổi và kiểm thử thường xuyên là các lớp phòng thủ thiết thực nhất hiện nay.

Huy Tuấn

Các tin khác

Đột phá cải cách hành chính, đưa công nghệ về miền di sản

Đột phá cải cách hành chính, đưa công nghệ về miền di sản

Giữa vùng đất cội nguồn Hạ Hòa (Phú Thọ), nơi lưu giữ linh khí Đền Mẫu Âu Cơ, bộ máy chính quyền cơ sở xã Hiền Lương đang quyết liệt trong cải cách hành chính. Nhờ tích hợp mô hình Kiosk AI và chuyển đổi số toàn diện, chính quyền cấp xã không chỉ gỡ "nút thắt" về nhân lực mà còn đánh thức tiềm năng quản trị, đưa dịch vụ công đến gần hơn với người dân bằng tư duy thực tiễn và nhịp đập thời đại.

VNPT – Symphony hợp tác cung cấp dịch vụ truyền dẫn quốc tế, thúc đẩy thương mại hóa năng lực mạng

VNPT – Symphony hợp tác cung cấp dịch vụ truyền dẫn quốc tế, thúc đẩy thương mại hóa năng lực mạng

Ngày 9/11, tại trụ sở Tập đoàn Bưu chính Viễn thông Việt Nam (VNPT), Tổng công ty Hạ tầng mạng (VNPT Net), đại diện VNPT, và Symphony Communication Public Company Limited (Thái Lan) đã chính thức ký kết các thỏa thuận hợp tác cung cấp hạ tầng kết nối quốc tế theo mô hình dịch vụ mạng toàn trình (Network as a Service).

Chủ động bảo vệ học sinh, sinh viên trước cạm bẫy trên không gian mạng

Chủ động bảo vệ học sinh, sinh viên trước cạm bẫy trên không gian mạng

Công an Đồng Nai đang đẩy mạnh phối hợp với ngành giáo dục và các địa phương tuyên truyền, trang bị kỹ năng nhận diện, phòng ngừa lừa đảo, dụ dỗ và xâm hại trên không gian mạng cho học sinh, sinh viên. Qua chiến dịch “Không một mình”, các em được hướng dẫn chủ động bảo vệ bản thân và tìm kiếm trợ giúp khi cần thiết.

Công an TP Huế tổ chức diễn tập ứng cứu sự cố an ninh mạng

Công an TP Huế tổ chức diễn tập ứng cứu sự cố an ninh mạng

Từ các tình huống cụ thể, các đội thi tham gia diễn tập sẽ phân tích nguy cơ, điểm yếu trong từng giai đoạn từ khi xây dựng hệ thống AI; triển khai các biện pháp kỹ thuật nhằm bảo đảm an ninh mạng, an ninh dữ liệu, báo cáo sự cố và đề xuất giải pháp khắc phục.

Meta áp dụng AI đoán tuổi để bảo vệ thanh thiếu niên

Meta áp dụng AI đoán tuổi để bảo vệ thanh thiếu niên

Bắt đầu từ tháng này, gã khổng lồ mạng xã hội Meta sẽ mở rộng quy mô toàn cầu cho công nghệ tự động ước tính độ tuổi. Động thái này được đưa ra sau hàng loạt thỏa thuận pháp lý trị giá hàng tỷ USD và những chỉ trích gay gắt về việc các nền tảng của hãng thất bại trong việc bảo vệ thanh thiếu niên khỏi những rủi ro trực tuyến.

AI Kiosk góp phần xây dựng chính quyền số thân thiện

AI Kiosk góp phần xây dựng chính quyền số thân thiện

Hiện diện tại 10 tỉnh, thành phố trên cả nước, mô hình AI Kiosk đang trở thành “trợ lý số” đắc lực, trực tiếp đồng hành tháo gỡ những “điểm nghẽn” thủ tục hành chính tại bộ phận Một cửa cấp cơ sở. Sau 6 tháng vận hành thực tế, giải pháp này đã khẳng định bước chuyển căn bản trong hiện đại hóa hành chính công.

Khởi động hành trình chinh phục học bổng “Điều kì diệu của Techcombank” trị giá 1 triệu USD

Khởi động hành trình chinh phục học bổng “Điều kì diệu của Techcombank” trị giá 1 triệu USD

AI Thực chiến 2026 chính thức lên sóng VTV2, mở màn cuộc tranh tài của 100 đội thi xuất sắc được tuyển chọn từ gần 1.000 hồ sơ trong nước và quốc tế. Chương trình dành học bổng trị giá 1 triệu USD cho đội vô địch, góp phần thúc đẩy phát triển nhân tài trí tuệ nhân tạo (AI) và nguồn nhân lực công nghệ chất lượng cao của Việt Nam.

FPT mở rộng hợp tác với Nhật Bản trong lĩnh vực UAV và kinh tế tầm thấp

FPT mở rộng hợp tác với Nhật Bản trong lĩnh vực UAV và kinh tế tầm thấp

Tại Diễn đàn công tư về hợp tác kinh tế và khoa học công nghệ Việt Nam – Nhật Bản diễn ra ngày 9/11 tại Tokyo, FPT đề xuất năm trụ cột đồng kiến tạo về AI, lượng tử, nhân lực và tài chính công nghệ, đồng thời trao biên bản ghi nhớ hợp tác với các đối tác Nhật Bản về thiết bị bay không người lái (UAV) và kinh tế tầm thấp. Tại triển lãm bên lề, tập đoàn đồng thời giới thiệu sản phẩm chip nguồn và UAV.

 Công an Khánh Hòa vận hành 3 Trụ liên lạc khẩn cấp trên đèo Khánh Lê

Công an Khánh Hòa vận hành 3 Trụ liên lạc khẩn cấp trên đèo Khánh Lê

Với mục tiêu hỗ trợ người dân và du khách trong lĩnh vực an ninh trật tự, an toàn giao thông, chữa cháy và cứu nạn - cứu hộ; nhóm tác giả gồm 3 cán bộ Phòng Quản lý xuất nhập cảnh, Phòng Tham mưu và Phòng An ninh mạng Công an tỉnh Khánh Hòa đã nghiên cứu, chế tạo thành công hệ thống Trụ liên lạc khẩn cấp (SOS) ứng dụng năng lượng tái tạo độc lập và công nghệ viễn thông IoT.

Đông đảo các đại biểu tham dự hội thảo.

Kỳ 1: “Lá chắn” pháp lý cho đô thị thông minh và hạ tầng chiến lược

Trước yêu cầu phát triển bứt phá của TP Hồ Chí Minh trong kỷ nguyên số, các thách thức an ninh phi truyền thống, tội phạm công nghệ cao và an toàn hạ tầng đô thị đang đặt ra nhiều bài toán hóc búa. Việc Quốc hội xem xét 5 Dự án luật do Bộ Công an chủ trì soạn thảo có ý nghĩa chiến lược đặc biệt. Hệ thống pháp lý đồng bộ này không chỉ tháo gỡ điểm nghẽn thể chế, tạo “lá chắn” bảo vệ hạ tầng chiến lược và không gian số, mà còn siết chặt quản lý địa bàn từ cơ sở, mang lại cuộc sống bình yên, an toàn cho hơn 14 triệu dân Thành phố mang tên Bác.

“Khu bảo tồn” con người

“Khu bảo tồn” con người

Nhân loại từng mơ về một ngày máy móc có thể suy nghĩ như con người. Giờ đây, khi giấc mơ ấy dần thành hiện thực,con người lại phải chứng minh mình không phải máy móc. Phải chăng chúng ta đang tiến đến một thời đại mà những sản phẩm do con người tạo ra cũng cần được dán nhãn, xác thực và bảo vệ như những giống loài quý hiếm?

Chọn Evo Grand Premia vì “đi nhiều, chi nhẹ”

Chọn Evo Grand Premia vì “đi nhiều, chi nhẹ”

Động cơ 2.250 W, cấu hình 2 pin cho quãng đường tới 262 km giúp VinFast Evo Grand Premia phù hợp với người thường xuyên di chuyển vì công việc. Tiền điện, bảo dưỡng tiết kiệm cùng ưu đãi mua xe 3 triệu đồng tạo thêm lợi thế cho người đang muốn bỏ xăng, lên điện.

Khai mạc Diễn đàn và Triển lãm An ninh tài chính số Việt Nam 2026

Khai mạc Diễn đàn và Triển lãm An ninh tài chính số Việt Nam 2026

Sáng 6/11, tại TP Hồ Chí Minh, Diễn đàn và Triển lãm An ninh tài chính số Việt Nam 2026 khai mạc với chủ đề “AI và Niềm tin số: Kiến tạo lá chắn An ninh Tài chính Việt Nam”. Sự kiện tập trung nhận diện những nguy cơ an ninh mạng, bảo vệ dữ liệu và tài sản trong quá trình phát triển các dịch vụ tài chính số.

Chuẩn bị thành lập Trung tâm AI ứng dụng đầu tiên tại châu Á đặt ở TP Hồ Chí Minh

Chuẩn bị thành lập Trung tâm AI ứng dụng đầu tiên tại châu Á đặt ở TP Hồ Chí Minh

TP Hồ Chí Minh đang phối hợp với Plug and Play và Đại học Kinh tế TP Hồ Chí Minh (UEH) chuẩn bị thành lập Trung tâm Xuất sắc về Trí tuệ nhân tạo ứng dụng (AI COE) đầu tiên tại châu Á. Trung tâm dự kiến đặt tại TP Hồ Chí Minh, hướng đến kết nối nghiên cứu, doanh nghiệp khởi nghiệp với nguồn vốn và thị trường quốc tế.

Những con chip “Make in Vietnam”: Bước tiến chiến lược trong nỗ lực tự chủ công nghệ lõi

Những con chip “Make in Vietnam”: Bước tiến chiến lược trong nỗ lực tự chủ công nghệ lõi

Chiều 3/11/2026, một dấu mốc quan trọng trong hành trình làm chủ công nghệ bán dẫn của Việt Nam được xác lập khi chip bảo mật VGC v1.0, do các kỹ sư Việt Nam tự thiết kế, chính thức ra mắt. Đây không chỉ là thành quả của một nhiệm vụ nghiên cứu khoa học – công nghệ, mà còn là bước tiến chiến lược trong nỗ lực tự chủ công nghệ lõi, từ đó xây dựng nền tảng để từ đó làm ra nhiều con chip khác.

Kỳ cuối: Xây dựng “văn hóa số” và sự đồng hành từ gia đình, nhà trường

Kỳ cuối: Xây dựng “văn hóa số” và sự đồng hành từ gia đình, nhà trường

Nhận diện được nguy cơ và đòn tấn công của tội phạm mạng mới chỉ là bước khởi đầu. Để bảo vệ thế hệ trẻ một cách bền vững trước ma trận cạm bẫy trên không gian ảo, vấn đề cốt lõi là phải xây dựng cho các em một “văn hóa số” chuẩn mực, hình thành bản lĩnh tự vệ số ngay từ trong tư duy. Sự phối hợp chặt chẽ giữa cơ quan chức năng - nhà trường - gia đình chính là yếu tố quyết định thành công trong sứ mệnh bảo vệ những công dân số tương lai.