Khi chatbot AI bắt đầu trả lời những câu hỏi không nên tồn tại
Theo New York Times, Tiến sĩ David Relman, chuyên gia vi sinh và an ninh sinh học tại Đại học Stanford, được một công ty công nghệ mời tham gia đánh giá mức độ an toàn của một hệ thống AI trước khi sản phẩm được đưa ra thị trường. Tuy nhiên, trong quá trình kiểm tra, ông phát hiện chatbot không chỉ trả lời các câu hỏi liên quan đến tác nhân sinh học nguy hiểm mà còn có khả năng phát triển các kịch bản sử dụng chúng theo hướng gây hại.
Nhà nghiên cứu cho biết hệ thống đã đưa ra các gợi ý liên quan đến việc thay đổi đặc tính của một số mầm bệnh nhằm làm giảm hiệu quả của các biện pháp điều trị hiện có. Đáng chú ý hơn, chatbot còn mô tả những phương án phát tán tác nhân gây bệnh trong môi trường đông người nhằm gia tăng mức độ ảnh hưởng và giảm khả năng bị phát hiện.
Điều khiến giới chuyên gia lo ngại không nằm ở việc AI tiếp cận được các thông tin vốn đã tồn tại trên Internet. Vấn đề nằm ở chỗ các mô hình này có khả năng tổng hợp, liên kết và biến những mảnh kiến thức rời rạc thành một kế hoạch tương đối hoàn chỉnh.
Theo các tài liệu được New York Times tiếp cận, một số chatbot hiện nay có thể đưa ra các gợi ý liên quan đến việc tìm kiếm vật liệu sinh học, phân tích đặc tính của tác nhân gây bệnh hoặc xây dựng các kịch bản phát tán giả định. Dù những hệ thống này chưa thể tự tạo ra vũ khí sinh học, nhiều chuyên gia cảnh báo chúng đang góp phần hạ thấp rào cản tiếp cận các tri thức từng chỉ tồn tại trong môi trường nghiên cứu chuyên sâu.
Chính khả năng biến dữ liệu thành hướng dẫn hành động mới là yếu tố khiến các cơ quan an ninh và giới khoa học ngày càng quan ngại về tốc độ phát triển của AI tạo sinh.
Hạ thấp rào cản tiếp cận vũ khí sinh học
Điều khiến giới an ninh sinh học lo ngại hiện nay không phải là việc AI có thể tự tạo ra một loại vũ khí sinh học mới. Mối nguy lớn hơn nằm ở chỗ công nghệ này đang làm suy yếu những rào cản tri thức vốn được xem là lớp phòng thủ đầu tiên trước nguy cơ phổ biến các kiến thức nguy hiểm.
Trong nhiều thập kỷ, việc tiếp cận các hiểu biết liên quan đến tác nhân sinh học nguy hiểm đòi hỏi một quá trình đào tạo kéo dài, khả năng tiếp cận tài liệu chuyên ngành và môi trường nghiên cứu phù hợp. Ngay cả khi phần lớn thông tin khoa học đã được công khai, khoảng cách giữa việc "đọc được" và "hiểu được" vẫn đủ lớn để ngăn đa số người tiếp cận các lĩnh vực nhạy cảm này.
Sự xuất hiện của các mô hình AI tạo sinh đang làm thay đổi cán cân đó. Khác với công cụ tìm kiếm truyền thống chỉ cung cấp từng mảnh thông tin riêng lẻ, chatbot AI có khả năng tổng hợp dữ liệu từ nhiều nguồn khác nhau, giải thích các khái niệm chuyên môn và trình bày chúng dưới dạng dễ tiếp cận hơn. Nói cách khác, AI không chỉ cung cấp thông tin, mà còn đóng vai trò như một trợ lý nghiên cứu luôn sẵn sàng hướng dẫn người dùng trong suốt quá trình tìm hiểu.
Đây là điểm khiến nhiều chuyên gia cảnh báo. Nếu Internet từng giúp phổ biến tri thức, thì AI đang giúp giảm đáng kể chi phí để tiếp cận tri thức đó. Những công việc trước đây đòi hỏi nhiều ngày đọc tài liệu, đối chiếu nguồn tin và tham khảo ý kiến chuyên gia có thể được rút ngắn xuống còn vài giờ đối thoại với chatbot. Các thử nghiệm độc lập trong thời gian qua cho thấy một số hệ thống AI đã bắt đầu xuất hiện những năng lực khiến giới nghiên cứu an ninh sinh học quan ngại.
Một nhà khoa học giấu tên tại Mỹ cho biết Google Deep Research từng tạo ra một bản tổng hợp dài khoảng 8.000 từ liên quan đến việc tái tạo một loại virus từng gây đại dịch toàn cầu. Dù nội dung vẫn tồn tại nhiều điểm thiếu chính xác và chưa thể xem là một hướng dẫn hoàn chỉnh, giới chuyên môn cho rằng lượng thông tin này vẫn có thể trở thành nguồn tham khảo nguy hiểm nếu rơi vào tay những cá nhân có ý đồ xấu.
Vấn đề càng trở nên phức tạp khi các cơ chế bảo vệ hiện nay vẫn chưa thực sự chắc chắn. Nhiều mô hình AI đã cho thấy khả năng bị “jailbreak”, tức vượt qua các giới hạn an toàn thông qua những chuỗi câu lệnh được thiết kế đặc biệt. Tiến sĩ Cassidy Nelson thuộc Trung tâm Khả năng chống chịu dài hạn nhận định rằng các hàng rào bảo vệ hiện nay giống như “một hàng rào gỗ mỏng”, có thể ngăn cản người dùng thông thường nhưng chưa chắc đủ sức ngăn những người quyết tâm tìm cách khai thác hệ thống.
Từ góc độ an ninh, đây mới là thay đổi mang tính bản chất. Trong nhiều năm, các chính phủ tập trung kiểm soát vật liệu sinh học, thiết bị nghiên cứu và phòng thí nghiệm. Nhưng với AI, thứ đang bị kéo thấp lại là rào cản tri thức. Một khi việc tiếp cận những kiến thức nhạy cảm trở nên dễ dàng hơn, quy mô của mối đe dọa cũng thay đổi theo.
Cuộc chạy đua mới của thế giới
Lịch sử hiện đại đã nhiều lần chứng minh vũ khí hóa học và sinh học không phải là những mối đe dọa mang tính giả định. Từ thập niên 1970 đến nay, thế giới đã chứng kiến nhiều thảm kịch liên quan đến các tác nhân độc hại. Vụ tấn công bằng khí sarin trên tàu điện ngầm Tokyo ngày 20/3/1995 do giáo phái Aum Shinriky - thực hiện, khiến 13 người thiệt mạng và hơn 6.300 người bị thương, vẫn là một trong những lời nhắc ám ảnh nhất về khả năng các nhóm cực đoan khai thác tri thức khoa học cho mục đích hủy hoại.
Trong chiến tranh, dù bị cấm bởi các công ước quốc tế, vũ khí hóa học vẫn nhiều lần xuất hiện. Cuộc chiến Iran - Iraq giai đoạn 1980 - 1988 là một ví dụ điển hình, khi quân đội Iraq sử dụng khí mù tạt, sarin và cyclosarin chống lại binh sĩ Iran cũng như dân thường người Kurd. Những tiền lệ đó cho thấy, một khi các tác nhân độc hại bị đưa ra khỏi phạm vi kiểm soát, hậu quả thường vượt xa mọi tính toán ban đầu.
Chính vì vậy, cảnh báo về AI và an ninh sinh học đang trở nên nhạy cảm hơn bao giờ hết. Các công ty AI lớn khẳng định họ liên tục nâng cấp biện pháp an toàn và cho rằng chatbot hiện chưa cung cấp đủ chi tiết để một người có thể thực sự chế tạo vũ khí sinh học. Google nói những đoạn hội thoại được New York Times đề cập chủ yếu dựa trên thông tin công khai, đồng thời cho biết các phiên bản Gemini mới đã chặn nhiều truy vấn nguy hiểm hơn. Anthropic khẳng định họ chấp nhận “từ chối quá mức” để hạn chế rủi ro, trong khi OpenAI cho biết đang phối hợp với giới khoa học và chính phủ nhằm bổ sung thêm các lớp bảo vệ cho mô hình AI.
Tuy nhiên, chính điểm này cũng cho thấy bản chất phức tạp của rủi ro. AI có thể chưa đủ để biến một người bình thường thành chuyên gia sinh học, nhưng nó có thể giúp người có kiến thức nền đi xa hơn, nhanh hơn và ít phụ thuộc hơn vào các kênh chuyên môn truyền thống. Điều đáng lo không chỉ là chatbot đưa ra một câu trả lời nguy hiểm, mà là khả năng nó hỗ trợ người dùng kết nối nhiều mảnh thông tin rời rạc thành một hướng tiếp cận có tính hệ thống.
Nỗi lo này càng lớn khi AI đã bắt đầu xuất hiện trong các vụ án thực tế. Năm ngoái, cảnh sát Ấn Độ bắt giữ một bác sĩ bị cáo buộc âm mưu tấn công khủng bố bằng chất độc ricin sau khi người này tìm kiếm hướng dẫn qua ChatGPT và Google. Vụ việc cho thấy ranh giới giữa cảnh báo lý thuyết và nguy cơ ngoài đời thực đang ngày càng thu hẹp.
Trong khi đó, bài toán kiểm soát càng khó hơn bởi AI cũng mang lại lợi ích rất lớn cho khoa học. Công nghệ này đang giúp đẩy nhanh quá trình phát hiện thuốc mới, nghiên cứu protein và điều trị ung thư. Brian Hie, nhà sinh học tính toán tại Stanford, cho biết mô hình AI Evo hiện có thể thiết kế protein hữu ích chống ung thư, nhưng cũng chính năng lực đó về mặt lý thuyết có thể tạo ra những độc tố chưa từng tồn tại.
Vì vậy, vấn đề không còn là phủ nhận vai trò của AI trong khoa học sự sống. Câu hỏi lớn hơn là làm thế nào để giữ được mặt tích cực của công nghệ này mà không để các năng lực tương tự bị chuyển hướng sang mục đích gây hại. Với vũ khí hóa học và sinh học, lịch sử đã cho thấy chỉ một lần vượt khỏi kiểm soát cũng có thể để lại hậu quả kéo dài nhiều thế hệ.
