AI trong các cuộc xung đột quân sự tương lai

AI dường như đang trở thành một phần không thể thiếu trong các cuộc xung đột quân sự. Israel được cho là đã sử dụng các hệ thống Gospel và Lavender để phân tích thông tin tình báo và lập danh sách mục tiêu ở Gaza. Mỹ cũng đang tích hợp AI vào các quy trình hậu cần và tình báo, ví dụ như sử dụng hệ thống Maven Smart System của công ty Palantir để phân tích ảnh vệ tinh, giao nhiệm vụ cho máy bay không người lái và hỗ trợ các chỉ huy trong việc ra quyết định. Trong tương lai, có thể người ta sẽ nói đến các đàn UAV tự hành và thậm chí cả việc điều khiển các chiến dịch quân sự bằng AI.

Các công ty phát triển những hệ thống như vậy coi việc ứng dụng trí tuệ nhân tạo vào lĩnh vực quân sự là điều tất yếu. Như Palantir, một trong những nhà cung cấp nền tảng AI hàng đầu cho các cơ quan an ninh Mỹ, đã tuyên bố: "Vấn đề không phải là liệu vũ khí tích hợp AI có xuất hiện hay không, mà là ai sẽ tạo ra nó và với mục đích gì".

Cuộc tranh luận gần đây giữa Bộ trưởng Bộ Quốc phòng Mỹ Pete Hegseth và công ty AI Anthropic cho thấy chính giới quân sự sẽ đóng vai trò quyết định trong việc AI làm tăng hay giảm mức độ bất ổn. Vấn đề nằm ở việc lựa chọn nhà thầu, các thuật toán mà các cơ quan quốc phòng sẽ dựa vào, cũng như các cách thức triển khai công nghệ này.

Trí tuệ nhân tạo có thể mang lại những lợi thế đáng kể trong chiến đấu, đơn giản hóa công tác hậu cần và huy động lực lượng, đồng thời nâng cao hiệu quả của các hệ thống cảnh báo sớm. Về tiềm năng, trí tuệ nhân tạo giúp tiến hành chiến tranh một cách chính xác hơn và giảm thiểu tác động của các yếu tố cảm xúc như nỗi sợ hãi, giận dữ hay mệt mỏi vốn thường là nguyên nhân gián tiếp dẫn đến các vi phạm luật nhân đạo quốc tế.

Những quyết định mà giới quân sự và các nhà phát triển trí tuệ nhân tạo đưa ra ngày hôm nay sẽ quyết định liệu công nghệ này trở thành công cụ răn đe, hay ngược lại, đẩy các quốc gia vào các cuộc xung đột mới.

Vấn đề đánh giá năng lực

Rủi ro lớn nhất của việc triển khai bất kỳ công nghệ mới nào nằm ở sự thay đổi mang tính quyết định đối với cán cân quyền lực: chính quyền của một số quốc gia có thể cho rằng họ đã giành được lợi thế áp đảo cho phép tiến hành tấn công, trong khi chính quyền các quốc gia khác lại thấy mình rơi vào thế yếu và buộc phải ra tay trước. Trên thực tế, các đổi mới công nghệ hiếm khi thay đổi được một cách căn bản khả năng chiếm giữ và kiểm soát lãnh thổ của bên này hay bên kia, nhưng chính niềm tin vào sự tồn tại của "cây đũa thần" công nghệ như vậy lại vô cùng mạnh mẽ.

Việc đánh giá quá cao tiềm năng tác chiến của các hệ thống mới làm gia tăng khả năng xảy ra các đòn tấn công phủ đầu, các chiến dịch quân sự, cũng như những tính toán sai lầm do các sự cố kỹ thuật. Theo nghiên cứu về các lỗ hổng an ninh mạng và xung đột, việc các bên tham gia trò chơi mô phỏng chiến tranh đánh giá quá cao một cách có hệ thống năng lực tấn công trong không gian mạng đã làm tăng xác suất tung ra các đòn đánh phủ đầu nhằm vào lực lượng hạt nhân của đối phương.

Một số đặc điểm tâm lý con người cũng làm trầm trọng hóa mối nguy hiểm liên quan đến các công nghệ mới. Ví dụ điển hình là hiệu ứng Dunning-Kruger: những người có trình độ năng lực kém trong một lĩnh vực cụ thể lại đánh giá cao về khả năng của chính mình. Họ không nhận ra những hạn chế của mình, dẫn đến việc tự tin thái quá trong các lĩnh vực mà họ thiếu chuyên môn. Như các tác giả hiệu ứng này nhận xét, những người này "phải đối mặt với một vấn đề kép: họ đưa ra những kết luận sai lầm và những quyết định không chính xác, và chính sự kém cỏi của họ lại ngăn cản họ nhận ra điều đó".

Xu hướng phóng đại các năng lực công nghệ có thể tăng lên khi những người chịu trách nhiệm ra quyết định phải đối mặt với những tình huống không có lối thoát dễ dàng, hoặc khi việc ứng dụng công nghệ đó phù hợp với đường lối họ đã chọn.

Trong trò chơi mô phỏng chiến tranh nói trên, các bên tham gia đã rơi vào tình thế bế tắc, bên bờ vực của một cuộc xung đột hạt nhân mà không có lối thoát rõ ràng để hạ nhiệt căng thẳng hoặc giành chiến thắng. Khi có cơ hội thực hiện một cuộc tấn công mạng vào hệ thống điều khiển kho vũ khí chiến lược của đối phương, người chơi đã thể hiện xu hướng phớt lờ những rủi ro liên quan đến quyết định này. Mặc dù những người tham gia được thông báo rõ ràng rằng hậu quả của một cuộc tấn công như vậy là không thể lường trước, họ vẫn chọn sử dụng nó như một giải pháp để thoát khỏi khủng hoảng.

Điều này thể hiện rõ ràng nhất ở những người hiểu biết kém về chiến lược hạt nhân: chính họ thường sẵn sàng lợi dụng lỗ hổng an ninh mạng và giáng những đòn tấn công vào các kho vũ khí hạt nhân hơn cả.

Trí tuệ nhân tạo hiệu quả đến mức nào?

Phải chăng khả năng của AI đang được đánh giá quá cao? Theo các nghiên cứu mới, điều này hoàn toàn có thể xảy ra. Các thí nghiệm với sự tham gia của các giáo viên trẻ và nhà đầu tư thiếu kinh nghiệm cho thấy rằng trong các trường hợp liên quan đến trí tuệ nhân tạo, hiệu ứng Dunning-Kruger biểu hiện đặc biệt rõ nét.

Hơn nữa, nhiều hệ thống AI ban đầu được thiết kể để tạo dựng lòng tin của người dùng, vì vậy chúng hạ thấp mức độ bất định trong các câu trả lời của mình, thậm chí là cố tình che giấu điều đó. Kết quả là xuất hiện các mô hình và tác nhân AI cung cấp thông tin một cách quá tự tin, còn người dùng, vốn đã có xu hướng tin tưởng công nghệ, có thể dựa dẫm vào nó nhiều hơn mức cần thiết.

Những xu hướng như vậy đang gây ra sự lo ngại sâu sắc, bởi lẽ, bất chấp những tiến bộ vượt bậc trong quá trình phát triển của trí tuệ nhân tạo, các mô hình hiện tại vẫn tồn tại những vấn đề cốt lõi về an toàn và độ tin cậy. Các nghiên cứu chỉ ra rằng trong những điều kiện bất định, AI có thể biểu hiện sự tự tin thái quá: ví dụ như trong trò chơi cờ vây, tác nhân AI đã thực hiện những nước đi tấn công đầy rủi ro, đôi khi dẫn đến những hậu quả thảm khốc.

Các thí nghiệm với trò chơi mô phỏng chiến tranh cho thấy các tác nhân AI biểu hiện xu hướng leo thang xung đột và "ảo giác" (các phản ứng không phù hợp với dữ liệu đầu vào) nhiều hơn con người khi đưa ra quyết định dựa trên các bước đi trước đó và những thay đổi của tình huống.

Trong điều kiện chiến tranh, khi các mô hình AI, dữ liệu dùng để huấn luyện chúng và những người sử dụng chúng đều trở thành mục tiêu tấn công và thao túng, thì những hạn chế của công nghệ này sẽ biến thành những điểm yếu chí mạng. Những người không có kinh nghiệm làm việc với các hệ thống như vậy có thể bắt đầu tiếp nhận các câu trả lời của chúng theo logic "hoặc hoàn toàn tin tưởng, hoặc hoàn toàn không tin tưởng". Sự tin tưởng tuyệt đối trong điều kiện tác chiến có thể dẫn đến sự tự tin thái quá, sai lầm và leo thang xung đột, còn sự thiếu tin tưởng trên thực tế sẽ làm tê liệt bộ máy chỉ huy, vì khi đó không biết dựa vào dữ liệu nào.

Điều này đặc biệt nguy hiểm đối với các quân nhân trẻ và thiếu kinh nghiệm, những người dễ bị tác động của hiệu ứng Dunning-Kruger hơn: họ ít khi nhận ra sai sót của AI trong các hệ thống quân sự phức tạp. Logic tương tự cũng áp dụng cho giới lãnh đạo: họ có thể quá tin tưởng vào các đánh giá của mô hình, đặc biệt nếu những đánh giá đó hứa hẹn một chiến thắng dễ dàng.

Như vậy, ngay cả khi về mặt hình thức vẫn tồn tại sự "kiểm soát của con người” đối với các quyết định rủi ro nhất, chẳng hạn như việc sử dụng vũ khí hạt nhân, các nhân viên vận hành trẻ và những nhà lãnh đạo thiếu kinh nghiệm vẫn có thể đánh giá quá cao độ tin cậy của các kết luận do trí tuệ nhân tạo đưa ra.

Con người là mối đe dọa lớn nhất

Cũng như các công nghệ khác, mối nguy hiểm lớn nhất của AI luôn gắn liền với con người: cách họ sử dụng và phát triển các hệ thống này phản ánh những đặc điểm tồi tệ nhất của chính họ. Sau Thế chiến thứ nhất, các nhà nghiên cứu đã cố gắng lý giải vì sao một cuộc xung đột vô nghĩa lại có thể cướp đi sinh mạng của hàng triệu người.

Một trong những lời giải thích ban đầu cho rằng điều này có liên quan đến sự phát triển của công nghệ: đường sắt, điện báo và động cơ hơi nước đã cho phép tạo ra các năng lực quân sự lớn, từ đó tạo điều kiện thuận lợi cho sự bùng nổ chiến tranh. Nhưng các quyết định là do con người đưa ra chứ không phải máy móc. Các nhà lãnh đạo như Hoàng đế Wilhelm tin tưởng rằng công nghệ có thể mang lại chiến thắng, nhưng không ý thức được cái giá phải trả.

Ngày nay, chính con người là chủ thể quyết định cách xây dựng các kho vũ khí AI, cách ứng dụng chúng trong các cuộc xung đột quân sự, và trao cho chúng vai trò như thế nào trong việc ra quyết định, kể cả quyết định hạt nhân. Việc giúp các nhà lãnh đạo hiểu rõ những giới hạn và rủi ro của công nghệ này, đồng thời đào tạo họ phân tích một cách thận trọng các kết luận của mô hình sẽ góp phần giúp giảm nguy cơ đánh giá quá cao năng lực của AI. Ngoài ra, việc đặt yếu tố an toàn lên hàng đầu ngay từ giai đoạn phát triển sẽ làm giảm khả năng xảy ra các sự cố ngoài ý muốn. Ứng dụng trí tuệ nhân tạo vào lĩnh vực quân sự là xu hướng không thể đảo ngược, nhưng chỉ có sự kiểm soát của con người mới có thể đảm bảo tính bền vững của quá trình này.