Vận động bằng AI, mặt trận mới trong cuộc bầu cử Ấn Độ

Tràn ngập nội dung giả mạo bằng AI

Để có cái nhìn thoáng qua về vị trí của trí tuệ nhân tạo trong các chiến dịch bầu cử, hãy nhìn vào Ấn Độ, khi quốc gia đông dân nhất thế giới bắt đầu tiến hành các cuộc tổng tuyển cử vào ngày 19/4 vừa qua.

Một phiên bản Thủ tướng Narendra Modi do AI tạo ra đã được chia sẻ trên ứng dụng nhắn tin WhatsApp cho thấy khả năng tiếp cận siêu cá nhân hóa ở quốc gia có gần một tỷ cử tri. Trong video - một clip demo không rõ nguồn - hình đại diện của ông Modi đề cập trực tiếp đến tên của một loạt cử tri.

Tuy nhiên, sản phẩm deepfake ấy không hoàn hảo. Ông Modi dường như đeo 2 cặp kính khác nhau và một số phần của video bị pixel.

Ở cấp độ thấp hơn, các đảng viên trong đảng cầm quyền BJP của ông Modi đang gửi video qua WhatsApp, trong đó hình đại diện AI của riêng họ gửi thông điệp cá nhân tới các cử tri cụ thể về những lợi ích của chính phủ mà người dân đã nhận được và đề nghị các cử tri hãy bỏ phiếu cho BJP.

Những tin nhắn video đó có thể được tạo tự động bằng bất kỳ ngôn ngữ nào trong số hàng chục ngôn ngữ lớn nhất của Ấn Độ mà các cử tri đang sử dụng. Vì vậy, các tin nhắn điện thoại bằng các chatbot được hỗ trợ bởi AI có thể gọi điện cho cử tri bằng tiếng nói của các nhà lãnh đạo chính trị và tìm kiếm sự hỗ trợ của họ.

Việc tiếp cận như vậy chỉ đòi hỏi một phần nhỏ thời gian và tiền bạc dành cho chiến dịch tranh cử truyền thống và nó có tiềm năng trở thành một công cụ thiết yếu trong các cuộc bầu cử. Nhưng, khi công nghệ bước vào cuộc đua nơi chính trường, có rất ít rào chắn để ngăn chặn việc lạm dụng.

Một ví dụ khác nữa, sẽ cho thấy rõ hơn những video deepfake đang trở thành vấn đề lớn trong bối cảnh cuộc bầu cử sẽ kéo dài đến tháng 6 ở Ấn Độ. Đấy là những clip mà trong đó các diễn viên Bollywood tuyên bố quan điểm chính trị của họ và xu hướng sử dụng rộng rãi công nghệ trí tuệ nhân tạo để thao túng các câu chuyện.

Các ngôi sao nổi tiếng Aamir Khan và Ranbir Kapoor hồi cuối tháng 4 vừa qua đã xuất hiện trên một clip và nói rằng Thủ tướng Narendra Modi đã không giữ lời hứa khi tranh cử và giải quyết các vấn đề kinh tế quan trọng trong 2 nhiệm kỳ của mình. Đoạn clip kết thúc bằng biểu tượng và khẩu hiệu bầu cử của phe đối lập: “Bầu cho công lý. Bầu cho đảng Quốc Đại”.

Tất nhiên, hai ngôi sao Bollywood đã phủ nhận sự liên quan đến các video kể trên. Nhưng, các chuyên gia cho biết, những video này vẫn đặt gánh nặng lớn lên công chúng Ấn Độ trong việc phân biệt sự thật và hư cấu, nhất là trong một xã hội mà quan điểm chính trị của người dân có thể dễ dàng bị ảnh hưởng bởi văn hóa sùng bái cá nhân.

AI, một công cụ hiệu quả và dễ kiếm

Ở tầng trệt của một tòa nhà dân cư trên một con đường bụi bặm tại bang Rajasthan (Ấn Độ), Divyendra Singh Jadoun - một cựu sinh viên 31 tuổi bỏ dở đại học, đang điều hành một công ty khởi nghiệp về AI có tên The Indian Deepfaker.

Nhóm 9 người của Jadoun đã thực hiện quảng cáo với hình đại diện do AI tạo ra của các diễn viên Bollywood. Nhưng, đầu năm nay, các đảng chính trị và chính trị gia bắt đầu yêu cầu Jadoun làm cho họ như những thứ tương tự. Trong số 200 lời đề nghị gửi tới, có một lời đề nghị đến từ Shakti Singh Rathore, thành viên đảng BJP. Công việc của Rathore trong mùa bầu cử này là nói với càng nhiều người càng tốt về các chương trình và chính sách của thủ tướng. Vì vậy, Rathore quyết định tạo ra một bản sao của chính mình.

“AI thật tuyệt vời và là con đường phía trước”, Rathore nói khi ngồi trước máy quay video tại văn phòng của The Indian Deepfaker, chuẩn bị hóa thân vào kỹ thuật số. “Làm cách nào khác để tôi có thể tiếp cận những người được hưởng lợi từ các chương trình của Thủ tướng Modi với số lượng lớn như vậy và trong khoảng thời gian ngắn như vậy?”.

Khi Rathore chỉnh lại chiếc khăn quàng nghệ tây có logo của BJP đeo trên cổ, Jadoun hướng dẫn anh: “Chỉ cần nhìn vào camera và nói chuyện như thể người đó đang ngồi ngay trước mặt bạn”.

Với tài liệu dài khoảng 5 phút, bao gồm cả bản ghi âm và ảnh chụp hồ sơ, Jadoun bắt tay vào làm. Anh cho biết mình sử dụng các hệ thống AI nguồn mở và xây dựng dựa trên chúng bằng mã của riêng mình. Đầu tiên, khuôn mặt của Rathore được tách biệt khỏi từng khung hình của đoạn ghi âm. Sau đó, dữ liệu được thu thập từ các đặc điểm trên khuôn mặt của nhà hoạt động 33 tuổi này, bao gồm kích thước khuôn mặt và đôi môi cũng như ánh mắt của anh ấy rồi đưa vào các mô hình AI học cách dự đoán các mẫu khuôn mặt.

“Bạn cần tiếp tục chạy chương trình và tinh chỉnh khuôn mặt cho đến khi có được khuôn mặt đẹp nhất có thể”, Jadoun nói. Một “thuật toán nhân bản” cũng phân tích bản ghi âm, tìm hiểu nhịp điệu và ngữ điệu của giọng nói. Thường phải mất từ 6 đến 8 giờ chỉnh sửa để hoàn thiện khuôn mặt và đôi môi ăn khớp với lời nói. Phần còn lại phần lớn được tự động hóa.

Trong một bản demo, mất khoảng 4 phút để tạo khoảng 20 video lời chào được cá nhân hóa. Jadoun cho biết nhóm của anh có thể sản xuất tới 10.000 video mỗi ngày. Đối với những công việc lớn hơn cần đúng thời hạn, họ sẽ thuê các đơn vị xử lý đồ họa.

Theo Jadoun, AI cũng cũng có thể xóa bỏ rào cản ngôn ngữ, điều này đặc biệt hữu ích ở một quốc gia có ngôn ngữ đa dạng như Ấn Độ. Vì thế, hình đại diện của Rathore có thể được lập trình để nói nhiều ngôn ngữ khác nhau, nhằm đến được với những cộng đồng thiểu số và những nơi xa xôi nhất của đất nước.

Nhờ sự ưu việt của AI, các đảng chính trị không chỉ nhắn tin video cho cử tri mà còn sử dụng giọng nói nhân bản để gọi trực tiếp cho mọi người, tất cả đều được hỗ trợ bởi các chatbot như ChatGPT. Rathore cho biết, trước đây, khi đại diện đảng gọi điện cho cử tri, họ sẽ cúp máy. “Nhưng, bây giờ, khi một lãnh đạo địa phương nhắc đến tên cử tri, điều đó ngay lập tức thu hút sự chú ý của họ”.

Nikhil Pahwa, biên tập viên của MediaNama, tờ báo điện tử chuyên đưa tin về truyền thông kỹ thuật số ở Ấn Độ, cho biết các thông điệp được cá nhân hóa có thể có sức ảnh hưởng đặc biệt mạnh mẽ đối với người dân. “Ấn Độ là đất nước mà mọi người thích chụp ảnh với những người đóng giả người nổi tiếng”. Pahwa nói. “Vì vậy, nếu họ nhận được một cuộc gọi từ thủ tướng và ông ấy nói như thể ông ấy biết họ, nơi họ sống và vấn đề của họ là gì, họ sẽ thực sự vui mừng về điều đó”.

Kiểm soát deepfake như thế nào?

Đề cập đến việc AI bị lạm dụng trong vận động bầu cử tại Ấn Độ, các chuyên gia lo ngại rằng cử tri sẽ ngày càng gặp khó khăn trong việc phân biệt giữa tin nhắn thật và tin nhắn deepfake (một kỹ thuật tổng hợp hình ảnh, âm thanh hoặc video để tạo ra những nội dung giả mạo) khi công nghệ tiến bộ và lan rộng.

Ông Prateek Waghre, Giám đốc điều hành của Tổ chức Tự do Internet, một nhóm quyền kỹ thuật số có trụ sở tại New Delhi, cho biết: “Mọi thứ đang giống như một miền Tây hoang dã khi không gian AI không được kiểm soát”. Ông nói thêm, công nghệ AI với những nội dung deepfake đang bước rất nhanh vào một bối cảnh truyền thông vốn đã bị ô nhiễm bởi thông tin sai lệch.

Trên khắp thế giới, các cuộc bầu cử đã trở thành nơi thử nghiệm sự bùng nổ của AI. Chẳng hạn, các công cụ này đã được sử dụng để biến một ứng cử viên tổng thống người Argentina thành Indiana Jones, nhân vật chính trong loạt phim hành động cùng tên của Hollywood. Hoặc, trong cuộc bầu cử sơ bộ ở bang New Hampshire (Mỹ) mới đây, các cử tri đã nhận được tin nhắn cuộc gọi tự động kêu gọi họ không bỏ phiếu, bằng giọng nói rất có thể được tạo ra một cách giả tạo để nghe giống giọng của Tổng thống Joe Biden.

Và, ở Ấn Độ, đảng BJP và đảng Quốc Đại đã cáo buộc nhau phát tán nội dung deepfake liên quan đến bầu cử trên mạng. Tuy nhiên, sự can dự của các đảng phái tới những nội dung giả mạo là điều rất khó chứng minh. Chẳng hạn như với trường hợp của Rathore, đảng viên đảng BJP này cho biết anh đã chi khoảng 24.000 USD để tiếp cận khoảng 1,2 triệu người thông qua tin nhắn video và cuộc gọi điện thoại cũng như nhận thông tin về những người không trả lời. Nhưng, đấy hoàn toàn là tiền túi của Rathore và anh gọi đó là khoản đầu tư cho tương lai của mình với BJP

Trước mắt, cuộc chiến pháp lý đối với deepfake mới chỉ dừng ở mức độ cá nhân, như chuyện của diễn viên Ranveer Singh. Ngay từ khi cuộc tổng tuyển cử năm nay bắt đầu, đã xuất hiện một đoạn clip trong đó Ranveer Singh kêu gọi các cử tri ủng hộ cho đảng Quốc Đại. Nền tảng kiểm tra thực tế BOOM của Ấn Độ đã phân tích video của Singh bằng itisaar, một công cụ phát hiện deepfake do Viện Công nghệ Ấn Độ (IIT) tại Jodhpur phát triển, xác định nội dung có chứa bản sao giọng nói AI.

Trên thực tế, video này được chỉnh sửa từ một đoạn phim ghi lại chuyến thăm Kashi của nam diễn viên, mà trong đó anh có những phát biểu ca ngợi Thủ tướng Modi chứ không phải chỉ trích như trong nội dung deepfake. Từ kết luận trên, cha của Ranveer Singh quyết định kiện một người dùng mạng xã hội X và kẻ này sau đó đã bị khởi tố vì lạm dụng công nghệ và nhằm mục đích làm tổn hại đến danh tiếng của người khác.

Án phạt nghiêm khắc là cần thiết, song liệu nó có xóa được những nội dung “xấu, độc” đã bị phát tán khắp nơi và ăn sâu bén rễ vào những cái đầu vốn bị tệ sùng bái cá nhân làm mê muội ở Ấn Độ?