Dùng AI câu view bất chấp
Vụ lật tàu du lịch Vịnh Xanh 58 trên Vịnh Hạ Long vào chiều 19/7 khiến hàng chục người thiệt mạng và mất tích, tự nó đã là một nỗi đau. Thế nhưng, trong khi lực lượng chức năng và gia đình nạn nhân đang nỗ lực tìm kiếm, khắc phục hậu quả, một số tài khoản và fanpage trên mạng xã hội đã lợi dụng bi kịch này để “câu view”, gây bức xúc trong cộng đồng. Một số người dùng mạng xã hội đã sử dụng công cụ như Gemini, ChatGPT hay Midjourney... để tạo ra hình ảnh gia đình hư cấu, sau đó gán vào các “câu chuyện bi thương” không có thật nhằm đánh vào cảm xúc công chúng để “câu view”, “câu like”.
Liên tiếp những bài viết, những câu chuyện về hoàn cảnh gia đình, về những nạn nhân đã mất, cùng những tình huống bất ngờ khi tai nạn xảy ra cùng giọng văn đau thương, đẫm nước mắt được chia sẻ. Thông tin trong những bài viết này, kể cả tên người gặp nạn, đều chưa được kiểm chứng. Thậm chí một số bài viết còn lợi dụng các chi tiết nhỏ liên quan đến một số nạn nhân sống sót, được đưa tin công khai trên báo chí, để biến tấu, thêm thắt thành câu chuyện cảm động. Hoặc biến hóa thành những mẩu đối thoại được viết chi tiết, cường điệu, kịch tính cùng những hình ảnh AI được dàn dựng như thật nhằm lấy nước mắt người đọc. Trong một số bức ảnh, dòng chữ “Tất cả các tình tiết đều là hư cấu, hình ảnh mang tính chất minh họa cho câu chuyện” được viết mờ, rất nhỏ dễ khiến nhiều người không chú ý.
Để giữ chân người đọc, các bài viết này thường kể lấp lửng và yêu cầu người xem nhấp vào các đường link trong phần bình luận để đọc tiếp. Khi nhấp vào, người dùng sẽ được chuyển hướng đến một trang web với nhiều quảng cáo che chắn màn hình.
Nhiều người dùng mạng xã hội vẫn không phân biệt được thật giả, để lại những bình luận tiếc thương cho các nhân vật trong câu chuyện, nhầm tưởng họ là nạn nhân hoặc người nhà của vụ chìm tàu thật. Những bài viết này thường nhận được hàng nghìn lượt like và hàng trăm lượt chia sẻ.
Thậm chí, một số tài khoản cá nhân còn đăng tải video được tạo bằng AI, mô phỏng cảnh tàu chìm và nạn nhân rơi xuống biển, hoặc lấy video chìm tàu khác với chú thích “Dựng lại hiện trường vụ tai nạn tàu du lịch ở Quảng Ninh”, “Cận cảnh tàu du lịch chìm ở Quảng Ninh”, gây hiểu lầm và bức xúc lớn. Tuy nhiên, nhiều người sớm nhận ra đây là những nội dung “câu view” vì video lấy từ đợt bão Yagi, hoặc lấy lại hình ảnh con tàu chìm ở Congo hồi tháng 10/2024, khiến ít nhất 78 người thiệt mạng. Trong phần bình luận của các video này, nhiều người dùng không biết sự thật đã đặt câu hỏi tại sao tàu lớn lại dễ lật như vậy và nghi ngờ tính an toàn, vấn đề kỹ thuật khi đóng tàu.
Nhiều người còn vào chỉ trích cơ quan chức năng không cảnh báo chính xác mức độ giông lốc trước bão, cứu hộ cứu nạn không kịp thời, hay nhà tàu đã độ chế, thiếu an toàn kĩ thuật. Hoặc đổ lỗi cho nạn nhân… bất chấp cảnh báo mưa gió vẫn đi du lịch… nên tai nạn cũng là đáng.
Thế nhưng cũng không ít người dùng mạng xã hội đã bày tỏ sự phẫn nộ và bức xúc trước hành vi trục lợi từ nỗi đau của người khác. Họ cho rằng việc tạo ra những nội dung sáo rỗng, câu view dựa trên bi kịch là hành động không thể chấp nhận được.
Giữa lúc cơ quan chức năng đang gồng mình vừa chống bão vừa tìm kiếm các nạn nhân mất tích, giữa lúc đau thương đang bao trùm tại Quảng Ninh và tại các gia đình nạn nhân thì những lời chỉ trích, những câu chuyện, hình ảnh hư cấu được lan truyền với tốc độ chóng mặt trên mạng xã hội sẽ như nhát dao khoét sâu vào nỗi đau của gia đình các nạn nhân và những người may mắn sống sót trở về.
Cũng trong thời gian trước và sau khi xảy ra cơn bão WIPHA, những clip về cơn bão được tạo từ AI như ngày tận thế, hay clip người, xe bị giông lốc cuốn phăng nhưng không nhận được sự giúp đỡ từ người khác… được chia sẻ rầm rộ, khiến nhiều người comment hoảng sợ tưởng như ngày tận thế đến gần. Không ít người chì chiết, phê phán sự vô cảm của người đi đường vì họ tưởng rằng đó là clip thật, mà không hề có sự tỉnh táo chọn lọc thông tin.
Trước đó, trên các nền tảng mạng xã hội cũng rộ lên trào lưu chia sẻ những hình ảnh tạo dáng cạnh những chiếc xe tiền tỉ biển số đẹp, diện trang phục hàng hiệu, nhưng bên cạnh lại là hình ảnh các chiến sĩ Cảnh sát giao thông đang lập biên bản. Những hình ảnh này khiến nhiều người hiểu lầm nhiều “đại gia”, “phú bà” đã rơi vào một tình huống vi phạm giao thông.
Đặc biệt là khi người đăng tải lại lấy bối cảnh là những địa điểm quen thuộc trong thành phố, khiến nhiều người khó phân biệt thật giả nếu không nhìn kỹ. Điều này vô hình trung dẫn đến những nhận thức tiêu cực về lực lượng chức năng, cho rằng “đại gia, phú bà hoàn toàn không sợ xử phạt giao thông”.
Xử lý nghiêm việc lợi dụng AI trên không gian mạng
AI (trí tuệ nhân tạo) - với khả năng tạo hình ảnh, nội dung video ngày càng tinh vi - đang bị lợi dụng triệt để để sản xuất video “deepfake” siêu thực, hình ảnh giả mạo hoặc tin tức sai lệch. Nội dung được thiết kế để gây sốc và thu hút sự chú ý nhanh chóng lan truyền trên các nền tảng mạng xã hội, thu về hàng triệu lượt tương tác, biến nỗi đau và sự kiện nghiêm trọng thành công cụ trục lợi bất chính.
Đây là biểu hiện điển hình của thứ nội dung độc hại đang len lỏi vào đời sống số xã hội. Không chỉ vô cảm, nó còn đang lợi dụng công nghệ để sản xuất tin giả, làm xáo trộn nhận thức công chúng, và quan trọng nhất là tiếp tay cho sự trục lợi từ bi kịch người khác. Từ việc chế ảnh, clip vụ lật tàu Vịnh Xanh 58 cho thấy những người đứng sau các nội dung này không phải người thân, nhân chứng hay phóng viên. Họ là những cá nhân hoặc nhóm chuyên khai thác các sự kiện nóng để sản xuất nội dung “giật nước mắt”. Họ thêm thắt chi tiết, bịa ra hoàn cảnh thương tâm nhằm đánh vào cảm xúc người xem, từ đó tăng tương tác, nhận donate, bán hàng online, hoặc quảng bá kênh cá nhân.
Không ít người dùng mạng xã hội vì tò mò hoặc vì cảm xúc nhất thời đã chia sẻ những nội dung sai sự thật này, vô tình tiếp tay cho việc lan truyền thông tin bịa đặt, gây tổn thương thêm cho thân nhân nạn nhân và nhiễu loạn thông tin xã hội.
Các nội dung bịa đặt không chỉ vi phạm đạo đức mà còn ảnh hưởng nghiêm trọng đến công tác điều tra, cứu hộ và định hướng dư luận. Ngoài ra, việc sử dụng hình ảnh giả mạo nạn nhân, dựng chuyện về người đã khuất có thể cấu thành hành vi xúc phạm danh dự người khác, thậm chí bị xử lý hình sự nếu gây hậu quả nghiêm trọng.
Tuy nhiên, hiện nay vẫn còn thiếu các chế tài rõ ràng đối với việc sử dụng AI để sản xuất tin giả. Trong khi đó, các nền tảng mạng xã hội chưa kiểm duyệt hiệu quả các nội dung nhạy cảm, khiến tin giả dễ dàng lan rộng.
Từ góc độ pháp lý, luật sư Giáp Quang Khải, Đoàn luật sư Bắc Giang cho biết, hành vi sử dụng hình ảnh giả, hình ảnh tạo bởi công nghệ AI rồi gán ghép cho người đã mất, gia đình nạn nhân trong một vụ tai nạn để tạo nội dung câu view, câu like, trục lợi là hành vi sai trái về đạo đức, phản cảm, vi phạm pháp luật. Nếu hành vi này gây ảnh hưởng đến an ninh, trật tự an toàn xã hội, xâm phạm danh dự, nhân phẩm của người khác thì người thực hiện hành vi có thể bị xử lý vi phạm hành chính theo Nghị định 15/2020/NĐ-CP (sửa đổi bổ sung bởi Nghị định 14/2022/NĐ-CP), hoặc bị xử lý hình sự theo Điều 288 Bộ luật Hình sự năm 2015 (sửa đổi bổ sung 2017) về tội “Đưa hoặc sử dụng trái phép thông tin mạng máy tính, mạng viễn thông”.
Mới đây, Phòng An ninh và phòng, chống tội phạm sử dụng công nghệ cao, Công an tỉnh Quảng Ninh vừa phối hợp với Công an phường Hồng Gai tiến hành xác minh, làm việc với công dân N.H.A.T. (sinh năm 1982, trú tại tổ 9, khu phố 3, phường Hồng Gai) về hành vi đăng tải nội dung sai sự thật trên mạng xã hội liên quan đến vụ lật tàu du lịch trên Vịnh Hạ Long.
Trước đó, khoảng 23h30 ngày 19/7 - ngay sau khi xảy ra vụ tai nạn lật tàu du lịch trên Vịnh Hạ Long, công dân N.H.A.T đã sử dụng tài khoản Facebook cá nhân để bình luận sai sự thật về số lượng người tử vong.
Nội dung bình luận này nhanh chóng lan truyền, gây nhiễu loạn thông tin, tác động tiêu cực tới tâm lý người dân và làm ảnh hưởng đến nỗ lực của các lực lượng chức năng đang trực tiếp cứu nạn, cứu hộ tại hiện trường.
Qua xác minh, cơ quan Công an xác định nội dung đăng tải đều không có căn cứ, không trích dẫn từ nguồn tin chính thống, vi phạm quy định pháp luật về thông tin trên không gian mạng. Căn cứ vào quy định pháp luật, cơ quan chức năng đã hoàn thiện hồ sơ xử lý vi phạm hành chính đối với công dân N.H.A.T.
Theo cơ quan Công an, hành vi đăng tải thông tin sai sự thật, đặc biệt trong bối cảnh xã hội nhạy cảm như thiên tai, tai nạn nghiêm trọng… không chỉ gây hoang mang dư luận mà còn có thể dẫn đến những hậu quả khó lường, cản trở quá trình tổ chức cứu hộ, điều tra và xử lý. Trên thực tế, nhiều đối tượng đã lợi dụng các sự kiện “nóng” để trục lợi cá nhân, câu view tương tác thu hút sự chú ý và những hành vi này sẽ bị xử lý ngày càng nghiêm khắc.
Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, Công an tỉnh Quảng Ninh khuyến cáo: Người dân cần hết sức tỉnh táo, chọn lọc thông tin khi sử dụng mạng xã hội. Tuyệt đối không chia sẻ, bình luận các nội dung chưa được kiểm chứng hoặc từ nguồn không chính thống. Đại diện Sở Du lịch tỉnh Quảng Ninh cho biết đã nắm được sự việc nhiều cá nhân, fanpage đăng tải video sai sự thật về vụ chìm tàu 19/7 và đã báo cáo cơ quan chức năng để xử lý những cá nhân, tổ chức đăng thông tin sai sự thật về vụ việc trên.
Vụ lật tàu ở Quảng Ninh là một bi kịch, là mất mát thực sự của nhiều gia đình. Việc lợi dụng nỗi đau này để trục lợi trên không gian mạng là hành vi vô nhân đạo, cần bị lên án mạnh mẽ. Người dùng mạng cần tỉnh táo, không chia sẻ nội dung chưa xác thực; đồng thời các cơ quan chức năng cần nhanh chóng xây dựng hành lang pháp lý để kiểm soát việc sử dụng AI trong sản xuất nội dung độc hại. Mạng xã hội không phải là nơi để đánh đổi đạo đức lấy tương tác.
Cảnh giác với tin giả, tin sai lệch chưa được kiểm chứng về bão, lũ 
Không tiếp tay cho tin giả gây nhiễu trên mạng xã hội 
