Trí tuệ nhân tạo có thể hủy diệt nhân loại, nếu...

• Trí tuệ nhân tạo - chìa khóa quyền lực
• Khi trí tuệ nhân tạo tự quyết định hết thảy?
• Loài người và mối đe dọa của trí tuệ nhân tạo trong đời sống

Dân làng cờ chấn động với câu hỏi: Vậy là các kỳ thủ đã thua máy móc thật sao? So với cờ vua thì cơ vây mang tính trực cảm - tính con người cao hơn rất nhiều và ở thời điểm ấy nhiều người bảo máy tính có thể thắng được trên bàn cờ vua chứ không thể thắng được trên bàn cờ vây.

19 năm sau, chính xác là ngày 15-3-2016, lần đầu tiên trong lịch sử, kỳ thủ cờ vây chuyên nghiệp đẳng cấp thế giới Lee Se-dol bị chương trình máy tính AlphaGo của Google đánh bại. Đến lúc này thì người ta buộc phải hỏi nhau: Máy tính có thể chiến thắng bao nhiêu bộ óc con người nữa? 

Và điều gì sẽ xảy ra nếu những sản phẩm lập trình siêu việt như máy tính, như robot không phải chỉ để đánh cờ với con người, mà để cùng sống, và thậm chí đe dọa sự sống của con người?

Nhà báo Phan Đăng đối thoại về chủ đề này với ông Nguyễn Anh Tuấn - nguyên Tổng Biên tập Báo điện tử VietnamNet, Giám đốc Viện Michael Dukakis (Mỹ) - nơi tụ hội những trí tuệ và nhà sáng tạo hàng đầu vừa khởi xướng xây dựng Xã hội Vạn vật Trí tuệ Nhân tạo (AIWS) với các tiêu chí an toàn - nhân ái - trung thực - tốt đẹp.

- Nhà báo Phan Đăng: Thưa ông Nguyễn Anh Tuấn, với những người dân bình thường thì những lo ngại về mặt trái của trí tuệ nhân tạo (AI) có lẽ nảy sinh sau khi những vua cờ thế giới liên tục thua máy tính, nhưng với những nhà tư tưởng, những nhà sáng chế thì mối lo ấy có lẽ đã xuất hiện từ trước đó rất lâu rồi?   

- Ông Nguyễn Anh Tuấn: Đúng thế! Nhưng cần hiểu cho rõ rằng, những lo sợ về AI không phải là vì AI có thể khuynh đảo con người, mà là con người có thể sử dụng AI để khuynh đảo, làm hại lẫn nhau. AI xét cho cùng là một hệ thống tích hợp phần cứng, phần mềm, dựa trên những thuật toán thông minh. Nếu hệ thống ấy được tạo ra từ những bộ óc văn minh, có trách nhiệm xây dựng và phát triển thì tốt. Nhưng ngược lại, nếu hệ thống ấy lại được tạo ra từ những bộ óc hằn học với nhân loại, có ý đồ phá hoại hoặc hủy diệt thì rất nguy hiểm.

- Trong hình dung của ông, những AI được tạo ra để phục vụ sự phát triển của con người sẽ được biểu hiện cụ thể như thế nào?

- Trong đấu tranh, đòi hỏi công lý chẳng hạn, ngay cả với một số tòa án quốc tế hiện nay, trước khi tòa ra phán quyết người ta vẫn lo sợ, nghi ngờ về những diễn biến phía sau nó, sợ có bị vận động lobby hay không. Nếu có một tòa án thực sự công khai, minh bạch, dựa trên những dữ liệu khách quan, được hỗ trợ, phân định bởi AI thì tất cả những lo sợ kia sẽ giảm đi rất nhiều. 

Khi một vị tổng thống phát biểu, có người cho đấy là những phát biểu hay, có người cho đấy là phát biểu mị dân. Và người ta tranh cãi, nhiều lúc không ai chịu ai, không ai phục ai. Khi đó, nếu có AI để phân tích các câu nói, xử lý trên cơ sở các dữ liệu thật khách quan rồi đưa ra đánh giá, kết luận, chắc chắn kết luận ấy mang tính thuyết phục cao. 

Trong việc đánh giá hiệu quả hoạt động của một chính phủ, một nhà lãnh đạo, được hệ thống AI đánh giá sẽ khách quan, chính xác hơn. Hay như trên Facebook bây giờ, tôi thấy đôi khi một ý kiến đưa ra, có những người ủng hộ, lại có nhiều người phản ứng, đôi khi tạo ra sự áp đảo bởi số đông. 

Trong trường hợp đó, nếu có AI hỗ trợ, phân tích một cách khoa học, logic và có dữ liệu, có sở cứ thì cái đúng cái sai sẽ được xác tín một cách rõ ràng, mạch lạc, không thể mập mờ, và không lừa dối mọi người được nữa.

Tôi chợt nhớ có lần đọc một bài viết của chính Phan Đăng, bày tỏ sự bức xúc về một quyết định rất thiếu chính xác của một trọng tài bóng đá Việt Nam. Khi đó tôi từng nghĩ rằng nếu có AI làm thay hoặc trợ giúp cho các trọng tài thì Phan Đăng và những người xem bóng đá không phải bức xúc như thế nữa. 

Trọng tài đôi khi thiên vị đội này đội kia, mà đôi khi cũng chẳng thiên vị đội nào cả, chỉ đơn giản là ông ấy mệt mỏi quá, không theo kịp tình huống, không thể đưa ra quyết định chính xác được. Nhưng với AI thì chắc chắn không còn chuyện thiên vị, cũng không còn chuyện mệt mỏi nữa.

- Và ở chiều ngược lại, AI lại cũng có thể tạo nên những con robot giết người hàng loạt - chẳng hạn thế. Thậm chí đến một trình độ phát triển nào đó, AI có thể sao chép ra nhiều bộ óc giống như những bộ óc Hitler ông nhỉ?

- Riêng về chuyện "bộ óc" thì hiện tại theo tôi biết chưa có bất cứ AI nào có thể mô phỏng chính xác bộ não của con người với tất cả những sự phức tạp và bí hiểm vốn có của nó. Vì chính con người cũng chưa thể giải mật chính xác bộ não của mình. 

Cho nên câu chuyện sao chép một bộ não tiêu cực nào đó có thể là câu chuyện của tương lai xa, nhưng trong tương lai gần, ít nhất là trong vòng 10 năm nữa thì chúng ta phải lường trước nguy cơ người ta có thể cài vào AI một góc tối nào đó, rồi kích hoạt nó lên. Chỉ với một góc tối rất nhỏ ấy thôi cũng làm nảy sinh hậu quả khôn lường. 

- AI chưa thể sao chép chính xác bộ não con người như ông nói, nhưng chẳng phải AI đã được nhìn nhận giống như một con người đó sao? Tôi muốn nhắc tới câu chuyện cách đây chưa lâu, Saudi Arabia đã cấp quyền công dân cho nữ robot Sophia...

- Tôi nghĩ là khi xác thực quyền công dân cho robot thì Saudi Arabia muốn chứng tỏ là họ đang đi trước thời đại, vì thế với tôi câu chuyện này chỉ mang tính biểu tượng quảng bá. Người sáng tạo ra Sophia là một người Mỹ, ông David Hanson. Nói về sự phát triển của AI hiện nay thì Mỹ vẫn là nước hàng đầu. Còn việc nhìn nhận robot như một công dân AI là việc đáng hoan nghênh và nên làm.

- Không chỉ cấp quyền công dân cho robot, tôi nhớ là người ta còn tổ chức cả một buổi phỏng vấn "cô gái" Sophia đó. Và tôi nhớ là khi nhà báo Andrew Ross Sorkin của hãng CNBC News đặt câu hỏi: "Cô có giải được câu đố này trước mặt chúng tôi để cho thấy robot có nhận thức, không hẳn chỉ là robot?" thì Sophia đã đáp lại rất sắc sảo: "Anh cứ đưa câu đố đi, nhưng tôi muốn hỏi ngược lại anh một câu: "Sao anh biết anh là con người?". Thú thật là lúc đó, một cách rất vô thức, tôi rùng mình sợ hãi. Sau đó cô Sophia này còn dõng dạc bảo: "Con mắt tôi được thiết kế tinh tường như con người. Tôi có tấm lòng, làm tôi thành con người biết thương cảm". Ông Nguyễn Anh Tuấn à, tôi biết chắc là ông cũng đã theo dõi cuộc trả lời phỏng vấn mà rồi đây lịch sử phát triển của loài người sẽ phải nhìn nhận như một cột mốc này, tôi muốn biết lúc đó ông suy nghĩ gì?

- Lúc đó tôi nghĩ, trong tương lai, xã hội sẽ có những công dân trí tuệ nhân tạo. Và số lượng những công dân ấy sẽ tăng dần lên. Không thể tránh được. Không thể nào khác được. Và Xã hội Vạn vật Trí tuệ Nhân tạo có một phần quan trọng về công dân AI.

- Tôi nghĩ rất nhiều đến khái niệm "công dân", suy cho cùng thì một "công dân" truyền thống luôn chịu 2 tác động tất yếu, đó là tác động sinh học và tác động xã hội. Nhưng nếu coi robot cũng là công dân thì loài người bắt buộc phải nghĩ thêm đến một tác động nữa - tác động lập trình. Và như thế cũng có nghĩa khái niệm "công dân" của loài người sẽ phải được viết lại.

- Chính xác! Một xã hội tiến bộ trong tương lai phải biết chấp nhận những thực thể mới, phải có cách ứng xử hợp lý, đồng thời phải có cơ chế quản lý, giám sát.

- Trước khi nói về câu chuyện "ứng xử" - điều mà Viện Michael Dukakisc của ông đang nghiên cứu và bàn thảo, tôi muốn nói thêm rằng, mới đây tôi có đọc một kết luận của các nhà nghiên cứu AI hàng đầu ở Đại học Ohio về việc con người thậm chí có thể sinh con với robot. Theo họ, robot có thể điều khiển tế bào da người, để từ đó có thể tạo ra tinh trùng và trứng...

- Tôi nghĩ việc sinh con với robot là điều có thể, nhưng chắc phải diễn ra ở thế kỷ tới, chứ trong thế kỷ này, chắc chắn là trong khoảng 30 năm tới thì điều này chưa thể xảy ra.

Dường như AI có chu kỳ 30 năm. Chu kỳ đầu là giữa những năm 50, thế kỷ 20, những thuyết đầu tiên về AI đã bắt đầu ra đời, nhưng phát triển rất chậm, vì công nghệ tính toán còn sơ khai. Ba mươi năm sau, giữa những năm 80 của thế kỷ 20 xuất hiện một làn sóng thứ hai, với kỳ vọng cao hơn. 

Và bây giờ, từ giữa những năm 10 của thế kỷ 21 có thể coi là làn sóng thứ ba, được kỳ vọng nhiều hơn, và có cơ sở hơn, vì hệ thống máy tính đã phát triển rất cao và tính kết nối giữa các trung tâm, các hệ thống, các dữ liệu với nhau đã rất mạnh, thuật toán đã tốt hơn rồi. 

Theo dự đoán của chúng tôi, sau khoảng 30 năm nữa, vào giữa những năm 40 sẽ tiếp tục một làn sóng thứ tư với những thay đổi mang tính đột biến cao hơn nữa. Thế nên ngay từ bây giờ, nếu con người không tìm ra các giải pháp quản lý, giám sát và dần dần triển khai nó thì tôi sợ rằng sau 30 năm nữa những tác động trái chiều của AI là rất khó giải quyết và có thể vượt ngoài tầm kiểm soát của nhân loại. 

- Những giải pháp cụ thể mà Viện Dukakis đang hướng đến là gì?

Xây dựng Xã hội Vạn vật Trí tuệ Nhân tạo với những nội dung cơ bản như sau:

- Thiết lập nền tảng đạo đức, các chuẩn mực của công dân AI, của AIWS.

- Xây dựng các hệ thống pháp lý, chế tài và cơ chế vận hành, quản lý, giám sát, các mô hình của AIWS.

- Xây dựng các ứng dụng của AIWS như tòa án AI, trọng tài AI, các dịch vụ công AI...

- Trước hết, thiết lập những chuẩn mực giá trị đạo đức của Xã hội Vạn vật Trí tuệ Nhân tạo. Phải thống nhất được các chuẩn mực giá trị ấy, rồi từ cái nền chuẩn mực ấy đưa ra các tiêu chuẩn, quy tắc, các chế tài, các hệ thống luật pháp để AI có thể được tạo ra một cách lành mạnh, hướng đến những mục tiêu tích cực cho nhân loại và chính AI có thể chế ngự những thói xấu của con người như giả dối, xảo trá, đạo đức giả, đó kỵ, độc ác... Sau đó thành lập hội đồng quản lý giám sát, hội đồng này sẽ thẩm định, đánh giá, cấp mã số, hồ sơ cho sự ra đời của từng robot - những công dân AI.

- Ông vừa nói đến yếu tố chuẩn mực của giá trị đạo đức nhân loại, cá nhân tôi nghĩ điều này cực khó, vì thực tế là mỗi một dân tộc, một tôn giáo, một vùng văn hóa đôi khi lại có những chuẩn mực rất khác nhau, thậm chí là trái ngược nhau... Làm sao có thể bắt cha đẻ của những con robot ở Trung Đông cũng phải tuân theo những điều mà cha đẻ của những con robot ở Mỹ coi là chuẩn mực?

- Trước khi cùng Thống đốc Michael Dukakis sang lập Viện Michael Dukakis, và tham gia dự án này, tôi đã tham gia Diễn đàn Toàn cầu Boston và là Chủ tịch Ủy ban Cố vấn quốc tế của Chương trình Giáo dục công dân toàn cầu của UNESCO và Đại học California Los Angeles UCLA. 

Ở Diễn đàn này và Chương trình Giáo dục công dân toàn cầu, các chuyên gia cũng tranh luận quyết liệt vấn đề mà bạn vừa nêu ra, và cuối cùng tất cả đều thống nhất rằng, đã đành mỗi vùng miền, mỗi nền văn hóa đều có những bản sắc riêng, nhưng nhất định vẫn phải có những nền tảng chung, mẫu số chung cho nhân loại chứ. 

Những điều này đã được quy định trong Hiến chương Liên Hiệp Quốc và cũng chính nhờ những điều này mà các tòa án quốc tế, các tổ chức quốc tế mới tồn tại và xử lý được các vấn đề quốc tế. Cho nên với các chuẩn giá trị chung mà AI phải đảm bảo, tôi nghĩ rằng sau khi xuất hiện những tranh cãi, tranh biện rồi sẽ có những đúc kết, thống nhất. 

Thống đốc Michael Dukakis, Chủ tịch Viện có ý nguyện phải làm sao để AI thúc đẩy xã hội loài người tốt đẹp hơn, nhân ái hơn, trung thực hơn, các hoạt động chính trị xã hội của loài người không còn thói giả dối, thói đạo đức giả, đồng tiền không chi phối chính trị, không bẻ cong công lý..., đó là những giá trị chung mà ai cũng mong muốn cả.

- Còn một lực cản nữa mà tôi nghĩ đến, đó là chủ nghĩa dân tộc cực đoan. Thực tế là vẫn không thể tránh khỏi chuyện một hoặc một bộ phận quốc gia nào đó đặt quyền lợi của mình cao hơn những tiêu chuẩn chung của loài người văn minh...

- Vậy nên Viện Michael Dukakis và Diễn đàn Toàn cầu Boston làm việc với chính phủ các nước quan tâm, cùng xây dựng Xã hội Vạn vật Trí tuệ Nhân tạo. Từ kinh nghiệm hợp tác với các Chính phủ Nhật, Ý xây dựng các sáng kiến về an ninh mạng cho Hội nghị Thượng đỉnh G7 trong các năm 2016, 2017.

Năm 2018 này, Diễn đàn Toàn cầu Boston và Viện Michael Dukakis hợp tác với Chính phủ Canada, nước chủ nhà Hội nghị Thượng đỉnh G7, tổ chức Hội nghị Nền tảng đạo đức, chuẩn mực của Xã hội Vạn vật Trí tuệ Nhân tạo, vào ngày 25-4-2018 tại Đại học Harvard, đây là sáng kiến cho Hội nghị Thượng đỉnh G7 diễn ra tại Canada năm nay.

Để kiểm soát sự ra đời của các công dân AI, sẽ thành lập một tổ chức quốc tế quản lý, vận hành, giám sát, để bảo đảm các công dân AI ra đời đáp ứng được các tiêu chuẩn, chuẩn mực của Xã hội Vạn vật Trí tuệ Nhân tạo. Chúng tôi tin là sau Canada và các nước G7 sẽ là các nước Bắc Âu, rồi đến các nước phát triển theo hướng văn minh, là thành viên của OECD như Australia, Áo, Thụy Sỹ quan tâm...

Các chính phủ phải thấy rằng nếu không liên kết lại để cùng thực hiện những chuẩn mực giá trị, những quy ước này thì hậu quả sẽ rất nguy hiểm. Những chính phủ nào đi ngược lại điều này có nghĩa là chống lại nhân loại tiến bộ.

- Tôi có thể hình ảnh hóa vấn đề như thế này: Nếu một con người bình thường được sinh ra bởi cuộc hôn phối giữa một người đàn ông với một người đàn bà thì trong tương lai một con robot sẽ được sinh ra bởi những chuẩn mực giá trị đạo đức, văn hóa toàn cầu và một hội đồng thẩm định cấp phép có quy mô toàn cầu. Trong hình dung của ông, hội đồng thẩm định sẽ gồm những ai? 

- Đó là những chuyên gia về AI trên toàn cầu, hiện đã có những nhà sáng tạo hàng đầu về AI của Google, Intel tham gia, đó là những học giả về AI, về luật, các nhà lãnh đạo chính trị, xã hội. Tại hội nghị ngày 25/4 tới đây, Viện Michael Dukakis sẽ công bố những thành viên đầu tiên của hội đồng, và cơ chế vận hành, hoạt động của hội đồng.

- Ông Nguyễn Anh Tuấn à, để một Xã hội Vạn vật Trí tuệ Nhân tạo được vận hành vì những mục đích tốt đẹp thì có lẽ chỉ nghiên cứu về quá trình khai sinh ra các con robot e là chưa đủ...

- Đúng như thế! Trong Hệ thống nền tảng đạo đức, chuẩn mực của Xã hội Vạn vật Trí tuệ Nhân tạo có những nội dung quan trọng về các nền tảng đạo đức, quy tắc ứng xử của robot (công dân AI) trong xã hội. Ví dụ robot làm bác sĩ thì sẽ như thế nào? Robot làm chánh án, làm trọng tài sẽ ra sao? Rồi robot lái xe mà chẳng may đâm chết người thì có phải ra tòa hay không?

Chúng tôi đã từng nghĩ đến rất nhiều tình huống nan giải, ví dụ như một robot lái xe, và đối diện với một người lái xe khác vi phạm giao thông. Nếu robot này tiếp tục lái xe thì có thể đâm chết người đang lái xe vi phạm giao thông kia, nhưng nếu tránh xe đó thì nó lại làm hại đến tính mạng của rất nhiều người khác cũng đang đi trên đường.

Lúc ấy người ta phải lập trình các thuật toán, cài đặt vào trong robot những mệnh lệnh ứng xử theo hướng nào đây? Tất nhiên, có điểm lợi thế là robot có một trí nhớ kỳ tài, và có khả năng tra cứu, xử lý dữ liệu rất nhanh, nên hoàn toàn có thể cài đặt vào nó những mệnh lệnh ứng xử chi tiết nhất, nhưng không vì thế mà có thể lường hết được những phiền toái, những tác động mà nó có thể gây ra.

Vậy nên xây dựng Xã hội Vạn vật Trí tuệ Nhân tạo là sự nghiệp của nhân loại, là trách nhiệm của mọi người trên toàn thế giới. Có tập trung trí tuệ rộng rãi thì mới có được một hệ thống bao quát đầy đủ được các khả năng, các tình huống, các quy tắc ứng xử của Xã hội Vạn vật Trí tuệ Nhân tạo.

- Hiện nay, ngoài Viện Dukakis còn những tổ chức nào quan tâm đến vấn đề xây dựng một xã hội AI lành mạnh nữa không, thưa ông?

- Đã có những trung tâm nghiên cứu của các trường đại học danh tiếng, các think tank ở Mỹ, Anh... đang nghiên cứu nhưng mỗi trung tâm chỉ nghiên cứu một phần của vấn đề, còn nghiên cứu một hệ thống tổng thể toàn diện của một thế giới trí tuệ nhân tạo thì Viện Michael Dukakis là người tiên phong. 

Chúng tôi giống như những người đốt lửa, những đốm lửa đầu tiên có thể chưa là gì, nhưng nhất thiết phải đốt lửa. Chắc Phan Đăng cũng biết vở kịch Nếu anh không đốt lửa của Lưu Quang Vũ?

- Vâng! Tôi có nghe nói là trước khi viết vở kịch ấy, Lưu Quang Vũ thường hay đọc cho bạn bè nghe những câu thơ của thi sĩ, nhà cách mạng Thổ Nhĩ Kỳ, Nadim Himet: "Nếu tôi không đốt lửa/ Nếu anh không đốt lửa/ Nếu chúng ta không đốt lửa/ Thì làm sao/ Bóng tối/ Có thể trở thành.../ Ánh Sáng".

- Trước đây chúng ta đã không lường hết được sức phát triển mạnh mẽ của máy tính và Internet, cùng với thiếu lòng tin, thiếu sự hợp tác giữa các chính phủ, nên bây giờ thế giới đang đối mặt với những vấn đề nghiêm trọng của an ninh mạng. Nếu không hợp tác, kiểm soát vấn đề, một lúc nào đó sẽ bùng nổ những cuộc chiến tranh trên không gian mạng, với sức tàn phá khủng khiếp. 

Hôm nay, nếu chúng ta cũng không lường hết được sự phát triển cả ở góc độ tích cực lẫn tiêu cực của AI để sớm đề ra những nền tảng đạo đức, quy tắc ứng xử, những tiêu chuẩn cho AI, vì sự phát triển tốt đẹp của nhân loại thì tôi e rằng đến một lúc nào đó AI sẽ tàn phá thế giới thân yêu này.

- Xin cảm ơn ông về cuộc đối thoại này!