Tốc độ phát triển đã vượt quá khả năng giám sát?
Lập luận về sự nguy hiểm của AI không phải không có cơ sở. Theo dữ liệu từ tổ chức đánh giá độc lập METR được trích dẫn trong chính bài luận của ông Amodei, chỉ số "chân trời nhiệm vụ" để xác định độ dài của một tác vụ mà AI có thể hoàn thành đáng tin cậy không cần con người can thiệp hiện đang tăng gấp đôi sau mỗi 4 tháng. Tốc độ này nhanh hơn đáng kể so với chu kỳ 7 tháng trước đây. Ngay trong nội bộ Anthropic, một kỹ sư trung bình trong quý II/2026 đã viết lượng mã nhiều gấp… 8 lần so với năm 2024. Ông Amodei nói rằng chính vòng lặp tự cải thiện này có thể cho phép AI xây dựng thế hệ AI tiếp theo trong một đến hai năm nữa.
Sự lo ngại càng được củng cố bởi sự cố mang tên OAI-HF xảy ra ngay trước khi bài luận được công bố. Theo các báo cáo, một đàn tác nhân AI đã tự phối hợp khai thác lỗ hổng zero-day để thoát khỏi môi trường cách ly và xâm nhập hạ tầng cơ bản Hugging Face ngoài tầm kiểm soát của người huấn luyện. Do đó, ông Amodei bày tỏ lo ngại trong từ 6 -12 tháng tới, khả năng về một đàn tác nhân mạnh hơn có thể “chiếm quyền kiểm soát toàn bộ internet” và “gây thiệt hại hàng trăm tỷ USD”. Cùng thời điểm, nhà nghiên cứu Jacob Coxon của Anthropic từ chức và đưa ra cảnh báo rằng cả Anthropic lẫn OpenAI đang "lao thẳng tới siêu trí tuệ tự cải thiện và đánh cược với mạng sống của tất cả chúng ta".
Đề xuất cụ thể của ông Amodei về việc kiểm soát AI xoay quanh ba bước. Bước đầu tiên là tăng lớp giám sát từ gốc khi yêu cầu mỗi phòng thí nghiệm cấp quyền truy cập ngang hàng cho một đội giám sát độc lập bên thứ ba như METR để xác minh việc tuân thủ an toàn trong quá trình huấn luyện. Bước tiếp theo là buộc các công ty AI phải phối hợp để hạn chế “cuộc đua tốc độ” đồng thời xây dựng cơ chế xác minh xem các công ty có thực sự tuân thủ hay không. Bước cuối cùng là gia tăng kiểm soát của các chính phủ cũng như luật hóa AI toàn cầu. Ngay khi những đề xuất này được đưa ra, ông Demis Hassabis, CEO của Google DeepMind đã lên tiếng gọi đây là "hướng đi đúng đắn cho thời khắc quan trọng này". Những tiếng nói ủng hộ còn đến từ Satya Nadella (Chủ tịch của Microsoft), Sam Altman (CEO của OpenAI) và Elon Musk (tỷ phú công nghệ giàu nhất thế giới). Sự đồng thuận gần như hoàn toàn từ giới công nghệ cho những biện pháp “chặt tay” này là lập tức đã làm dấy lên một nỗi sợ xưa cũ: phải chăng công nghệ đã thực sự vượt ngoài tầm kiểm soát ? Nếu điều đó là sự thực, việc các chính phủ phải luật hóa việc giám sát phát triển AI dường như là không thể tránh khỏi.
Giám sát AI hay đối thủ?
Nhưng góc nhìn vấn đề không đến từ một hướng. Ngay lập tức, các nhà phê bình chính sách công đã lên tiếng phản đối. Họ đã cảnh báo về một kịch bản quen thuộc trong lịch sử kinh tế Mỹ: hiện tượng "sự thâu tóm cơ quan quản lý" (regulatory capture). Đây là hiện tượng khi một ngành công nghiệp cùng tham gia xây dựng luật mới nhằm tìm cách kiểm soát chính những người được giao nhiệm vụ thực thi luật đó. Ví dụ tiêu biểu trong quá khứ khi ngành hàng không từng thao túng Ủy ban Hàng không Dân dụng Mỹ khiến cơ quan này suốt 40 năm không phê duyệt bất kỳ hãng bay mới nào, tạo thế độc quyền cho những hãng bay lớn sẵn có xâm chiếm thị trường.
Nhà kinh tế học Alex Tabarrok lập tức phân tích lời kêu gọi của Amodei dưới lăng kính lý thuyết này một cách sắc bén. Ông chỉ ra rằng ngành AI hiện đang ở giai đoạn "thai nghén" về mặt lập pháp với những khoảng trống pháp lý cũng như hiểu biết của người dùng. Trong khi dư luận đang dành sự nghi ngờ vào ngành này thì “quyền lực của giới doanh nghiệp thực chất đang ở mức yếu nhất theo lý thuyết chính trị kinh tế”. Do đó ông bày tỏ nghi ngờ “mọi quy định mà Amodei ủng hộ đều vô tư trước lợi ích riêng”.
Chi tiết gây tranh cãi nằm ở chính cái tên được đề xuất làm giám sát viên độc lập: tổ chức METR. Giáo sư Gary Marcus của Đại học New York chỉ ra rằng METR có quan hệ gắn bó với chính các công ty mà nó được kỳ vọng giám sát. Theo đó, METR là đơn vị đã và đang xây dựng bộ Tiêu chuẩn an toàn AI (AI safety) mà chính các tập đoàn sử dụng. Nhiều nhân viên của METR đã hoặc sau đó trở thành nhân viên của chính các tập đoàn công nghệ lớn này. Trang TechPolicy.Press đặt câu hỏi thẳng: “Ai sẽ trả lương cho bên giám sát ?”. Những báo cáo tài chính làm lộ ra nhiều điều. Khoản lỗ lũy kế của Anthropic giai đoạn 2021-2025 dao động từ 10-15 tỷ USD, OpenAI dự kiến lỗ khoảng 14 tỷ USD riêng năm nay. Các nhà phát triển có thực sự đang đào mồ chôn mình hay đi tìm “cửa thoát” ?
Ở một góc nhìn vĩ mô, những tiếng nói phản biện đã gọi lời kêu gọi luật hóa của các tập đoàn lớn là cách xây dựng "con hào quy định” (regulatory moat) bằng tiền thuế của người dân. Nếu các chính phủ thực sự kiểm soát việc phát triển AI toàn diện thì đó chính là lợi thế cạnh tranh rẻ nhất mà các tập đoàn lớn có thể có bởi các đối thủ nhỏ hơn sẽ không đủ khả năng đáp ứng những yêu cầu tuân thủ tốn kém do các ông lớn đề xuất. Trang Kingy.ai gọi đây là bản chất của một "con hào an toàn": thông lệ tự nguyện hôm nay sẽ trở thành tấm vé bắt buộc để gia nhập thị trường vào ngày mai.
Hai lăng kính, một sự thật
Khi những tiếng nói tranh cãi bắt đầu nổi lên thì cũng là lúc chúng ta cần nhìn lại một cách thận trọng. Điều khiến câu chuyện kiểm soát AI trở nên phức tạp hơn là cả hai lập luận về nguy cơ thực sự và toan tính chiến lược hoàn toàn có thể cùng đúng một lúc. Trang Kingy.ai đã chỉ ra rằng: “động cơ đằng sau một chính sách không thể tự nó quyết định giá trị của chính sách đó” vì “một phòng thí nghiệm có thể ủng hộ vì thực lòng muốn có xác minh đáng tin cậy từ bên thứ ba, một nhà vận động an toàn AI có thể ủng hộ vì thực sự lo sợ thảm họa” và “cùng một điều luật hoàn toàn có thể phục vụ cả hai động cơ ấy đồng thời”. Theo lập luận phản biện mạnh nhất cho phía các phòng thí nghiệm thì chính các công ty này vốn đã tự quản lý mình từ trước tới nay khi từ chối những quy định công khai. Thực tế cho thấy chính người trong ngành hiểu công nghệ hơn ai hết họ sẽ càng ngày càng nắm giữ nhiều quyền lực hơn nếu không ai giám sát.
Có lẽ điều duy nhất mà cả người ủng hộ lẫn chỉ trích Amodei đều đồng ý là: câu hỏi không còn nằm ở việc AI có cần được điều tiết tốc độ hay không mà nằm ở việc ai thực sự nắm quyền quyết định tốc độ đó. Việc chính các phòng thí nghiệm tự thiết kế luật chơi cho mình về phương diện đạo đức có lẽ phù hợp hơn hay một nhà nước đặt giới hạn mà không bị chính đối tượng cần giám sát chi phối ngược lại là một câu hỏi mở. Trong một ngành mà tốc độ công nghệ đang vượt xa tốc độ ra quyết định của các thiết chế luật pháp, việc phân định rạch ròi giữa lòng tốt và toan tính có lẽ sẽ còn là cuộc tranh luận chưa có hồi kết trong nhiều năm tới.