Chương 4.3: Các thách thức mang tính hệ thống

Việc quản trị AI hiệu quả đang bị cản trở bởi động lực chạy đua cạnh tranh, tốc độ phổ biến nhanh chóng của năng lực AI, tính bất định về những diễn biến trong tương lai, và tình trạng trách nhiệm giải trình bị dồn vào tay một số ít cá nhân có quyền lực.

Động lực chạy đua (Race Dynamics)

[Nói về giai đoạn gần thời điểm AGI đầu tiên ra đời] bạn sẽ thấy động lực chạy đua, nơi ai cũng cố gắng dẫn đầu, và điều đó có thể buộc phải đánh đổi bằng sự an toàn. Vì vậy tôi nghĩ có lẽ cần có sự phối hợp nào đó giữa các tổ chức lớn đang thực hiện loại hình huấn luyện này [...] Tạm dừng việc huấn luyện thêm, hoặc tạm dừng triển khai, hoặc tránh một số loại hình huấn luyện mà chúng ta cho là có thể rủi ro hơn. — John Schulman

Chúng ta đã đề cập đến động lực chạy đua trong chương về rủi ro AI, xem đó như một yếu tố khuếch đại cho mọi loại rủi ro. Ở đây, chúng ta nhắc lại vấn đề này vì các sáng kiến quản trị có thể có đòn bẩy đặc biệt để giảm thiểu động lực chạy đua.

Cạnh tranh thúc đẩy sự phát triển AI ở mọi cấp độ. Từ các công ty khởi nghiệp chạy đua chứng minh năng lực mới, cho đến các quốc gia xem việc dẫn đầu về AI là yếu tố thiết yếu cho quyền lực tương lai, áp lực cạnh tranh định hình cách các hệ thống AI được xây dựng và triển khai. Động lực này tạo ra một sự căng thẳng kiểu thế lưỡng nan của tù nhân (prisoner's dilemma), trong đó dù ai cũng sẽ được lợi nếu quá trình phát triển được thực hiện cẩn trọng và chú trọng an toàn, nhưng những bên di chuyển nhanh nhất lại giành được lợi thế cạnh tranh (Hendryks, 2024 (mở trong tab mới)).

Cuộc chạy đua AI tạo ra một vấn đề hành động tập thể. Ngay cả khi các nhà phát triển nhận thức được rủi ro, việc đơn phương thận trọng đồng nghĩa với việc nhường sân cho những đối thủ ít cẩn trọng hơn. Quá trình chuyển mình của OpenAI minh họa rõ cho sự căng thẳng này: khởi đầu là một tổ chức phi lợi nhuận nhỏ, chú trọng an toàn, nhưng áp lực cạnh tranh đã khiến tổ chức này lập ra một công ty con vì lợi nhuận và đẩy nhanh tiến độ triển khai. Khi đối thủ của bạn đang gọi vốn hàng tỷ đô la và ra mắt sản phẩm mỗi tháng, việc dành thêm sáu tháng để kiểm thử an toàn cảm giác như đang tụt lại phía sau một cách không thể cứu vãn (Gruetzemacher et al., 2024 (mở trong tab mới)). Động lực này khiến việc ưu tiên an toàn hơn tốc độ trở nên vô cùng khó khăn đối với bất kỳ tổ chức đơn lẻ nào, dù đó là một công ty hay một quốc gia (Askell et al., 2019 (mở trong tab mới)).

Áp lực cạnh tranh dẫn đến tình trạng "tẩy an toàn" (safetywashing) — cắt giảm khâu kiểm thử, bỏ qua kiểm định độc lập từ bên ngoài (red-teaming), và biện minh cho những dấu hiệu cảnh báo. "Di chuyển nhanh và phá vỡ mọi thứ" trở thành phương châm ngầm, ngay cả khi những thứ bị phá vỡ có thể bao gồm cả những đảm bảo an toàn nền tảng. Chúng ta đã chứng kiến điều này khi các mô hình được phát hành dù đã biết có lỗ hổng, với lý do biện minh là cần duy trì vị thế trên thị trường. Các công ty đại chúng phải chịu áp lực liên tục để chứng minh tiến bộ trước nhà đầu tư. Mỗi bước đột phá của đối thủ trở thành một mối đe dọa sống còn, đòi hỏi phản ứng tức thì. Khi Anthropic ra mắt Claude 3, OpenAI phải đáp trả bằng GPT-4.5. Khi Google trình diễn năng lực mới, mọi người đều vội vã chạy theo cho kịp. Cuộc đua diễn ra theo từng quý này để lại rất ít khoảng trống cho những công việc an toàn cẩn trọng, vốn có thể phải mất nhiều năm mới mang lại kết quả.

Hình tương tác 4.3: Số đơn đăng ký sáng chế liên quan đến trí tuệ nhân tạo hằng năm, tính đến 2019. Số đơn nộp tại cơ quan sáng chế của quốc gia được chọn (Giattino et al., 2023 (mở trong tab mới)).

Những lo ngại về an ninh quốc gia càng làm gia tăng động lực chạy đua. Khi Vladimir Putin tuyên bố "ai trở thành người dẫn đầu về AI sẽ trở thành người thống trị thế giới," ông đã nói ra điều mà nhiều nhà hoạch định chính sách âm thầm tin tưởng (AP News, 2017 (mở trong tab mới)). Điều này biến sự phát triển AI từ một cuộc cạnh tranh thương mại thành một cuộc đấu tranh được nhìn nhận là vì vị thế thống trị địa chính trị. Hơn 50 quốc gia đã công bố chiến lược AI quốc gia, thường công khai xem việc dẫn đầu về AI là yếu tố then chốt cho ưu thế kinh tế và quân sự (Stanford HAI, 2024 (mở trong tab mới); Stanford HAI, 2025 (mở trong tab mới)). Không giống các cuộc đua giữa doanh nghiệp được đo bằng chu kỳ sản phẩm, cạnh tranh AI quốc tế liên quan đến việc định vị chiến lược dài hạn. Nhưng trớ trêu thay, điều này lại khiến cuộc đua càng trở nên cấp bách hơn: tụt lại hôm nay có thể đồng nghĩa với bất lợi vĩnh viễn vào ngày mai.

Hình tương tác 4.4: Số lượng lũy kế các hệ thống AI quy mô lớn theo quốc gia kể từ năm 2017. Được xác định theo địa điểm của tổ chức chính mà tác giả của các hệ thống AI quy mô lớn trực thuộc (Giattino et al., 2023 (mở trong tab mới)).

Động lực chạy đua khiến hành động và phối hợp tập thể dường như trở nên bất khả thi. Các quốc gia ngần ngại áp dụng những quy định an toàn nghiêm ngặt vì lo sợ điều đó có thể làm suy yếu ngành công nghiệp AI trong nước. Các công ty chống lại những cam kết an toàn tự nguyện trừ khi đối thủ cũng đưa ra cam kết tương tự. Ai cũng chờ bên khác hành động trước, tạo ra thế bế tắc dù tất cả các bên đều âm thầm thừa nhận rủi ro. Kết quả là một cách tiếp cận an toàn theo kiểu "mẫu số chung thấp nhất," không làm ai hài lòng.

Quản trị AI cần những cách tiếp cận đổi mới để thoát khỏi động lực chạy đua. Kiểm soát vũ khí truyền thống chỉ mang lại những bài học hạn chế, vì sự phát triển AI diễn ra trong các công ty tư nhân, chứ không phải trong các phòng thí nghiệm của chính phủ. Chúng ta cần những cách tiếp cận mới (Trajano & Ang, 2023 (mở trong tab mới); Barnett, 2025 (mở trong tab mới)). Một số ý tưởng đã được đề xuất, ví dụ như:

• Giới hạn "bật lại" có đi có lại (reciprocal snap-back limits). Các quốc gia công bố mức trần cho quy mô mô hình, việc triển khai vũ khí tự động, và tài nguyên điện toán (compute) tại các trung tâm dữ liệu — những mức trần này chỉ có hiệu lực khi các quốc gia khác cũng đưa ra cam kết tương ứng. Tính đối xứng này loại bỏ nỗi lo về việc đơn phương kiềm chế, đồng thời giữ cho động lực của các bên tập trung vào an ninh chung thay vì thế thống trị được–mất (zero-sum) (Karnofsky, 2024 (mở trong tab mới)).
• An toàn như một lợi thế cạnh tranh. Các phòng thí nghiệm giành được lòng tin của thị trường bằng cách đưa các mô hình AI tiên phong qua kiểm định độc lập từ bên ngoài, gắn watermark truy xuất nguồn gốc (provenance watermarks), và công khai báo cáo sự cố. Quy định có thể biến những thông lệ này thành một dạng "giấy phép hoạt động" trên thực tế, khiến việc "an toàn ngay từ khâu thiết kế" (secure by design) trở thành con đường ngắn nhất để bán được sản phẩm (Shevlane et al., 2023 (mở trong tab mới); Tamirisa et al., 2024 (mở trong tab mới)).
• Ngăn chặn lan tỏa (containment). Kiểm soát xuất khẩu chip tiên tiến; chỉ cho phép truy cập qua API kèm giám sát lợi dụng sai mục đích theo thời gian thực; điều tra số; và kiểm tra định danh khách hàng (Know-Your-Customer) — những biện pháp này làm chậm sự lan rộng của các năng lực nguy hiểm, trong khi vẫn giữ cho các dịch vụ có lợi tiếp tục được sử dụng rộng rãi. Những biện pháp này nhắm vào các yếu tố như công bố công khai, đánh cắp mô hình, sự dịch chuyển nhân tài, và sự lan tỏa phần cứng — những yếu tố khiến chỉ một vụ rò rỉ duy nhất có thể lan ra toàn cầu chỉ trong vài ngày (Shevlane et al., 2023 (mở trong tab mới); Seger, 2023 (mở trong tab mới); Nevo et al., 2024 (mở trong tab mới)).
• Giám sát đa phương linh hoạt kèm khả năng tạm dừng phối hợp. Một cơ quan gọn nhẹ do Liên Hợp Quốc ủy quyền (hãy hình dung như một CERN hay một IAEA dành cho AI) cần có thẩm quyền áp đặt lệnh tạm dừng khẩn cấp khi các lằn ranh đỏ bị vượt qua, được hậu thuẫn bởi các hạn chế xuất khẩu chip và khả năng hạn chế tốc độ từ các nhà cung cấp điện toán đám mây, để một "công tắc tắt" toàn cầu trở nên khả thi về mặt kỹ thuật (Karnofsky, 2024 (mở trong tab mới); Petropoulos et al., 2025 (mở trong tab mới)).
• Xác minh an toàn cho bí mật (secret-safe verification). Các vùng thực thi an toàn (secure enclaves), nhật ký điện toán chống giả mạo, và bằng chứng không tiết lộ thông tin (zero-knowledge proofs) cho phép các thanh tra viên xác nhận rằng doanh nghiệp tuân thủ các biện pháp kiểm soát mô hình và dữ liệu mà không cần tiết lộ trọng số mô hình hay mã nguồn độc quyền, qua đó thu hẹp khoảng trống giám sát chủ chốt đã được chỉ ra trong các đề xuất hiệp ước hiện nay (Shevlane et al., 2023 (mở trong tab mới); Wasil et al., 2024 (mở trong tab mới); Anderljung et al. 2024 (mở trong tab mới)).

Phổ biến (Proliferation)

Năng lực AI lan truyền ra toàn cầu qua các mạng lưới số với tốc độ khiến các cơ chế kiểm soát truyền thống gần như mất tác dụng. Không giống vũ khí hạt nhân vốn đòi hỏi vật liệu và cơ sở vật chất chuyên biệt, mô hình AI chỉ là những dãy số có thể được sao chép và truyền đi tức thì. Hãy thử hình dung kịch bản sau — một mô hình AI tối tân, có khả năng tạo ra deepfake chân thực đến kinh ngạc hoặc thiết kế vũ khí sinh học mới, được một phòng thí nghiệm nghiên cứu có thiện chí phát triển. Phòng thí nghiệm này, theo đúng tinh thần khoa học mở, công bố kết quả nghiên cứu và phát hành mã nguồn của mô hình dưới dạng mã nguồn mở. Chỉ trong vài giờ, mô hình đã được tải xuống hàng nghìn lần trên khắp thế giới. Trong vài ngày, các phiên bản chỉnh sửa bắt đầu xuất hiện trên các nền tảng chia sẻ mã nguồn. Trong vài tuần, những năng lực từng chỉ giới hạn trong một phòng thí nghiệm duy nhất đã lan rộng khắp internet, ai có một chiếc máy tính tạm ổn và kết nối internet cũng có thể tiếp cận được. Kịch bản này, dù mang tính giả định, không hề xa rời thực tế. Sự khác biệt căn bản này khiến các cách tiếp cận chống phổ biến truyền thống gần như vô dụng đối với việc quản trị AI.

Cân bằng giữa việc giảm thiểu phổ biến năng lực và nguy cơ tập trung quyền lực

Việc phát hành mã nguồn mở vẫn gặp phải những giới hạn phần cứng căn bản giống như quá trình phát triển độc quyền. Dù việc công bố trọng số mô hình hay mã nguồn huấn luyện có vẻ như giúp dân chủ hóa năng lực AI, nhu cầu điện toán nền tảng mà chúng ta đã bàn xuyên suốt cuốn cẩm nang này vẫn không hề thay đổi. Ngay cả khi có được trọng số của Llama, người dùng vẫn cần đến hàng trăm, nếu không muốn nói là hàng triệu đô la, để sắm phần cứng chuyên dụng. Ngay cả việc tinh chỉnh (fine-tuning) các mô hình AI tiên phong (frontier models) cho những tác vụ cụ thể cũng đòi hỏi những cụm GPU đáng kể, vượt quá tầm với của phần lớn các cá nhân. Điều này tạo ra một nghịch lý thú vị: chúng ta có thể sao chép "công thức" ngay tức thì, nhưng vẫn không đủ khả năng sắm "căn bếp" để nấu nó.

Rủi ro phổ biến từ việc phát hành mã nguồn mở chủ yếu đến từ những cá nhân vốn đã có khả năng tiếp cận điện toán đáng kể — chứ không phải từ việc thực sự dân chủ hóa các năng lực nguy hiểm cho những đối thủ bị hạn chế về nguồn lực. Các cá nhân có ý đồ đe dọa đơn lẻ, khủng bố sinh học, hay các kịch bản lợi dụng sai mục đích thảm khốc khác vẫn sẽ cần đến hạ tầng điện toán trị giá hàng triệu đô la để vận hành các mô hình AI tiên phong có khả năng gây ra những tổn hại như vậy. Nút thắt phần cứng này đồng nghĩa với việc những năng lực lưỡng dụng đáng lo ngại nhất vẫn tập trung trong tay các tập đoàn lớn và chính phủ — những bên kiểm soát các cụm GPU khổng lồ. Dù sự tập trung này có thể mang lại một số lợi ích an toàn trong ngắn hạn bằng cách hạn chế khả năng tiếp cận các năng lực nguy hiểm, nó đồng thời cũng đẩy nhanh những động lực quyền lực đáng lo ngại, trong đó chỉ một số ít thực thể có thể tiếp cận những hệ thống AI có năng lực cao nhất. Cho đến khi có những đột phá trong chưng cất mô hình (model distillation), kiến trúc mới, hoặc phần cứng rẻ hơn đáng kể giúp việc lưu trữ cục bộ trở nên khả thi, chúng ta vẫn phải đối mặt với một sự đánh đổi căn bản giữa khả năng tiếp cận dân chủ hóa và sự kiểm soát tập trung.

Nhiều kênh khác nhau tạo điều kiện cho sự phổ biến nhanh chóng:

• Công bố công khai đẩy nhanh sự lan tỏa năng lực. Cam kết cởi mở của cộng đồng nghiên cứu AI có nghĩa là các kỹ thuật đột phá thường xuất hiện trên arXiv chỉ vài ngày sau khi được phát hiện. Những gì một phòng thí nghiệm phải mất nhiều năm để phát triển có thể được các bên khác sao chép lại chỉ trong vài tháng. Việc Meta phát hành Llama 2 đã dẫn đến hàng nghìn phiên bản tinh chỉnh chỉ trong vài tuần, bao gồm cả những phiên bản bị gỡ bỏ tính năng an toàn và được bổ sung thêm năng lực nguy hiểm mới (Seger, 2023 (mở trong tab mới)).
• Đánh cắp mô hình đặt ra rủi ro ngày càng lớn. Khi các mô hình AI trở nên có giá trị hơn, chúng trở thành mục tiêu hấp dẫn đối với tin tặc và các nhóm tội phạm. Chỉ một vụ xâm nhập thành công cũng có thể chuyển giao những năng lực trị giá hàng tỷ đô la chi phí phát triển. Ngay cả khi không có hành vi đánh cắp trực tiếp, các kỹ thuật như chưng cất mô hình vẫn có thể trích xuất năng lực chỉ từ quyền truy cập API (Nevo et al., 2024 (mở trong tab mới)).
• Sự dịch chuyển nhân tài lan truyền tri thức ngầm. Khi các nhà nghiên cứu chuyển từ tổ chức này sang tổ chức khác, họ mang theo chuyên môn không thể thay thế. Làn sóng các nhà nghiên cứu học sâu rời khỏi Google Brain và DeepMind đã gieo mầm năng lực AI ra khắp thế giới. Không giống tri thức được ghi chép lại, sự am hiểu mang tính trải nghiệm về cách xây dựng và huấn luyện mô hình này không thể bị kiểm soát bằng các biện pháp truyền thống (Besiroglu, 2024 (mở trong tab mới)).
• Sự phổ biến phần cứng tạo điều kiện cho phát triển phân tán. Khi chip AI ngày càng rẻ hơn và dễ tiếp cận hơn, rào cản gia nhập ngày càng thấp đi. Những gì từng đòi hỏi một siêu máy tính vào năm 2018 nay có thể chạy trên phần cứng có giá dưới 100.000 đô la. Sự dân chủ hóa này đồng nghĩa với việc các năng lực nguy hiểm ngày càng trở nên dễ tiếp cận hơn đối với những cá nhân ngày càng nhỏ lẻ hơn (Masi, 2024 (mở trong tab mới)).

Sự phổ biến AI đặt ra những thách thức riêng có — hàng hóa số tuân theo những quy luật khác với vật thể vật lý. Các biện pháp kiểm soát phổ biến truyền thống giả định về sự khan hiếm: chỉ có một lượng uranium làm giàu nhất định, hay chỉ có một số lượng tên lửa tiên tiến nhất định. Nhưng việc sao chép một tệp mô hình gần như không tốn chi phí gì. Một khi năng lực đã tồn tại ở bất kỳ đâu, việc ngăn chặn sự lan truyền của nó trở thành một cuộc chiến chống lại chính bản chất của thông tin. Chia sẻ một mô hình dễ dàng hơn rất nhiều so với việc ngăn nó lan truyền. Ngay cả những kỹ thuật watermark hay mã hóa tinh vi cũng có thể bị những cá nhân đủ quyết tâm vượt qua.

Việc xác minh rằng một bên nào đó không đang phát triển năng lực AI có hại là điều cực kỳ khó khăn. Không giống công nghệ hạt nhân, nơi năng lực phát hiện gần như tương xứng với các phương thức phổ biến, quản trị AI thiếu những công cụ phòng vệ tương đương (Shevlane, 2024 (mở trong tab mới)). Thanh tra viên hạt nhân có thể dùng vệ tinh và máy dò phóng xạ để giám sát việc tuân thủ. Nhưng để xác minh rằng một tổ chức không đang phát triển năng lực AI nguy hiểm sẽ đòi hỏi quyền truy cập sâu vào mã nguồn, dữ liệu, và quy trình phát triển — những thông lệ có khả năng để lộ tài sản trí tuệ có giá trị. Do đó, nhiều tổ chức từ chối các hình thức giám sát mang tính xâm phạm (Wasil et al., 2024 (mở trong tab mới)). Điều này sẽ đòi hỏi sự kết hợp của nhiều biện pháp khác nhau, cả về kỹ thuật lẫn ở cấp quốc gia.

Bản chất lưỡng dụng khiến việc kiểm soát trở nên phức tạp hơn. Cùng một kiến trúc transformer vận hành các ứng dụng có lợi cũng có thể tạo điều kiện cho những mục đích sử dụng có hại. Không giống công nghệ quân sự chuyên biệt, chúng ta không thể đơn giản cấm các năng lực AI nguy hiểm mà không đồng thời loại bỏ những năng lực có lợi. Vấn đề lưỡng dụng này đồng nghĩa với việc quản trị phải tinh tế hơn nhiều so với các cơ chế chống phổ biến truyền thống (Anderljung, 2024 (mở trong tab mới)). Một cá nhân có động cơ, dù chỉ với nguồn lực khiêm tốn, giờ đây vẫn có thể tinh chỉnh các mô hình mạnh mẽ cho những mục đích có hại. Sự dân chủ hóa năng lực này đồng nghĩa với việc các mối đe dọa có thể xuất hiện từ bất kỳ đâu, không chỉ từ các quốc gia hay tập đoàn lớn. Các khung quản trị truyền thống không được thiết kế để đối phó với mức độ rủi ro phân tán này.

Quản trị có thể giúp làm chậm sự phổ biến AI bằng cách nào? Một số giải pháp tiềm năng đã được đề xuất nhằm tìm ra điểm cân bằng phù hợp giữa sự cởi mở và kiểm soát:

• Cởi mở có chọn lọc. Công bố nghiên cứu nền tảng nhưng giữ lại trọng số mô hình và công thức tinh chỉnh đối với những năng lực rủi ro cao, vừa duy trì hợp tác vừa ngăn chặn khả năng lợi dụng sai mục đích một cách dễ dàng (Seger, 2023 (mở trong tab mới)).
• Phát hành theo giai đoạn. Chỉ tung ra các phiên bản mạnh hơn sau khi mỗi cấp độ đã vượt qua kiểm định độc lập từ bên ngoài và rà soát bên ngoài, cho xã hội thời gian để phát hiện các kiểu lỗi và siết chặt biện pháp bảo vệ trước khi bước sang giai đoạn tiếp theo (Solaiman, 2023 (mở trong tab mới)).
• Tăng cường an ninh thông tin. Đối xử với các checkpoint AI tiên phong như những bí mật quý giá nhất: quy trình xây dựng được gia cố, mã hóa trọng số mô hình cả khi đang sử dụng lẫn khi lưu trữ, và giám sát liên tục các mối đe dọa nội bộ (Nevo et al., 2024 (mở trong tab mới)).
• Kiểm soát xuất khẩu và hạn chế quyền tiếp cận điện toán. Chặn việc vận chuyển các bộ tăng tốc AI tiên tiến nhất đến những người dùng cuối chưa được thẩm định, đồng thời yêu cầu các nhà cung cấp điện toán đám mây chỉ cho phép truy cập các cụm huấn luyện cao cấp sau khi đã qua kiểm tra định danh khách hàng (O'Brien et al., 2024 (mở trong tab mới)).
• Công bố có trách nhiệm. Áp dụng những chuẩn mực kiểu an ninh mạng để báo cáo các "con đường dẫn đến năng lực nguy hiểm" mới được phát hiện, để các phòng thí nghiệm có thể cảnh báo lẫn nhau và cảnh báo cơ quan quản lý mà không cần công bố toàn bộ đường khai thác lỗ hổng (O'Brien et al., 2024 (mở trong tab mới)).
• Cơ chế phanh kỹ thuật tích hợp sẵn. Tích hợp khả năng tinh chỉnh chống jailbreak, giới hạn năng lực, và watermark truy xuất nguồn gốc có thể tồn tại qua quá trình chưng cất mô hình, tạo thêm lực cản ngay cả sau khi trọng số bị rò rỉ (Dong et al., 2024 (mở trong tab mới)).

Tính bất định (Uncertainty)

Rất khó để dự đoán chính xác thế giới hậu-AGI sẽ trông như thế nào — thế giới đó nhiều khả năng sẽ khác biệt với thế giới hôm nay còn hơn cả sự khác biệt giữa thế giới hôm nay và thế kỷ 16 [...] Chúng ta vẫn chưa biết việc đảm bảo các AGI hành động theo đúng giá trị của người vận hành chúng sẽ khó đến mức nào. Có người tin rằng điều đó sẽ dễ dàng; có người tin rằng nó sẽ khó đến mức không thể tưởng tượng nổi; nhưng không ai biết chắc chắn. — Greg Brockman

Các dự đoán của giới chuyên gia liên tục không nắm bắt được quỹ đạo thực tế của AI. Nếu đọc các bài đưa tin về ChatGPT trên truyền thông — vốn gọi nó là "ngoạn mục," "chói lóa," "kinh ngạc" — bạn sẽ có cảm giác rằng các mô hình ngôn ngữ lớn (LLM) đã khiến cả thế giới hoàn toàn bất ngờ. Cảm giác đó có chính xác không? Thực ra là có (Cotra, 2023 (mở trong tab mới)). Năng lực của GPT-3 đã vượt xa những gì nhiều người từng nghĩ là khả thi chỉ bằng việc mở rộng quy mô đơn thuần. Mỗi bước đột phá lớn dường như đều đến từ những hướng không ai ngờ tới, khiến việc lập kế hoạch dài hạn gần như bất khả thi (Gruetzemacher et al., 2021 (mở trong tab mới); Grace et al., 2017 (mở trong tab mới)). "Giả thuyết mở rộng quy mô" (scaling hypothesis) — cho rằng mô hình càng lớn với càng nhiều điện toán sẽ càng cho ra hệ thống có năng lực cao hơn một cách đáng tin cậy — đã đứng vững một cách đáng ngạc nhiên. Nhưng chúng ta không biết liệu điều này có tiếp tục đúng cho đến khi đạt AGI hay sẽ vấp phải những giới hạn căn bản về kỹ thuật hoặc kinh tế. Sự bất định này có những hệ quả to lớn đối với việc quản trị. Nếu việc mở rộng quy mô còn tiếp diễn, các biện pháp kiểm soát điện toán vẫn còn hiệu quả. Nếu những đột phá về thuật toán mới là yếu tố quan trọng hơn, thì cần đến những cách tiếp cận quản trị hoàn toàn khác (Patel, 2023 (mở trong tab mới)).

Các đánh giá rủi ro chênh lệch nhau tới nhiều bậc độ lớn. Một số nhà nghiên cứu cho rằng xác suất xảy ra rủi ro hiện sinh từ AI là không đáng kể, trong khi những người khác lại cho rằng nó gần như chắc chắn xảy ra nếu không có sự can thiệp — phản ánh sự bất định căn bản về quỹ đạo và khả năng kiểm soát AI. Khi các chuyên gia bất đồng với nhau đến mức này, làm sao các nhà hoạch định chính sách có thể đưa ra quyết định sáng suốt? (Narayanan & Kapoor, 2024 (mở trong tab mới)).

Sự trỗi dậy của năng lực khiến ngay cả các nhà phát triển cũng phải bất ngờ. Các mô hình thể hiện những khả năng mà chính người tạo ra chúng không lường trước được và không thể giải thích đầy đủ (Cotra, 2023 (mở trong tab mới)). Nếu ngay cả những người xây dựng các hệ thống này cũng không thể dự đoán được năng lực của chúng, thì làm sao các khung quản trị có thể lường trước được điều gì cần được quản lý? Tính khó lường này càng chồng chất qua mỗi thế hệ mô hình ngày càng mạnh hơn (Grace et al., 2024 (mở trong tab mới)). Việc hoạch định chính sách truyền thống giả định rằng kết quả có thể dự đoán được. Các quy định môi trường mô hình hóa tác động ô nhiễm. Việc phê duyệt thuốc đánh giá những tác động sức khỏe cụ thể. Nhưng quản trị AI phải chuẩn bị cho những kịch bản trải dài từ cải thiện năng lực từ từ cho đến tự cải thiện đệ quy một cách đột ngột.

Chờ đợi đến khi có sự chắc chắn đồng nghĩa với việc chờ đợi quá lâu. Đến khi chúng ta biết chính xác năng lực AI nào sẽ xuất hiện, có thể đã quá muộn để quản trị chúng một cách hiệu quả. Nhưng hành động trong điều kiện bất định lại có nguy cơ dẫn đến những chính sách sai lầm, hoặc kìm hãm sự phát triển có lợi, hoặc không ngăn chặn được những rủi ro thực sự. Điều này tạo ra một thế lưỡng nan làm nản lòng những nhà hoạch định chính sách có tâm huyết (Casper, 2024 (mở trong tab mới)).

Vậy quản trị có thể vận hành như thế nào trong điều kiện bất định? Các mô hình quản trị thích ứng, có khả năng theo kịp tốc độ thay đổi nhanh chóng của công nghệ, có thể mở ra một hướng đi khả thi. Thay vì những quy định cố định dựa trên hiểu biết hiện tại, chúng ta cần những khung quản trị có thể phát triển cùng với tri thức của mình. Điều này có thể bao gồm:

• Các cơ chế kích hoạt quy định dựa trên các mốc năng lực thay vì mốc thời gian
• Các điều khoản hết hiệu lực (sunset clauses) buộc phải xem xét lại quy định một cách định kỳ
• Các "vùng an toàn" (safe harbors) cho việc thử nghiệm trong môi trường được kiểm soát
• Các thể chế phản ứng nhanh, có khả năng cập nhật chính sách khi hiểu biết được nâng cao

Xây dựng sự đồng thuận bất chấp tính bất định đòi hỏi những cách tiếp cận mới. Sự đồng thuận chính sách truyền thống nảy sinh từ sự hiểu biết chung về vấn đề và giải pháp. Với AI, chúng ta thiếu cả hai. Nhưng bằng cách nào đó, chúng ta vẫn phải xây dựng đủ sự đồng thuận để triển khai quản trị trước khi năng lực AI vượt qua khả năng kiểm soát của chúng ta. Điều này có thể đòi hỏi việc tập trung vào tính chính danh của quy trình hơn là sự chắc chắn về kết quả — tức là đồng thuận về cách ra quyết định, ngay cả khi chúng ta bất đồng về việc phải quyết định điều gì.

Trách nhiệm giải trình

[Sau khi từ chức khỏi OpenAI] Những vấn đề này rất khó để giải quyết đúng đắn, và tôi lo ngại rằng chúng ta không đang đi theo quỹ đạo có thể đạt được điều đó [...] OpenAI đang gánh vác một trách nhiệm to lớn thay mặt cho toàn thể nhân loại. Nhưng trong những năm qua, văn hóa và quy trình an toàn đã bị đẩy xuống hàng thứ yếu so với những sản phẩm hào nhoáng. Chúng ta đã chậm trễ quá lâu trong việc nghiêm túc nhìn nhận những hệ lụy của AGI. — Jan Leike

Một số ít cá nhân đưa ra những quyết định ảnh hưởng đến toàn thể nhân loại. CEO của khoảng năm công ty và các quan chức chủ chốt tại ba chính phủ phần lớn quyết định cách AI tiên phong phát triển. Những lựa chọn của họ về việc xây dựng cái gì, khi nào triển khai, và làm thế nào để đảm bảo an toàn đều để lại hậu quả cho hàng tỷ người không hề có tiếng nói trong những quyết định đó. Hội đồng quản trị của OpenAI có chưa đến mười thành viên. Quỹ Tín thác Lợi ích Dài hạn (Long-Term Benefit Trust) của Anthropic kiểm soát công ty chỉ với năm thành viên ủy thác. Những nhóm nhỏ bé này đưa ra các quyết định về những công nghệ có thể làm thay đổi căn bản xã hội loài người. Không một công ty dược phẩm nào có thể tung ra một loại thuốc mới với mức độ giám sát hạn chế đến vậy, ấy thế mà những hệ thống AI với tầm ảnh hưởng rộng lớn hơn nhiều lại chỉ chịu sự soi xét từ bên ngoài ở mức tối thiểu. Gần như toàn bộ hoạt động phát triển AI tiên phong diễn ra chỉ tại hai khu vực: vùng Vịnh San Francisco và London. Những giá trị, giả định, và điểm mù của các trung tâm công nghệ này định hình các hệ thống AI được sử dụng trên khắp thế giới, vậy mà chúng ta lại biết nhiều về cách người ta làm xúc xích hơn là về cách các hệ thống AI tiên phong được huấn luyện. Những gì tưởng chừng hiển nhiên ở Palo Alto có thể hoàn toàn xa lạ ở Lagos hay Jakarta, vậy mà phần lớn nhân loại trên toàn cầu gần như không có tiếng nói nào trong quá trình phát triển AI (Adan et al., 2024 (mở trong tab mới)).

Các cơ chế trách nhiệm giải trình truyền thống không còn phù hợp. Hội đồng quản trị doanh nghiệp trên danh nghĩa cung cấp sự giám sát, nhưng phần lớn thiếu động lực để đánh giá các rủi ro AI mang tính hệ thống. Các cơ quan quản lý của chính phủ chật vật để theo kịp tốc độ phát triển nhanh chóng. Các nhà nghiên cứu học thuật — những người có thể cung cấp bằng chứng khoa học và đánh giá độc lập — lại thường phụ thuộc vào nguồn tài trợ hoặc quyền tiếp cận điện toán từ doanh nghiệp. Kết quả là một khoảng trống quản trị, nơi không ai vừa có đủ năng lực vừa có đủ thẩm quyền cần thiết để thực hiện việc quản trị đúng đắn (Anderljung, 2023 (mở trong tab mới)). Hậu quả của sự thiếu vắng quản trị này đã bắt đầu bộc lộ rõ. Chúng ta đã chứng kiến deepfake do AI tạo ra được dùng để lan truyền thông tin sai lệch về chính trị (Swenson & Chan, 2024 (mở trong tab mới)). Các mô hình ngôn ngữ đã được dùng để tạo ra những email lừa đảo (phishing) và các hình thức lừa đảo khác trông rất đáng tin (Stacey, 2025 (mở trong tab mới)). Khi các mô hình thể hiện những hành vi đáng lo ngại, chúng ta không thể truy ra liệu điều đó bắt nguồn từ dữ liệu huấn luyện, hàm phần thưởng, hay các lựa chọn kiến trúc. Bản chất "hộp đen" này trong quá trình phát triển là một nút thắt lớn đối với trách nhiệm giải trình (Chan et al., 2024 (mở trong tab mới)).

Tập trung quyền lực và của cải

AI tập trung quyền lực theo những cách chưa từng có tiền lệ. Các hệ thống AI, đặc biệt là những hệ thống do các tập đoàn thống lĩnh phát triển, đang định hình lại cấu trúc quyền lực trong xã hội. Những hệ thống này quyết định khả năng tiếp cận thông tin và tài nguyên, trên thực tế đang thực thi một dạng quyền lực tự động hóa đối với các cá nhân (Lazar, 2024 (mở trong tab mới)). Khi các hệ thống này ngày càng có năng lực cao hơn, sự tập trung này càng trở nên gay gắt hơn. Tổ chức nào phát triển được AGI đầu tiên có thể giành được lợi thế mang tính quyết định trên mọi lĩnh vực hoạt động của con người — một động lực kiểu "kẻ thắng lấy tất cả" chưa từng có tiền lệ trong lịch sử.

Tác động về của cải làm trầm trọng thêm những bất bình đẳng vốn có. Việc tự động hóa bằng AI chủ yếu mang lại lợi ích cho những người sở hữu vốn, trong khi khiến người lao động mất việc, làm sâu sắc thêm những chênh lệch vốn có. Bằng chứng thực nghiệm gần đây cho thấy việc áp dụng AI làm gia tăng đáng kể bất bình đẳng về của cải, khi mang lại lợi ích không cân xứng cho những ai sở hữu mô hình, dữ liệu, và tài nguyên điện toán, với cái giá phải trả là người lao động (Skare et al., 2024 (mở trong tab mới)). Nếu không có những can thiệp quản trị nhắm đúng mục tiêu, AI có nguy cơ tạo ra mức độ bất bình đẳng kinh tế chưa từng thấy, thậm chí có thể dẫn đến một xã hội bất bình đẳng nhất trong lịch sử loài người (O'Keefe, 2020 (mở trong tab mới)).

Quản trị dân chủ đang phải đối mặt với những thách thức mang tính sống còn. Khi chính bản thân thông tin bị các thực thể tư nhân kiểm soát, các thể chế dân chủ truyền thống gặp khó khăn trong việc duy trì hiệu quả hoạt động (Kreps & Kriner, 2023 (mở trong tab mới)). Một số bằng chứng thực nghiệm cho thấy mức độ tích hợp AI càng cao thì mức độ tham gia và trách nhiệm giải trình dân chủ càng suy giảm, khi các quan chức dân cử thấy mình bất lực trong việc quản lý những công nghệ phức tạp phát triển nhanh hơn cả quy trình lập pháp (Chehoudi, 2025 (mở trong tab mới)). Thực tế mang tính kỹ trị đang nổi lên này làm xói mòn một cách căn bản những nguyên tắc dân chủ về sự kiểm soát và giám sát của công chúng.

Những chênh lệch quốc tế đe dọa sự ổn định toàn cầu. Các quốc gia không có năng lực AI trong nước phải đối mặt với nguy cơ lệ thuộc vĩnh viễn vào những nước dẫn đầu về AI. Việc áp dụng AI làm trầm trọng thêm đáng kể tình trạng bất bình đẳng quốc tế, mang lại lợi ích không cân xứng cho các quốc gia có nền công nghệ tiên tiến. Sự chênh lệch này không chỉ đe dọa năng lực cạnh tranh kinh tế mà còn đe dọa cả chủ quyền cơ bản, khi những quyết định quan trọng trên thực tế bị đẩy ra bên ngoài cho các hệ thống AI do nước ngoài kiểm soát (Cerutti et al., 2025 (mở trong tab mới)). Chúng ta chưa có khung thống nhất nào để phân phối lợi ích của AI hay quản lý những xáo trộn mà nó gây ra. Liệu các nhà phát triển AI có nghĩa vụ gì đối với những người lao động mất việc? Của cải do AI tạo ra nên bị đánh thuế và tái phân phối như thế nào? Những bên không tham gia phát triển AI có quyền đòi hỏi gì đối với năng lực AI? Những câu hỏi này cần có lời giải đáp trước khi tác động của AI trở nên không thể đảo ngược, vậy mà các cuộc thảo luận về quản trị hiện nay hầu như chưa đề cập đến chúng (Ding & Dafoe, 2024 (mở trong tab mới)).