Chương 4.4: Các kiến trúc quản trị

Một hệ thống quản trị vững chắc đòi hỏi phải kết hợp giữa tự quản trị ở cấp doanh nghiệp để đảm bảo tốc độ về mặt kỹ thuật, quy định ở cấp quốc gia để đảm bảo khả năng thực thi, và sự phối hợp quốc tế để xử lý các rủi ro xuyên biên giới.

Việc quản trị AI tiên phong (frontier AI) không thể phó thác cho riêng một thể chế hay một cấp thẩm quyền nào. Các công ty thiếu động lực để tính đến đầy đủ những tác động xã hội, các quốc gia cạnh tranh nhau vì lợi thế công nghệ, còn các tổ chức quốc tế lại chật vật về năng lực thực thi. Mỗi cấp độ quản trị — doanh nghiệp, quốc gia, và quốc tế — đều mang những thế mạnh riêng và đối mặt với những hạn chế riêng. Việc hiểu được cách các cấp độ này tương tác và củng cố lẫn nhau là điều quan trọng để xây dựng những hệ thống quản trị AI hiệu quả.

Quản trị ở cấp doanh nghiệp mang lại tốc độ và chuyên môn kỹ thuật. Các công ty phát triển AI tiên phong có tầm nhìn sâu sát vào những năng lực mới nổi mà không bên nào khác sánh được, và có thể triển khai các biện pháp an toàn nhanh hơn bất kỳ cơ quan quản lý bên ngoài nào. Họ kiểm soát những điểm quyết định then chốt: thiết kế kiến trúc, quy trình huấn luyện, đánh giá năng lực, và tiêu chí triển khai. Khi OpenAI phát hiện GPT-4 có thể thể hiện hành vi lừa dối, họ có thể lập tức điều chỉnh quy trình huấn luyện — điều mà nếu đi qua các kênh quản lý nhà nước sẽ phải mất nhiều tháng, thậm chí nhiều năm (Koessler, 2023 (mở trong tab mới)).

Quản trị ở cấp quốc gia tạo dựng tính chính danh dân chủ và quyền lực thực thi. Trong khi các công ty có thể hành động nhanh chóng, họ lại thiếu thẩm quyền để đưa ra những quyết định ảnh hưởng đến toàn bộ dân số. Các chính phủ quốc gia mang lại sự ủy nhiệm dân chủ và cơ chế thực thi cần thiết cho những quy định mang tính ràng buộc. Đạo luật AI của Liên minh Châu Âu (EU AI Act) minh chứng cho điều này bằng cách thiết lập các yêu cầu pháp lý, được hậu thuẫn bởi mức phạt lên tới 3% doanh thu toàn cầu, tạo ra những hậu quả thực sự cho việc không tuân thủ — điều mà các biện pháp tự nguyện của doanh nghiệp không thể sánh được (Schuett et al., 2024 (mở trong tab mới)).

Quản trị ở cấp quốc tế xử lý các ngoại tác toàn cầu và những thất bại trong phối hợp. Rủi ro AI không phân biệt biên giới. Một mô hình nguy hiểm được phát triển tại một quốc gia có thể ảnh hưởng đến cả thế giới thông qua sự phổ biến trên không gian số. Các cơ chế quốc tế giúp gắn kết động lực giữa các quốc gia, ngăn chặn cuộc đua xuống đáy và đảm bảo các tiêu chuẩn an toàn nhất quán. Mạng lưới Quốc tế các Viện An toàn AI (International Network of AI Safety Institutes), ra mắt năm 2024, là minh chứng cho việc các quốc gia có thể chia sẻ thông lệ tốt nhất và phối hợp tiêu chuẩn bất chấp áp lực cạnh tranh (Ho et al., 2023 (mở trong tab mới)).

Các cấp độ quản trị tạo ra những vòng phản hồi củng cố lẫn nhau. Các khung an toàn ở cấp doanh nghiệp cung cấp thông tin đầu vào cho các quy định quốc gia, các quy định này lại định hình các tiêu chuẩn quốc tế, và đến lượt mình, các tiêu chuẩn quốc tế lại tác động ngược lại đến thông lệ của doanh nghiệp trên phạm vi toàn cầu. Khi Anthropic giới thiệu Chính sách Mở rộng Quy mô có Trách nhiệm (Responsible Scaling Policy) vào năm 2023, chính sách này đã trở thành một khuôn mẫu, tác động đến cả các ngưỡng điện toán trong Sắc lệnh hành pháp của Hoa Kỳ lẫn các cuộc thảo luận tại những hội nghị thượng đỉnh AI quốc tế. Sự giao thoa này đẩy nhanh quá trình phát triển những cách tiếp cận quản trị hiệu quả (Schuett, 2023 (mở trong tab mới)).

Những khoảng trống ở một cấp độ sẽ tạo ra áp lực lên các cấp độ khác. Khi việc tự quản trị của doanh nghiệp tỏ ra chưa đủ, áp lực sẽ dồn lên đòi hỏi quy định ở cấp quốc gia. Khi các cách tiếp cận quốc gia phân kỳ quá mạnh, tạo ra tình trạng "trú ẩn quy định" (regulatory arbitrage), nhu cầu phối hợp quốc tế sẽ tăng lên. Sự căng thẳng mang tính động này thúc đẩy sự phát triển của hệ thống quản trị, dù nó cũng có thể tạo ra những khoảng trống nguy hiểm trong giai đoạn chuyển tiếp.

Các cấp độ khác nhau xử lý những khung thời gian và mức độ bất định khác nhau. Quản trị ở cấp doanh nghiệp có ưu thế trong việc phản ứng nhanh trước những diễn biến kỹ thuật, nhưng lại gặp khó khăn trong việc lập kế hoạch dài hạn dưới áp lực cạnh tranh. Quản trị ở cấp quốc gia có thể thiết lập những khung ổn định nhưng vận hành chậm chạp. Quản trị ở cấp quốc tế mang lại sự phối hợp dài hạn nhưng lại đối mặt với những thách thức triển khai lớn nhất. Kết hợp lại, ba cấp độ này tạo thành một "danh mục thời gian" xử lý cả những rủi ro trước mắt lẫn rủi ro mang tính hệ thống.

Quản trị cấp doanh nghiệp

AI là một trường hợp hiếm hoi mà tôi nghĩ chúng ta cần chủ động quản lý thay vì phản ứng bị động [...] Tôi cho rằng [siêu trí tuệ số] là cuộc khủng hoảng hiện sinh lớn nhất và cấp bách nhất mà chúng ta đang đối mặt. Cần phải có một cơ quan công quyền có khả năng nắm bắt thông tin và sau đó giám sát để xác nhận rằng mọi người đều đang phát triển AI một cách an toàn [...] Và hãy ghi nhớ lời tôi: AI nguy hiểm hơn vũ khí hạt nhân rất nhiều. Rất nhiều. Vậy tại sao chúng ta lại không có sự giám sát quản lý nào? Điều này thật điên rồ. — Elon Musk

Gần như mọi quyết định tôi đưa ra đều cảm giác như đang cân bằng trên lưỡi dao. Nếu chúng ta không xây dựng đủ nhanh, các quốc gia độc tài có thể sẽ thắng thế. Nếu chúng ta xây dựng quá nhanh, những loại rủi ro mà chúng tôi đã viết đến có thể sẽ trở thành hiện thực. — Dario Amodei

Trong phần này, chúng ta sẽ xem xét cách các công ty AI tiếp cận việc quản trị trong thực tế. Chúng ta sẽ xem điều gì hiệu quả, điều gì không, và những khoảng trống nào vẫn còn tồn tại. Điều này sẽ giúp ta hiểu vì sao quản trị cấp doanh nghiệp đơn thuần là chưa đủ, đồng thời chuẩn bị bối cảnh cho những phần thảo luận sau về quản trị cấp quốc gia và quốc tế. Đến cuối phần này, chúng ta sẽ xác lập được cả vai trò thiết yếu của quản trị cấp công ty lẫn lý do vì sao nó cần được bổ trợ bởi những khung quản lý rộng hơn.

Quản trị cấp doanh nghiệp là các cấu trúc, thông lệ, và quy trình nội bộ quyết định cách các công ty AI đưa ra những quyết định liên quan đến an toàn. Các công ty phát triển AI tiên phong có tầm nhìn đặc biệt vào những năng lực mới nổi và có thể triển khai các biện pháp an toàn nhanh hơn các cơ quan quản lý bên ngoài (Anderljung et al., 2023 (mở trong tab mới); Sastry et al., 2024 (mở trong tab mới)). Họ có kiến thức kỹ thuật và quyền kiểm soát trực tiếp cần thiết để triển khai các biện pháp bảo vệ hiệu quả, nhưng đồng thời cũng phải chịu áp lực thị trường to lớn, có thể cản trở việc dành đủ thời gian cho các biện pháp an toàn (Friedman et al., 2007 (mở trong tab mới)). Quản trị cấp doanh nghiệp bao gồm các chính sách, cấu trúc giám sát, quy trình kỹ thuật, và chuẩn mực tổ chức mà các công ty sử dụng để đảm bảo an toàn xuyên suốt quá trình phát triển AI. Những cơ chế này chuyển hóa các nguyên tắc ở tầm cao thành những quyết định vận hành cụ thể bên trong các phòng thí nghiệm và đội ngũ phát triển (Zhang et al., 2021 (mở trong tab mới); Cihon et al., 2021 (mở trong tab mới)).

Các cơ chế quản trị nội bộ của doanh nghiệp có ý nghĩa quan trọng vì hiện nay các công ty AI tiên phong có mức độ tự do đáng kể trong việc tự quản lý hệ thống của chính mình. Sự gần gũi của họ với quá trình phát triển cho phép họ nhận diện và xử lý rủi ro sớm hơn và hiệu quả hơn so với những gì chỉ riêng sự giám sát bên ngoài có thể đạt được (Zhang et al., 2021 (mở trong tab mới)). Tuy nhiên, quản trị nội bộ đơn thuần không thể xử lý được các rủi ro mang tính hệ thống; những rủi ro này đòi hỏi sự giám sát công, điều mà chúng ta sẽ tìm hiểu ở phần sau của chương này.

Hình tương tác 4.5: Đơn vị trực thuộc của các nhóm nghiên cứu xây dựng những hệ thống AI đáng chú ý, theo năm công bố. Mô tả lĩnh vực mà tác giả của một hệ thống AI đáng chú ý trực thuộc chính (Giattino et al., 2023 (mở trong tab mới)).

Các công ty AI kiểm soát những giai đoạn nhạy cảm nhất trong quá trình phát triển mô hình: thiết kế kiến trúc, các đợt huấn luyện, đánh giá năng lực, tiêu chí triển khai, và quy trình an toàn. Một hệ thống quản trị nội bộ được thiết kế tốt có thể giảm thiểu rủi ro bằng cách gắn kết ưu tiên an toàn với việc ra quyết định hằng ngày, tích hợp các quy trình leo thang, và thực thi các ràng buộc trước khi triển khai (Hendrycks et al., 2024 (mở trong tab mới)). Điều này bao gồm các biện pháp chủ động như tạm dừng các đợt huấn luyện, hạn chế quyền tiếp cận những năng lực rủi ro cao, và kiểm toán việc sử dụng mô hình nội bộ. Vì các bên bên ngoài thường không có quyền tiếp cận thông tin độc quyền, quản trị nội bộ chính là tuyến phòng thủ đầu tiên, đặc biệt đối với những mô hình chưa được phát hành (Schuett, 2023 (mở trong tab mới); Cihon et al., 2021 (mở trong tab mới)).

Việc triển khai có thể diễn ra dưới nhiều hình thức: triển khai nội bộ để nhà phát triển hệ thống tự sử dụng, hoặc triển khai ra bên ngoài, dù là công khai hay cho các khách hàng riêng lẻ. Công chúng biết rất ít về các hình thức triển khai nội bộ. Tuy nhiên, các công ty được biết là áp dụng nhiều loại chiến lược khác nhau cho việc triển khai ra bên ngoài. — Báo cáo An toàn AI Quốc tế

Các hệ thống được triển khai nội bộ cũng cần có những biện pháp bảo vệ về mặt quản trị. Việc một mô hình không được triển khai công khai không có nghĩa là các biện pháp bảo vệ về quản trị doanh nghiệp không còn áp dụng. Chúng ta đã thấy ở những chương trước rằng việc tự động hóa hoạt động nghiên cứu và phát triển (R&D) AI là một trong những mục tiêu cốt lõi của nhiều công ty AI; điều này, kết hợp với các biện pháp bảo vệ chống phổ biến và các biện pháp giảm thiểu rủi ro khi phát hành công khai, có nghĩa là chúng ta có thể thấy nhiều mô hình được sử dụng nội bộ rất nhiều nhưng không được công khai cho công chúng. Những lần triển khai nội bộ này thường thiếu sự soi xét vốn được áp dụng cho các đợt ra mắt bên ngoài, có thể vận hành với đặc quyền cao hơn, bỏ qua các đánh giá chính thức, và phát triển năng lực qua quá trình sử dụng lặp đi lặp lại trước khi các bên liên quan bên ngoài thậm chí còn chưa biết đến sự tồn tại của chúng (Stix, 2025 (mở trong tab mới)). Nếu không có những chính sách quy định rõ ràng cho việc sử dụng nội bộ — như kiểm soát quyền truy cập, phê duyệt triển khai nội bộ, hay các biện pháp bảo vệ chống lại việc mô hình tự sử dụng đệ quy — các hệ thống rủi ro cao có thể tiến triển mà không bị kiểm soát (xem Hình B). Tuy nhiên, hiểu biết của công chúng về những lần triển khai này còn hạn chế, và phần lớn các nỗ lực quản trị vẫn tập trung vào những lần phát hành hướng đến công chúng (Bengio et al., 2025 (mở trong tab mới)). Việc tăng cường quản trị nội bộ đối với hoạt động triển khai nội bộ là điều thiết yếu để đảm bảo những trường hợp sử dụng sớm và có khả năng nguy hiểm được giám sát đúng mức.

Cấu trúc tổ chức xác định ai là người ra quyết định và ai chịu trách nhiệm về an toàn trong các công ty AI. Những phần sau sẽ đề cập đến các cơ chế an toàn cụ thể; ở đây, chúng ta tập trung vào câu hỏi mang tính quản trị: ai trong công ty có thẩm quyền ưu tiên an toàn hơn các mục tiêu khác? Ví dụ, một cấu trúc quản trị hiệu quả sẽ quyết định liệu một đội an toàn có thể trì hoãn việc phát hành mô hình nếu họ phát hiện mối lo ngại hay không, liệu ban điều hành có thể phủ quyết các quyết định về an toàn hay không, và liệu hội đồng quản trị có thẩm quyền cuối cùng đối với các đợt triển khai rủi ro cao hay không. Những mối quan hệ về thẩm quyền này ảnh hưởng trực tiếp đến cách các cân nhắc về an toàn được đưa vào trong những quyết định phát triển.

Quản trị AI ở cấp doanh nghiệp cần sự kết hợp của nhiều vai trò — giám sát ở cấp hội đồng quản trị, các lãnh đạo phụ trách rủi ro AI, và các đội an toàn kỹ thuật. Quản trị AI hiệu quả đòi hỏi ba cấp độ giám sát nội bộ liên kết với nhau (Hadley et al., 2024 (mở trong tab mới); Schuett, 2023 (mở trong tab mới)):

• Các cấu trúc giám sát ở cấp hội đồng quản trị, phân bổ nguồn lực và thực thi các chính sách an toàn, chẳng hạn như các Hội đồng Rà soát Thuật toán (Algorithm Review Boards, ARB) và các hội đồng đạo đức để đánh giá rủi ro kỹ thuật và xã hội, định hướng các quyết định triển khai hay không triển khai, và thiết lập cơ chế giám sát với các tuyến trách nhiệm giải trình rõ ràng (Hadley et al., 2024 (mở trong tab mới); Schuett, 2023 (mở trong tab mới)).
• Ban điều hành phân bổ nguồn lực và thực thi các chính sách an toàn. Các vị trí như Giám đốc Trí tuệ Nhân tạo (Chief Artificial Intelligence Officer, CAIO), Giám đốc Rủi ro (Chief Risk Officer, CRO), và các vị trí liên quan khác để phối hợp nỗ lực quản lý rủi ro trên toàn tổ chức, đồng thời giúp chuyển hóa các nguyên tắc đạo đức thành thực tiễn (Schäfer et al., 2022 (mở trong tab mới); Janssen et al., 2025 (mở trong tab mới)).
• Các đội an toàn kỹ thuật thực hiện đánh giá và đề xuất biện pháp giảm thiểu rủi ro. Các đội này bao gồm kiểm toán viên nội bộ, cán bộ phụ trách rủi ro, và các ủy ban kiểm toán chuyên trách, nhằm đảm bảo việc nhận diện rủi ro một cách nghiêm ngặt, duy trì tính liêm chính trong kiểm toán, và cung cấp sự đảm bảo về mặt vận hành, với tuyến báo cáo trực tiếp lên hội đồng quản trị để đảm bảo tính độc lập (Schuett, 2023 (mở trong tab mới); Raji et al., 2020 (mở trong tab mới)).

Quá trình tái cấu trúc doanh nghiệp của OpenAI

Vào tháng 5 năm 2025, OpenAI công bố một đợt tái cấu trúc đáng kể đối với mô hình quản trị của mình. Trong khi vẫn duy trì sự kiểm soát của tổ chức phi lợi nhuận, công ty đã chuyển đổi công ty con vì lợi nhuận của mình từ mô hình LLC sang mô hình Công ty Vì lợi ích Công cộng (Public Benefit Corporation, PBC) — cùng mô hình mà Anthropic và các phòng thí nghiệm AI khác đang sử dụng. Sự thay đổi này thể hiện một sự thừa nhận rằng cấu trúc "lợi nhuận giới hạn" (capped-profit) trước đây được thiết kế cho "một thế giới nơi có thể chỉ có một nỗ lực AGI thống lĩnh," nhưng lại kém phù hợp hơn "trong một thế giới có nhiều công ty AGI lớn cùng tồn tại" (OpenAI, 2025 (mở trong tab mới)). Các công ty AI tiên phong phải đồng thời huy động hàng tỷ đô la vốn đầu tư, duy trì khả năng cạnh tranh với những đối thủ có nguồn lực dồi dào, và bảo toàn những cấu trúc quản trị ưu tiên an toàn. Như Daniel Colson thuộc Viện Chính sách AI (AI Policy Institute) nhận xét, điều này tạo ra những sự đánh đổi khó khăn, trong đó hội đồng quản trị có thể bị buộc phải "cân nhắc giữa sự sụp đổ hoàn toàn và một hình thức thỏa hiệp nào đó, để đạt được điều mà họ xem là sứ mệnh dài hạn của mình" (TIME, 2024 (mở trong tab mới)).

Khung an toàn AI tiên phong (Frontier Safety Frameworks)

Khung an toàn AI tiên phong (Frontier Safety Frameworks, FSF) là một ví dụ về quản trị AI ở cấp doanh nghiệp. FSF là những chính sách mà các công ty AI xây dựng để định hướng quá trình phát triển của mình và đảm bảo họ đang thực hiện những biện pháp phòng ngừa phù hợp khi hệ thống của họ ngày càng có năng lực cao hơn. Chúng tương đương với các quy trình an toàn được sử dụng tại các nhà máy điện hạt nhân hay các phòng thí nghiệm an ninh cao, và giúp kết nối giữa các cơ chế quản trị nội bộ của doanh nghiệp với sự giám sát quản lý từ bên ngoài trong lĩnh vực an toàn AI. Khái niệm FSF lần đầu được giới thiệu vào năm 2023. Chúng đã tạo được đà phát triển tại Hội nghị Thượng đỉnh AI Seoul vào tháng 5 năm 2024, nơi 16 công ty cam kết triển khai những chính sách như vậy. Tính đến tháng 3 năm 2025, mười hai công ty đã công bố các chính sách an toàn AI tiên phong toàn diện: Anthropic, OpenAI, Google DeepMind, Magic, Naver, Meta, G42, Cohere, Microsoft, Amazon, xAI, và Nvidia, cùng với một số công ty khác đang tiếp bước (METR, 2025 (mở trong tab mới)). Chúng được gọi bằng nhiều tên khác nhau, ví dụ OpenAI gọi FSF của mình là khung chuẩn bị sẵn sàng (preparedness framework), còn Anthropic gọi đó là chính sách mở rộng quy mô có trách nhiệm (responsible scaling policies, RSP). Về nguyên tắc, chúng khá tương đồng với nhau.

Những yếu tố thiết yếu nào định hình nên một FSF toàn diện? Dù có sự khác biệt trong cách triển khai, phần lớn các FSF đều có chung một số yếu tố nền tảng:

• Ngưỡng năng lực: FSF thiết lập các ngưỡng cụ thể mà tại đó năng lực AI sẽ gây ra rủi ro nghiêm trọng, đòi hỏi các biện pháp bảo vệ tăng cường (Nevo et al., 2024 (mở trong tab mới)). Những mối lo ngại về năng lực thường gặp bao gồm: hỗ trợ chế tạo vũ khí sinh học (chẳng hạn như tạo điều kiện chế tạo mầm bệnh nguy hiểm), năng lực tấn công mạng (chẳng hạn như tự động hóa việc phát hiện lỗ hổng zero-day), tự động hóa hoạt động nghiên cứu và phát triển AI (chẳng hạn như đẩy nhanh tiến bộ AI vượt ngoài tầm giám sát của con người), và khả năng tự nhân bản và tự thích ứng.
• Bảo mật trọng số mô hình: Khi mô hình tiệm cận các ngưỡng năng lực nguy hiểm, các công ty triển khai những biện pháp bảo mật ngày càng tinh vi để ngăn chặn quyền truy cập trái phép vào trọng số mô hình. Các biện pháp này trải dài từ các quy trình an ninh thông tin tiêu chuẩn cho đến những biện pháp nâng cao như môi trường truy cập hạn chế, mã hóa, và bảo mật phần cứng chuyên dụng (Nevo et al., 2024 (mở trong tab mới)).
• Điều kiện tạm dừng phát triển/triển khai: Phần lớn các khung đều chứa những cam kết rõ ràng về việc tạm dừng phát triển hoặc triển khai mô hình nếu các ngưỡng năng lực bị vượt qua trước khi các biện pháp bảo vệ đầy đủ có thể được triển khai (METR, 2025 (mở trong tab mới)).
• Khơi gợi đầy đủ năng lực: Thông qua FSF, các công ty cam kết đánh giá mô hình theo những cách bộc lộ đầy đủ năng lực của chúng, thay vì đánh giá thấp hơn thực tế (Phuong et al., 2024 (mở trong tab mới)).
• Tần suất và thời điểm đánh giá: FSF thiết lập các mốc thời gian cụ thể cho việc đánh giá phải diễn ra (thường là trước khi triển khai, trong quá trình huấn luyện, và sau khi triển khai), cùng với các cơ chế kích hoạt đánh giá bổ sung khi mô hình cho thấy năng lực tăng lên đáng kể (Davidson et al., 2023 (mở trong tab mới)).
• Cơ chế trách nhiệm giải trình: Bao gồm: các vai trò quản trị nội bộ (ví dụ, "Cán bộ Mở rộng Quy mô có Trách nhiệm" của Anthropic), các hội đồng cố vấn bên ngoài và kiểm toán bởi bên thứ ba, các cam kết minh bạch về năng lực mô hình và biện pháp an toàn, và các biện pháp bảo vệ người tố giác đối với nhân viên báo cáo mối lo ngại về an toàn.
• Cập nhật chính sách: Mọi FSF đều thừa nhận bản chất luôn biến đổi của rủi ro AI, và cam kết rà soát và cập nhật chính sách một cách định kỳ khi hiểu biết về rủi ro và thông lệ tốt nhất được nâng cao (METR, 2025 (mở trong tab mới)).

Một cách tiếp cận kiểm toán và quản trị nội bộ nhiều tầng lớp giúp hiện thực hóa các khung an toàn trong thực tế. Khi thực sự triển khai các khung an toàn, các tổ chức nên đảm bảo rủi ro được nhận diện và quản lý ở nhiều cấp độ, giảm thiểu khả năng bỏ sót những sai sót nguy hiểm. Ví dụ, khi các nhà nghiên cứu phát triển một mô hình có năng lực tiên tiến ngoài dự kiến, các đội an toàn có thể tiến hành đánh giá kỹ lưỡng và triển khai các biện pháp bảo vệ bổ sung, trong khi các đội kiểm toán rà soát những quy trình rộng hơn để quản lý các năng lực mới trỗi dậy (Schuett, 2023 (mở trong tab mới)). Một cách tiếp cận là mô hình Ba Tuyến Phòng thủ (Three Lines of Defense, 3LoD), được chuyển thể từ các ngành công nghiệp an toàn trọng yếu khác (Schuett, 2023 (mở trong tab mới)):

• Tuyến phòng thủ thứ nhất: Các nhà nghiên cứu và nhà phát triển tuyến đầu triển khai các biện pháp an toàn trong công việc hằng ngày, tiến hành đánh giá rủi ro ban đầu, và tuân thủ các hướng dẫn đạo đức cùng quy trình an toàn.
• Tuyến phòng thủ thứ hai: Các chức năng quản lý rủi ro và tuân thủ chuyên trách, bao gồm các ủy ban đạo đức AI, các đội an toàn chuyên trách, và các đơn vị tuân thủ, cung cấp sự giám sát và định hướng.
• Tuyến phòng thủ thứ ba: Các chức năng kiểm toán nội bộ độc lập cung cấp sự đảm bảo cho hội đồng quản trị và ban lãnh đạo cấp cao thông qua việc kiểm toán định kỳ các thông lệ an toàn, đánh giá mô hình độc lập, và đánh giá mức độ sẵn sàng tổng thể.

FSF cần tính đến cả những năng lực chưa hề tồn tại. Năng lực AI đang tăng trưởng và biến đổi nhanh chóng. FSF tích hợp các kỹ thuật từ những ngành công nghiệp an toàn trọng yếu khác, được điều chỉnh cho phù hợp với quá trình phát triển AI (Koessler & Schuett, 2023 (mở trong tab mới)):

• Phân tích kịch bản: Khảo sát các kịch bản tiềm năng trong tương lai, chẳng hạn một hệ thống AI phát triển hành vi lừa dối hoặc những năng lực trỗi dậy ngoài dự kiến.
• Phân tích xương cá: Xác định các nguyên nhân tiềm ẩn dẫn đến thất bại trong việc căn chỉnh, chẳng hạn như nghiên cứu an toàn chưa đầy đủ, áp lực triển khai, hoặc kiểm thử chưa thỏa đáng.
• Lập bản đồ nhân quả: Trực quan hóa cách các quyết định nghiên cứu, biện pháp an toàn, và chiến lược triển khai tương tác với nhau, tác động đến rủi ro tổng thể.
• Kỹ thuật Delphi: Thu thập ý kiến chuyên gia qua các vòng bảng hỏi có cấu trúc, nhằm tổng hợp những góc nhìn đa dạng về các rủi ro tiềm ẩn.
• Phân tích nơ bướm: Vẽ sơ đồ các con đường dẫn từ nguyên nhân, đến sự kiện nguy hiểm, rồi đến hậu quả, cùng với các biện pháp phòng ngừa và giảm thiểu.

Ngay cả khi đã có những biện pháp bảo vệ nghiêm ngặt trước khi triển khai, năng lực nguy hiểm vẫn có thể xuất hiện sau khi triển khai. FSF ngày càng tích hợp thêm các "biện pháp điều chỉnh sau triển khai" (deployment corrections) — những kế hoạch dự phòng toàn diện cho các tình huống mà việc quản lý rủi ro trước triển khai chưa đủ (O'Brien et al., 2023 (mở trong tab mới)):

• Các biện pháp kiểm soát kỹ thuật để duy trì quyền kiểm soát liên tục đối với các mô hình đã triển khai, thông qua khả năng giám sát và điều chỉnh, được hỗ trợ bởi các cơ chế khôi phục đã được xây dựng sẵn.
• Sự chuẩn bị sẵn sàng về mặt tổ chức để thiết lập các đội ứng phó sự cố chuyên trách, được đào tạo để đánh giá và giảm thiểu rủi ro nhanh chóng.
• Khung pháp lý để xây dựng những thỏa thuận người dùng rõ ràng, thiết lập khung vận hành cho các biện pháp can thiệp khẩn cấp.
• Việc ngừng vận hành mô hình, chẳng hạn như rút hoàn toàn khỏi thị trường hoặc hủy bỏ mô hình cùng các thành phần liên quan.

Hạn chế

Những loại quyết định như thế này quá lớn đối với bất kỳ một cá nhân nào. Chúng ta cần xây dựng những cấu trúc quản trị vững chắc hơn, không đặt chúng vào tay của chỉ một số ít người. — Demis Hassabis

FSF đại diện cho một cơ chế tự điều chỉnh của doanh nghiệp — một bước tiến, nhưng có thể vẫn chưa đủ. FSF mang lại cho các công ty một cách để chứng minh cam kết quản lý rủi ro một cách chủ động. Tính công khai của chúng cho phép sự soi xét từ bên ngoài, trong khi các khung phân loại rủi ro của chúng cho thấy sự quan tâm nghiêm túc đến những kiểu thất bại tiềm ẩn. Cấu trúc được thiết kế có chủ đích linh hoạt của các khung này cho phép điều chỉnh khi hiểu biết về rủi ro AI phát triển (Pistillo, 2025 (mở trong tab mới)). Dù FSF thể hiện một bước tiến trong quản trị AI, hiệu quả của chúng cuối cùng vẫn phụ thuộc vào việc triển khai. Các công ty như Anthropic và OpenAI đã thiết lập những cơ chế quản trị đáng chú ý. Nhưng dù được thiết kế tốt đến đâu, các chính sách nội bộ vẫn phải chịu sự chi phối của lợi ích chiến lược của công ty. Khi an toàn phải cạnh tranh với tốc độ, lợi nhuận, hay vị thế thống lĩnh thị trường, ngay cả một hệ thống quản trị nội bộ vững chắc cũng có thể bị nhân nhượng. Các biện pháp tự nguyện thiếu tính cưỡng chế thi hành, và những người trong nội bộ thường phải đối mặt với động lực lệch lạc khi lên tiếng bày tỏ lo ngại (Zhang et al., 2025 (mở trong tab mới)).

Khi năng lực AI tiếp tục tiến bộ, các khung quản trị cũng phải phát triển theo. Vẫn còn nhiều dư địa đáng kể để cải thiện. Một số ý kiến cho rằng các công ty nên xác định những ngưỡng rủi ro chính xác hơn, có thể kiểm chứng được, có thể dựa trên mức độ chấp nhận rủi ro của xã hội từ các ngành công nghiệp khác (Pistillo, 2025 (mở trong tab mới)). Ví dụ, các ngành công nghiệp xử lý những rủi ro thảm khốc thường đặt ra mức rủi ro tối đa có thể chấp nhận được, dao động từ 1 phần 10.000 đến 1 phần 10 tỷ mỗi năm — những ngưỡng định lượng mà các công ty AI có thể áp dụng với những điều chỉnh phù hợp.

Các rủi ro mang tính hệ thống và các vấn đề hành động tập thể không thể được giảm thiểu chỉ bằng sự tự điều chỉnh của một công ty đơn lẻ. Không một tập đoàn nào có thể được tin tưởng để một mình phụng sự lợi ích công. Các khung quản trị doanh nghiệp như FSF cho thấy cách các công ty có thể phối hợp xoay quanh những tiêu chuẩn an toàn chung. Tuy nhiên, sự phối hợp tự nguyện giữa các doanh nghiệp phải đối mặt với những áp lực mang tính hệ thống từ cạnh tranh thị trường và tình trạng trú ẩn quy định. Khi an toàn phải cạnh tranh với tốc độ hay thị phần, ngay cả những công ty có thiện chí cũng có thể phá vỡ các thỏa thuận phối hợp. Đây chính là lý do vì sao quản trị cấp doanh nghiệp cần đến tính chính danh dân chủ và quyền lực thực thi mà chỉ quản trị cấp quốc gia mới có thể mang lại.

Quản trị cấp quốc gia

Tầm ảnh hưởng tiềm tàng của AI có thể vượt quá giới hạn nhận thức của con người. Để đảm bảo công nghệ này luôn mang lại lợi ích cho nhân loại, chúng ta phải quản lý quá trình phát triển AI và ngăn không để công nghệ này biến thành một con ngựa hoang mất kiểm soát [...] Chúng ta cần tăng cường việc phát hiện và đánh giá xuyên suốt toàn bộ vòng đời của AI, đảm bảo rằng nhân loại luôn có khả năng nhấn nút tạm dừng vào những thời khắc then chốt. — Zhang Jun

Ở phần trước, chúng ta đã xác lập rằng các công ty thường thiếu động lực để tính đến đầy đủ tầm ảnh hưởng xã hội rộng lớn hơn, phải đối mặt với áp lực cạnh tranh có thể làm suy yếu an toàn, và thiếu tính chính danh để đưa ra những quyết định ảnh hưởng đến toàn bộ dân số (Dafoe, 2023 (mở trong tab mới)). Do đó, các khung quản trị cấp quốc gia đóng vai trò bổ trợ thiết yếu cho các sáng kiến tự điều chỉnh, thiết lập những tiêu chuẩn khu vực mà các công ty có thể tích hợp vào thông lệ nội bộ của mình.

Không giống những thách thức quản trị công nghệ truyền thống, các hệ thống AI tiên phong tạo ra những ngoại tác trải dài trên nhiều lĩnh vực: từ an ninh quốc gia đến ổn định kinh tế, từ công bằng xã hội đến hoạt động dân chủ. Các hệ thống AI đe dọa an ninh quốc gia bằng cách phổ biến những năng lực có thể bị các cá nhân có ý đồ xấu sử dụng, góp phần tạo ra những kết quả kinh tế bất bình đẳng bằng cách tập trung quyền lực thị trường vào một số công ty và quốc gia nhất định trong khi khiến việc làm mất đi ở những nơi khác, và tạo ra những điều kiện xã hội có hại thông qua các thông lệ khai thác dữ liệu và những kết quả đầu ra thuật toán mang tính thiên lệch (Roberts et al., 2024 (mở trong tab mới)). Các cơ quan quản lý truyền thống, vốn được thiết kế cho những lĩnh vực công nghệ hẹp hơn, thường thiếu phạm vi không gian, năng lực kỹ thuật, hoặc thẩm quyền thể chế cần thiết để quản trị hiệu quả những hệ thống này (Dafoe, 2023 (mở trong tab mới)).

Hãy so sánh với trường hợp xe tự lái, nơi những ngoại tác chính tương đối rõ ràng (an toàn của người tham gia giao thông) và nằm trong phạm vi các khung quản lý hiện có (các cơ quan an toàn giao thông). Ngược lại, các hệ thống AI tiên phong tạo ra những ngoại tác vượt qua ranh giới quản lý và thẩm quyền tài phán truyền thống, đòi hỏi những cách tiếp cận thể chế mới, có thể xử lý khoảng trống về chuyên môn, khoảng trống về phối hợp, và khoảng trống về thời gian trong các khung quản lý hiện nay (Dafoe, 2023 (mở trong tab mới)).

Các hệ thống AI có thể gây hại theo những cách không phải lúc nào cũng minh bạch hay có thể dự đoán được. Ngoài lỗi phần mềm hay sự không khớp giữa đầu vào và đầu ra, rủi ro còn nảy sinh từ cách các hệ thống AI biểu diễn mục tiêu trong nội bộ, thực hiện những đánh đổi, và khái quát hóa từ dữ liệu. Khi các hệ thống này được triển khai ở quy mô lớn, ngay cả những sai lệch tinh vi giữa hành vi của hệ thống và ý định của con người cũng có thể gây ra những hậu quả lan rộng. Ví dụ, việc tự động theo đuổi các mục tiêu phụ có thể tạo ra những kết quả đúng về mặt kỹ thuật nhưng lại thảm khốc về mặt xã hội nếu không được ràng buộc cẩn thận (Cha, 2024 (mở trong tab mới)). Vì nhiều kiểu thất bại này ẩn sâu trong những kiến trúc mô hình mờ đục và động lực huấn luyện phức tạp, chúng khó bị phát hiện thông qua các quy trình kiểm toán hay chứng nhận thông thường. Quy định ở cấp quốc gia mang lại một điểm neo cho trách nhiệm giải trình, bằng cách yêu cầu các nhà phát triển xây dựng, kiểm thử, và triển khai hệ thống theo những cách có thể được xác minh từ bên ngoài, có thể cưỡng chế thi hành về mặt pháp lý, và có tính chính danh trước công chúng.

Như chúng ta sẽ thấy trong phần này, các khu vực lớn trên thế giới đã phát triển những triết lý quản lý khác biệt rõ rệt, phản ánh bối cảnh thể chế và ưu tiên chính trị riêng của mỗi nơi. Việc hiểu được những khung quốc gia này sẽ cung cấp bối cảnh cho phần phân tích tiếp theo của chúng ta về các cơ chế quản trị quốc tế — những cơ chế phải điều hướng và dung hòa những khác biệt khu vực này để tạo ra các tiêu chuẩn toàn cầu hiệu quả cho những hệ thống AI có tầm ảnh hưởng vượt ra ngoài biên giới quốc gia.

Trong thập kỷ qua, hơn 30 quốc gia đã công bố chiến lược AI quốc gia, vạch ra cách tiếp cận của mình đối với việc phát triển, quản lý, và áp dụng AI. Những chiến lược này khác nhau khá nhiều về trọng tâm, nhưng khi được phân tích một cách hệ thống, chúng rơi vào ba khuôn mẫu quản trị lặp lại: phát triển, kiểm soát, và thúc đẩy (Papyshev et al., 2023 (mở trong tab mới)). Trong các mô hình lấy phát triển làm trọng tâm, như tại Trung Quốc, Hàn Quốc, và Hungary, nhà nước đóng vai trò điều phối viên chiến lược, dẫn dắt nguồn lực công hướng vào hạ tầng AI, các chương trình nghiên cứu, và những sứ mệnh quốc gia. Các cách tiếp cận hướng về kiểm soát, nổi bật tại Liên minh Châu Âu và các nước như Na Uy và Mexico, chú trọng các tiêu chuẩn pháp lý, giám sát đạo đức, và các khung theo dõi rủi ro. Các mô hình tập trung vào thúc đẩy, bao gồm Hoa Kỳ, Vương quốc Anh, và Singapore, áp dụng một cách tiếp cận phi tập trung hơn: nhà nước chủ yếu đóng vai trò là bên tạo điều kiện cho đổi mới sáng tạo của khu vực tư nhân, với tương đối ít ràng buộc về quản lý. Những khác biệt này có ý nghĩa quan trọng. Bất kỳ nỗ lực nào nhằm xây dựng các khung quản trị quốc tế đều sẽ cần tính đến sự bất đối xứng về cấu trúc giữa những chế độ quốc gia này, đặc biệt là về thẩm quyền thực thi, cơ chế trách nhiệm giải trình, và năng lực thể chế (Papyshev et al., 2023 (mở trong tab mới)).

Quản trị cấp quốc gia mang lại các cơ chế thực thi và tính chính danh dân chủ cần thiết để làm cho sự phối hợp giữa các doanh nghiệp trở nên ổn định và mang tính ràng buộc. Tuy nhiên, rủi ro AI vượt ra ngoài biên giới quốc gia, và tình trạng trú ẩn quy định cho phép hoạt động phát triển dịch chuyển sang những thẩm quyền tài phán có tiêu chuẩn lỏng lẻo hơn. Không một quốc gia đơn lẻ nào có thể một mình quản trị hiệu quả các hệ thống AI mang tính toàn cầu. Hạn chế căn bản này thúc đẩy nhu cầu về các cơ chế phối hợp quốc tế.

Quản trị quốc tế

AI đặt ra một rủi ro toàn cầu mang tính dài hạn. Ngay cả những người thiết kế ra nó cũng không biết bước đột phá của mình rồi sẽ dẫn đến đâu. Tôi kêu gọi [Hội đồng Bảo an Liên Hợp Quốc] tiếp cận công nghệ này với một ý thức cấp bách [...] Chính những người tạo ra nó cũng đã cảnh báo rằng những rủi ro lớn hơn nhiều, có khả năng thảm khốc và mang tính hiện sinh, đang chờ ở phía trước. — António Guterres

[...] cũng giống như AI có tiềm năng tạo ra điều tốt đẹp sâu sắc, nó cũng có tiềm năng gây ra tổn hại sâu sắc. Từ những cuộc tấn công mạng được AI hỗ trợ ở quy mô chưa từng thấy, cho đến vũ khí sinh học do AI thiết kế có thể đe dọa tính mạng của hàng triệu người, những mối đe dọa này thường được gọi là "các mối đe dọa hiện sinh từ AI," bởi vì tất nhiên, chúng có thể đe dọa chính sự tồn vong của nhân loại. Không thể nghi ngờ gì, những mối đe dọa này là sâu sắc, và chúng đòi hỏi hành động mang tính toàn cầu. — Kamala Harris

Chẳng lẽ từng quốc gia riêng lẻ không thể tự quản lý AI trong phạm vi biên giới của mình? Câu trả lời ngắn gọn là: không, ít nhất không hiệu quả. Việc quản lý hiệu quả các hệ thống AI tiên tiến đòi hỏi sự phối hợp vượt ra ngoài biên giới quốc gia. Điều này bắt nguồn từ ba vấn đề căn bản (Ho et al., 2023 (mở trong tab mới)):

• Không một quốc gia nào có quyền kiểm soát độc quyền đối với sự phát triển AI. Ngay cả khi một quốc gia áp dụng những quy định nghiêm ngặt, các nhà phát triển tại những nước có tiêu chuẩn lỏng lẻo hơn vẫn có thể tạo ra và triển khai những hệ thống AI có khả năng nguy hiểm, ảnh hưởng đến cả thế giới (Hausenloy et al., 2023 (mở trong tab mới)).
• Rủi ro AI có tầm ảnh hưởng toàn cầu. Việc quản lý những rủi ro đó đòi hỏi sự hợp tác quốc tế (Tallberg et al., 2023 (mở trong tab mới)). Khi được hỏi về sự tham gia của Trung Quốc tại hội nghị thượng đỉnh An toàn AI Bletchley, James Cleverly, cựu Ngoại trưởng Anh, đã nhận xét đúng đắn rằng: "chúng ta không thể bảo vệ công chúng Anh khỏi rủi ro AI nếu loại trừ một trong những quốc gia dẫn đầu về công nghệ AI."
• Động lực chạy đua xuống đáy. Các quốc gia lo sợ bất lợi cạnh tranh trong cuộc đua AI, điều này tạo ra động lực cho tình trạng trú ẩn quy định và làm suy yếu các tiêu chuẩn an toàn trên phạm vi toàn cầu (Lancieri et al., 2024 (mở trong tab mới)). Quản trị quốc tế có thể giúp gắn kết động lực giữa các quốc gia, khuyến khích phát triển AI có trách nhiệm mà không buộc bất kỳ quốc gia nào phải hy sinh lợi thế cạnh tranh của mình (Li, 2025 (mở trong tab mới)).

Hình tương tác 4.6: Số lượng lũy kế các hệ thống AI quy mô lớn theo quốc gia kể từ năm 2017. Được xác định theo địa điểm của tổ chức chính mà tác giả của các hệ thống AI quy mô lớn trực thuộc (Giattino et al., 2023 (mở trong tab mới)).

Các chính sách quốc gia ảnh hưởng đến sự phát triển AI toàn cầu như thế nào? Ngay cả những quy định tưởng chừng chỉ mang tính đối nội (như chính sách nhập cư, xem bên dưới) cũng có thể định hình lại toàn cảnh AI toàn cầu thông qua nhiều cơ chế lan tỏa khác nhau.

Các công ty trên khắp thế giới, vì muốn duy trì khả năng tiếp cận thị trường châu Âu đầy tiềm năng, thường thấy việc áp dụng các tiêu chuẩn của EU trên toàn bộ hoạt động của mình tiết kiệm chi phí hơn là duy trì những tiêu chuẩn riêng biệt cho từng khu vực. Ví dụ, một công ty công nghệ Hoa Kỳ đang phát triển một hệ thống nhận diện khuôn mặt ứng dụng AI mới để sử dụng tại nơi công cộng có thể thấy hệ thống này bị xếp vào loại "rủi ro cao" theo Đạo luật AI của EU. Điều này sẽ khiến hệ thống phải tuân theo những yêu cầu nghiêm ngặt về chất lượng dữ liệu, tài liệu hóa, giám sát của con người, và nhiều yêu cầu khác. Khi đó, các công ty có hai lựa chọn: hoặc phát triển hai phiên bản sản phẩm riêng biệt, một cho thị trường EU và một cho phần còn lại của thế giới, hoặc đơn giản là áp dụng tiêu chuẩn EU trên phạm vi toàn cầu. Nhiều công ty sẽ bị cám dỗ chọn phương án thứ hai, để giảm thiểu chi phí tuân thủ. Đây chính là điều được gọi là "Hiệu ứng Brussels" (Brussels Effect) (Bradford, 2020 (mở trong tab mới)): các quy định của EU cuối cùng có thể định hình các thị trường toàn cầu, ngay cả tại những quốc gia mà các quy định đó không chính thức áp dụng.

Hiệu ứng Brussels có thể biểu hiện theo hai cách:

• Áp dụng trên thực tế (de facto): Các công ty thường tự nguyện áp dụng tiêu chuẩn EU trên phạm vi toàn cầu để tránh sự phức tạp và chi phí của việc duy trì những tiêu chuẩn khác nhau cho từng thị trường.
• Tác động về mặt pháp lý (de jure): Các quốc gia khác thường xuyên áp dụng những quy định tương tự như của EU, hoặc để duy trì sự đồng bộ về mặt quản lý, hoặc vì họ xem cách tiếp cận của EU là một mô hình đáng học hỏi.

Các quy định của EU có thể là lần đầu tiên các khái niệm như "quản lý rủi ro" hay "rủi ro mang tính hệ thống" được hiện thực hóa thành quy định bắt buộc và được áp dụng rộng rãi trong bối cảnh AI tiên phong. Khi các quốc gia khác đang loay hoay tìm cách quản lý các hệ thống AI tiên tiến, họ có thể xem khung của EU như một điểm khởi đầu (Siegmann & Anderljung 2022 (mở trong tab mới)).

[Chúng ta] không nên đánh giá thấp những mối đe dọa thực sự đến từ AI [...] Nó đang phát triển nhanh hơn cả những gì chính các nhà phát triển của nó dự đoán [...] Cơ hội để định hướng công nghệ này một cách có trách nhiệm đang ngày càng thu hẹp lại. — Ursula von der Leyen

Vào năm 2023, chính phủ Hoa Kỳ và Vương quốc Anh đều công bố thành lập các viện mới về an toàn AI. Tính đến năm 2025, có ít nhất 12 Viện An toàn AI (AI Safety Institutes, AISI) cấp quốc gia đã được thành lập trên toàn thế giới. Các viện này bao gồm những viện từ Hoa Kỳ, Vương quốc Anh, Canada, Pháp, Đức, Ý, Nhật Bản, Hàn Quốc, Singapore, Úc, Kenya, và Ấn Độ. Liên minh Châu Âu đã thành lập Văn phòng AI Châu Âu (European AI Office), hoạt động với chức năng tương tự các AISI cấp quốc gia. Các viện này hợp tác với nhau thông qua Mạng lưới Quốc tế các Viện An toàn AI, ra mắt vào tháng 11 năm 2024, nhằm phối hợp nghiên cứu, chia sẻ thông lệ tốt nhất, và phát triển các tiêu chuẩn an toàn có khả năng tương thích với nhau cho các hệ thống AI tiên tiến.

Các nỗ lực quản trị toàn cầu cũng đối mặt với những trở ngại lớn. Sự cạnh tranh chiến lược giữa các cường quốc hàng đầu — những nước xem AI vừa là tài sản an ninh quốc gia vừa là động lực kinh tế — thường làm suy yếu sự hợp tác. Sự bất đối xứng về quyền lực càng khiến các cuộc đàm phán trở nên phức tạp hơn: những quốc gia có năng lực AI tiên tiến, như Hoa Kỳ và Trung Quốc, có thể kháng cự lại những ràng buộc quốc tế, trong khi các nước khác có thể đòi hỏi chuyển giao công nghệ và hỗ trợ xây dựng năng lực để đổi lấy sự tham gia. Sự khác biệt về hệ thống chính trị và giá trị cũng tạo ra rào cản, với những bất đồng xoay quanh các vấn đề như quyền riêng tư, tự do ngôn luận, và thẩm quyền nhà nước. Ví dụ, Sáng kiến Quản trị AI Toàn cầu (Global AI Governance Initiative) của Trung Quốc lấy chủ quyền và không can thiệp làm trọng tâm, trái ngược với các khung của phương Tây vốn bắt nguồn từ quyền cá nhân và trách nhiệm giải trình dân chủ (Hung, 2025 (mở trong tab mới); Hsu et al., 2023 (mở trong tab mới)). Có lẽ điều quan trọng nhất là sự thiếu hụt lòng tin sâu sắc giữa các cường quốc, bị khoét sâu thêm bởi những căng thẳng về thương mại, sở hữu trí tuệ, và nhân quyền, khiến việc đạt được những thỏa thuận đáng tin cậy và có thể cưỡng chế thi hành trở nên khó khăn, làm phức tạp thêm bức tranh địa chính trị vốn đã phức tạp, định hình tương lai của quản trị AI quốc tế (Mishra, 2024 (mở trong tab mới)).

Các cơ chế quốc tế hiện có (2025)

Bất chấp những thách thức này, một mạng lưới chắp vá gồm nhiều sáng kiến quốc tế đã xuất hiện để xử lý vấn đề quản trị AI:

• Chuỗi Hội nghị Thượng đỉnh AI Toàn cầu: Được Vương quốc Anh khởi xướng vào năm 2023, các hội nghị thượng đỉnh này là một nền tảng để các bên liên quan chủ chốt trong toàn bộ hệ sinh thái AI cùng tụ họp và thảo luận về những ưu tiên toàn cầu đối với an toàn, đổi mới sáng tạo, và quản trị AI. Chúng tiếp tục được tổ chức hai năm một lần, mỗi lần do một quốc gia khác nhau đăng cai.
• Tiến trình AI Hiroshima: Do các quốc gia G7 khởi xướng, sáng kiến này nhằm thúc đẩy việc phát triển và sử dụng AI có trách nhiệm thông qua các chính sách được phối hợp thống nhất.
• Các nỗ lực của Liên Hợp Quốc: Bao gồm các khuyến nghị về đạo đức AI của UNESCO, Hội đồng Cố vấn Cấp cao (High-Level Advisory Body), và Hiệp ước Số Toàn cầu (Global Digital Compact) sắp tới — một khung của Liên Hợp Quốc về hợp tác số quốc tế, tập trung vào một tương lai số chung với một hợp phần về AI.
• Hướng dẫn của OECD: Tổ chức Hợp tác và Phát triển Kinh tế (OECD) có tầm ảnh hưởng đặc biệt lớn trong việc định hình các nguyên tắc quản trị AI, làm nền tảng cho các chính sách quốc gia, và tiếp tục định hướng các khung khu vực với trọng tâm là quyền, tính minh bạch, và trách nhiệm giải trình.
• Hiệp ước AI của Hội đồng Châu Âu: Hiệp ước được đề xuất này nhằm bảo vệ nhân quyền trong bối cảnh phát triển và sử dụng AI, tập trung vào các ranh giới đạo đức.
• Sáng kiến Quản trị AI Toàn cầu của Trung Quốc: Cho thấy rằng quản trị AI là một ưu tiên ngay cả đối với những quốc gia thường bất đồng với các cường quốc phương Tây, Trung Quốc đã đưa ra đề xuất riêng của mình về quản trị AI quốc tế.

Quản trị công nghệ quốc tế thường phát triển như thế nào? Việc hiểu được tiến trình hoạch định chính sách quốc tế giúp đặt các nỗ lực quản trị AI hiện nay vào đúng bối cảnh và xác định những hướng đi khả thi trong tương lai. Việc hoạch định chính sách quốc tế thường trải qua một số giai đoạn (Badie et al., 2011 (mở trong tab mới)):

• Thiết lập chương trình nghị sự: Xác định vấn đề và đưa nó vào chương trình nghị sự quốc tế.
• Xây dựng chính sách: Phát triển các giải pháp và cách tiếp cận tiềm năng.
• Ra quyết định: Lựa chọn những hướng hành động cụ thể.
• Triển khai: Đưa các chính sách đã chọn vào thực tiễn.
• Đánh giá: Đánh giá hiệu quả và thực hiện điều chỉnh.

Đối với quản trị AI, chúng ta vẫn đang chủ yếu ở những giai đoạn đầu của tiến trình này. Chuỗi Hội nghị Thượng đỉnh AI, Mạng lưới các Viện An toàn AI, và các khung quốc tế khác đều thể hiện những bước tiến trong việc thiết lập chương trình nghị sự và xây dựng chính sách ban đầu. Nhưng công việc thực sự — soạn thảo các thỏa thuận quốc tế mang tính ràng buộc và triển khai chúng — vẫn còn ở phía trước.

Những nỗ lực quản trị quốc tế trước đây mang lại những bài học quý giá cho AI. Vậy, chúng ta có thể học được gì từ hàng thập kỷ nỗ lực kiểm soát vũ khí hạt nhân? Hãy cùng xem xét ba bài học quan trọng (Maas, 2019 (mở trong tab mới)):

• Sức mạnh của các chuẩn mực và thể chế. Bất chấp những lo ngại ban đầu về sự phổ biến nhanh chóng, chỉ có chín quốc gia sở hữu vũ khí hạt nhân sau gần 80 năm kể từ khi loại vũ khí này ra đời — kết quả của những nỗ lực phối hợp nhằm xây dựng các chuẩn mực toàn cầu chống lại việc phổ biến và sử dụng vũ khí hạt nhân. Hiệp ước Không phổ biến Vũ khí Hạt nhân (Nuclear Non-Proliferation Treaty, NPT), được ký kết năm 1968, đã tạo ra một khung nhằm ngăn chặn sự lan rộng của vũ khí hạt nhân và giúp thúc đẩy việc sử dụng công nghệ hạt nhân vì mục đích hòa bình.
• Vai trò của các cộng đồng tri thức (epistemic communities). Việc xây dựng các thỏa thuận kiểm soát vũ khí hạt nhân không chỉ là công việc của các nhà ngoại giao và chính trị gia. Nó phụ thuộc rất nhiều vào ý kiến đóng góp từ các nhà khoa học, kỹ sư, và các chuyên gia kỹ thuật khác — những người hiểu rõ công nghệ và những hệ lụy của nó. Các chuyên gia này hình thành một mạng lưới những người có chuyên môn được công nhận trong một lĩnh vực cụ thể, hay điều mà các nhà khoa học chính trị gọi là một "cộng đồng tri thức" (epistemic community). Họ đóng vai trò quan trọng trong việc định hình các cuộc tranh luận chính sách, cung cấp tư vấn kỹ thuật, và thậm chí đóng vai trò như những nhà ngoại giao kênh sau trong những giai đoạn căng thẳng của Chiến tranh Lạnh. Không giống các nhà vật lý hạt nhân, những người thường được các chính phủ trực tiếp tuyển dụng, nhiều chuyên gia AI lại làm việc trong khu vực tư nhân, vì vậy một thách thức đối với việc hình thành những mạng lưới như vậy cho quản trị AI toàn cầu sẽ là đảm bảo rằng các cộng đồng tri thức có thể tác động một cách hiệu quả đến các quyết định chính sách.
• Thách thức dai dẳng của "tai nạn thông thường" (normal accidents). Bất chấp hàng thập kỷ quản lý cẩn trọng, thời đại hạt nhân đã chứng kiến một số sự cố mà sai sót của con người, trục trặc kỹ thuật, hoặc hiểu lầm suýt dẫn đến thảm họa. Nhà xã hội học Charles Perrow gọi đây là "tai nạn thông thường," lập luận rằng trong những hệ thống phức tạp, liên kết chặt chẽ với nhau, những sự cố như vậy là điều không thể tránh khỏi (1985 (mở trong tab mới)). Áp dụng khái niệm này vào AI, chúng ta có thể thấy những tương tác bất ngờ và các chuỗi thất bại dây chuyền gia tăng khi các hệ thống AI trở nên phức tạp hơn và liên kết chặt chẽ với nhau hơn. Tốc độ vận hành của các hệ thống AI có thể đồng nghĩa với việc một "tai nạn thông thường" trong AI có thể diễn ra quá nhanh để con người kịp can thiệp, thách thức khái niệm "sự kiểm soát có ý nghĩa của con người" (meaningful human control), vốn thường được đề xuất như một biện pháp bảo vệ cho các hệ thống AI (Maas, 2019 (mở trong tab mới)).

Các phương án chính sách

Chúng ta phải nhìn nhận rủi ro AI một cách nghiêm túc như những thách thức toàn cầu lớn khác, chẳng hạn như biến đổi khí hậu. Cộng đồng quốc tế đã mất quá nhiều thời gian để phối hợp một phản ứng toàn cầu hiệu quả trước vấn đề đó, và giờ đây chúng ta đang phải sống chung với hậu quả của sự chậm trễ ấy. Chúng ta không thể để xảy ra sự chậm trễ tương tự với AI [...] rồi có lẽ một ngày nào đó sẽ có một dạng tổ chức tương đương với IAEA, thực sự đứng ra kiểm toán những vấn đề này. — Demis Hassabis

Một số hình thức thể chế có thể hỗ trợ cho việc quản trị AI quốc tế (Maas & Villalobos, 2024 (mở trong tab mới)):

• Xây dựng đồng thuận khoa học: Tương tự như Ủy ban Liên chính phủ về Biến đổi Khí hậu (IPCC), một cơ quan chuyên trách có thể cung cấp các báo cáo định kỳ về năng lực và rủi ro AI để cung cấp thông tin cho các nhà hoạch định chính sách và công chúng. Với tốc độ phát triển nhanh chóng của AI, cơ quan này sẽ cần phải linh hoạt hơn so với các tổ chức xây dựng đồng thuận khoa học truyền thống.
• Xây dựng đồng thuận chính trị và thiết lập chuẩn mực: Dựa trên nền tảng đồng thuận khoa học, một diễn đàn dành cho các nhà lãnh đạo chính trị có thể phát triển những chuẩn mực và nguyên tắc chung, có thể được xây dựng theo cấu trúc tương tự Công ước Khung của Liên Hợp Quốc về Biến đổi Khí hậu (UNFCCC). Một cơ quan như vậy có thể tạo điều kiện cho đối thoại liên tục, đàm phán các thỏa thuận, và điều chỉnh cách tiếp cận quản trị khi công nghệ phát triển.
• Phối hợp chính sách và quản lý: Một cơ quan quốc tế tập trung vào phối hợp chính sách có thể giúp hài hòa hóa các quy định AI giữa các quốc gia, giảm thiểu sự phân mảnh và ngăn chặn cơ hội trú ẩn quy định.
• Thực thi các tiêu chuẩn và hạn chế: Các cơ chế giám sát việc tuân thủ và thực thi những tiêu chuẩn đã được thống nhất sẽ là điều cần thiết để quản trị hiệu quả.
• Ổn định hóa và ứng phó khẩn cấp: Một mạng lưới toàn cầu gồm các công ty, chuyên gia, và cơ quan quản lý sẵn sàng hỗ trợ khi xảy ra những thất bại lớn của hệ thống AI có thể giúp giảm thiểu rủi ro. Nhóm này có thể chủ động xác định những lỗ hổng tiềm ẩn trong hạ tầng AI toàn cầu và xây dựng các kế hoạch dự phòng, tương tự như Trung tâm Sự cố và Khẩn cấp của Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA), nhưng vận hành với khung thời gian nhanh hơn nhiều.
• Nghiên cứu chung quốc tế: Nghiên cứu hợp tác có thể giúp đảm bảo rằng việc phát triển AI tiên phong ưu tiên an toàn và những kết quả có lợi, tương tự như cách CERN tạo điều kiện cho hợp tác khoa học quốc tế.
• Phân phối lợi ích và khả năng tiếp cận: Một thể chế tập trung vào việc đảm bảo khả năng tiếp cận công bằng đối với lợi ích của AI có thể ngăn chặn tình trạng tập trung năng lực có hại, và đảm bảo lợi ích của công nghệ này được phân phối rộng rãi thông qua các cơ chế như quỹ toàn cầu hỗ trợ phát triển AI hoặc chuyển giao công nghệ.

Điều này có ý nghĩa gì đối với việc thiết kế những thể chế hiệu quả? Không có một giải pháp nào phù hợp cho tất cả mọi trường hợp. Các thể chế cho quản trị AI toàn cầu phải được thiết kế phù hợp với những đặc điểm riêng có của công nghệ này: chu kỳ lặp lại nhanh chóng, bối cảnh triển khai rộng khắp, và quỹ đạo tương lai bất định. Chúng ta nhiều khả năng sẽ cần đến một mạng lưới các thể chế bổ trợ lẫn nhau, mỗi thể chế đảm nhận những chức năng quản trị cụ thể đã liệt kê ở trên. Điều mấu chốt không chỉ là chúng ta xây dựng những thể chế nào, mà còn là vì sao và như thế nào. Những rủi ro và lợi ích cụ thể nào đòi hỏi sự phối hợp quốc tế? Những chức năng nào là thiết yếu để quản lý chúng? Và những thiết kế nào phù hợp nhất với các chức năng đó trong những ràng buộc của thế giới thực? Nếu không có câu trả lời rõ ràng, việc thiết kế thể chế có nguy cơ trở thành một tấm gương phản chiếu những chế độ trong quá khứ, thay vì một phản ứng thực sự trước những thách thức của AI tiên tiến (DeepMind, 2024 (mở trong tab mới)).