Chương 3.5: Chiến lược xã hội-kỹ thuật

An toàn AI về bản chất là một vấn đề xã hội-kỹ thuật (socio-technical), đòi hỏi những giải pháp xã hội-kỹ thuật. Các biện pháp an toàn kỹ thuật có thể bị vô hiệu hóa bởi sự quản trị yếu kém, thông lệ an ninh kém trong các phòng thí nghiệm, hay những nền văn hóa ưu tiên tốc độ hơn sự thận trọng. Đảm bảo an toàn đòi hỏi những cách tiếp cận hệ thống vững chắc — các cấu trúc quản trị, thông lệ tổ chức, và chuẩn mực văn hóa định hình cách AI được phát triển và triển khai. Việc giải quyết những rủi ro mang tính hệ thống này khó khăn chính vì trách nhiệm bị phân tán: không một cá nhân nào kiểm soát toàn bộ các biến số, và giải pháp đòi hỏi sự phối hợp giữa các công ty, chính phủ, nhà nghiên cứu, và xã hội dân sự.

Phòng thủ theo Chiều sâu

Phòng thủ theo chiều sâu (defense-in-depth) nghĩa là xếp chồng nhiều lớp bảo vệ độc lập, sao cho nếu một lớp thất bại, những lớp khác sẽ hỗ trợ. Đây là một trong những triết lý nền tảng của an toàn AI hiệu quả: nhiều lớp bảo vệ độc lập cùng phối hợp hoạt động. Hãy hình dung nó như việc thiết kế một lâu đài thời trung cổ — tường thành, hào nước, tháp canh, và sân trong tạo ra những rào cản dư thừa, sao cho việc phá vỡ một lớp không đồng nghĩa với việc toàn bộ hệ thống bị chiếm. An ninh mạng hiện đại cũng áp dụng logic tương tự: tường lửa, mã hóa, kiểm soát truy cập, và hệ thống giám sát hoạt động đồng thời, mỗi thứ giải quyết một vector tấn công khác nhau. Không một biện pháp an ninh đơn lẻ nào là hoàn hảo, nhưng nhiều lớp phòng thủ không hoàn hảo phối hợp với nhau có thể tạo ra sự bảo vệ vững chắc. Điều này còn được gọi là mô hình phô mai Thụy Sĩ (swiss cheese model) của an toàn (Hendrycks và cộng sự, 2023 (mở trong tab mới)).

Phòng thủ theo chiều sâu dựa vào sự bùng nổ tổ hợp (combinatorial explosion) khi các lớp thực sự độc lập với nhau. Nếu mỗi lớp phòng thủ có tỷ lệ thất bại 1 phần trăm, và kẻ tấn công phải vượt qua đồng thời cả năm lớp, xác suất thất bại tổng thể trở thành $0.01^5$ — nhỏ đến mức không đáng kể. Điều này hoạt động giống như bảo mật mã PIN: một mã PIN ba chữ số cực kỳ yếu, nhưng một mã PIN mười hai chữ số lại trở nên rất an toàn, vì độ khó tổ hợp tăng theo cấp số nhân. Một yêu cầu cốt lõi là tính độc lập giữa các lớp — nếu việc phá vỡ một lớp tự động phá vỡ những lớp khác, hoặc nếu kẻ tấn công nhận được phản hồi về việc lớp nào đã thất bại, chúng có thể lần lượt phá từng rào cản bằng phương pháp vét cạn (brute force) trong thời gian tuyến tính, thay vì phải đối mặt với độ khó theo cấp số nhân (Gleave, 2025 (mở trong tab mới)).

Phòng thủ theo chiều sâu gặp hạn chế khi các lớp phòng thủ không thực sự độc lập, hoặc khi đối thủ đủ năng lực. Nếu các biện pháp triển khai an toàn AI có mức độ tương quan cao — chẳng hạn, phần lớn các biện pháp phòng thủ đều dùng chung một mô hình nền tảng với những câu lệnh hay tinh chỉnh khác nhau — các cuộc tấn công đối kháng có thể chuyển giao được giữa các lớp. Ngoài ra, nếu hệ thống làm lộ thông tin về việc lớp nào bị kích hoạt, kẻ tấn công có thể chỉ cần vét cạn bằng cách dò từng lớp một cách tuần tự. Một hạn chế căn bản hơn là khi các hệ thống AI phát triển những năng lực thực sự mới, nằm ngoài phân phối dữ liệu huấn luyện, nhiều biện pháp an toàn có thể thất bại đồng thời vì chúng có chung những điểm mù trong dữ liệu huấn luyện và giả định. Một đối thủ đủ thông minh — dù là một AI mất căn chỉnh hay một con người quyết tâm — có thể phát hiện ra một cách tấn công duy nhất phá vỡ những lớp phòng thủ tưởng chừng độc lập, vì cùng một nguyên nhân nền tảng. Trước các hệ thống siêu trí tuệ, hoặc trong những kịch bản triển khai không bị ràng buộc, nơi các tác nhân AI có thể dò xét kỹ lưỡng các lớp phòng thủ, phòng thủ theo chiều sâu chỉ cung cấp những đảm bảo yếu hơn.

Có thể hình dung ra nhiều giải pháp khác nhau để giảm thiểu rủi ro, dù không giải pháp nào là hoàn hảo. Các cách tiếp cận kỹ thuật có thể xếp chồng nghiên cứu căn chỉnh với các cơ chế kiểm soát và công cụ diễn giải. Để đối phó với lợi dụng sai mục đích, chúng ta có thể kết hợp kiểm soát truy cập, giám sát, và các công nghệ phòng thủ. Hợp tác quốc tế bổ sung thêm một lớp nữa, vượt ra ngoài những gì một quốc gia đơn lẻ có thể đạt được. Ngay cả trong những cách tiếp cận mang tính hệ thống, quản trị AI có thể thiết lập những quy tắc cấu trúc và trách nhiệm giải trình, quản lý rủi ro biến những quy tắc đó thành các quyết định hàng ngày về ngưỡng năng lực và các biện pháp giảm thiểu cần thiết, còn văn hóa an toàn đảm bảo con người tuân theo quy trình và nêu lên những lo ngại mà các hệ thống chính thức bỏ sót.

Tăng tốc Phòng thủ (d/acc)

Hãy có nguyên tắc vào thời điểm phần lớn thế giới đang trở nên chia bè kết phái, và đừng chỉ xây dựng bất cứ thứ gì — thay vào đó, chúng ta muốn xây dựng những thứ cụ thể khiến thế giới an toàn hơn và tốt đẹp hơn. — Vitalik Buterin

Tăng tốc phòng thủ (defense acceleration, d/acc) là một triết lý chiến lược ưu tiên những công nghệ củng cố khả năng phòng thủ và sức chống chịu xã hội trước rủi ro AI. Phòng thủ theo chiều sâu là một triết lý cho thấy cả cách thức lẫn lý do vì sao chúng ta có thể xếp chồng nhiều lớp phòng thủ. Tăng tốc phòng thủ là một triết lý song song mà chúng ta có thể sử dụng thêm bên cạnh phòng thủ theo chiều sâu. Nó đề xuất chủ động đẩy nhanh những công nghệ vốn thiên về phòng thủ hơn là tấn công, nhờ đó khiến xã hội chống chịu tốt hơn trước nhiều mối đe dọa khác nhau. D/acc xuất hiện như một cách tiếp cận chiến lược vào năm 2023, như một con đường trung dung giữa tăng tốc không giới hạn (chủ nghĩa tăng tốc hiệu quả — effective accelerationism, e/acc) và những người bi quan về công nghệ/theo chủ nghĩa tận thế (doomer) (Buterin, 2023 (mở trong tab mới); Buterin, 2025 (mở trong tab mới)).

Triết lý này còn được biết đến với nhiều tên gọi khác, bao gồm phát triển hệ hình chênh lệch (differential paradigm development, DPD), hoặc

Có thể hiểu d/acc bằng cách suy nghĩ về câu hỏi — nếu AI chiếm quyền thế giới (hoặc tước đoạt năng lực của con người), nó sẽ làm điều đó bằng cách nào?

• Nó xâm nhập máy tính của chúng ta → đẩy nhanh phòng thủ mạng: Sử dụng AI để xác định và vá lỗ hổng, giám sát hệ thống trước các cuộc xâm nhập, và tự động hóa các phản ứng an ninh.
• Nó tạo ra một siêu dịch bệnh → đẩy nhanh phòng thủ sinh học: Phát triển những công nghệ để phát hiện, ngăn ngừa, và điều trị các mối đe dọa sinh học, bao gồm hệ thống lọc không khí tiên tiến, công cụ chẩn đoán nhanh, chiếu xạ far-UVC để khử trùng an toàn những không gian có người, và năng lực sản xuất vắc-xin phi tập trung.
• Nó thuyết phục chúng ta (tin tưởng nó, hoặc mất niềm tin lẫn nhau) → đẩy nhanh phòng thủ thông tin: Tạo ra những hệ thống giúp xác thực độ chính xác của thông tin và phát hiện nội dung gây hiểu lầm mà không cần một cơ quan trọng tài trung tâm về sự thật, chẳng hạn như theo dõi nguồn gốc được bảo mật bằng blockchain, và các hệ thống kiểm tra sự thật được cộng đồng xác thực như Community Notes của Twitter.
• Nó phá vỡ hạ tầng → đẩy nhanh phòng thủ vật lý: Tạo ra hạ tầng có sức chống chịu, có thể chịu đựng được gián đoạn, như phát điện phân tán qua điện mặt trời hộ gia đình, hệ thống lưu trữ pin, và các kỹ thuật sản xuất tiên tiến cho phép sản xuất cục bộ những hàng hóa thiết yếu.

D/acc đại diện cho ba nguyên tắc liên kết với nhau: phòng thủ, phi tập trung, và phát triển công nghệ chênh lệch. Chữ "d" trong d/acc là viết tắt của:

• Phòng thủ (Defensive): Ưu tiên những công nghệ khiến việc bảo vệ trước các mối đe dọa dễ dàng hơn việc tạo ra chúng. Những cách tiếp cận thuần túy mang tính hạn chế có những giới hạn cố hữu — chúng đòi hỏi phối hợp toàn cầu, tạo ra những nút thắt cổ chai cho đổi mới, và có nguy cơ tập trung quyền lực vào tay những ai kiểm soát quyền truy cập.
• Chênh lệch (Differential): Đẩy nhanh những công nghệ có lợi trong khi thận trọng hơn với những công nghệ có tiềm năng gây hại. Thứ tự phát triển công nghệ có ý nghĩa rất lớn. Bằng cách đẩy nhanh một cách chênh lệch những công nghệ phòng thủ (như các biện pháp an ninh mạng tiên tiến) đi trước những năng lực có khả năng nguy hiểm (như các hệ thống xâm nhập tự động), chúng ta tạo ra những lớp bảo vệ trước khi chúng thực sự trở nên cấp thiết.
• Phi tập trung (Decentralized): Chúng ta có thể tăng cường sức chống chịu bằng cách loại bỏ những điểm lỗi đơn lẻ. Kiểm soát tập trung đối với những năng lực AI mạnh mẽ tạo ra lỗ hổng trước các thất bại kỹ thuật, tấn công đối kháng, và sự thao túng thể chế (Cihon và cộng sự, 2020 (mở trong tab mới)). Những cách tiếp cận phi tập trung phân tán cả năng lực lẫn quản trị giữa nhiều bên liên quan khác nhau, ngăn ngừa sự kiểm soát đơn phương đối với những công nghệ mang tính chuyển đổi.

Hiệu quả của d/acc phụ thuộc vào việc duy trì cán cân tấn công-phòng thủ nghiêng về hướng có lợi. Tính khả thi của d/acc như một chiến lược phụ thuộc vào việc liệu các công nghệ phòng thủ có thể vượt qua năng lực tấn công trên nhiều lĩnh vực hay không. Các tiền lệ lịch sử cho kết quả trái chiều — một số lĩnh vực như an ninh mạng truyền thống thường có lợi cho bên phòng thủ, những người có thể vá lỗ hổng, trong khi những lĩnh vực khác như an ninh sinh học theo truyền thống lại có lợi cho bên tấn công, những kẻ cần ít nguồn lực hơn để tạo ra mối đe dọa so với những gì bên phòng thủ cần để đối phó. Thách thức then chốt đối với việc triển khai d/acc nằm ở việc xác định và hỗ trợ những công nghệ làm nghiêng cán cân này về phía phòng thủ (Bernardi, 2024 (mở trong tab mới); Buterin, 2023 (mở trong tab mới)).

Một ví dụ cụ thể: AI cho Phòng thủ mạng

Một ứng dụng then chốt là sử dụng AI để cải thiện an ninh mạng. AI mạnh mẽ có thể tự động hóa việc phát hiện lỗ hổng, giám sát hệ thống trước các cuộc xâm nhập, quản lý quyền hạn chi tiết hiệu quả hơn con người, hoặc thay thế con người trong những nhiệm vụ trọng yếu về an ninh (Shlegeris, 2024 (mở trong tab mới)). Dù các mô hình hiện tại có thể chưa đủ tin cậy, tiềm năng để AI củng cố đáng kể khả năng phòng thủ mạng trước cả các cuộc tấn công truyền thống lẫn các cuộc tấn công dùng AI vẫn tồn tại (Hill, 2024 (mở trong tab mới); Schlegeris, 2024 (mở trong tab mới)). Bốn chiến lược triển vọng để sử dụng AI nhằm tăng cường an ninh được nêu ra:

• Giám sát toàn diện hành động của con người, với AI gắn cờ những hoạt động đáng ngờ
• Chuyển giao niềm tin, trong đó AI xử lý những nhiệm vụ nhạy cảm thay vì con người
• Quản lý quyền hạn chi tiết mà nếu để con người làm sẽ tốn quá nhiều công sức
• Điều tra các hoạt động đáng ngờ bằng AI.

Những cách tiếp cận này có thể giảm đáng kể rủi ro về mối đe dọa nội bộ và đánh cắp dữ liệu, có khả năng khiến an ninh máy tính trở nên "dễ dàng hơn hẳn" khi AI mạnh mẽ trở nên khả dụng, dù vẫn còn nhiều bất định đáng kể về độ bền vững của những kỹ thuật này.

Các chiến lược khả thi phù hợp với triết lý d/acc

D/acc bổ trợ chứ không thay thế những cách tiếp cận an toàn khác. Khác với những khung cạnh tranh có thể xem các hạn chế và biện pháp bảo vệ là những rào cản đối với tiến bộ, d/acc công nhận giá trị của chúng trong khi giải quyết những hạn chế của chúng. Các biện pháp bảo vệ mô hình vẫn là tuyến phòng thủ đầu tiên thiết yếu, nhưng d/acc xây dựng thêm những lớp an toàn bổ sung khi những biện pháp bảo vệ đó thất bại hoặc bị vượt qua. Tương tự, các khung quản trị cung cấp sự giám sát cần thiết, nhưng d/acc giảm sự phụ thuộc vào một hệ thống quản lý hoàn hảo, bằng cách xây dựng sức chống chịu kỹ thuật vẫn hoạt động ngay cả khi có những khoảng trống về quản trị.

Các cách tiếp cận quản trị và chính sách khả thi cho d/acc. Các can thiệp chính sách có thể giúp tạo ra những khung có cấu trúc cho tăng tốc phòng thủ. Một số ví dụ về công việc quản trị hỗ trợ triết lý d/acc bao gồm:

• Khung chia sẻ thông tin: Thiết lập các giao thức bắt buộc về báo cáo sự cố và chia sẻ thông tin giữa các nhà phát triển AI và cơ quan an ninh (Bernardi, 2024 (mở trong tab mới)).
• Ưu tiên tiếp cận cho bên phòng thủ: Triển khai những chính sách trao cho các nhà nghiên cứu an ninh quyền truy cập sớm, có ưu tiên, vào các năng lực AI tiên tiến trước khi phát hành rộng rãi (Bernardi, 2024 (mở trong tab mới)).
• Quỹ tăng tốc phòng thủ: Tạo ra những cơ chế tài trợ chuyên biệt cho công nghệ phòng thủ, nhằm giải quyết những thất bại thị trường, nơi các công nghệ mang tính hàng hóa công cộng thiếu đầu tư tư nhân đầy đủ dù có giá trị xã hội (Bernardi, 2024 (mở trong tab mới); Buterin, 2023 (mở trong tab mới)).
• Triển khai năng lực theo giai đoạn: Yêu cầu triển khai theo từng giai đoạn đối với các năng lực AI tiên tiến, với những khoảng thời gian giám sát giữa các giai đoạn (Bernardi, 2024 (mở trong tab mới)).

Các cách tiếp cận công nghệ và nghiên cứu khả thi cho d/acc. Chúng ta có thể đẩy nhanh tiến bộ công nghệ một cách chênh lệch trên nhiều lĩnh vực khác nhau, để thiên về phòng thủ trước những rủi ro thảm khốc. Dưới đây chỉ là một vài ví dụ:

• Hệ thống chất lượng không khí tiên tiến: Phát triển những hệ thống tích hợp để phát hiện, lọc, và trung hòa mầm bệnh trong không khí theo thời gian thực. Những công nghệ này cung cấp sự bảo vệ thụ động trước cả đại dịch tự nhiên lẫn vũ khí sinh học được thiết kế, mà không đòi hỏi thay đổi hành vi hay sự tuân thủ hoàn hảo (Buterin, 2023 (mở trong tab mới)).
• Tính toán bảo toàn quyền riêng tư: Các kỹ thuật mật mã tiên tiến như chứng minh không tiết lộ thông tin (zero-knowledge proof), mã hóa đồng cấu (homomorphic encryption), và tính toán đa bên an toàn (secure multi-party computation). Những phương pháp này cho phép xác minh và hợp tác an toàn mà không để lộ thông tin nhạy cảm, làm thay đổi căn bản sự đánh đổi giữa an ninh và quyền riêng tư (Buterin, 2023 (mở trong tab mới)).
• Hạ tầng có sức chống chịu: Tạo ra những hệ thống phi tập trung, tự chủ cho năng lượng, thông tin liên lạc, và chuỗi cung ứng, có thể vận hành trong lúc gián đoạn. Điều này bao gồm những công nghệ như mạng lưới mesh, sản xuất tại chỗ, và phát điện phân tán, duy trì các chức năng trọng yếu ngay cả khi hệ thống tập trung thất bại (Buterin, 2023 (mở trong tab mới); Buterin, 2025 (mở trong tab mới)).
• Hệ thống xác thực hợp tác: Triển khai những nền tảng xác thực thông tin đa chiều, tương tự Community Notes, nhận diện thông tin sai lệch thông qua sự đồng thuận giữa các quan điểm đa dạng. Những hệ thống này cho phép cộng đồng tự điều chỉnh chất lượng thông tin mà không cần một cơ quan trọng tài trung tâm về sự thật (Buterin, 2023 (mở trong tab mới)).

Quản trị AI

Việc theo đuổi những AI ngày càng mạnh mẽ, giống như cuộc chạy đua vũ khí hạt nhân thời Chiến tranh Lạnh, đại diện cho một sự đánh đổi giữa an toàn và lợi thế cạnh tranh mà các quốc gia và tập đoàn tìm kiếm để giành quyền lực và tầm ảnh hưởng. Động lực cạnh tranh này làm tăng rủi ro toàn cầu. Để giảm thiểu vấn đề này, chúng ta có thể cố gắng tác động vào nguồn gốc của nó, cụ thể là thiết kế lại các động lực kinh tế để ưu tiên an toàn dài hạn hơn lợi ích ngắn hạn. Điều này chủ yếu có thể thực hiện được thông qua quản trị quốc tế.

Quản trị AI hiệu quả hướng đến hai mục tiêu chính:

• Tranh thủ thời gian. Thời gian và nguồn lực để phát triển giải pháp, đảm bảo có đủ thời gian và nguồn lực được phân bổ cho việc xác định và triển khai các biện pháp an toàn.
• Thực thi giải pháp. Tăng cường phối hợp để nâng cao khả năng các biện pháp an toàn được áp dụng rộng rãi thông qua hợp tác toàn cầu. Rủi ro AI mang tính đa diện, đòi hỏi những quy định khuyến khích hành vi thận trọng ở các bên liên quan và ứng phó kịp thời với những mối đe dọa mới nổi.

Thiết kế động lực tốt hơn

Việc gắn kết động lực kinh tế với mục tiêu an toàn là một thách thức then chốt. Hiện nay, áp lực thương mại mạnh mẽ có thể tạo động lực cho việc phát triển năng lực nhanh chóng, có khả năng phải đánh đổi bằng nghiên cứu an toàn hay triển khai thận trọng. Cần có những cơ chế để khen thưởng sự an toàn hoặc trừng phạt sự bất cẩn, nhằm tránh những ngoại tác tiêu cực:

• Định hình lại cuộc đua thông qua phát triển tập trung. Ví dụ, Yoshua Bengio và cộng sự đề xuất tạo ra một cơ sở an ninh tương tự như CERN cho vật lý, nơi việc phát triển những công nghệ AI có khả năng nguy hiểm có thể được kiểm soát chặt chẽ (Bengio, 2023 (mở trong tab mới)). Biện pháp này còn lâu mới là một quan điểm được đồng thuận. Chúng ta đã tìm hiểu giải pháp này trong chiến lược "Phối hợp Toàn cầu" của an toàn ASI, ở phần an toàn ASI, nhưng nó cũng có thể có giá trị đối với nhiều lĩnh vực an toàn khác.
• Điều khoản chia sẻ lợi nhuận bất ngờ (windfall clause). Việc triển khai những thỏa thuận chia sẻ lợi nhuận giữa các phòng thí nghiệm khác nhau, phát sinh từ AGI, sẽ giảm thiểu cuộc đua giành vị thế thống trị AI, bằng cách đảm bảo lợi ích tập thể từ những thành công cá nhân⁴.
• Triển khai một hệ thống quản trị đúng đắn cho các công ty AGI. Điều quan trọng là xem xét cấu trúc quản trị của các phòng thí nghiệm AGI. Ví dụ, việc là một tổ chức phi lợi nhuận, với tuyên bố sứ mệnh nêu rõ mục tiêu không phải là tối đa hóa doanh thu mà là đảm bảo sự phát triển AI mang lại lợi ích cho toàn nhân loại, là một bước đầu quan trọng. Ngoài ra, hội đồng quản trị cần có thực quyền.
• Trách nhiệm pháp lý đối với các nhà phát triển AI. Việc thiết lập trách nhiệm pháp lý rõ ràng cho các nhà phát triển AI liên quan đến lợi dụng sai mục đích hay sự cố có thể giúp tái cân chỉnh động lực. Ví dụ, Đạo luật Đổi mới An toàn và Bảo mật cho các Mô hình Trí tuệ Nhân tạo Tối tân (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, SB 1047) đáng lẽ đã có thể cho phép Tổng Chưởng lý khởi kiện dân sự đối với các nhà phát triển gây ra tác hại thảm khốc, hay đe dọa an toàn công cộng do lơ là các yêu cầu quy định. Dự luật này (bị thống đốc bang phủ quyết vào năm 2024) chỉ giải quyết những rủi ro cực đoan từ các mô hình này, bao gồm: các cuộc tấn công mạng gây thiệt hại trên 500 triệu đô la, tội phạm tự động gây thiệt hại 500 triệu đô la, và việc tạo ra vũ khí hóa học, sinh học, phóng xạ, hoặc hạt nhân bằng AI. Lưu ý rằng, so với Đạo luật AI của EU (EU AI Act) và bộ quy tắc thực hành của nó, SB1047 không nêu chi tiết các bước cần thiết để đảm bảo tránh được thảm họa; nó chỉ nhắm đến kết quả cuối cùng, chứ không thực sự nhắm đến quy trình.

Các cơ chế Quản trị AI Quốc tế được Đề xuất

Nhiều cơ chế đã được đề xuất để thiết lập những ranh giới và quy tắc rõ ràng cho sự phát triển AI ở tầm quốc tế. Những cơ chế này bao gồm việc áp đặt lệnh tạm hoãn tạm thời đối với các hệ thống AI rủi ro cao, thực thi các quy định pháp lý như Đạo luật AI của EU, và thiết lập những "Lằn ranh Đỏ" (Red Lines) được thống nhất ở tầm quốc tế, cấm những năng lực AI nguy hiểm cụ thể, như tự nhân bản hay hỗ trợ tạo ra vũ khí hủy diệt hàng loạt. Các cuộc đối thoại IDAIS đã hướng đến việc xây dựng sự đồng thuận về những lằn ranh đỏ này, nhấn mạnh tính rõ ràng và phổ quát là những đặc điểm then chốt cho hiệu quả, với những vi phạm có khả năng kích hoạt những phản ứng quốc tế đã được thống nhất trước.

Các cách tiếp cận có điều kiện và việc thành lập những cơ quan quốc tế chuyên trách đại diện cho một chiến lược then chốt khác. "Cam kết Nếu-Thì" (If-Then Commitments) liên quan đến việc các nhà phát triển hoặc quốc gia đồng ý ban hành những biện pháp an toàn cụ thể nếu năng lực AI đạt đến những ngưỡng đã được xác định trước, cho phép chuẩn bị mà không cản trở sự phát triển một cách sớm — điều này được minh họa qua đề xuất Hiệp ước An toàn AI Có Điều kiện (Conditional AI Safety Treaty). Hơn nữa, có những đề xuất về các thể chế quốc tế mới, có thể được mô phỏng theo Cơ quan Năng lượng Nguyên tử Quốc tế (International Atomic Energy Agency, IAEA), để giám sát sự phát triển AI, xác minh việc tuân thủ các thỏa thuận, thúc đẩy nghiên cứu an toàn, và có khả năng tập trung hóa hoặc kiểm soát việc phát triển và phân phối những AI rủi ro cao nhất.

Những chế độ quản trị cụ thể và các cấu trúc hỗ trợ cũng đang được cân nhắc để tăng cường phối hợp quốc tế. Do bản chất toàn cầu của AI, những cơ chế như quản trị năng lực tính toán quốc tế nhằm giám sát và kiểm soát chuỗi cung ứng cho chip AI và hạ tầng huấn luyện quy mô lớn, dù tính khả thi kỹ thuật và hợp tác quốc tế vẫn còn là những thách thức. Những đề xuất khác bao gồm việc thành lập một cơ quan nghiên cứu an toàn AI quốc tế quy mô lớn tương tự CERN, có khả năng tập trung hóa nghiên cứu rủi ro cao hoặc thiết lập các tiêu chuẩn toàn cầu, và tăng cường bảo vệ người tố giác thông qua các thỏa thuận quốc tế, để khuyến khích việc báo cáo những lo ngại về an toàn trong ngành công nghiệp AI.

Để biết thêm thông tin về những chủ đề này, vui lòng đọc chương tiếp theo về quản trị AI.

Liệu Quản trị AI có hữu ích, đáng mong muốn, và khả thi không?

Trong lịch sử, lĩnh vực an toàn AI chủ yếu tập trung vào nghiên cứu kỹ thuật, một phần chịu ảnh hưởng từ những quan điểm như khẳng định của Eliezer Yudkowsky rằng "Chính trị là kẻ giết chết tư duy" (Politics is the mind killer). (Yudkowsky, 2007 (mở trong tab mới)) Trong nhiều năm, giới nghiên cứu cho rằng việc tham gia vào chính sách và chính trị là không hiệu quả, thậm chí phản tác dụng, so với việc trực tiếp giải quyết bài toán căn chỉnh kỹ thuật, khiến nhiều nhà nghiên cứu ban đầu quan tâm đến AGI ưu tiên các giải pháp kỹ thuật hơn là nỗ lực quản trị. Đáng ngạc nhiên, ban đầu, việc công khai thảo luận về những rủi ro này gần như bị không khuyến khích, để tránh thúc đẩy cuộc đua và tránh thu hút những người có "nhận thức luận kém" vào cộng đồng.

Tuy nhiên, đến năm 2023, ChatGPT được ra mắt, trở nên viral, và quản trị AI đã thu hút được sự chú ý đáng kể như một chiến lược khả thi tiềm năng để giảm thiểu rủi ro AGI. Sự thay đổi này diễn ra khi việc tương tác với các nhà hoạch định chính sách dường như mang lại một số kết quả, khiến quản trị có vẻ khả thi hơn so với trước đây từng nghĩ (Akash, 2023 (mở trong tab mới)). Sau đó, những bức thư ngỏ có tầm ảnh hưởng đã được công bố (FLI, CAIS), làm dịch chuyển cửa sổ Overton (Overton window). Kết quả là, những tổ chức có tầm ảnh hưởng như 80,000 Hours đã điều chỉnh khuyến nghị nghề nghiệp của họ, đưa các vai trò về chính sách và chiến lược AI lên trên cả nghiên cứu căn chỉnh kỹ thuật, xem đó là những ưu tiên hàng đầu về tầm ảnh hưởng (Fenwick, 2023 (mở trong tab mới)).

Tuy nhiên, cửa sổ Overton cho những biện pháp an toàn AI quốc tế nghiêm ngặt dường như đang thu hẹp lại. Trong khi những tuyên bố và nỗ lực ban đầu của các nhóm như Future of Life Institute và Center for AI Safety đã thành công trong việc mở rộng diễn ngôn công chúng và chính trị về rủi ro AI, những diễn biến sau đó — bao gồm các hội nghị thượng đỉnh quốc tế bị cho là yếu kém về an toàn, và những thay đổi trong giới lãnh đạo chính trị (như việc Donald Trump đắc cử) — đã đặt ra nghi ngờ về tính khả thi của việc đạt được sự phối hợp quốc tế vững chắc (Zvi, 2025 (mở trong tab mới)). Điều này khiến một số người trong lĩnh vực quản trị AI tin rằng một "phát súng cảnh báo" đáng kể — một minh chứng rõ ràng về sự nguy hiểm của AI — có thể là cần thiết để thúc đẩy hành động quyết liệt, dù vẫn có sự hoài nghi về việc liệu một sự kiện đủ sức thuyết phục như vậy có thực sự xảy ra trước khi quá muộn hay không (Segerie, 2024 (mở trong tab mới)).

Những quy định hiện có và được đề xuất đối mặt với những hạn chế đáng kể và những hệ quả tiêu cực tiềm ẩn. Chẳng hạn, những nỗ lực lập pháp nổi bật như Đạo luật AI của EU, dù mang tính đột phá ở một số khía cạnh, vẫn có những khoảng trống đáng chú ý (Brundage, 2025 (mở trong tab mới)); bộ quy tắc thực hành của nó có những hạn chế, và bản thân đạo luật có thể không bao quát đầy đủ những mô hình được triển khai bên ngoài châu Âu, những triển khai nội bộ thuần túy cho nghiên cứu, hay các ứng dụng quân sự. Một mối lo ngại nghiêm trọng là khả năng các phòng thí nghiệm AI tối tân tham gia vào những cuộc đua phát triển bí mật, né tránh giám sát — một kịch bản có thể được tạo điều kiện bởi những thay đổi chính sách, như việc thu hồi các sắc lệnh hành pháp yêu cầu chính phủ báo cáo về đánh giá các mô hình tối tân (Kokotajlo, 2025 (mở trong tab mới)).

Ngoài ra, còn có những lo ngại căn bản rằng chính những cấu trúc quản trị có khả năng kiểm soát AGI cũng có thể tự chúng gây ra rủi ro, có khả năng tạo điều kiện cho sự kiểm soát toàn trị.

Một góc nhìn hoài nghi sâu sắc cho rằng phần lớn câu chuyện về tiến bộ AI hiện nay và các hoạt động quản lý có thể mang tính trình diễn, hay "giả tạo". "Mô hình hoài nghi toàn diện" này cho rằng các phòng thí nghiệm AI lớn có thể đang phóng đại tiến bộ của họ hướng tới AGI để duy trì niềm tin của nhà đầu tư và sự cường điệu, có khả năng che giấu tiến độ thực tế chậm hơn hoặc sự trì trệ trong năng lực cốt lõi (Wentworth, 2025 (mở trong tab mới)). Song song đó, góc nhìn này cho rằng những nhà hoạt động và vận động hành lang về quy định AI có thể ưu tiên việc xây dựng quan hệ và địa vị trong giới chính sách hơn là soạn thảo những quy định thực sự hiệu quả, dẫn đến những biện pháp tập trung vào các chỉ số dễ nhắm đến nhưng có khả năng hời hợt (như ngưỡng năng lực tính toán), thay vì giải quyết những rủi ro căn bản (Wentworth, 2025 (mở trong tab mới)). Góc nhìn này ngụ ý một động lực trong đó cả các phòng thí nghiệm lẫn các nhà hoạt động vô tình củng cố lẫn nhau một câu chuyện về những đột phá AI sắp xảy ra, có thể kiểm soát được, nhưng có khả năng tách rời khỏi thực tế nền tảng (Wentworth, 2025 (mở trong tab mới)).

Tuy nhiên, góc nhìn hoài nghi về sự "giả tạo" này vẫn còn gây tranh cãi. Những người phê phán góc nhìn hoài nghi lập luận rằng những đề xuất quy định cụ thể, như SB 1047, thực sự chứa đựng những yếu tố có giá trị tiềm năng (ví dụ, yêu cầu năng lực tắt hệ thống, các biện pháp bảo vệ, và theo dõi các đợt huấn luyện lớn), ngay cả khi tác động tổng thể của chúng còn gây tranh cãi hoặc cuối cùng bị hạn chế (Segerie, 2025 (mở trong tab mới); Wentworth, 2025 (mở trong tab mới)). Cũng cần thừa nhận rằng các cơ quan quản lý hoạt động dưới những ràng buộc thực tế, bao gồm ảnh hưởng đáng kể từ vận động hành lang của các tập đoàn công nghệ lớn (Big Tech), điều có thể ngăn cản việc cấm những công nghệ khi chưa có bằng chứng rõ ràng về rủi ro không thể chấp nhận. Hơn nữa, hiện tượng "tuân thủ mang tính trình diễn" hay "màn kịch tuân thủ" (compliance theatre) được thừa nhận là có tồn tại, nhưng người ta lập luận rằng việc tham gia vào những quy trình không hoàn hảo này vẫn là cần thiết, và một số bước lập pháp, như việc Đạo luật AI của EU nêu rõ khái niệm "căn chỉnh với ý định con người", đại diện cho những tiến bộ có ý nghĩa tiềm năng (Hernandez, 2025 (mở trong tab mới)).

Quy định AI có thể vô tình làm tăng rủi ro hiện sinh qua nhiều con đường khác nhau (1a3orn, 2023 (mở trong tab mới)). Các quy định có thể hướng sai nỗ lực an toàn vào những vấn đề tuân thủ lỗi thời hoặc kém liên quan, làm phân tán sự chú ý khỏi những rủi ro mới nổi quan trọng hơn (Quy định Hướng sai); các quy trình quan liêu có xu hướng ưu ái những đối tượng lớn, đã có chỗ đứng, có khả năng cản trở những nỗ lực nghiên cứu an toàn nhỏ hơn, mang tính đổi mới; những quy định quốc gia quá nghiêm ngặt có thể đẩy sự phát triển AI sang những cá nhân quốc tế ít quan tâm đến an toàn hơn, làm suy yếu tầm ảnh hưởng của cơ quan quản lý ban đầu (Làm mất Năng lực của Các Quốc gia Quản lý); và những quy định, đặc biệt là những quy định hạn chế mô hình mã nguồn mở hoặc đặt ra chi phí tuân thủ cao, có thể củng cố quyền lực trong tay những công ty lớn nhất đang đẩy mạnh năng lực, có khả năng bóp nghẹt những cách tiếp cận an toàn thay thế và đẩy nhanh rủi ro (Trao Quyền cho Những Đối tượng Thống trị). Nhưng sự tồn tại của những lập luận này không đủ để khẳng định rằng quy định AI mang tác hại ròng; đây chủ yếu là một lời nhắc nhở rằng chúng ta cần thận trọng trong cách quản lý. Quỷ dữ nằm ở chi tiết.

Quản lý Rủi ro

Quản lý rủi ro đảm bảo rằng rủi ro trừ đi các biện pháp giảm thiểu vẫn nằm dưới ngưỡng chấp nhận được. Phương trình cốt lõi rất đơn giản: (Rủi ro − Biện pháp giảm thiểu) < Ngưỡng chấp nhận. Quá trình vận hành này kết nối mọi thứ khác — quản trị thiết lập quy tắc, đánh giá đo lường năng lực, văn hóa an toàn xác lập chuẩn mực, nhưng quản lý rủi ro mới là thứ đưa ra những quyết định hàng ngày về việc có nên tạm dừng huấn luyện hay không, biện pháp giảm thiểu nào cần triển khai, và làm sao để duy trì mức rủi ro chấp nhận được xuyên suốt quá trình phát triển. Khung này có bốn thành phần liên kết với nhau: xác định, phân tích, xử lý, và quản trị (Campos và cộng sự, 2024 (mở trong tab mới)). Mỗi thành phần giải quyết một câu hỏi riêng biệt về việc quản lý rủi ro AI một cách có hệ thống.

Xác định rủi ro nhằm tìm ra điều gì có thể sai sót. Đầu tiên, phân loại những rủi ro đã biết từ tài liệu nghiên cứu — bao gồm các lĩnh vực như an ninh mạng, CBRN (hóa học, sinh học, phóng xạ, hạt nhân), thao túng, tự nhân bản, và mất kiểm soát — với bất kỳ trường hợp loại trừ nào cũng cần được lý giải rõ ràng. Thứ hai, xác định những rủi ro chưa biết thông qua kiểm thử đối kháng cả nội bộ lẫn bên ngoài, khám phá vượt ra ngoài những hạng mục đã định trước. Thứ ba, tạo ra các mô hình rủi ro, vẽ ra từng bước con đường từ năng lực AI đến những tác hại trong thế giới thực, được xác nhận bởi các chuyên gia độc lập. Mục tiêu không chỉ là hiểu được điều gì xấu có thể xảy ra, mà cụ thể là chúng có thể xảy ra như thế nào.

Phân tích rủi ro chuyển hóa những mối lo ngại trừu tượng thành những ngưỡng có thể đo lường được. Bắt đầu bằng việc thiết lập một ngưỡng chấp nhận rủi ro — mức tác hại tối đa mà bạn sẽ chấp nhận, tốt nhất được biểu diễn định lượng dưới dạng xác suất nhân với mức độ nghiêm trọng trên mỗi đơn vị thời gian. Sau đó, cụ thể hóa điều này thành các Chỉ số Rủi ro Trọng yếu (Key Risk Indicators, KRI) — những ngưỡng năng lực như "đạt 60 phần trăm trên bài kiểm tra tấn công mạng" — kết hợp với các Chỉ số Kiểm soát Trọng yếu (Key Control Indicators, KCI) — những mục tiêu giảm thiểu như "duy trì cấp độ an ninh 3 và đạt 99,9 phần trăm khả năng chống vượt ngục". Sự kết hợp này tạo ra những tuyên bố nếu-thì: NẾU ngưỡng KRI này bị vượt qua, THÌ những mục tiêu KCI này phải được đáp ứng. Các tổ chức phải cam kết tạm dừng phát triển nếu không thể đạt được những KCI cần thiết.

Xử lý rủi ro triển khai và giám sát các biện pháp giảm thiểu. Việc này có hai giai đoạn. Đầu tiên, triển khai các biện pháp giảm thiểu trên ba hạng mục: biện pháp ngăn chặn (kiểm soát quyền truy cập thông qua an ninh thông tin), biện pháp triển khai (ngăn ngừa lợi dụng sai mục đích thông qua các biện pháp bảo vệ), và quy trình đảm bảo (cung cấp bằng chứng về an toàn cho những hệ thống tiên tiến). Thứ hai, liên tục giám sát dựa trên những ngưỡng đã định trước — theo dõi cả KRI để phát hiện khi nào những năng lực nguy hiểm xuất hiện, lẫn KCI để xác minh các biện pháp giảm thiểu vẫn còn hiệu quả. Kết quả nên được chia sẻ minh bạch với các bên liên quan, và hệ thống nên giám sát cả những rủi ro mới chưa được xác định từ ban đầu.

Quản trị rủi ro xác lập ai làm gì và ai xác minh việc đó được thực hiện như thế nào. Phần lớn các ngành công nghiệp sử dụng mô hình ba tuyến phòng thủ. Tuyến đầu tiên gồm những nhà quản lý vận hành, xây dựng hệ thống và chịu trách nhiệm về các quyết định rủi ro hàng ngày. Tuyến thứ hai bao gồm những đội ngũ rủi ro chuyên biệt, tư vấn và phản biện các quyết định kinh doanh. Tuyến thứ ba là kiểm toán nội bộ — độc lập với áp lực từ đồng nghiệp, báo cáo trực tiếp lên hội đồng quản trị để xác minh hệ thống hoạt động đúng. Ngoài cấu trúc này, quản trị còn bao gồm sự giám sát ở cấp hội đồng quản trị, văn hóa rủi ro xuyên suốt tổ chức, và tính minh bạch bên ngoài về rủi ro và quy trình ra quyết định (Schuett, 2022 (mở trong tab mới)).

Một phân tích cực kỳ chi tiết về các thông lệ quản lý rủi ro và an toàn hiện nay được saferAI thực hiện, có sẵn tại đây (mở trong tab mới). Mỗi hạng mục — xác định, phân tích, xử lý và quản trị — được phân rã sâu hơn thành những chỉ số cực kỳ chi tiết, được theo dõi và phân tích để đưa ra xếp hạng rủi ro cho tất cả các tổ chức AI tối tân.

Văn hóa An toàn

Văn hóa an toàn nghĩa là xây dựng những tổ chức nơi con người luôn ưu tiên an toàn hơn tốc độ, và nơi những lo ngại về an toàn thực sự có thể thay đổi quyết định. Đây là một chiến lược để ngăn ngừa tai nạn AI thông qua thiết kế tổ chức, chứ không chỉ những giải pháp kỹ thuật đơn thuần. Quản lý rủi ro xuất hiện trong nhiều lĩnh vực, bao gồm hàng không vũ trụ, điện hạt nhân, và dịch vụ tài chính. Mỗi lĩnh vực này đã phát triển những cách tiếp cận tinh vi để xác định, phân tích, và giảm thiểu những tác hại tiềm ẩn. Chúng ta muốn giảm thiểu những thất bại an toàn AI bắt nguồn từ các yếu tố con người và tổ chức — vội vã triển khai những hệ thống chưa được kiểm thử đầy đủ, phớt lờ những dấu hiệu cảnh báo, hay tạo ra những động lực khen thưởng tốc độ hơn sự cẩn trọng. Việc tích hợp văn hóa an toàn giải quyết những nguyên nhân gốc rễ này bằng cách thay đổi cách các tổ chức vận hành.

Ngành công nghiệp AI thiếu văn hóa an toàn chuyên nghiệp vốn có trong ngành kỹ thuật truyền thống. Những lĩnh vực như kỹ thuật xây dựng và kỹ thuật cơ khí có những quy tắc đạo đức nghề nghiệp, biên độ an toàn, và kỹ thuật độ tin cậy như một thông lệ tiêu chuẩn. Phát triển AI xuất phát từ toán học và khoa học máy tính, những lĩnh vực mà ngoài các hệ thống phần mềm trọng yếu về an toàn, vốn có truyền thống an toàn yếu hơn. Khác với những ngành công nghiệp khác, nơi người lao động trực tiếp trải nghiệm rủi ro an toàn, các nhà phát triển AI hiếm khi phải đối mặt với hậu quả từ những thất bại của hệ thống họ tạo ra. Khoảng cách này khiến việc xây dựng nhận thức chung về rủi ro — vốn là động lực cho văn hóa an toàn ở những lĩnh vực khác — trở nên khó khăn hơn (Mannheim, 2023 (mở trong tab mới)).

Văn hóa an toàn AI phải mang tính chủ động hướng về tương lai, thay vì chỉ phản ứng. Phần lớn các ngành công nghiệp phát triển văn hóa an toàn sau những thảm họa lớn — điện hạt nhân sau sự cố Three Mile Island, y tế sau hàng thập kỷ những cái chết có thể phòng ngừa được. Việc chờ đợi những thảm họa AI xảy ra sẽ là vô trách nhiệm, vì một số thất bại có thể sẽ không thể vượt qua được (Mannheim, 2023 (mở trong tab mới)).

Ngành hàng không vũ trụ minh chứng cách văn hóa an toàn có thể biến đổi toàn bộ một lĩnh vực thông qua những thông lệ có hệ thống. Ngành hàng không đã chuyển từ tình trạng tai nạn thường xuyên sang những kỷ lục an toàn phi thường, không chỉ nhờ công nghệ tốt hơn, mà còn nhờ những thay đổi văn hóa như báo cáo sự cố bắt buộc, điều tra an toàn không quy trách nhiệm cá nhân, và những quy trình chuẩn hóa ưu tiên an toàn hơn áp lực tiến độ. Các công ty AI có thể áp dụng những thông lệ tương tự: báo cáo sự cố có hệ thống, đào tạo an toàn định kỳ, và những cấu trúc tổ chức đảm bảo những lo ngại về an toàn được truyền đến những người ra quyết định có thẩm quyền hành động.

Văn hóa an toàn vững chắc có ba đặc điểm có thể quan sát được: trách nhiệm giải trình của lãnh đạo, quy trình có hệ thống, và sự an toàn tâm lý khi nêu lên lo ngại. Khung Quản lý Rủi ro AI (AI Risk Management Framework) của NIST xác định lãnh đạo cấp cao chịu trách nhiệm cá nhân đối với các quyết định về rủi ro AI, những đội ngũ đa dạng cung cấp thông tin cho quản lý rủi ro xuyên suốt quá trình phát triển, và các quy trình có hệ thống để báo cáo sự cố và chia sẻ thông tin trong toàn tổ chức (NIST, 2023 (mở trong tab mới)). Những tổ chức có văn hóa an toàn triển khai các quy trình có hệ thống, trong đó những cân nhắc về an toàn được tích hợp vào quy trình làm việc tiêu chuẩn, thay vì chỉ là những phần bổ sung tùy chọn. Họ tạo ra những môi trường nơi nhân viên có thể nêu lên lo ngại về an toàn mà không bị ảnh hưởng đến sự nghiệp — và nơi những lo ngại đó có tác động rõ ràng đến các quyết định. Như một ví dụ, NASA đã học được rằng sự xuất sắc về kỹ thuật là chưa đủ — thảm họa tàu con thoi Challenger xảy ra một phần vì những lo ngại về an toàn của các kỹ sư không đến được với người ra quyết định, do những động lực tổ chức không khuyến khích sự bất đồng.

Văn hóa an toàn vượt ra ngoài từng dự án riêng lẻ, bao trùm cả việc tuyển dụng, đánh giá hiệu suất, và các động lực tổ chức. Những công ty coi trọng văn hóa an toàn đánh giá ứng viên về tư duy an toàn trong quá trình tuyển dụng, đưa các chỉ số an toàn vào đánh giá hiệu suất, và đảm bảo công việc an toàn được công nhận và khen thưởng, thay vì bị xem là làm chậm "tiến bộ thực sự". Điều này bao gồm việc dành thời gian và nguồn lực chuyên biệt cho công việc an toàn, chứ không xem đó là thứ các đội ngũ phải chen vào giữa những ưu tiên khác. Những tổ chức có văn hóa an toàn vững chắc duy trì hệ thống báo cáo sự cố chi tiết, tiến hành đánh giá an toàn định kỳ, và thể hiện sự cải tiến liên tục trong thông lệ an toàn của họ. Họ đầu tư vào các chương trình đào tạo vượt ra ngoài những danh sách kiểm tra tuân thủ đơn thuần, để phát triển chuyên môn an toàn thực sự trong các đội ngũ. Quan trọng nhất, họ tạo ra những vòng phản hồi, nơi thông tin an toàn lưu chuyển cả lên trên lẫn xuống dưới trong tổ chức, cho phép học hỏi và thích nghi nhanh chóng khi những rủi ro mới xuất hiện.

Văn hóa an toàn yếu kém đồng nghĩa với việc chúng ta chứng kiến hiện tượng tẩy an toàn (safety washing) — vẻ ngoài quan tâm đến an toàn mà không có thực chất. Những tổ chức có văn hóa an toàn yếu thường có chính sách an toàn trên giấy tờ nhưng không tuân theo chúng khi chịu áp lực. Họ có thể đổ lỗi cho cá nhân về những sự cố, thay vì xem xét những nguyên nhân mang tính hệ thống. Họ thường xem công việc an toàn như một gánh nặng làm chậm "tiến bộ thực sự", dẫn đến việc thiếu nguồn lực và bị gạt ra bên lề đối với các đội ngũ an toàn. Những lo ngại về an toàn trong những tổ chức này hiếm khi thay đổi được các quyết định triển khai thực tế. Chúng tôi sẽ bàn thêm về tẩy an toàn trong phần thách thức.

Chú thích

⁴ Ví dụ, trong ngành dược phẩm, đối với việc phát triển thuốc, các công ty đôi khi tham gia vào những thỏa thuận cùng phát triển và chia sẻ lợi nhuận, để chia sẻ rủi ro và phần thưởng khi đưa một loại thuốc mới ra thị trường. Ví dụ, vào năm 2014, Pfizer và Merck đã tham gia vào một liên minh toàn cầu để cùng phát triển và cùng thương mại hóa một kháng thể kháng PD-L1, dùng để điều trị nhiều loại ung thư.