Chương 2.6: Yếu tố khuếch đại rủi ro

Những yếu tố như động lực chạy đua cạnh tranh, thái độ dửng dưng của doanh nghiệp, và tai nạn làm gia tăng khả năng xảy ra và mức độ nghiêm trọng của mọi rủi ro AI khác.

Rủi ro AI không tồn tại một cách biệt lập — chúng bị khuếch đại bởi các động lực cạnh tranh và phối hợp xoay quanh việc phát triển AI. Trong khi từng hệ thống AI riêng lẻ có thể chỉ gây ra rủi ro ở mức quản lý được, hệ sinh thái rộng lớn hơn về cách các hệ thống này được phát triển, triển khai, và quản trị lại tạo ra những áp lực mang tính hệ thống có thể làm gia tăng đáng kể khả năng xảy ra và mức độ nghiêm trọng của các kết cục gây hại. Những yếu tố khuếch đại này vận hành độc lập với bất kỳ năng lực AI cụ thể nào hay phương thức thất bại cụ thể nào, khiến việc hiểu và giải quyết chúng trở nên đặc biệt quan trọng.

Động lực Chạy đua

Áp lực cạnh tranh làm suy yếu một cách có hệ thống các khoản đầu tư cho an toàn khi tốc độ mang lại lợi thế quyết định. Việc phát triển AI ngày càng giống với cái mà các nhà kinh tế học gọi là cuộc thi "kẻ thắng lấy hết" (winner-take-all), trong đó bên đầu tiên đạt được các năng lực then chốt sẽ giành được phần thưởng không tương xứng. Những phần thưởng này bao gồm lợi thế người đi đầu trong việc chiếm lĩnh thị phần, tiếp cận nhân tài và dữ liệu tốt nhất, và khả năng thiết lập các tiêu chuẩn ngành (Cave & Ó hÉigeartaigh, 2018 (mở trong tab mới)). Kết quả là một động lực chạy đua trong đó các bên cạnh tranh chịu áp lực lớn phải ưu tiên tốc độ phát triển hơn là kiểm thử an toàn cẩn thận và giảm thiểu rủi ro. Khác với các cuộc cách mạng công nghệ trước đây diễn ra qua nhiều thập kỷ, năng lực AI đang tiến bộ với tốc độ chưa từng có. Như một phân tích đã lưu ý, "AI đang trỗi dậy không phải trong khung thời gian hàng thế kỷ hay hàng thập kỷ, mà là hàng năm và hàng tháng" (Gruetzemacher và cộng sự, 2024 (mở trong tab mới)). Khung thời gian bị nén lại này càng làm gia tăng áp lực cạnh tranh và giảm bớt thời gian dành cho công việc an toàn cẩn trọng — công việc có thể phải mất nhiều năm mới mang lại kết quả.

Động lực "cuộc đua xuống đáy" [race to the bottom] nảy sinh khi an toàn trở thành một bất lợi cạnh tranh. Hãy nghĩ đến điều gì xảy ra khi một công ty quyết định giảm bớt kiểm thử an toàn để đẩy nhanh việc triển khai. Điều này làm tăng vị thế thị trường kỳ vọng của họ trong khi làm giảm vị thế kỳ vọng của các đối thủ cạnh tranh. Các công ty khác khi đó chịu áp lực phải làm theo mức đầu tư an toàn đã bị cắt giảm này để duy trì vị thế cạnh tranh của mình. Kết quả là một bài toán hành động tập thể, trong đó tất cả các công ty đều đầu tư cho an toàn ít hơn mức họ mong muốn, trong khi vẫn duy trì vị thế tương đối tương tự nhau trong cuộc đua (Askell và cộng sự, 2024 (mở trong tab mới)). Ta có thể chứng kiến các mô hình được phát hành dù đã biết có lỗ hổng, được biện minh bởi nhu cầu duy trì vị thế thị trường. Khi các đối thủ công bố những năng lực đột phá, những bên khác chịu áp lực phải phản ứng nhanh chóng bằng các bản phát hành của riêng mình, thường phải cắt ngắn các đợt đánh giá an toàn đã lên kế hoạch. Áp lực hàng quý đối với các công ty đại chúng trong việc chứng minh tiến bộ cho nhà đầu tư để lại rất ít không gian cho công việc an toàn kéo dài — công việc có thể mất hàng tháng hoặc hàng năm mới hoàn thành đúng cách. Một ví dụ cụ thể là sự cạnh tranh thị trường lành mạnh đã không thể ngăn chặn sự lan rộng ồ ạt của các thuật toán gợi ý và nội dung gây nghiện đang làm xói mòn sự gắn kết xã hội và phúc lợi cá nhân. Điều tương tự cũng có thể xảy ra với việc phát triển AGI nếu ta dựa vào các cơ chế thị trường tự do để đảm bảo an toàn.

Tại sao các ngành khác không chạy đua xuống đáy về an toàn?

Ngành dược phẩm là một ví dụ trái ngược. Việc phát triển thuốc liên quan đến sự cạnh tranh khốc liệt và áp lực đáng kể về thời gian đưa sản phẩm ra thị trường, nhưng việc chạy đua xuống đáy về an toàn lại hiếm khi xảy ra. Khác biệt then chốt nằm ở cách các thất bại về an toàn đã được nội hóa thông qua quy định pháp lý, trách nhiệm pháp lý, và các cơ chế thị trường. Các công ty dược phẩm phải đối mặt với các quy trình phê duyệt pháp lý nghiêm ngặt, đòi hỏi kiểm thử an toàn kỹ lưỡng trước khi được đưa ra thị trường. Các công ty cố tình cắt giảm an toàn sẽ bị từ chối phê duyệt, gánh chịu rủi ro trách nhiệm pháp lý khổng lồ, và tổn hại danh tiếng nghiêm trọng. Các lực lượng thị trường cũng ủng hộ an toàn — bệnh nhân và các nhà cung cấp dịch vụ y tế thường ưu tiên mạnh mẽ các loại thuốc đã được chứng minh an toàn, và các hệ thống bảo hiểm tạo thêm động lực cho an toàn. Điều này cùng nhau nâng cao "mức đáy" chấp nhận được cho toàn ngành (Askell và cộng sự, 2024 (mở trong tab mới)).

Việc phát triển AI hiện nay thiếu những cơ chế ổn định này. Các quy trình phê duyệt pháp lý vẫn còn tối thiểu hoặc không tồn tại đối với hầu hết các ứng dụng AI. Các khung trách nhiệm pháp lý vẫn còn kém phát triển, khiến việc quy trách nhiệm cho các công ty về những tổn hại liên quan đến AI trở nên khó khăn. Động lực thị trường thường ưu ái năng lực hơn là an toàn, vì khách hàng gặp khó khăn trong việc đánh giá độ an toàn của AI và có thể ưu tiên tính năng và hiệu suất hơn là giảm thiểu rủi ro.

Việc chạy đua khuếch đại cả ba nhóm rủi ro qua những con đường khác nhau. Đối với rủi ro lợi dụng sai mục đích, việc chạy đua làm tăng khả năng các năng lực mạnh mẽ đến tay các cá nhân xấu trước khi các biện pháp an ninh đầy đủ được triển khai — như đã thấy khi các mô hình ngôn ngữ có khả năng tạo ra thông tin sai lệch và mã độc trở nên phổ biến rộng rãi trong giai đoạn 2022-2023 trước khi có các biện pháp đối phó vững chắc. Đối với rủi ro mất căn chỉnh, việc chạy đua làm giảm thời gian dành cho nghiên cứu căn chỉnh và kiểm thử an toàn, làm tăng khả năng những AI có hành vi đánh lừa đặc tả hoặc mưu tính được đưa vào triển khai. Đối với rủi ro hệ thống, việc chạy đua đẩy nhanh việc AI được nhúng vào hạ tầng trọng yếu trước khi xã hội kịp thích ứng. Việc áp dụng nhanh chóng giao dịch thuật toán trong thị trường tài chính là một ví dụ — lợi thế cạnh tranh từ tốc độ đã dẫn đến việc triển khai rộng rãi trước khi có đủ các cầu dao ngắt mạch (circuit breakers), góp phần gây ra các vụ sụp đổ chớp nhoáng (flash crash).

Tai nạn

Sự phát triển với thiện chí vẫn có thể tạo ra những kết cục thảm họa thông qua các sai sót ngoài ý muốn và lỗi của con người. Các hệ thống thất bại theo những cách mà người thiết kế chúng chưa từng lường trước, thường là dù đã có kế hoạch cẩn thận và thiện chí. Trong thảm họa tàu con thoi Challenger, các kỹ sư dự định thực hiện một lần phóng thông thường, nhưng một vòng đệm chữ O bị thiếu đã gây ra vụ nổ khiến bảy người thiệt mạng (Rogers Commission, 1986 (mở trong tab mới)). Trong sứ mệnh Mariner 1, các nhà khoa học dự định khám phá Sao Kim, nhưng một dấu gạch nối bị thiếu trong mã dẫn đường đã dẫn đến việc phá hủy con tàu vũ trụ trị giá 80 triệu đô la (Ceruzzi, 1989 (mở trong tab mới)). Việc sử dụng chlorofluorocarbon (CFC) vốn nhằm tạo ra bình chữa cháy và chất làm lạnh, nhưng đã vô tình tạo ra một lỗ thủng trên tầng ozone đe dọa mọi sự sống trên Trái Đất (NASA, 2004 (mở trong tab mới)). Dù công nghệ có tiên tiến đến đâu, nhu cầu căn bản về sự chính xác và thẩm định kỹ lưỡng vẫn không hề thay đổi.

Tai nạn xảy ra khi các hệ thống AI gây hại thông qua những sai sót ngoài ý muốn, dù các nhà phát triển có thiện chí và tuân theo các thực hành an toàn hợp lý. Khác với lợi dụng sai mục đích (khi con người cố ý gây hại) hay mất căn chỉnh (khi hệ thống AI biết rõ nhưng vẫn hành động trái với ý định của nhà phát triển), tai nạn xảy ra khi các quyết định của con người hoặc AI dẫn đến tổn hại mà không nhận ra hậu quả. Điều này bao gồm các thất bại do năng lực không đủ, thiếu thông tin, lỗi lập trình, hoặc kiểm thử không đầy đủ (Shah và cộng sự, 2025 (mở trong tab mới)). Giống như tàu vũ trụ Mariner 1 gặp nạn chỉ vì thiếu một dấu gạch nối, trong AI ta cũng có thể thấy những tai nạn tiềm tàng chỉ vì một ký tự đặt sai chỗ. Trong quá trình huấn luyện GPT-2, OpenAI đã vô tình đảo ngược dấu của hàm phần thưởng — đổi dấu cộng thành dấu trừ. Thay vì tạo ra văn bản vô nghĩa, lỗi này đã tạo ra một mô hình tối ưu hóa cho nội dung phản cảm ở mức tối đa trong khi vẫn giữ được sự trôi chảy tự nhiên của ngôn ngữ. Như các nhà nghiên cứu đã lưu ý, "Lỗi này thật đáng chú ý vì kết quả không phải là văn bản vô nghĩa mà là kết quả tồi tệ ở mức tối đa. Các tác giả khi đó đang ngủ trong lúc quá trình huấn luyện diễn ra, nên vấn đề chỉ được phát hiện sau khi việc huấn luyện đã kết thúc" (Ziegler và cộng sự, 2020 (mở trong tab mới)).

Văn hóa phát triển "hành động nhanh và chấp nhận sai sót" (move fast and break things) về căn bản xung đột với việc kiểm thử bài bản cần thiết để phòng ngừa tai nạn. Ngành hàng không, dược phẩm, và kỹ thuật hạt nhân đòi hỏi kiểm thử kỹ lưỡng chính vì các thất bại mang hậu quả nghiêm trọng và không thể đảo ngược. Các hệ thống AI ngày càng kiểm soát hạ tầng trọng yếu, thị trường tài chính, và các quyết định ảnh hưởng đến đời sống con người — những nơi mà các giả định phần mềm truyền thống không còn phù hợp. Tuy nhiên, thay vì áp dụng các chuẩn mực an toàn từ những ngành có rủi ro cao, việc phát triển AI thường theo tư duy "hành động nhanh và chấp nhận sai sót" phổ biến trong phần mềm tiêu dùng, nơi các thất bại chỉ gây bất tiện chứ không phải thảm họa.

Việc phòng ngừa tai nạn đòi hỏi ta phải có khả năng xử lý những "điều chưa biết mà ta không biết là mình chưa biết" (unknown unknowns) có thể phát sinh sau khi triển khai. Các thực hành kỹ thuật an toàn tiêu chuẩn như phòng thủ theo chiều sâu, triển khai theo giai đoạn, xác minh năng lực, và kiểm thử an toàn — khi được áp dụng đúng cách — sẽ giảm đáng kể rủi ro tai nạn. Tuy nhiên, điều này đòi hỏi việc áp dụng và thực thi nghiêm ngặt thông qua cả tiêu chuẩn ngành lẫn quy định pháp lý (Shah và cộng sự, 2025 (mở trong tab mới)).

Nghịch lý Collingridge

Nghịch lý này về căn bản nêu bật thách thức của việc dự đoán và kiểm soát tác động của các công nghệ mới. Nó cho rằng trong giai đoạn đầu của một công nghệ mới, các tác động của nó chưa được hiểu rõ đầy đủ và quá trình phát triển của nó vẫn còn dễ uốn nắn. Việc cố gắng kiểm soát — hay định hướng — nó là một thách thức do thiếu thông tin về hậu quả và tác động tiềm tàng của nó. Ngược lại, khi các tác động này đã rõ ràng và nhu cầu kiểm soát trở nên hiển nhiên, công nghệ đó thường đã ăn sâu vào xã hội đến mức bất kỳ nỗ lực nào nhằm quản lý hay thay đổi nó đều trở nên cực kỳ khó khăn, tốn kém, và gây xáo trộn xã hội.

Sự Dửng dưng

Đôi khi các công ty vẫn tiếp tục kinh doanh những sản phẩm gây hại dù biết rõ rủi ro, ưu tiên lợi nhuận hơn an toàn công cộng. Khuôn mẫu này lặp lại trên nhiều ngành khi các tổ chức phát hiện ra sản phẩm của mình gây hại nhưng tính toán rằng việc tiếp tục bán hàng có lợi hơn là gánh chịu các chi phí tiềm tàng. Các công ty thuốc lá dự định tạo ra những sản phẩm mang lại khoái cảm, đã biết qua nghiên cứu nội bộ rằng chúng gây ung thư, nhưng vẫn tiếp tục quảng cáo thuốc lá và tài trợ các chiến dịch phủ nhận trong nhiều thập kỷ, gây ra hàng triệu ca tử vong (Truth Initiative, 2017 (mở trong tab mới)). Ford dự định tạo ra những chiếc xe giá cả phải chăng, phát hiện ra bình xăng của mẫu Pinto có thể phát nổ khi va chạm từ phía sau, tính toán rằng chi phí kiện tụng sẽ thấp hơn chi phí thu hồi xe, và vẫn tiếp tục sản xuất, dẫn đến những cái chết đáng lẽ có thể phòng tránh được (Dowie, 1977 (mở trong tab mới)). Các công ty dược phẩm dự định điều trị cơn đau, đã biết về nguy cơ gây nghiện của OxyContin qua các thử nghiệm lâm sàng, nhưng vẫn tiếp tục các chiến dịch tiếp thị mạnh mẽ đã tiếp tay cho đại dịch opioid (Keefe, 2017 (mở trong tab mới)). Mỗi trường hợp đều theo cùng một khuôn mẫu: thiện chí ban đầu, nhận thức rõ ràng về tác hại, và các quyết định có chủ đích để tiếp tục bất chấp điều đó.

Áp lực cạnh tranh có thể khiến các nhà phát triển AI phát hiện ra rủi ro an toàn nhưng vẫn phát hành hệ thống. Khác với tai nạn (khi tổn hại xảy ra dù có thiện chí) hay lợi dụng sai mục đích (khi các cá nhân xấu cố ý gây hại), sự dửng dưng xảy ra khi các công ty biết rõ nhưng vẫn chấp nhận rủi ro để duy trì vị thế thị trường hoặc nguồn doanh thu. Nghiên cứu nội bộ của Meta cho thấy Instagram gây tổn hại đáng kể đến sức khỏe tâm thần của người dùng tuổi teen, nhưng công ty vẫn tiếp tục thiết kế các tính năng được biết là gây nghiện trong khi công khai phủ nhận bằng chứng (Haugen, 2021 (mở trong tab mới)). Như một đơn kiện cáo buộc, "Họ đã cố ý thiết kế các ứng dụng của mình để gây nghiện cho người dùng trẻ tuổi, đồng thời chủ động và nhiều lần lừa dối công chúng về mối nguy hiểm mà việc lạm dụng sản phẩm của họ gây ra cho giới trẻ" (Office of the Attorney General, 2023 (mở trong tab mới)). Điều này cho thấy các công ty có thể ưu tiên các chỉ số tương tác hơn là phúc lợi người dùng ngay cả khi nghiên cứu nội bộ đã ghi nhận rõ ràng tác hại.

Cả "tẩy an toàn" lẫn "tẩy năng lực" đều có thể thay thế cho khoản đầu tư an toàn thực chất. Cũng giống như các công ty thực hiện "tẩy xanh" (greenwashing) bằng cách nhấn mạnh những sáng kiến môi trường nhỏ nhặt trong khi né tránh những thay đổi thực chất, ta cũng có thể bắt đầu chứng kiến nhiều trường hợp "tẩy an toàn" (safety washing) hơn (Ren và cộng sự, 2024 (mở trong tab mới)). Điều này có thể bao gồm việc công khai các cam kết an toàn trong khi cắt giảm kiểm thử, bỏ qua các đợt red-teaming độc lập, và biện minh cho các dấu hiệu cảnh báo. Điều này tạo ra một vẻ ngoài ý thức về an toàn nhằm che giấu khoản đầu tư an toàn thực sự không đầy đủ. Các cam kết về an toàn và đạo đức trở thành công cụ tiếp thị thay vì ràng buộc vận hành thực sự, cho phép các công ty tuyên bố trách nhiệm trong khi vẫn duy trì lợi thế cạnh tranh nhờ chu kỳ phát triển nhanh hơn.

Việc ngăn chặn sự dửng dưng đòi hỏi các cơ chế trách nhiệm giải trình bên ngoài khiến việc vi phạm an toàn trở nên tốn kém. Sự dửng dưng của doanh nghiệp tồn tại dai dẳng khi các công ty có thể đẩy chi phí của các quyết định của mình ra ngoài xã hội trong khi vẫn thu về lợi ích cho riêng mình. Các ngành có hồ sơ an toàn tốt — hàng không, dược phẩm, điện hạt nhân — đã phát triển các khung trách nhiệm pháp lý vững chắc, sự giám sát pháp lý, và các chuẩn mực nghề nghiệp khiến các thất bại về an toàn trở nên cực kỳ tốn kém đối với các công ty. Việc phát triển AI hiện nay thiếu những cơ chế này, tạo ra một môi trường nơi sự dửng dưng có thể phát triển mà không bị kiểm soát (Askell và cộng sự, 2024 (mở trong tab mới)). Nếu không có áp lực bên ngoài thông qua quy định pháp lý, trách nhiệm pháp lý, và hậu quả thị trường, các công ty sẽ tiếp tục có động cơ ưu tiên lợi thế cạnh tranh ngắn hạn hơn là các cân nhắc an toàn dài hạn.

Vấn đề Hành động Tập thể

Vì ta đã có một lịch sử lâu dài suy ngẫm về mối đe dọa này và về việc phải làm gì với nó, từ các hội nghị khoa học cho đến những bộ phim bom tấn Hollywood, bạn có thể kỳ vọng rằng nhân loại sẽ vào guồng với sứ mệnh định hướng AI theo một hướng an toàn hơn là để siêu trí tuệ vượt tầm kiểm soát. Nghĩ lại đi. — Max Tegmark

Vấn đề hành động tập thể ngăn cản việc triển khai các biện pháp an toàn vốn có lợi cho tất cả mọi người. Ngay cả khi tất cả các bên liên quan đều đồng ý rằng một số biện pháp an toàn nhất định sẽ mang lại lợi ích, các rào cản mang tính cấu trúc vẫn ngăn cản việc triển khai chúng. Các cá nhân đối mặt với động cơ "ăn theo" (free-ride) trên các khoản đầu tư an toàn của người khác, hoặc không thể cam kết một cách đáng tin cậy vào các thỏa thuận hợp tác. Khác với động lực chạy đua — nơi áp lực cạnh tranh trực tiếp làm suy yếu an toàn — vấn đề hành động tập thể đại diện cho những thất bại trong hợp tác, thường nảy sinh như một hệ quả của áp lực cạnh tranh.

Sự bất ổn chính trị làm gián đoạn các khung hợp tác dài hạn. Việc hợp tác về an toàn AI đòi hỏi cam kết bền vững trong nhiều năm hoặc nhiều thập kỷ, nhưng các hệ thống chính trị lại vận hành trên những khung thời gian ngắn hơn nhiều. Các cuộc bầu cử và chuyển giao chính trị thường xuyên làm gián đoạn các chính sách tập trung vào an toàn, khi các nhà lãnh đạo mới ưu tiên tính cạnh tranh hơn là hợp tác (Gruetzemacher và cộng sự, 2024 (mở trong tab mới)). Một ví dụ cụ thể cho điều này là việc Tổng thống Trump bãi bỏ sắc lệnh hành pháp về AI của Tổng thống Biden. Sắc lệnh năm 2023 yêu cầu các công ty xây dựng các mô hình AI mạnh mẽ phải chia sẻ thông tin an toàn với chính phủ, nhưng sự giám sát này đã biến mất do chuyển giao chính trị (Whitehouse, 2025 (mở trong tab mới); Whitehouse, 2025 (mở trong tab mới)). Sự bất ổn làm suy yếu cả các thỏa thuận quốc tế lẫn các khung an toàn trong nước. Khi một chính quyền đàm phán các tiêu chuẩn an toàn và chính quyền kế tiếp từ bỏ chúng, việc hợp tác dài hạn về các vấn đề toàn cầu trở nên gần như bất khả thi.

Động cơ "ăn theo" làm suy yếu đầu tư an toàn tập thể. Mỗi bên đều hưởng lợi khi các bên khác đầu tư vào các biện pháp an toàn nhưng lại muốn để bên khác gánh chi phí. Một công ty được lợi khi các đối thủ cạnh tranh phát triển các thực hành an ninh tốt hơn (làm giảm lỗ hổng chung của cả hệ sinh thái) nhưng lại muốn tránh chi phí tự mình triển khai các biện pháp đó. Các quốc gia được lợi khi các nước khác hạn chế những năng lực AI nguy hiểm nhưng lại muốn duy trì lợi thế phát triển của riêng mình. Điều này tạo ra tình trạng đầu tư dưới mức cần thiết cho an toàn một cách có hệ thống so với mức tối ưu cho xã hội, ngay cả khi tất cả các bên đều nhận ra lợi ích tập thể.

Các vấn đề về cam kết và thực thi ngăn cản sự hợp tác đáng tin cậy. Ngay cả khi một công ty thực sự muốn hợp tác hoặc phát triển AGI an toàn, họ cũng không thể cam kết một cách đáng tin cậy về việc duy trì các tiêu chuẩn an toàn nếu không có các cơ chế thực thi từ bên ngoài. Các công ty có thể thực lòng dự định ưu tiên an toàn nhưng lại chịu áp lực từ cổ đông phải cắt giảm khi các đối thủ giành được lợi thế do động lực chạy đua ta đã bàn ở phần trước. Các quốc gia có thể ký các thỏa thuận an toàn trong khi bí mật tiếp tục phát triển thông qua các chương trình bí mật hoặc các công ty tư nhân. Nếu không có sự thực thi đáng tin cậy, các thỏa thuận sẽ trở thành lời nói suông sụp đổ trước áp lực cạnh tranh.

Thất bại trong phối hợp khuếch đại rủi ro bằng cách ngăn cản các biện pháp bảo vệ tập thể. Nhiều rủi ro AI đòi hỏi các phản ứng phối hợp mà từng cá nhân không thể tự mình triển khai. Việc ngăn chặn các cuộc tấn công mạng có sự hỗ trợ của AI đòi hỏi hợp tác quốc tế về các chuẩn mực và thực thi an ninh mạng. Việc giải quyết rủi ro hệ thống từ việc triển khai AI đòi hỏi sự phối hợp giữa các công ty, cơ quan quản lý, và các tổ chức quốc tế để xây dựng các cơ chế giám sát. Khi sự phối hợp thất bại, từng cá nhân không thể tự mình triển khai các biện pháp bảo vệ đầy đủ — các biện pháp an ninh mạnh mẽ của một công ty chỉ mang lại sự bảo vệ hạn chế nếu các đối thủ cạnh tranh triển khai các hệ thống dễ bị tổn thương mà các cá nhân xấu có thể khai thác (Askell và cộng sự, 2024 (mở trong tab mới)).

Học hỏi từ sự Phối hợp trong các lĩnh vực khác

Biến đổi khí hậu mang lại cả những bài học cảnh báo lẫn những mô hình tiềm năng cho sự hợp tác quản trị AI. Giống như AI, biến đổi khí hậu liên quan đến những thách thức phối hợp toàn cầu, rủi ro dài hạn, và xung đột giữa lợi ích kinh tế trước mắt và an toàn tập thể. Tuy nhiên, quản trị khí hậu đã đạt được một số thành công đáng chú ý bên cạnh những thất bại nổi tiếng của nó.

Nghị định thư Montreal, vốn đã giải quyết thành công vấn đề suy giảm tầng ozone, cho thấy hợp tác quốc tế có thể phát huy hiệu quả khi đáp ứng được một số điều kiện nhất định: sự đồng thuận khoa học rõ ràng về rủi ro, các công nghệ thay thế có thể xác định được, và các thỏa thuận kinh tế giải quyết được các mối lo về phân phối lợi ích. Nghị định thư này bao gồm các cơ chế chuyển giao công nghệ và hỗ trợ tài chính khiến việc hợp tác trở nên hấp dẫn đối với các nước đang phát triển.

Việc quản trị AI có thể hưởng lợi từ những cách tiếp cận tương tự. Hợp tác kỹ thuật về nghiên cứu an toàn AI có thể tương đồng với sự hợp tác khoa học vốn là nền tảng của các thỏa thuận khí hậu. Các thỏa thuận kinh tế có thể giải quyết những lo ngại rằng các biện pháp an toàn gây bất lợi cho một số quốc gia hoặc công ty cụ thể. Các cơ chế giám sát và xác minh có thể được xây dựng dựa trên các tiền lệ từ kiểm soát vũ khí và các thỏa thuận môi trường.

Tuy nhiên, quản trị AI phải đối mặt với những thách thức bổ sung mà quản trị khí hậu không gặp phải. Việc phát triển AI diễn ra nhanh hơn, liên quan đến nhiều bên đa dạng hơn, và có những hệ quả cạnh tranh trực tiếp hơn. Những khác biệt này cho thấy quản trị AI có thể cần những đổi mới thể chế hoàn toàn mới thay vì chỉ đơn thuần điều chỉnh các khung sẵn có.

Tính Khó lường

Năng lực AI đã liên tục gây bất ngờ cho các chuyên gia trong hơn một thập kỷ qua. Điều này đang tạo ra một khuôn mẫu dai dẳng, trong đó các nhà nghiên cứu đánh giá thấp tốc độ xuất hiện của các đột phá. Khuôn mẫu này càng củng cố mức độ khó khăn thực sự của việc dự báo năng lực và rủi ro AI, khuếch đại mọi hạng mục rủi ro AI bằng cách phá vỡ các mốc thời gian chuẩn bị và kế hoạch của các tổ chức.

Năm 2021, các chuyên gia đã đánh giá thấp một cách đáng kể tiến bộ trên các bài kiểm tra thách thức như MATH và MMLU. Vào giữa năm 2021, giáo sư học máy Jacob Steinhardt đã tổ chức một cuộc thi dự báo với các siêu dự báo viên (superforecaster) chuyên nghiệp để dự đoán tiến bộ trên hai bài kiểm tra thách thức. Đối với MATH, một bộ dữ liệu các bài toán thi đấu, các nhà dự báo dự đoán mô hình tốt nhất sẽ đạt độ chính xác 12,7% vào tháng 6 năm 2022, với nhiều người cho rằng bất kỳ con số nào trên 20% đều cực kỳ khó xảy ra. Kết quả thực tế là 50,3% — nằm ở phần đuôi xa của phân phối dự đoán của họ. Tương tự, đối với MMLU, các nhà dự báo dự đoán mức cải thiện khiêm tốn từ 44% lên 57,1%, nhưng hiệu suất thực tế đạt 67,5% (Steinhardt, 2022 (mở trong tab mới); Cotra, 2023 (mở trong tab mới)).

Năm 2022, tình trạng đánh giá thấp vẫn tiếp diễn ngay cả sau những bất ngờ đáng kể này. Trong cuộc thi tiếp theo của Steinhardt cho năm 2023, các nhà dự báo một lần nữa đánh giá thấp tiến bộ. Đối với MATH, kết quả 69,6% rơi vào phân vị thứ 41 theo thang của Steinhardt, trong khi kết quả 86,4% của MMLU rơi vào phân vị thứ 66. Dù các nhà dự báo đã đánh giá thấp tiến bộ, các chuyên gia còn đánh giá thấp tiến bộ nhiều hơn nữa: "Tiến bộ trong AI (đo bằng các bài kiểm tra học máy) diễn ra nhanh hơn đáng kể so với những gì các nhà dự báo kỳ vọng" (Steinhardt, 2023 (mở trong tab mới); Cotra, 2023 (mở trong tab mới)).

Trong giai đoạn 2022-2024, các chuyên gia tiếp tục đánh giá thấp các năng lực định tính ngay cả sau khi đã chứng kiến những bất ngờ về bài kiểm tra. Tổ chức AI Impacts đã khảo sát các chuyên gia học máy vào giữa năm 2022, chỉ vài tháng trước khi ChatGPT ra mắt. Các chuyên gia dự đoán những cột mốc như "viết một bài luận lịch sử cấp trung học" hay "trả lời tốt hơn một chuyên gia những câu hỏi có thể dễ dàng tra cứu trên Google" sẽ phải mất nhiều năm mới đạt được. ChatGPT và GPT-4 đã hoàn thành những việc này chỉ trong vòng vài tháng sau cuộc khảo sát, không phải nhiều năm (Cotra, 2023 (mở trong tab mới)).

Các ví dụ trong giai đoạn 2024-2025 dường như tiếp tục khuôn mẫu khó lường này. Vào tháng 12 năm 2024, mô hình o3 của OpenAI đạt 87,5% trên ARC-AGI, một bài kiểm tra được thiết kế đặc biệt để kiểm tra khả năng suy luận trừu tượng và chống lại việc đánh lừa qua học thuộc lòng (Chollet và cộng sự, 2024 (mở trong tab mới)). Trong suốt bốn năm, tiến bộ đã chỉ nhích dần từ 0% của GPT-3 năm 2020 lên 5% của GPT-4o năm 2024, khiến nhiều người kỳ vọng rằng tiến bộ đáng kể sẽ còn phải mất nhiều năm nữa. Bước nhảy vọt nhanh chóng từ 5% lên 87,5% đã khiến nhiều người bất ngờ. Tương tự, trên Frontier Math — một bài kiểm tra gồm các bài toán ở trình độ nghiên cứu được các nhà toán học hàng đầu thế giới mô tả là "những phỏng đoán tốt nhất của chúng tôi về các thách thức có thể làm AI bó tay" — mô hình o3 của OpenAI đã nhảy vọt từ mức tốt nhất trước đó là 2% lên 25% chỉ trong vòng vài tháng kể từ khi bài kiểm tra này được công bố vào tháng 11 năm 2024 (Epoch AI, 2024 (mở trong tab mới)).

Tính khó lường khuếch đại mọi rủi ro AI khác. Việc đánh giá thấp một cách có hệ thống thời điểm xuất hiện các đột phá khiến các nhà nghiên cứu an toàn luôn phải chạy theo sau khi mức độ nguy hiểm đã lên cao nhất. Douglas Hofstadter, người từng nghĩ rằng phải mất hàng trăm năm nữa mới có AI giống con người, giờ đây mô tả "một nỗi kinh hoàng nhất định trước một cơn sóng thần đang ập tới, sẽ khiến toàn thể nhân loại trở tay không kịp" (Hofstadter, 2023 (mở trong tab mới)). Khi ngay cả những nhà nghiên cứu hàng đầu cũng liên tục đánh giá thấp tiến bộ trong chính lĩnh vực của họ, sự chuẩn bị rộng hơn của xã hội trở nên sai lệch một cách căn bản. Các tổ chức đưa ra quyết định triển khai dựa trên những dự báo luôn đánh giá thấp tiến bộ trong ngắn hạn, trong khi các hệ thống quản trị lại giả định một sự tiến bộ từ từ, có thể dự đoán được. Điều này tạo ra một khoảng cách dai dẳng giữa thời điểm các năng lực nguy hiểm xuất hiện và thời điểm các biện pháp an toàn đầy đủ sẵn sàng — biến chính sự khó lường trở thành một yếu tố khuếch đại rủi ro mang tính hệ thống.

Điều này bắt đầu diễn ra với tốc độ ngày càng nhanh, khi những mục tiêu tưởng chừng không thể đạt được và những việc máy tính lẽ ra không thể làm được bắt đầu sụp đổ [...] các hệ thống ngày càng giỏi hơn trong việc dịch giữa các ngôn ngữ, rồi đến việc tạo ra các câu trả lời dễ hiểu cho những câu hỏi khó bằng ngôn ngữ tự nhiên, và thậm chí còn làm thơ [...] Sự tiến bộ tăng tốc này quá bất ngờ, khiến bản thân tôi hoàn toàn bất ngờ, không chỉ riêng tôi mà rất nhiều, rất nhiều người khác, đến mức có một nỗi kinh hoàng nhất định trước một cơn sóng thần đang ập tới, sẽ khiến toàn thể nhân loại trở tay không kịp. — Douglas Hofstadter