Chương 1.6: Cất cánh

AI có thể thay đổi thế giới một cách từ từ trong nhiều thập kỷ, hoặc biến đổi nó một cách bùng nổ chỉ trong vài tháng. Điều này làm thay đổi đáng kể việc chiến lược an toàn nào thậm chí còn khả thi.

Phần cuối cùng này tổng hợp lại phần lớn những nội dung đã được thảo luận xuyên suốt chương này. Ta đã bắt đầu từ vị trí hiện tại, và đi dần đến việc dự báo các xu hướng cụ thể trong những yếu tố đầu vào của năng lực AI. Vì vậy, phần này sẽ trình bày các khía cạnh khác nhau của cuộc tranh luận về việc sự kết hợp của tất cả những điều này ngụ ý điều gì.

Không có gì phải nghi ngờ rằng máy móc rồi sẽ trở nên thông minh hơn con người — ở tất cả các lĩnh vực mà con người thông minh — trong tương lai. Đó là câu hỏi về khi nào và như thế nào, chứ không phải câu hỏi về việc có xảy ra hay không.

Yann LeCun Nhà khoa học AI trưởng tại Meta, người đoạt Giải thưởng Turing Tháng 5/2023 • Heaven, 2023 (mở trong tab mới)

Tốc độ cất cánh (takeoff speed) đề cập đến việc các hệ thống AI trở nên mạnh mẽ hơn đáng kể so với hiện tại nhanh đến mức nào, và gây ra những thay đổi lớn cho xã hội. Khái niệm này có liên quan đến, nhưng khác biệt với, mốc thời gian AI (AI timelines — thời gian cho đến khi ta phát triển được AI tiên tiến). Trong khi mốc thời gian cho ta biết khi nào AI chuyển đổi có thể xuất hiện, tốc độ cất cánh cho ta biết điều gì sẽ xảy ra sau khi nó xuất hiện — liệu năng lực và tầm ảnh hưởng của AI có tăng dần trong nhiều năm, hay bùng nổ chỉ trong vài ngày hoặc vài tuần? Khi phân tích các kịch bản cất cánh khác nhau, ta có thể xem xét một số yếu tố chính:

• Tốc độ: Năng lực AI cải thiện nhanh đến mức nào?
• Tính liên tục: Năng lực cải thiện một cách trơn tru hay theo những bước nhảy đột ngột?
• Tính đồng nhất: Các hệ thống AI khác nhau tương đồng với nhau đến mức nào?
• Tính phân cực: Quyền lực tập trung đến mức nào giữa các hệ thống AI khác nhau?

Trong phần tiếp theo, ta sẽ chỉ bàn về một trong những yếu tố này — yếu tố thường gây tranh cãi nhiều nhất — đó là tốc độ cất cánh. Các yếu tố còn lại (tính liên tục, tính đồng nhất, và tính phân cực) được giải thích trong một phụ lục.

Tốc độ

Trong một kịch bản cất cánh chậm, năng lực AI cải thiện dần dần trong nhiều tháng hoặc nhiều năm. Ta có thể thấy khuôn mẫu này trong lịch sử gần đây — quá trình chuyển đổi từ GPT-3 sang GPT-4 mang lại những cải thiện đáng kể về suy luận, lập trình, và kiến thức tổng quát, nhưng những tiến bộ này diễn ra qua nhiều năm thông qua tiến trình tăng dần từng bước. Paul Christiano mô tả cất cánh chậm tương tự như cuộc Cách mạng Công nghiệp nhưng "nhanh hơn 10-100 lần" (Davidson, 2023 (mở trong tab mới)). Các thuật ngữ như "cất cánh chậm" (slow takeoff) và "cất cánh mềm" (soft takeoff) thường được dùng thay thế cho nhau.

Về mặt toán học, các kịch bản cất cánh chậm thường thể hiện khuôn mẫu tăng trưởng tuyến tính hoặc theo cấp số nhân. Với tăng trưởng tuyến tính, năng lực tăng thêm cùng một lượng tuyệt đối mỗi năm — hãy hình dung một hệ thống AI đạt thêm một số kỹ năng mới cố định mỗi năm. Phổ biến hơn, ta có thể thấy tăng trưởng theo cấp số nhân, trong đó năng lực tăng theo một tỷ lệ phần trăm không đổi, tương tự như cách ta đã thảo luận về định luật mở rộng quy mô ở các phần trước. Cũng giống như hiệu suất mô hình cải thiện một cách có thể dự đoán được theo sức mạnh tính toán và dữ liệu, cất cánh chậm gợi ý rằng năng lực sẽ tăng trưởng ở một tốc độ ổn định nhưng có thể kiểm soát được. Điều này có thể biểu hiện qua việc GDP tăng trưởng 10-30% mỗi năm trước khi tiếp tục tăng tốc hơn nữa.

Cất cánh chậm cho ta thời gian để thích nghi và ứng phó. Nếu ta phát hiện ra vấn đề trong các cách tiếp cận an toàn hiện tại, ta có thể điều chỉnh chúng trước khi AI trở nên mạnh mẽ hơn đáng kể. Điều này liên hệ trực tiếp đến những gì ta sẽ bàn ở các chương sau về quản trị và giám sát — cất cánh chậm cho phép tinh chỉnh các biện pháp an toàn theo từng bước lặp lại, và cho thời gian để các cá nhân (actors) và tổ chức khác nhau phối hợp với nhau.

Cất cánh nhanh (fast takeoff) mô tả các kịch bản trong đó năng lực AI tăng vọt đáng kể trong khoảng thời gian rất ngắn — có lẽ chỉ vài ngày hoặc thậm chí vài giờ. Thay vì sự cải thiện dần dần mà ta thấy từ GPT-3 đến GPT-4, hãy hình dung một hệ thống AI đạt được mức tiến bộ tương đương như vậy mỗi ngày. Điều này có thể xảy ra thông qua tự cải thiện đệ quy (recursive self-improvement), khi một hệ thống AI trở nên giỏi hơn trong việc tự cải thiện chính nó, tạo ra một vòng phản hồi ngày càng tăng tốc.

Về mặt toán học, cất cánh nhanh liên quan đến tăng trưởng siêu cấp số nhân (superexponential) hay hyperbol (hyperbolic), trong đó chính tốc độ tăng trưởng cũng tăng lên theo thời gian. Thay vì năng lực tăng gấp đôi mỗi năm như trong tăng trưởng cấp số nhân, chúng có thể tăng gấp đôi mỗi tháng, rồi mỗi tuần, rồi mỗi ngày. Điều này liên hệ đến những gì ta đã bàn ở phần mở rộng quy mô về các vòng phản hồi tiềm năng trong phát triển AI — nếu các hệ thống AI có thể cải thiện hiệu quả của chính việc nghiên cứu AI, ta có thể chứng kiến kiểu tiến bộ tăng tốc này.

Tốc độ đáng kinh ngạc của cất cánh nhanh tạo ra những thách thức đặc thù cho an toàn. Như ta sẽ khám phá trong chương về chiến lược, nhiều cách tiếp cận an toàn hiện nay dựa vào việc kiểm thử hệ thống, phát hiện vấn đề, và cải thiện chúng. Nhưng trong một kịch bản cất cánh nhanh, ta có thể chỉ có một cơ hội duy nhất để làm đúng. Nếu một hệ thống AI bắt đầu tự cải thiện nhanh chóng, ta cần các biện pháp an toàn hoạt động vững chắc ngay từ đầu, bởi vì ta sẽ không có thời gian để sửa chữa vấn đề một khi chúng xuất hiện. Các thuật ngữ như "cất cánh nhanh" (fast takeoff), "cất cánh cứng" (hard takeoff), và "FOOM" thường được dùng thay thế cho nhau.

Tốc độ cất cánh AI về căn bản định hình thách thức của việc làm cho AI an toàn. Nếu tiến bộ tuân theo các khuôn mẫu có thể dự đoán được như hiểu biết hiện tại của ta gợi ý, ta có thể có nhiều cảnh báo và thời gian hơn để chuẩn bị. Nhưng nếu các cơ chế mới như tự cải thiện đệ quy tạo ra những vòng phản hồi nhanh hơn, ta cần những chiến lược khác. Ngày nay, khi ta phát hiện ra rằng các mô hình ngôn ngữ có thể bị bẻ khóa (jailbroken), các công ty có thể vá những lỗ hổng này trong phiên bản phát hành tiếp theo. Trong một kịch bản cất cánh chậm, khuôn mẫu này có thể tiếp diễn — ta sẽ có thời gian để phát hiện và sửa các vấn đề an toàn khi chúng xuất hiện. Nhưng trong một kịch bản cất cánh nhanh, ta có thể cần phải giải quyết tất cả các lỗ hổng bẻ khóa tiềm ẩn trước khi triển khai AI, bởi vì một hệ thống có thể trở nên quá mạnh để có thể chỉnh sửa an toàn trước khi ta kịp thực hiện thêm bất kỳ biện pháp sửa lỗi an toàn nào khác. Phần lớn các chuyên gia, nhà nghiên cứu, và kỹ sư đều đồng ý rằng AI sẽ gây ra rủi ro và cần được phát triển một cách có trách nhiệm. Sự khác biệt nằm ở những sắc thái nhỏ trong cách ứng phó. Những khác biệt này thường có thể quy về việc liệu họ kỳ vọng vấn đề sẽ có thể nhận thấy và khắc phục kịp thời, hay diễn ra quá nhanh để ta có thể ứng phó. Đáng tiếc, điều này đôi khi bị đưa tin sai lệch thành việc các chuyên gia AI bất đồng về rủi ro AI.

Đây là cách chúng ta chế tạo máy bay — chúng ta chế tạo máy bay, đôi khi chúng gặp tai nạn thảm khốc, và rồi ta khắc phục nó. Tôi nghĩ AI đôi khi cho ra kết quả tồi, rồi ta sửa nó, và đó chính là cách ta thực sự khiến những thứ này trở nên đáng tin cậy.

Andrew Ng Đồng sáng lập và người đứng đầu Google Brain, cựu Giám đốc Khoa học tại Baidu Tháng 2/2025 • World Economic Forum, 2025 (mở trong tab mới)

Hiểu được sự khác biệt giữa nhanh và chậm giúp bạn có cái nhìn tổng quan về cuộc tranh luận cất cánh, nhưng còn có một loạt các yếu tố khác như — có những bước nhảy đột ngột hay không? (tính liên tục của cất cánh), có bao nhiêu hệ thống đang "cất cánh" cùng lúc? (tính phân cực của cất cánh), các hệ thống này tương đồng về mặt kiến trúc đến mức nào? (tính tương đồng của cất cánh). Nếu bạn muốn tìm hiểu thêm, hãy đọc chi tiết về những điều này trong phần phụ lục không bắt buộc.

Các Lập luận về Cất cánh

Lập luận Dư thừa Tiềm ẩn (Overhang Argument). Có thể có những tình huống mà một khía cạnh của hệ thống AI, như phần cứng hay dữ liệu, đã có những tiến bộ hoặc sẵn có đáng kể, nhưng phần mềm hay thuật toán tương ứng để tận dụng đầy đủ các nguồn lực này thì chưa được phát triển. Thuật ngữ "overhang" (dư thừa tiềm ẩn) được dùng vì những tình huống này ngụ ý một dạng tiềm năng "được lưu trữ" hay "tiềm ẩn". Một khi phần mềm hay thuật toán bắt kịp với phần cứng hay dữ liệu, có thể xảy ra một sự giải phóng đột ngột tiềm năng này, dẫn đến một bước nhảy vọt nhanh chóng về năng lực AI. Dư thừa tiềm ẩn là một lập luận khả dĩ cho việc vì sao ta có thể nghiêng về khả năng cất cánh gián đoạn hoặc nhanh. Có hai loại dư thừa tiềm ẩn thường được bàn đến:

• Dư thừa Phần cứng (Hardware Overhang): Đây là tình huống có đủ phần cứng tính toán để vận hành nhiều hệ thống AI mạnh mẽ, nhưng phần mềm để vận hành các hệ thống đó thì chưa được phát triển. Nếu phần cứng đó có thể được tái sử dụng cho AI, điều này có nghĩa là ngay khi một hệ thống AI mạnh mẽ ra đời, rất có thể sẽ có một số lượng lớn các hệ thống như vậy tồn tại, điều này có thể khuếch đại tầm ảnh hưởng của sự xuất hiện AI ở trình độ con người.
• Dư thừa Dữ liệu (Data Overhang): Đây là tình huống có sẵn một lượng dữ liệu dồi dào có thể dùng để huấn luyện các hệ thống AI, nhưng các thuật toán AI có khả năng tận dụng hiệu quả toàn bộ lượng dữ liệu đó thì chưa được phát triển hoặc triển khai.

Dư thừa tiềm ẩn cũng được dùng làm lập luận phản biện cho việc vì sao việc tạm dừng phát triển AI không thực sự ảnh hưởng đến tốc độ cất cánh. Một lập luận phản biện đối với lập luận dư thừa tiềm ẩn là nó dựa trên giả định rằng trong thời gian ta tạm dừng phát triển AI, tốc độ sản xuất chip sẽ giữ nguyên không đổi. Có thể lập luận rằng các công ty sản xuất những con chip này sẽ không sản xuất nhiều chip đến vậy nếu các trung tâm dữ liệu không mua chúng. Tuy nhiên, lập luận này chỉ đúng nếu việc tạm dừng kéo dài một khoảng thời gian đáng kể, nếu không các trung tâm dữ liệu có thể sẽ chỉ tích trữ chip. Cũng có khả năng đạt được tiến bộ trong việc cải tiến thiết kế chip, mà không cần phải sản xuất nhiều chip trong giai đoạn tạm dừng. Tuy nhiên, trong cùng giai đoạn tạm dừng đó, ta cũng có thể đạt được tiến bộ trong các kỹ thuật an toàn AI (Elmore, 2024 (mở trong tab mới)).

Lập luận Tăng trưởng Kinh tế (Economic Growth Argument). Các khuôn mẫu lịch sử của tăng trưởng kinh tế, được thúc đẩy bởi sự gia tăng dân số loài người, gợi ý một khả năng cất cánh AI chậm và liên tục. Lập luận này cho rằng khi AI làm tăng dân số kinh tế hiệu dụng, ta có thể chứng kiến sự gia tăng dần dần trong tăng trưởng kinh tế, phản ánh những giai đoạn mở rộng trong quá khứ nhưng ở một tốc độ có thể nhanh hơn do tự động hóa nhờ AI. Những hạn chế trong khả năng của AI để tự động hóa một số nhiệm vụ nhất định, cùng với các ràng buộc xã hội và pháp lý (ví dụ, dịch vụ y tế hay pháp lý chỉ có thể được cung cấp bởi con người), có thể dẫn đến sự mở rộng chậm hơn của năng lực AI. Ngược lại, tăng trưởng cũng có thể vượt xa các tỷ lệ lịch sử. Sử dụng một lập luận tương tự cho cất cánh nhanh phụ thuộc vào tiềm năng của AI trong việc nhanh chóng tự động hóa lao động con người trên quy mô lớn, dẫn đến sự tăng tốc kinh tế chưa từng có tiền lệ.

Lập luận Cất cánh Lấy Sức mạnh Tính toán làm Trung tâm (Compute-Centric Takeoff Argument). Lập luận này, tương tự như báo cáo Mỏ neo Sinh học (Bio Anchors), giả định rằng sức mạnh tính toán sẽ đủ để đạt được AI chuyển đổi. Dựa trên giả định này, báo cáo năm 2023 của Tom Davidson về cất cánh AI lấy sức mạnh tính toán làm trung tâm bàn về các vòng phản hồi có thể góp phần vào động lực học của quá trình cất cánh.

• Vòng phản hồi đầu tư: Đầu tư vào AI có thể ngày càng gia tăng, khi AI đóng vai trò ngày càng lớn trong nền kinh tế. Điều này làm tăng lượng sức mạnh tính toán khả dụng để huấn luyện mô hình, đồng thời có thể dẫn đến việc khám phá ra các thuật toán mới. Tất cả những điều này làm tăng năng lực, thúc đẩy tiến bộ kinh tế, và tiếp tục khuyến khích đầu tư nhiều hơn.
• Vòng phản hồi tự động hóa: Khi AI trở nên có năng lực hơn, chúng sẽ có thể tự động hóa những phần lớn hơn trong công việc phát triển các thuật toán AI tốt hơn, hoặc hỗ trợ thiết kế các GPU tốt hơn. Cả hai điều này đều sẽ làm tăng năng lực của AI, từ đó lại cho phép chúng tự động hóa nhiều lao động hơn.

Tùy vào cường độ và sự tương tác giữa các vòng phản hồi này, chúng có thể tạo ra một lời tiên tri tự ứng nghiệm dẫn đến hoặc là một cuộc cất cánh nhanh ngày càng tăng tốc nếu các quy định không kiềm chế những khía cạnh khác nhau của các vòng lặp đó, hoặc một cuộc cất cánh chậm nếu các vòng lặp này yếu hơn hoặc bị cân bằng lại bởi các yếu tố khác. Toàn bộ mô hình được thể hiện trong sơ đồ dưới đây:

Lập luận Tự động hóa Nghiên cứu (Automating Research Argument). Các nhà nghiên cứu có thể thiết kế thế hệ mô hình học máy tiếp theo nhanh hơn bằng cách giao một phần công việc cho các mô hình hiện có, tạo ra một vòng phản hồi với tiến bộ ngày càng tăng tốc. Lập luận sau đây được đưa ra bởi Ajeya Cotra:

Hiện nay, các nhà nghiên cứu con người nói chung chịu trách nhiệm cho hầu hết mọi tiến bộ trong nghiên cứu AI, nhưng đang bắt đầu giao một phần nhỏ công việc cho các mô hình ngôn ngữ lớn. Điều này khiến việc thiết kế và huấn luyện thế hệ mô hình tiếp theo trở nên dễ dàng hơn phần nào.

Thế hệ tiếp theo có khả năng xử lý các nhiệm vụ khó hơn và nhiều loại nhiệm vụ đa dạng hơn, nên các nhà nghiên cứu con người giao nhiều công việc hơn cho chúng. Điều này khiến việc huấn luyện thế hệ kế tiếp sau đó trở nên dễ dàng hơn đáng kể. Việc sử dụng các mô hình mang lại một cú hích lớn hơn nhiều so với lần trước.

Mỗi vòng của quá trình này khiến cả lĩnh vực di chuyển ngày càng nhanh hơn. Trong mỗi vòng, các nhà nghiên cứu con người giao mọi việc mà họ có thể giao một cách hiệu quả cho thế hệ mô hình hiện tại — và các mô hình đó càng mạnh mẽ, chúng càng đóng góp nhiều hơn cho nghiên cứu, và do đó năng lực AI có thể cải thiện càng nhanh hơn (Cotra, 2023 (mở trong tab mới)).

Vì vậy, trước khi ta chứng kiến một cuộc bùng nổ trí tuệ mang tính đệ quy, ta sẽ thấy một lượng ngày càng tăng của toàn bộ quy trình nghiên cứu và phát triển được giao cho AI. Đến một thời điểm nào đó, thay vì phần lớn đáng kể công việc nghiên cứu và thiết kế được thực hiện bởi các trợ lý AI ở tốc độ siêu việt, nó sẽ trở thành — toàn bộ công việc nghiên cứu và thiết kế cho AI đều được thực hiện bởi các trợ lý AI ở tốc độ siêu việt.

Đến thời điểm này, có khả năng điều này cuối cùng có thể dẫn đến một cuộc bùng nổ trí tuệ đệ quy được tự động hóa hoàn toàn.

Lập luận Bùng nổ Trí tuệ (Intelligence Explosion Argument). Khái niệm "bùng nổ trí tuệ" này cũng là trọng tâm của cuộc thảo luận xoay quanh cất cánh gián đoạn. Nó bắt nguồn từ luận điểm của I.J. Good, cho rằng một trí tuệ máy đủ tiên tiến có thể tự xây dựng một phiên bản thông minh hơn của chính nó. Phiên bản thông minh hơn này lại có thể xây dựng một phiên bản thậm chí còn thông minh hơn nữa của chính nó, và cứ thế tiếp diễn, tạo ra một chu trình có thể dẫn đến trí tuệ vượt xa năng lực con người (Yudkowsky, 2013 (mở trong tab mới)).

Trong báo cáo năm 2012 về bằng chứng cho các cuộc Bùng nổ Trí tuệ, Muehlhauser và Salamon đi sâu vào nhiều lợi thế mà trí tuệ máy có được so với trí tuệ con người, những lợi thế giúp thúc đẩy sự gia tăng trí tuệ nhanh chóng (Muehlhauser, 2012 (mở trong tab mới)). Những lợi thế này bao gồm:

• Nguồn lực Tính toán: Khả năng tính toán của con người phần nào giữ nguyên không đổi, trong khi tính toán của máy móc có khả năng mở rộng quy mô.
• Tốc độ: Con người giao tiếp ở tốc độ hai từ mỗi giây, trong khi GPT-4 có thể xử lý 32 nghìn từ gần như tức thì. Một khi LLM có thể viết "hay hơn" con người, tốc độ của chúng gần như chắc chắn sẽ vượt qua ta hoàn toàn.
• Khả năng Nhân bản: Máy móc thể hiện khả năng nhân bản dễ dàng. Không giống con người, chúng không cần sinh ra, giáo dục, hay đào tạo. Trong khi con người chủ yếu cải thiện theo từng cá nhân, máy móc có tiềm năng phát triển theo tập thể. Con người mất 20 năm kể từ khi sinh ra để trở nên thành thạo, trong khi một khi ta có một AI có năng lực, ta có thể nhân bản nó ngay lập tức. Một khi AI đạt đến trình độ của lập trình viên giỏi nhất, ta chỉ cần nhân bản AI đó. Điều tương tự cũng áp dụng cho các công việc khác.
• Khả năng Chỉnh sửa: Máy móc có khả năng cho phép những biến đổi được kiểm soát tốt hơn. Chúng là ví dụ tương đương với việc tăng cường não bộ trực tiếp thông qua phẫu thuật thần kinh, đối lập với những yêu cầu giáo dục hay đào tạo tốn nhiều công sức. Con người cũng có thể cải thiện và học kỹ năng mới, nhưng họ không có quyền truy cập gốc (root access) vào phần cứng của chính mình: ta chỉ mới bắt đầu có thể hiểu được "mã nguồn hỗn độn" (spaghetti code) của bộ gen, trong khi AI có thể sử dụng các công cụ quản lý phiên bản mã nguồn (code versioning) để tự cải thiện, có khả năng thử những thử nghiệm rủi ro với các phương án dự phòng trong trường hợp thất bại. Điều này cho phép sự biến đổi được kiểm soát tốt hơn nhiều.
• Phối hợp Mục tiêu: Các AI được sao chép có khả năng chia sẻ mục tiêu một cách dễ dàng, điều mà con người khó có thể làm được.