Chương 1.8: Phụ lục: Cất cánh

Quỹ đạo của AI tiên tiến cũng được xác định bởi việc tiến bộ diễn ra trơn tru hay gián đoạn, các hệ thống có tương đồng hay đa dạng, và quyền lực có tập trung vào một cá nhân (actor) duy nhất hay được phân bổ rộng rãi.

Tính Liên tục

Tính liên tục (Continuity) mô tả việc năng lực AI cải thiện một cách trơn tru và có thể dự đoán được, hay thông qua những bước nhảy đột ngột, bất ngờ. Điều này khác với tốc độ — ngay cả một cuộc cất cánh nhanh cũng có thể là liên tục nếu tiến bộ nhanh chóng đó tuân theo các khuôn mẫu có thể dự đoán được, và một cuộc cất cánh chậm cũng có thể là gián đoạn nếu nó bao gồm những đột phá bất ngờ. Hiểu được tính liên tục giúp ta dự đoán liệu ta có thể ngoại suy từ các xu hướng hiện tại, như các định luật mở rộng quy mô ta đã bàn trước đó, hay liệu ta nên kỳ vọng những sự đi chệch đột ngột khỏi các khuôn mẫu này. Vì vậy, nếu bạn xem tốc độ là một thước đo cho việc AI trở nên siêu việt nhanh đến mức nào, thì tính liên tục có thể được xem là một thước đo cho mức độ "bất ngờ".

Trong một cuộc cất cánh liên tục, năng lực AI tuân theo các xu hướng trơn tru, có thể dự đoán được. Những cải thiện ta đã thấy ở các mô hình ngôn ngữ là một ví dụ điển hình — mỗi mô hình mới thường tốt hơn phần nào so với mô hình trước ở các nhiệm vụ như lập trình hay toán học, tuân theo các khuôn mẫu mà ta có thể dự đoán tương đối từ định luật mở rộng quy mô và các cải tiến thuật toán. Như ta đã thấy ở phần dự báo, nhiều khía cạnh của tiến bộ AI đã thể hiện kiểu hành vi có thể dự đoán được này.

Tiến bộ liên tục không có nghĩa là tiến bộ tuyến tính hay đơn giản. Nó vẫn có thể bao gồm tăng trưởng theo cấp số nhân hay thậm chí siêu cấp số nhân, nhưng điểm mấu chốt là sự tăng trưởng này tuân theo các khuôn mẫu mà ta có thể dự đoán trước. Hãy nghĩ đến việc GPT-4 tốt hơn GPT-3 như thế nào, và GPT-3 tốt hơn GPT-2 ra sao — mỗi lần cải thiện đều đáng kể nhưng không hoàn toàn bất ngờ, xét đến sự gia tăng quy mô và các kỹ thuật huấn luyện được cải tiến.

Một cuộc cất cánh liên tục gợi ý rằng các xu hướng hiện tại trong định luật mở rộng quy mô và tiến bộ thuật toán có thể mở rộng ra ngay cả đến các hệ thống AI chuyển đổi. Điều này sẽ cho ta nhiều cảnh báo hơn về các năng lực sắp tới và nhiều khả năng hơn để chuẩn bị các biện pháp an toàn phù hợp. Như ta sẽ bàn ở chương về quản trị, dù tiến bộ diễn ra nhanh, kiểu khả năng dự đoán được này khiến việc xây dựng và thực thi quy định trở nên tương đối dễ dàng hơn trước khi các hệ thống AI trở nên cực kỳ mạnh mẽ hoặc không thể kiểm soát. Tất nhiên, cần lưu ý rằng "tương đối dễ dàng hơn" không có nghĩa là "dễ dàng".

Một cuộc cất cánh gián đoạn bao gồm những bước nhảy đột ngột về năng lực, phá vỡ các khuôn mẫu trước đó. Thay vì những cải thiện ổn định về hiệu suất khi ta bổ sung thêm sức mạnh tính toán hay dữ liệu, ta có thể chứng kiến sự xuất hiện của những năng lực hoàn toàn mới mà các xu hướng hiện có không hề dự đoán được. Một ví dụ giả định là nếu một hệ thống AI đột nhiên phát triển năng lực suy luận tổng quát vững chắc sau khi trước đó dường như chỉ xử lý được các nhiệm vụ hẹp — điều này sẽ thể hiện một sự gián đoạn trong khuôn mẫu phát triển AI. Các thuật ngữ "cất cánh nhanh" và "cất cánh gián đoạn" thường được dùng thay thế cho nhau. Tuy nhiên, những hình ảnh dưới đây thể hiện các quỹ đạo cất cánh khác nhau có thể giúp làm rõ những khác biệt tinh tế giữa các khái niệm này.

Các sự gián đoạn có thể phát sinh qua nhiều cơ chế khác nhau. Ta có thể khám phá ra những cách tiếp cận huấn luyện hoàn toàn mới, hiệu quả hơn đáng kể so với các phương pháp hiện tại. Hoặc, ta có thể chạm đến các điểm bùng phát (tipping points) cho các năng lực mới nổi — nơi những cải thiện về lượng trong quy mô dẫn đến những thay đổi về chất trong năng lực. Một hệ thống AI thậm chí có thể tự khám phá ra những cải tiến như vậy về chính nó, dẫn đến những bước nhảy bất ngờ về năng lực.

Lịch sử cho ta một số tiền lệ cho cả tiến bộ khoa học liên tục lẫn gián đoạn. Sự phát triển của vũ khí hạt nhân thể hiện một bước nhảy gián đoạn về sức công phá, trong khi những cải thiện về sức mạnh xử lý của máy tính lại tuân theo các xu hướng liên tục hơn. Tuy nhiên, như ta đã thấy ở phần dự báo, các sự gián đoạn công nghệ trong lịch sử là khá hiếm, điều mà một số nhà nghiên cứu viện dẫn làm bằng chứng ủng hộ các kịch bản cất cánh liên tục.

Tính Đồng nhất

Tính đồng nhất (Homogeneity) mô tả mức độ tương đồng hay khác biệt giữa các hệ thống AI với nhau trong giai đoạn cất cánh. Liệu ta sẽ thấy nhiều hệ thống AI đa dạng với các kiến trúc và năng lực khác nhau, hay phần lớn các hệ thống AI tiên tiến sẽ là các biến thể của cùng một thiết kế cơ bản? Đây không chỉ là vấn đề về đa dạng kỹ thuật — mà còn là việc liệu các hệ thống AI tiên tiến có chia sẻ những hành vi, hạn chế, và đặc tính an toàn tương tự nhau hay không (Hubinger, 2020 (mở trong tab mới)).

Trong một cuộc cất cánh đồng nhất, phần lớn các hệ thống AI tiên tiến sẽ về căn bản tương tự nhau. Ta có thể thấy những dấu hiệu của khuôn mẫu này ngày nay — nhiều mô hình ngôn ngữ hiện tại đều dựa trên kiến trúc transformer và được huấn luyện trên dữ liệu tương tự nhau, dẫn đến năng lực và hạn chế tương tự nhau. Trong một cuộc cất cánh đồng nhất, khuôn mẫu này sẽ tiếp diễn. Có lẽ phần lớn các hệ thống AI sẽ là các phiên bản tinh chỉnh (fine-tuned) của một số ít mô hình nền tảng, hoặc các cách hiện thực hóa khác nhau của cùng một đột phá cốt lõi trong thiết kế AI.

Một yếu tố có thể thúc đẩy tính đồng nhất là quy mô khổng lồ cần thiết để huấn luyện các hệ thống AI tiên tiến. Nếu việc huấn luyện AI chuyển đổi đòi hỏi nguồn lực tính toán khổng lồ, như các định luật mở rộng quy mô gợi ý, thì có lẽ chỉ một số ít tổ chức mới có khả năng huấn luyện các mô hình nền tảng từ đầu. Các tổ chức khác sẽ xây dựng dựa trên những mô hình nền tảng này thay vì phát triển các kiến trúc hoàn toàn mới, dẫn đến các hệ thống đồng nhất hơn.

Cất cánh đồng nhất có thể an toàn hơn ở một số khía cạnh nhưng rủi ro hơn ở những khía cạnh khác. Nếu ta giải quyết được vấn đề căn chỉnh cho một hệ thống AI, giải pháp đó có thể có tác dụng với các hệ thống tương tự khác. Tuy nhiên, nếu có một lỗ hổng nền tảng trong kiến trúc hay cách tiếp cận huấn luyện chung, nó có thể ảnh hưởng đến tất cả các hệ thống cùng một lúc. Điều này giống như việc canh tác độc canh (monoculture) trong nông nghiệp — tuy dễ quản lý hơn, nhưng cũng dễ tổn thương hơn trước những điểm yếu chung.

Một cuộc cất cánh dị biệt (heterogeneous) là khi ta chứng kiến sự đa dạng kiến trúc đáng kể giữa các hệ thống AI tiên tiến. Các tổ chức khác nhau có thể phát triển những cách tiếp cận AI về căn bản khác nhau, dẫn đến các hệ thống có điểm mạnh, điểm yếu, và hành vi riêng biệt. Một số có thể được chuyên biệt hóa cho các lĩnh vực cụ thể trong khi số khác tổng quát hơn, một số có thể minh bạch hơn trong khi số khác mờ đục hơn, một số có thể căn chỉnh tốt hơn với giá trị con người trong khi số khác thì không. Động lực cạnh tranh giữa các dự án AI có thể làm trầm trọng thêm sự đa dạng này, khi các nhóm đua nhau đạt được đột phá mà không nhất thiết thống nhất về phương pháp luận hay chia sẻ thông tin quan trọng. Ví dụ, ta có thể có một tương lai nơi AI trở thành tài sản chiến lược quốc gia, và việc phát triển AI được bảo vệ chặt chẽ. Trong môi trường này, việc theo đuổi năng lực AI trở nên biệt lập theo từng nhóm (siloed), mỗi công ty hay quốc gia sau đó sẽ áp dụng những phương pháp phát triển khác nhau, có khả năng dẫn đến một phạm vi rộng các hành vi, chức năng, và mức độ an toàn.

Cất cánh dị biệt tạo ra những thách thức khác cho an toàn. Ta sẽ cần phát triển các biện pháp an toàn có tác dụng trên nhiều hệ thống đa dạng, và ta không thể nhất thiết áp dụng những bài học rút ra từ một hệ thống sang các hệ thống khác. Tuy nhiên, sự đa dạng có thể mang lại một số bảo vệ trước các rủi ro mang tính hệ thống — nếu một cách tiếp cận nào đó tỏ ra nguy hiểm, các phương án thay thế vẫn sẽ tồn tại.

Mức độ đồng nhất trong quá trình cất cánh có những hệ quả đáng kể đối với việc AI chuyển đổi có thể phát triển như thế nào. Trong một kịch bản đồng nhất, tiến bộ có thể dự đoán được hơn nhưng cũng dễ rơi vào động lực "kẻ thắng lấy tất cả" (winner-take-all) hơn. Một kịch bản dị biệt có thể vững chắc hơn trước các điểm lỗi đơn lẻ nhưng khó giám sát và kiểm soát hơn.

Tính Phân cực

Tính phân cực (Polarity) mô tả việc quyền lực và năng lực trở nên tập trung vào một hệ thống AI hay tổ chức duy nhất, hay vẫn được phân bổ giữa nhiều cá nhân khác nhau. Nói cách khác, liệu một hệ thống AI hay một nhóm sẽ vượt lên dẫn trước tất cả những đối thủ khác một cách đáng kể, hay nhiều hệ thống AI sẽ cùng tiến bộ song song với năng lực tương đương nhau?

Trong một cuộc cất cánh đơn cực (unipolar), một hệ thống AI hay tổ chức duy nhất giành được vị trí dẫn đầu mang tính quyết định so với tất cả những đối thủ khác. Điều này có thể xảy ra thông qua một đột phá đơn lẻ, những lợi thế vượt trội trong việc mở rộng quy mô, hay tự cải thiện đệ quy. Ví dụ, nếu một hệ thống AI trở nên đủ năng lực để tăng tốc đáng kể sự phát triển của chính nó, nó có thể nhanh chóng vượt xa tất cả các hệ thống khác. Toán học của sức mạnh tính toán huấn luyện cung cấp một con đường dẫn đến kết quả đơn cực. Nếu việc tăng gấp đôi sức mạnh tính toán dẫn đến những cải thiện đáng tin cậy về năng lực, thì một tổ chức vượt lên đủ xa trong việc thu nạp sức mạnh tính toán có thể duy trì hoặc nới rộng khoảng cách dẫn đầu của mình. Các hệ thống được cải thiện của họ khi đó có thể giúp họ phát triển các phương pháp huấn luyện, phần cứng tốt hơn nữa, và thu hút đầu tư, tạo ra một vòng phản hồi tích cực mà các đối thủ khác không thể sánh kịp. Nhưng sức mạnh tính toán không phải là con đường duy nhất dẫn đến đơn cực. Một tổ chức duy nhất có thể khám phá ra một cách tiếp cận huấn luyện tốt hơn về căn bản, hoặc phát triển một hệ thống AI giỏi tự cải thiện chính nó hơn là giúp con người xây dựng các phương án thay thế. Một khi bất kỳ cá nhân nào vượt lên đủ xa, việc các đối thủ khác bắt kịp có thể trở nên gần như bất khả thi trên thực tế.

Trong một cuộc cất cánh đa cực (multipolar), nhiều hệ thống AI hay tổ chức phát triển năng lực tiên tiến song song với nhau. Điều này có thể trông giống như nhiều phòng thí nghiệm lớn phát triển các hệ thống AI khác nhau nhưng có sức mạnh tương đương, hoặc như nhiều cá nhân có quyền tiếp cận các năng lực AI tương tự nhau thông qua các mô hình mã nguồn mở hay các dịch vụ AI. Bối cảnh AI ngày nay cho thấy những yếu tố của tính đa cực — nhiều tổ chức có thể huấn luyện các mô hình ngôn ngữ lớn, và các kỹ thuật do một phòng thí nghiệm phát triển thường nhanh chóng được các phòng thí nghiệm khác áp dụng. Một cuộc cất cánh đa cực có thể tiếp tục khuôn mẫu này, với nhiều nhóm duy trì năng lực tương tự nhau ngay cả khi những năng lực đó trở nên mang tính chuyển đổi. Một kịch bản đơn cực làm dấy lên lo ngại về sự tập trung quyền lực, trong khi một thế giới đa cực đặt ra những thách thức trong việc phối hợp giữa các thực thể hay hệ thống AI đa dạng. Cả hai thế giới đơn cực và đa cực đều tiềm ẩn nguy cơ các cá nhân con người lợi dụng sai mục đích các năng lực AI tiên tiến.

Trong một kịch bản đơn cực, hành động và sự căn chỉnh của một hệ thống hay tổ chức duy nhất trở nên then chốt — họ có thể giành được khả năng định hình tương lai dài hạn một cách đơn phương. Điều này tập trung rủi ro vào một điểm lỗi duy nhất, nhưng cũng có thể khiến việc phối hợp dễ dàng hơn vì có ít cá nhân hơn cần phải đồng thuận. Một kịch bản đa cực tạo ra những thách thức khác. Nhiều hệ thống tiên tiến có thể hành động theo những cách xung đột nhau hoặc cạnh tranh giành nguồn lực. Điều này có thể tạo áp lực phải triển khai hệ thống nhanh chóng hoặc cắt giảm các bước an toàn. Cũng có một sự tương tác quan trọng giữa tính phân cực và các khía cạnh khác của cất cánh mà ta đã bàn. Một cuộc cất cánh nhanh có thể có nhiều khả năng trở thành đơn cực hơn, vì hệ thống đầu tiên đạt tiến bộ nhanh chóng có thể nhanh chóng vượt xa tất cả các hệ thống khác. Một cuộc cất cánh chậm có thể có xu hướng thiên về đa cực hơn, cho nhiều cá nhân hơn thời gian để bắt kịp bất kỳ lợi thế ban đầu nào.

Các Yếu tố Ảnh hưởng đến Tính Phân cực. Một số yếu tố then chốt ảnh hưởng đến việc tính phân cực của cất cánh nghiêng về kết quả đơn cực hay đa cực:

• Tốc độ Phát triển AI: Một cuộc cất cánh nhanh có thể ủng hộ kết quả đơn cực, bằng cách mang lại lợi thế đáng kể cho bên phát triển nhanh nhất. Ngược lại, một cuộc cất cánh chậm hơn có thể dẫn đến một thế giới đa cực, nơi nhiều thực thể đạt được năng lực tiên tiến gần như đồng thời với nhau.
• Hợp tác so với Cạnh tranh: Mức độ hợp tác và cởi mở trong cộng đồng nghiên cứu AI có thể ảnh hưởng đáng kể đến tính phân cực của cất cánh. Mức độ hợp tác và chia sẻ thông tin cao có thể ủng hộ kết quả đa cực, trong khi các môi trường bí mật hay cạnh tranh cao độ có thể đẩy về hướng đơn cực.
• Động lực Quy định và Kinh tế: Các khung quy định và động lực kinh tế cũng đóng vai trò then chốt. Các chính sách khuyến khích sự đa dạng trong phát triển AI và giảm thiểu việc tích tụ quá nhiều quyền lực vào tay bất kỳ thực thể đơn lẻ nào đều có thể thúc đẩy một cuộc cất cánh đa cực.