Chương 1: Năng lực

AI đã trải qua một bước chuyển mình mạnh mẽ trong thập kỷ vừa qua. Các hệ thống chơi game đã phát triển khả năng sáng tạo về mặt chiến thuật khiến ngay cả các đại kiện tướng cũng phải bất ngờ; các mô hình ngôn ngữ thì đi từ những lần tự động hoàn thành câu chữ ngớ ngẩn, buồn cười, cho đến trở thành trợ lý kỹ sư phần mềm có thể xử lý những codebase trải dài hàng nghìn tệp tin. Những ví dụ như vậy phản ánh một sự thay đổi trong cách công nghệ đang phát triển, đồng thời đặt ra câu hỏi mà toàn bộ cẩm nang này cố gắng trả lời: làm sao để đảm bảo an toàn cho một thứ mà bạn không hiểu hết khả năng của nó, khi năng lực của nó có thể thay đổi đáng kể chỉ trong khoảng thời gian từ lúc bạn bắt đầu đọc chương này đến lúc đọc xong?

Chương đầu tiên này có nhiệm vụ vẽ nên bức tranh tổng quan. Trước khi có thể bàn đến những năng lực nguy hiểm, các chiến lược căn chỉnh, giải pháp kỹ thuật hay khung quản trị — vốn là chủ đề của các Chương 2, 3 và 4 — bước đầu tiên là phải hình dung được hệ thống AI hiện có thể làm được gì, chúng đã đi đến đó bằng cách nào, và các xu hướng trong tương lai đang chỉ về đâu.

Câu hỏi đầu tiên cần trả lời là: thế nào được coi là trí tuệ "tổng quát"? Các hệ thống mà chúng ta đang chứng kiến hiện nay thể hiện một bước chuyển từ AI hẹp (narrow AI) — những hệ thống chỉ giỏi làm một việc — sang các hệ thống AI đa dụng (mô hình nền tảng) có khả năng học các quy luật tổng quát, thích nghi với tình huống mới, và làm tốt nhiều việc khác nhau. Thuật ngữ AGI được nhắc đến liên tục, nhưng mỗi người lại hiểu nó theo một cách rất khác nhau. Chúng tôi sẽ giới thiệu một vài cách tiếp cận khác nhau để định nghĩa trí tuệ, từ phép thử Turing cho đến các khung đo lường tâm trắc học (psychometrics), trước khi đi đến một định nghĩa thực dụng, có thể áp dụng được: coi năng lực và tính đa dạng là các trục liên tục thay vì các phạm trù nhị phân. Mục tiêu là để có thể đưa ra những phát biểu cụ thể, rõ ràng, kiểu như: "hệ thống này đạt hiệu suất ở bách phân vị thứ 85 trên 30% các lĩnh vực nhận thức, theo phép đo…" — đủ cụ thể để đo lường, theo dõi, và xây dựng chính sách xoay quanh đó.

Câu hỏi thứ hai mà ai cũng đặt ra: vì sao gần đây mọi thứ lại diễn ra nhanh đến vậy? Câu trả lời nằm ở "bài học cay đắng" (bitter lesson) của ngành nghiên cứu AI — khối lượng tính toán khổng lồ luôn thắng thế trước tri thức do con người mã hoá thủ công. Chúng ta sẽ xem xét các định luật mở rộng quy mô (scaling laws) — những mối quan hệ được rút ra từ thực nghiệm, cho thấy càng nhiều dữ liệu và tính toán thì hiệu suất càng được cải thiện một cách có thể dự đoán được — cùng nhiều luồng quan điểm khác nhau trong cuộc tranh luận về việc liệu chỉ riêng việc mở rộng quy mô có đủ (và có bền vững hay không) để tạo ra AI chuyển đổi (transformative AI), hay liệu chúng ta có cần thêm những đột phá thuật toán khác.

Phần cuối của chương sẽ hướng đến tương lai. Việc dự đoán thời điểm AI có thể tự động hoá toàn bộ lao động trí óc sẽ quyết định chiến lược an toàn nào thực sự khả thi. Nếu AI chuyển đổi xuất hiện vào năm 2030, chúng ta cần những giải pháp hoạt động được với các hệ thống hiện tại và có thể mở rộng quy mô thật nhanh. Nếu phải đến năm 2050, chúng ta sẽ có thời gian cho nghiên cứu nền tảng. Điều này có nghĩa là phải xem xét các kịch bản khác nhau cho quá trình "cất cánh" (takeoff) — liệu tiến trình sẽ diễn ra từ từ hay bùng nổ, liên tục hay đứt đoạn — và điều đó có ý nghĩa gì đối với khả năng ứng phó của chúng ta.

Những ví dụ cụ thể và điểm số các bài kiểm tra trong chương này rồi sẽ sớm lỗi thời, nhưng các quy luật nền tảng đằng sau chúng thì vẫn còn nguyên giá trị. Định luật mở rộng quy mô, năng lực trỗi dậy (emergent capabilities), sự chuyển dịch từ hệ thống hẹp sang hệ thống tổng quát — đây là những xu hướng đủ ổn định để bạn tìm hiểu, ngay cả khi từng bài kiểm tra riêng lẻ trở nên lỗi thời. Đến cuối chương này, bạn sẽ có một khung khái niệm cụ thể để định nghĩa AGI, cùng một góc nhìn rõ ràng hơn nhiều về các cuộc tranh luận đang định hình lĩnh vực an toàn AI.

Hãy bắt đầu bằng việc tìm hiểu xem những hệ thống này thực sự có thể làm được gì — và danh sách đó đang dài ra nhanh đến mức nào.

Lời cảm ơn

Chúng tôi xin cảm ơn Jeanne Salle, Charles Martinet, Vincent Corruble, Diego Dorn, Josh Thorsteinson, Jonathan Claybrough, Alejandro Acelas, Jamie Raldua Veuthey, Alexandre Variengien, Léo Dana, Angélina Gentaz, Nicolas Guillard và Leo Karoubi vì những phản hồi và đóng góp quý báu của họ.