Chương 1.3: Định nghĩa và đo lường AGI

Tiến bộ trong lĩnh vực an toàn đòi hỏi các định nghĩa và tiêu chí đo lường rõ ràng. Để lập kế hoạch an toàn, chúng ta tập trung vào những gì hệ thống thực sự có thể làm, phân tách trí tuệ thành các năng lực cụ thể, có thể đo lường được.

Trước khi có thể bàn về an toàn AI, chúng ta cần thống nhất về ý nghĩa của AGI. Trong phần trước về mô hình nền tảng, chúng ta đã thấy các hệ thống AI hiện đại đang ngày càng trở nên mạnh mẽ và đa dụng hơn. Nhưng mạnh mẽ ở điểm nào? Một số nhà nghiên cứu cho rằng chúng ta đã bắt đầu thấy những "tia sáng" của AGI trong các mô hình ngôn ngữ mới nhất (Bubeck et al., 2023 (mở trong tab mới)). Những người khác dự đoán AI đạt trình độ con người trong vòng một thập kỷ tới (Bengio et al., 2023 (mở trong tab mới)). Nhưng trình độ con người ở khía cạnh nào? Chúng ta đo lường điều này bằng cách nào? Nếu không có một định nghĩa rõ ràng, làm sao ta có thể đánh giá những tuyên bố như vậy hay lập kế hoạch cho các biện pháp an toàn phù hợp?

Nếu không thể định nghĩa một thứ gì đó, ta không thể đo lường nó. Nếu không thể đo lường nó, ta không thể theo dõi tiến độ một cách đáng tin cậy, hay xác định và chuẩn bị cho các rủi ro. Hãy nghĩ đến một ví dụ trong vật lý học. Nếu muốn thiết kế và thực thi giới hạn tốc độ cho xe cộ, việc nói một vật "di chuyển 5" sẽ vô nghĩa nếu thiếu đơn vị. Nó di chuyển 5 mét, 5 feet, hay 5 cubit hoàng gia? Nếu không biết nó di chuyển bao xa hay nhanh đến đâu, ta không thể thực thi giới hạn nào cả. Điều tương tự cũng áp dụng cho trí tuệ và các biện pháp an toàn tiếp theo. Mọi lĩnh vực đều cần các đơn vị chuẩn hóa — mét, watt, joule — để tiến xa hơn những mô tả mơ hồ. Chúng ta cần nhìn nhận an toàn AI với sự nghiêm ngặt tương tự để vượt qua lối nói chung chung về "trí tuệ."

Định nghĩa trí tuệ tổng quát là một việc cực kỳ khó khăn. Ai cũng đồng ý rằng chúng ta cần một định nghĩa để đo lường tiến độ và thiết kế các biện pháp an toàn. Vậy tại sao ta vẫn chưa có? Vấn đề nằm ở chỗ trí tuệ mô tả nhiều năng lực chồng chéo lên nhau — giải quyết vấn đề, học hỏi, thích nghi, suy luận trừu tượng. Các ngành khác nhau nhìn nhận nó qua những lăng kính khác nhau. Các nhà tâm lý học nhấn mạnh vào các kỹ năng nhận thức có thể đo lường được. Các nhà khoa học máy tính tập trung vào hiệu suất thực hiện nhiệm vụ. Các triết gia tranh luận về ý thức và khả năng tự nhận thức. Vậy cách tiếp cận nào quan trọng nhất đối với an toàn AI? Chúng ta sẽ điểm qua một vài nghiên cứu tình huống (case studies) và những nỗ lực định nghĩa trước đây, trước khi đưa ra các định nghĩa mà cẩm nang này sẽ sử dụng.

Nghiên cứu Tình huống

Alan Turing cho rằng ta có thể né tránh toàn bộ mớ hỗn độn này bằng cách tập trung vào hành vi. Nếu một cỗ máy có thể bắt chước hội thoại của con người đủ giỏi để đánh lừa người thẩm vấn, nó nên được xem là có trí tuệ (Turing, 1950 (mở trong tab mới)). Cách tiếp cận hành vi luận (behaviorist) này khá đơn giản — bỏ qua các trạng thái tâm trí bên trong và tập trung vào hành vi có thể quan sát được. Hệ thống có thể làm được việc đó hay không? Đáng tiếc, các LLM đã bộc lộ một số hạn chế của cách tiếp cận này. GPT-4 có thể vượt qua các bài kiểm tra hội thoại kiểu Turing, nhưng lại gặp khó khăn với suy luận không gian cơ bản hoặc duy trì các kế hoạch dài hạn mạch lạc (Rapaport, 2020 (mở trong tab mới)). Bài kiểm tra này quá hẹp. Hội thoại chỉ là một trong nhiều năng lực mà ta quan tâm. Nhưng nhận định cốt lõi của Turing — tập trung vào năng lực có thể quan sát được, chứ không phải các trạng thái nội tại — vẫn còn giá trị.

Các cách tiếp cận trí tuệ tổng quát dựa trên ý thức tập trung vào "sự thấu hiểu thực sự." Lập luận Căn phòng Trung Hoa (Chinese Room argument) của John Searle cho rằng một hệ thống có thể trông có vẻ thông minh (như những "con vẹt máy ngẫu nhiên" — stochastic parrots) mà không thực sự thấu hiểu — xử lý các ký hiệu mà không nắm được ý nghĩa của chúng (Searle, 1980 (mở trong tab mới)). Quan điểm này nhấn mạnh các trạng thái nhận thức nội tại tương tự ý thức con người. Vấn đề là ý thức thường còn khó định nghĩa hơn cả trí tuệ. Ta cũng không chắc liệu trí tuệ và ý thức có nhất thiết gắn liền với nhau hay không — một hệ thống có thể rất thông minh mà không có ý thức, hoặc có ý thức mà không đặc biệt thông minh. AlphaGo rất thông minh trong phạm vi chơi cờ vây, nhưng rõ ràng nó không có ý thức. Một hệ thống không cần có ý thức để gây hại. Việc một hệ thống AI có ý thức hay không gần như không ảnh hưởng đến khả năng nó đưa ra các quyết định có tầm ảnh hưởng lớn hoặc thực hiện các hành động tiềm ẩn nguy hiểm.³ Nghiên cứu về ý thức, về tri giác (sentience), và các tranh luận triết học siêu đạo đức về bản chất nền tảng của trí tuệ đều có giá trị, nhưng lại ít mang tính hành động đối với loại công việc an toàn mà cẩm nang này tập trung vào.

Định nghĩa trí tuệ qua khả năng đạt mục tiêu. Shane Legg và Marcus Hutter đề xuất: "Trí tuệ đo lường khả năng của một tác nhân (agent) trong việc đạt được mục tiêu trên nhiều môi trường khác nhau" (Legg & Hutter, 2007 (mở trong tab mới)). Định nghĩa này nắm bắt được một điều quan trọng — các hệ thống thông minh cần có khả năng tìm ra cách đạt được điều mình muốn trong nhiều tình huống khác nhau. Nhưng nó lại quá trừu tượng để có thể đo lường trong thực tế. Tác nhân được định nghĩa như thế nào? Mục tiêu nào? Môi trường nào? Làm sao để thực sự kiểm chứng điều này? Trực giác thì đúng, nhưng ta cần một thứ gì đó cụ thể hơn.

Các quan điểm tập trung vào quá trình và khả năng thích nghi nhìn nhận trí tuệ là hiệu quả học hỏi, chứ không phải là tổng các kỹ năng tích lũy được. Một số nhà nghiên cứu định nghĩa trí tuệ qua khả năng thích nghi: "năng lực của một hệ thống trong việc thích nghi với môi trường của nó trong khi vận hành với kiến thức và nguồn lực không đầy đủ" (Wang, 2020 (mở trong tab mới)), hay "hiệu quả mà một hệ thống có thể chuyển hóa kinh nghiệm và các tri thức nền (priors) thành kỹ năng" (Chollet, 2019 (mở trong tab mới)). Họ lập luận rằng trí tuệ tổng quát không được thể hiện qua việc sở hữu một kỹ năng cụ thể, mà qua hiệu quả tiếp thu kỹ năng mới khi đối mặt với vấn đề chưa từng gặp. Hiệu suất cao có thể được "mua" bằng đủ dữ liệu và sức mạnh tính toán — một AI đạt hiệu suất siêu việt ở cờ vây đã làm chủ cờ vây, nhưng chưa chắc đã trở nên thông minh hơn theo nghĩa tổng quát. Điều này có lý — khả năng học nhanh từ lượng dữ liệu hạn chế trong các tình huống mới là điều quan trọng. Một hệ thống cần đến một tỷ ví dụ để học được điều mà con người chỉ cần mười ví dụ có thể kém ấn tượng hơn, dù cả hai đạt cùng một năng lực cuối cùng. Nhưng xét thuần túy từ góc độ an toàn, liệu con đường học tập có quan trọng hơn đích đến? Nếu một hệ thống có thể thực hiện các nhiệm vụ nguy hiểm dù thông qua học tập hiệu quả hay ghi nhớ vét cạn (brute-force), thì rủi ro vẫn tồn tại trong cả hai trường hợp.

Các nhà tâm lý học sử dụng các bài kiểm tra chuẩn hóa và đo lường trực tiếp năng lực nhận thức. Các truyền thống đo lường tâm lý (psychometric) như lý thuyết Cattell-Horn-Carroll (CHC) chia trí tuệ thành các lĩnh vực nhận thức có thể đo lường được — suy luận, trí nhớ, tốc độ xử lý, khả năng không gian (Schneider & McGrew, 2018 (mở trong tab mới)). Các bài kiểm tra IQ không hoàn hảo, nhưng chúng dự đoán kết quả trong thế giới thực tốt hơn những cuộc tranh luận triết học mơ hồ về "sự thấu hiểu thực sự." Khung đo lường dựa trên bài kiểm tra và tiêu chuẩn đánh giá này cho ta các lĩnh vực cụ thể để đo lường và theo dõi.

Khi bàn về rủi ro AI, hãy nói về năng lực, chứ không phải trí tuệ... Mọi người thường có những định nghĩa khác nhau về trí tuệ, hoặc gắn nó với các khái niệm như ý thức vốn không liên quan đến rủi ro AI, hoặc bác bỏ rủi ro chỉ vì trí tuệ chưa được định nghĩa rõ ràng.

Victoria Krakovna Nhà nghiên cứu khoa học cấp cao tại Google DeepMind Tháng 8/2023 • Krakovna, 2023 (mở trong tab mới)

Các cách tiếp cận hành vi luận (tập trung vào năng lực) là quan trọng nhất đối với an toàn. Nếu một hệ thống AI có thể thực hiện các nhiệm vụ nguy hiểm ở trình độ con người trở lên — lập kế hoạch tinh vi, thao túng, lừa dối — thì những rủi ro này tồn tại bất kể nó đạt được khả năng đó bằng cách nào. Nó học một cách hiệu quả hay bằng vét cạn? Nó có ý thức hay chỉ đang khớp mẫu (pattern-matching)? Những câu hỏi này không làm thay đổi hồ sơ rủi ro. OpenAI định nghĩa AGI là "các hệ thống tự định hướng cao vượt trội hơn con người ở phần lớn công việc có giá trị kinh tế" (OpenAI, 2023 (mở trong tab mới)). Anthropic xây dựng sứ mệnh của mình xoay quanh việc đảm bảo "AI chuyển đổi (transformative AI) mang lại lợi ích cho con người và xã hội" (Anthropic, 2024 (mở trong tab mới)). Cả hai đều tập trung vào những gì hệ thống có thể làm, chứ ít chú trọng đến cách chúng làm điều đó. Nhưng ngay cả những định nghĩa dựa trên năng lực này cũng có thể quá mơ hồ. Con người nào được dùng làm thước đo — chuyên gia hàng đầu hay người lao động trung bình? Điều gì được tính là có giá trị kinh tế — chỉ những công việc hiện tại hay cả những công việc trong tương lai? Còn những hệ thống xuất sắc ở các nhiệm vụ phức tạp nhưng chỉ hoạt động được trong thời gian ngắn hoặc đòi hỏi sức mạnh tính toán khổng lồ thì sao? Các định nghĩa này đi đúng hướng nhưng thiếu độ chính xác cần thiết để theo dõi tiến độ và xác định rủi ro.

Cách tiếp cận của chúng tôi cố gắng tổng hợp những phần hữu ích từ tất cả các quan điểm trên. Chúng tôi tiếp thu nhận định hành vi luận của Turing — chủ yếu tập trung vào những gì hệ thống có thể quan sát được là làm. Chúng tôi sử dụng khung đo lường cụ thể của truyền thống đo lường tâm lý từ lý thuyết CHC. Chúng tôi ghi nhận và tiếp thu quan điểm về học tập hiệu quả từ trường phái tập trung vào khả năng thích nghi, nhưng ưu tiên năng lực cuối cùng. Và chúng tôi gác lại cuộc tranh luận về ý thức vì nó không mang tính hành động đối với công việc an toàn.

Chúng ta cần một khung định nghĩa vừa cụ thể vừa liên tục (continuous). Đủ cụ thể để đo lường những gì hệ thống có thể làm ngay bây giờ, đồng thời có thể xác định các ngưỡng cho việc quản lý, và các rủi ro mới nổi trước khi chúng thực sự xảy ra. Nó cũng cần liên tục để nắm bắt tiến độ trên nhiều chiều khác nhau, thay vì gò ép mọi thứ vào các phạm trù nhị phân dẫn đến những cuộc tranh cãi ngữ nghĩa bất tận về việc liệu thứ gì đó có "được tính" là AGI hay không. Đó chính là điều chúng ta sẽ xây dựng ở phần tiếp theo: năng lực và đa dạng như hai trục liên tục cho phép ta mô tả chính xác bất kỳ hệ thống AI nào.

Định nghĩa Trí tuệ Tổng quát

AGI tồn tại trên một phổ liên tục được đo bằng hai chiều: năng lực (capability) và đa dạng (generality). Năng lực đo lường mức độ một hệ thống thực hiện tốt các nhiệm vụ nhận thức cụ thể — từ 0% (hoàn toàn không thể thực hiện nhiệm vụ) đến trình độ chuyên gia con người (vượt trội khoảng 80-90% con người ở nhiệm vụ cụ thể đó) đến siêu việt (vượt trội 100% con người). Đa dạng đo lường độ rộng — tỷ lệ phần trăm các lĩnh vực nhận thức mà một hệ thống đạt được năng lực ở trình độ chuyên gia. Kết hợp lại, hai chiều này cho ta những phát biểu cụ thể như "hệ thống AI của chúng tôi có thể vượt trội hơn 85% con người ở 30% các lĩnh vực nhận thức." Điều này mô tả chính xác năng lực của bất kỳ hệ thống AI nào.

Năng lực đo lường chiều sâu — hệ thống giỏi đến mức nào ở từng nhiệm vụ riêng lẻ. Trong nhiều thập kỷ, nghiên cứu AI tập trung vào việc giúp hệ thống xuất sắc ở một nhiệm vụ đơn lẻ. Các chương trình cờ vua đầu tiên vào thập niên 1950 đánh bại người mới chơi nhưng thua các kỳ thủ chuyên nghiệp. Deep Blue vào thập niên 1990 đánh bại nhà vô địch thế giới Kasparov. AlphaGo vào năm 2016 đạt năng lực siêu việt ở cờ vây, một trò chơi mà con người từng nghĩ máy tính sẽ không thể làm chủ trong nhiều thập kỷ tới. Quá trình tiến triển từ "không thể thực hiện nhiệm vụ" đến "giỏi hơn bất kỳ con người nào" thể hiện phổ năng lực này. Mọi điểm trên đường này — từ năng lực cơ bản đến năng lực siêu việt ở một nhiệm vụ đơn lẻ — đều được xem là trí tuệ nhân tạo hẹp (artificial narrow intelligence, ANI).

Định nghĩa 1.1 — Trí tuệ Nhân tạo Hẹp (ANI)

AI yếu (Weak AI) — còn gọi là AI Hẹp (Narrow AI) hay Trí tuệ Nhân tạo Hẹp (ANI) — là AI được huấn luyện và tập trung để thực hiện các nhiệm vụ cụ thể. AI yếu chiếm phần lớn trong số các AI hiện diện xung quanh chúng ta ngày nay. "Hẹp" có lẽ là một cách mô tả chính xác hơn cho loại AI này, vì nó chẳng hề yếu chút nào; nó tạo nên nhiều ứng dụng rất mạnh mẽ, chẳng hạn như Siri của Apple, Alexa của Amazon, IBM Watson, và xe tự lái.

IBM, 2023 (mở trong tab mới)

Chỉ riêng năng lực thôi thì chưa đủ để định nghĩa và đo lường tiến độ. AlphaGo đạt năng lực siêu việt ở cờ vây — giỏi hơn bất kỳ con người nào từng có. Nhưng nếu yêu cầu nó viết một câu, giải một bài toán đại số, hay nhận diện đồ vật trong một bức ảnh, ta sẽ chẳng nhận được gì cả. Đây chính là lúc mô hình nền tảng làm thay đổi cục diện. Sự chuyển dịch từ việc xây dựng một hệ thống hẹp cho mỗi nhiệm vụ sang huấn luyện các mô hình đa dụng là lý do vì sao ta đột nhiên cần một khung đo lường cả hai trục — năng lực và đa dạng. Các AI trước thời mô hình nền tảng đã đạt mức tối đa trên trục năng lực ở một số nhiệm vụ riêng lẻ. Nhưng các hệ thống trong vài năm gần đây đang leo lên cả hai trục cùng lúc — vừa giỏi hơn ở các năng lực cụ thể, vừa mở rộng sang nhiều lĩnh vực hơn. Năng lực đo chiều sâu; đa dạng đo chiều rộng.

Khi các chuyên gia nói rằng họ thấy "những tia sáng của AGI" trong các hệ thống gần đây, họ đang quan sát hiệu suất trên nhiều lĩnh vực nhận thức — chứ không chỉ một (Bubeck et al., 2023 (mở trong tab mới)). Hãy hình dung như chiếc máy bay đầu tiên do anh em nhà Wright chế tạo. Nó bay chật vật, chỉ lơ lửng trên không vài giây, và trông chẳng giống gì những chiếc máy bay chở khách hiện đại. Nhưng nó vẫn là một chiếc máy bay! Tương tự, các hệ thống đạt hiệu suất trình độ chuyên gia trên dù chỉ một tập hợp con khiêm tốn các lĩnh vực nhận thức cũng đại diện cho trí tuệ tổng quát đích thực — chỉ là ở giai đoạn sơ khai (AGI yếu). Khi các năng lực này mở rộng để bao phủ nhiều lĩnh vực hơn ở mức hiệu suất cao hơn, các hệ thống trở nên vừa đa dạng hơn vừa có năng lực hơn. Không có một ngưỡng nào được thống nhất rộng rãi mà tại đó "chưa phải AGI" đột nhiên trở thành "AGI."

Không phải mọi nhiệm vụ đều có tầm quan trọng như nhau đối với tiến trình hướng tới trí tuệ tổng quát. Ta không quan tâm nhiều nếu AI giỏi hơn trong việc đan áo len, nhưng ta rất quan tâm nếu nó tiến bộ hơn ở suy luận trừu tượng, lập kế hoạch dài hạn, và trí nhớ. Những điều ta quan tâm có thể hình dung một cách không chính thức là tất cả những gì có thể làm được như công việc từ xa trên máy tính. Nói một cách chính thức hơn, các lĩnh vực mà ta chọn tập trung vào là các nhiệm vụ nhận thức phi hiện thân (non-embodied). Những nhiệm vụ này được chia thành mười năng lực cốt lõi theo lý thuyết Cattell-Horn-Carroll (Hendrycks et al., 2025 (mở trong tab mới)). Các năng lực cụ thể mà ta đã nêu ví dụ ở phần đầu — LLM thực hiện suy luận và toán học, mô hình thị giác hiểu hình ảnh, tác nhân lập kế hoạch trong Minecraft — ánh xạ trực tiếp vào các lĩnh vực này (Hendrycks et al., 2025 (mở trong tab mới)):

1. Kiến thức Tổng quát (K): Độ rộng của sự hiểu biết về các sự kiện trong thế giới, bao gồm lẽ thường, văn hóa, khoa học, khoa học xã hội, và lịch sử.
2. Khả năng Đọc và Viết (RW): Sự thành thạo trong việc tiếp nhận và tạo ra ngôn ngữ viết, từ giải mã cơ bản đến khả năng hiểu, soạn thảo, và sử dụng ngôn ngữ phức tạp.
3. Khả năng Toán học (M): Chiều sâu kiến thức và kỹ năng toán học trên các lĩnh vực số học, đại số, hình học, xác suất, và giải tích.
4. Suy luận Tại chỗ (R): Khả năng điều khiển sự chú ý một cách linh hoạt để giải quyết các vấn đề chưa từng gặp mà không chỉ dựa vào các khuôn mẫu (schemas) đã học trước đó, được kiểm tra thông qua suy diễn và quy nạp.
5. Trí nhớ Làm việc (WM): Khả năng duy trì và thao tác thông tin trong vùng chú ý đang hoạt động, trên các phương tiện văn bản, thính giác, và thị giác.
6. Lưu trữ Trí nhớ Dài hạn (MS): Năng lực học liên tục các thông tin mới (theo kiểu liên tưởng, có ý nghĩa, và nguyên văn).
7. Truy xuất Trí nhớ Dài hạn (MR): Sự trôi chảy và chính xác trong việc truy cập kiến thức đã lưu trữ, bao gồm khả năng quan trọng là tránh bịa đặt thông tin (confabulation, hay "ảo giác" — hallucination).
8. Xử lý Thị giác (V): Khả năng cảm nhận, phân tích, suy luận về, tạo ra, và quét thông tin thị giác.
9. Xử lý Thính giác (A): Năng lực phân biệt, nhận diện, và làm việc một cách sáng tạo với các kích thích thính giác, bao gồm giọng nói, nhịp điệu, và âm nhạc.
10. Tốc độ (S): Khả năng thực hiện nhanh các nhiệm vụ nhận thức đơn giản, bao gồm tốc độ tri giác, thời gian phản ứng, và độ trôi chảy trong xử lý.

Đa dạng là tỷ lệ phần trăm các lĩnh vực mà một hệ thống đạt được năng lực ở trình độ chuyên gia. Nếu một hệ thống đạt điểm từ bách phân vị thứ 80 trở lên ở ba trên mười lĩnh vực, đó là 30% đa dạng.⁴ Mô hình nền tảng đã làm tăng đáng kể chỉ số này so với AI hẹp truyền thống — một mô hình duy nhất xử lý được viết lách, toán học, lập trình, và hiểu hình ảnh thể hiện độ rộng chưa từng có. Nhưng các hệ thống hiện tại vẫn chỉ bao phủ một phần nhỏ trong các năng lực nhận thức, với hiệu suất đặc biệt yếu ở các lĩnh vực lập kế hoạch dài hạn và liên quan đến trí nhớ (Hendrycks et al., 2025 (mở trong tab mới); Kwa et al., 2025 (mở trong tab mới)).

Dù năng lực và đa dạng tồn tại trên một phổ liên tục, một số ngưỡng nhất định vẫn quan trọng đối với việc lập kế hoạch an toàn. Một hệ thống hoạt động tốt ở 50% lĩnh vực gây ra những rủi ro khác với một hệ thống xuất sắc ở 90%, và ta không thể phớt lờ thực tế này dù đa dạng là một biến liên tục. Khi bị yêu cầu đưa ra các ngưỡng cụ thể — điều thường được đòi hỏi trong các cuộc thảo luận — đây là cách diễn giải của chúng tôi về việc các thuật ngữ ánh xạ tương đối như thế nào vào không gian (hiệu suất, đa dạng):

Định nghĩa 1.2 — Trí tuệ Nhân tạo Tổng quát (AGI)

Sánh ngang với sự linh hoạt và thành thạo về nhận thức của một người trưởng thành có học vấn. Thường được dùng thay thế cho nhau với AI Trình độ Con người (Human level AI, HLAI). Theo định nghĩa của chúng tôi, đây sẽ là các hệ thống đạt hiệu suất trình độ chuyên gia (bách phân vị 80-90) trên phần lớn các lĩnh vực nhận thức (80-90%).

Hendrycks et al., 2025 (mở trong tab mới); Morris et al., 2024 (mở trong tab mới)

Định nghĩa 1.3 — AI Chuyển đổi (TAI)

AI có khả năng kích hoạt những chuyển đổi kinh tế và xã hội sánh ngang với cuộc cách mạng nông nghiệp hay công nghiệp. TAI được định nghĩa dựa trên tiềm năng tầm ảnh hưởng, chứ không phải kiến trúc nhận thức. Theo định nghĩa của chúng tôi, điều này có thể có nghĩa là năng lực trung bình (bách phân vị 60) trên nhiều nhiệm vụ quan trọng về kinh tế (50% lĩnh vực), HOẶC năng lực vượt trội (bách phân vị 99) ở các lĩnh vực then chốt như nghiên cứu và phát triển học máy tự động hóa (20% lĩnh vực).

Karnofsky, 2016 (mở trong tab mới)

Định nghĩa 1.4 — Siêu Trí tuệ Nhân tạo (ASI)

Bất kỳ trí tuệ nào vượt trội đáng kể so với năng lực nhận thức của con người trên hầu như toàn bộ các lĩnh vực đáng quan tâm. Theo định nghĩa của chúng tôi, điều này đại diện cho các hệ thống đạt năng lực siêu việt (>100%, vượt trội đáng kể so với toàn bộ con người) trên hầu như toàn bộ các lĩnh vực nhận thức (từ 95% lĩnh vực trở lên).

Bostrom, 2014 (mở trong tab mới)

Định nghĩa làm việc của chúng tôi không bao gồm mức độ tự định hướng mà một hệ thống AGI vận hành theo đó. Đây là một trục thực sự quan trọng cần lưu ý, nhưng nó liên quan nhiều hơn đến việc triển khai và tầm ảnh hưởng, chứ không phải là điều gì đó vốn có trong định nghĩa của AGI. Trục này sẽ được khai thác trong chương tiếp theo, dành riêng cho các rủi ro từ AI.

Đo lường Mức độ Tự định hướng (Agency)

Tự định hướng mô tả cách các hệ thống AI tương tác với con người, chứ không phải chúng có thể làm được gì. Một hệ thống có năng lực cao có thể được triển khai với nhiều mức độ giám sát khác nhau của con người. Cũng giống như ta có các đường cong liên tục cho năng lực và đa dạng, ta cũng có thể có một mức độ tự định hướng tăng dần, được đo bằng tỷ lệ phần trăm nhiệm vụ do con người hay do AI thực hiện (Morris et al., 2024 (mở trong tab mới)):

1. Cấp 0: Không có AI — Vận hành hoàn toàn bởi con người. Vẫn còn phù hợp cho giáo dục, đánh giá, hoặc các tình huống an toàn trọng yếu ngay cả sau khi AI có năng lực đã xuất hiện.
2. Cấp 1: AI như Công cụ — Hệ thống đưa ra gợi ý hoặc thông tin, con người đưa ra mọi quyết định. Giống như tự động hoàn thành (autocomplete) hoặc kiểm tra chính tả.
3. Cấp 2: AI như Cố vấn — Hệ thống đưa ra lời khuyên và đề xuất chuyên môn, con người vẫn chỉ đạo cách tiếp cận tổng thể. Giống như nhờ AI xem xét mã nguồn hoặc phân tích chiến lược.
4. Cấp 3: AI như Cộng sự — Con người và AI làm việc cùng nhau trên cơ sở bình đẳng, phân chia nhiệm vụ dựa trên thế mạnh của mỗi bên. Đòi hỏi AI phải hiểu khi nào cần yêu cầu trợ giúp.
5. Cấp 4: AI như Chuyên gia — AI đảm nhiệm phần lớn việc thực thi, con người giám sát và can thiệp khi cần thiết. Giống như xe tự lái có con người theo dõi.
6. Cấp 5: AI như Tác nhân — Vận hành hoàn toàn tự định hướng với sự giám sát tối thiểu từ con người. AI tự quyết định khi nào cần tham vấn con người. Đòi hỏi khả năng căn chỉnh (alignment) mạnh mẽ.

Mức độ tự định hướng ảnh hưởng đến mức độ phơi nhiễm rủi ro, chứ không phải bản thân mức độ nguy hiểm. Một hệ thống có năng lực được triển khai như một công cụ (Cấp 1) có thể an toàn hơn chính hệ thống đó khi được triển khai như một tác nhân (Cấp 5), dù năng lực nền tảng là như nhau. Các mức năng lực cao hơn "mở khóa" các mức tự định hướng cao hơn — ta không thể có tự định hướng Cấp 5 nếu thiếu năng lực đầy đủ — nhưng có năng lực không có nghĩa là nên sử dụng mức tự định hướng tối đa.

Vì mục đích an toàn, năng lực và mức độ tự định hướng khi triển khai nên được xem xét tách biệt. Một hệ thống đạt điểm 90% ở 80% lĩnh vực có thể được triển khai an toàn ở Cấp 2 (cố vấn) trong khi lại nguy hiểm ở Cấp 5 (tác nhân). Khung này giúp ta suy luận một cách tường minh về những đánh đổi này.

Những gì được trình bày trong phần này còn cách rất xa một định nghĩa được thống nhất rộng rãi. Có những chỉ trích nhắm vào cả khung các cấp độ AGI, lẫn cách tiếp cận tổng hợp bài kiểm tra CHC (Pacchiardi et al., 2025 (mở trong tab mới)). Có nhiều định nghĩa và khung đo lường thay thế khác đang được sử dụng, như công trình của Ủy ban Châu Âu về định nghĩa các mô hình AI Mục đích Chung (General Purpose AI, GPAI) (EU Commission, 2025 (mở trong tab mới)), khung (t,n)-AGI (Ngo, 2023 (mở trong tab mới)), các chỉ số năng lực AI của OECD (OECD, 2025 (mở trong tab mới)), chưa kể đến tất cả các định nghĩa cạnh tranh khác từ những nghiên cứu tình huống ở tiểu mục trước. Đây đều là những lựa chọn thay thế hợp lý. Lĩnh vực này vẫn đang phát triển và tìm ra những khoảng trống trong cách tiếp cận của mình. Chúng tôi kỳ vọng rằng các bài kiểm tra nền tảng (những năng lực nhận thức nào là quan trọng?) và các phương pháp tổng hợp (ta nên đánh giá trọng số chúng như thế nào?) dùng để đo lường tiến độ sẽ tiếp tục được tranh luận, nhưng khung nền tảng mà chúng tôi trình bày trong phần này — nhìn nhận năng lực và đa dạng như một phổ liên tục — sẽ vẫn giữ nguyên tính nhất quán.

Các phần tiếp theo của chương này sẽ xem xét lý do vì sao năng lực và đa dạng đã tiến bộ nhanh chóng trong những năm gần đây (Mở rộng Quy mô), và những gì ta có thể nói về việc chúng có thể sẽ hướng tới đâu (Dự báo và Cất cánh (Takeoff)). Việc suy nghĩ về tiến bộ AI theo cách liên tục này sẽ hữu ích xuyên suốt cẩm nang này khi ta bàn về rủi ro và các chiến lược giảm thiểu. Một số tổ hợp năng lực nhất định có thể tạo điều kiện cho các hành vi mới nổi (emergent) nguy hiểm, ngay cả trước khi đạt đến "trình độ con người" ở phần lớn nhiệm vụ. Tương tự, các khung quản trị và việc truyền đạt chính sách rõ ràng đều phụ thuộc vào việc đo lường chính xác để kích hoạt những phản ứng phù hợp. Tốc độ tiến bộ trên mỗi trục cung cấp những tín hiệu quan trọng về việc rủi ro nào cấp bách nhất, và biện pháp giảm thiểu an toàn nào cần được phát triển.

Lập luận Phản biện: Các ngưỡng tùy ý được tổng hợp và trình bày dưới dạng tỷ lệ phần trăm gây hiểu lầm

Khung này cho phép đo lường cụ thể, nhưng những người phản biện chỉ ra rằng các hệ thống phân loại đo lường tâm lý của con người như CHC có thể bỏ sót những năng lực phổ quát ở con người nhưng lại thiếu ở AI, và rằng điểm số phần trăm có thể ngụ ý một cách gây hiểu lầm về tiến bộ tuyến tính hướng tới AGI. Các lập luận phản biện chỉ ra rằng điểm số bài kiểm tra không khớp với nhận thức chung. Nhìn chung, nếu bạn để một LLM (kể cả khi có suy luận mở rộng hoặc công cụ hỗ trợ) thực hiện một nhiệm vụ mà bạn kỳ vọng một người trưởng thành có học vấn có thể hoàn thành, chúng thường gây thất vọng. Một LLM đạt 90% trên bài kiểm tra ma trận tiến triển Raven (Raven's Progressive Matrices) không thể so sánh với một con người đạt 90%. Điều này quan trọng vì các hệ thống AI có thể không đạt "100% AGI" dù đã sở hữu mọi năng lực của một người trưởng thành có học vấn.

Một số ví dụ về hạn chế bao gồm (Pacchiardi et al., 2025 (mở trong tab mới)):

1. Thiên lệch phạm vi bao phủ (coverage bias): CHC được xây dựng dựa trên sự khác biệt giữa các cá nhân con người, có thể bỏ sót những năng lực phổ quát ở con người (ví dụ: khả năng nhận biết vật thể tồn tại bền vững — object permanence) mà AI có thể thiếu;
2. Ngưỡng tùy ý: Các mốc bách phân vị của con người (ví dụ: bách phân vị 85) có thể không áp dụng tương ứng cho máy móc;
3. Tiến bộ phi tuyến tính: Điểm số phần trăm (ví dụ: "57% AGI") ngụ ý một cách gây hiểu lầm về tiến bộ tuyến tính, trong khi những năng lực cuối cùng có thể đại diện cho các nút thắt cổ chai (bottlenecks) khó khăn không tương xứng; và
4. Rủi ro đặc thù theo loài: Các hồ sơ năng lực AI không giống con người có thể gây ra những rủi ro chuyển đổi dù đạt điểm thấp trên các bài kiểm tra lấy con người làm trung tâm. Những phê bình này gợi ý nên diễn giải điểm số phần trăm một cách thận trọng, tập trung vào các khoảng trống năng lực cụ thể thay vì tiến độ tổng hợp.

Khung (t,n)-AGI: Một Cách Định nghĩa AGI Thay thế

AGI cũng có thể được định nghĩa thông qua sự kết hợp giữa thời gian và quy mô — liệu AI có thể sánh ngang với 'n' chuyên gia làm việc cùng nhau trong thời gian 't' hay không. Đây là một cách khác để suy nghĩ về việc định nghĩa AGI. Với một khung thời gian 't' để hoàn thành một nhiệm vụ nhận thức nào đó, nếu một hệ thống AI có thể vượt trội hơn một chuyên gia con người cũng được cho khung thời gian 't' để thực hiện cùng nhiệm vụ đó, thì hệ thống AI đó được gọi là t-AGI cho khung thời gian 't' ấy. Nếu một hệ thống có thể vượt trội hơn 'n' chuyên gia con người cùng làm việc trên nhiệm vụ đó trong khung thời gian 't', ta gọi đó là (t,n)-AGI cho khoảng thời gian cụ thể 't', và số lượng chuyên gia 'n'. Khung (t,n)-AGI không tính đến việc có bao nhiêu bản sao của AI đang chạy đồng thời.

Ví dụ, một AI vượt trội hơn năng lực của một chuyên gia con người trong vòng một giây ở một nhiệm vụ nhận thức nhất định sẽ được xếp loại là "AGI một giây". AGI một năm sẽ đánh bại con người ở gần như mọi thứ. Chủ yếu là vì phần lớn các dự án có thể được chia thành các nhiệm vụ con có thể hoàn thành trong khung thời gian ngắn hơn. Trong khung này, một siêu trí tuệ nhân tạo (ASI) có thể được xem là một dạng (một năm, tám tỷ)-AGI, nghĩa là ASI có thể được xem như một AGI vượt trội hơn toàn bộ tám tỷ con người phối hợp với nhau trong một năm ở một nhiệm vụ nhất định (Ngo, 2023 (mở trong tab mới)).

Các nhà nghiên cứu tại METR đã hiện thực hóa điều này bằng cách đo khung thời gian hoàn thành nhiệm vụ (time horizon) cho 1 chuyên gia (n=1) — tìm ra khoảng thời gian mà AI thành công một cách nhất quán ở các nhiệm vụ chuyên môn như phát triển phần mềm và nghiên cứu học máy (Kwa et al., 2025 (mở trong tab mới)).

Những hạn chế về khung thời gian nhiệm vụ được thể hiện một cách ngầm định trong thước đo đa dạng của chúng tôi, dưới dạng điểm yếu ở các nhiệm vụ nhận thức cụ thể như lưu trữ và truy xuất trí nhớ dài hạn. Các hệ thống đạt điểm kém về trí nhớ tự nhiên sẽ thất bại ở các dự án kéo dài nhiều ngày đòi hỏi duy trì ngữ cảnh liên tục. Các kiến trúc dựa trên transformer hiện nay đặc biệt gặp khó khăn với cửa sổ ngữ cảnh (context window) hạn chế.

Chú thích

³ Chúng tôi đo lường các đặc tính như "nhận thức tình huống" (situational-awareness) trong các chương về rủi ro và đánh giá, thông qua các bài kiểm tra cụ thể. Nhờ đó, chúng tôi nắm bắt được mô hình về bản thân và khả năng lập kế hoạch tương lai, đồng thời phân tách những khía cạnh này khỏi các cuộc tranh luận về ý thức.

⁴ Bạn có thể sử dụng mức ngang bằng trình độ chuyên gia (expert-level parity, khoảng bách phân vị 80-90 hiệu suất con người) làm ngưỡng cho mức "đủ" khi đo lường đa dạng. Các nhà nghiên cứu khác nhau có thể đặt ngưỡng này cao hơn hoặc thấp hơn tùy theo mối quan tâm cụ thể của họ.