Chương 3.9: Phụ lục: Những câu hỏi dài hạn

Nội dung chính của chương này tập trung vào các chiến lược có thể hành động được. Phụ lục này khám phá những câu hỏi triết học sâu sắc hơn, thường chưa có lời giải, vốn là nền tảng của bài toán căn chỉnh, nhằm cung cấp bối cảnh cho tư duy chiến lược dài hạn.

Ưu tiên Sự Hưng thịnh hay Sự Sống còn?

Việc giảm thiểu các rủi ro thảm khốc từ AI vẫn chưa đủ để đảm bảo AI phát triển theo hướng tốt đẹp.

Một câu hỏi chiến lược, với những hệ quả đáng kể đối với việc phân bổ nguồn lực, là sự căng thẳng giữa việc đảm bảo sự sống còn dài hạn của nhân loại và việc định hình chất lượng của tương lai đó. Vì lý do lịch sử, phần lớn lĩnh vực an toàn AI đã tập trung vào việc giảm thiểu những rủi ro đó — đảm bảo rằng chúng ta sống sót qua quá trình chuyển đổi sang siêu trí tuệ. Tuy nhiên, một cách tiếp cận bổ sung, được ủng hộ bởi các nhà nghiên cứu như William MacAskill tại Forethought, lập luận rằng chỉ sống sót thôi là chưa đủ; chúng ta còn phải nỗ lực để đảm bảo rằng tương lai đó là một tương lai hưng thịnh (Forethought, 2025 (mở trong tab mới)). Điều này đặt ra một câu hỏi khó: với nguồn lực hạn chế, liệu có khôn ngoan hay không khi tập trung vào việc đạt được một tương lai "vĩ đại", trong khi vẫn còn quá nhiều việc phải làm chỉ để bảo đảm rằng sẽ có một tương lai?

Lập luận cho việc ưu tiên sự hưng thịnh xuất phát từ mối lo ngại rằng ngay cả một tương lai không có thảm họa hiện sinh cũng có thể vẫn kém xa tiềm năng thực sự của nó. Nếu không có nỗ lực chủ động, xã hội có thể sẽ không tự nhiên hội tụ về một kết cục tốt đẹp về mặt đạo đức; thay vào đó, nó có thể rơi vào trạng thái tầm thường, hoặc thậm chí khóa chặt những sai lầm đạo đức tinh vi nhưng nghiêm trọng. Để tránh những nguy cơ trong lịch sử của các phong trào không tưởng cứng nhắc, luồng tư duy này không cổ súy cho một tầm nhìn cụ thể, hẹp hòi về một thế giới lý tưởng, mà hướng tới việc đạt được trạng thái gọi là "viatopia" — một trạng thái mà xã hội có đủ trí tuệ, sự phối hợp, và tính ổn định để tự định hướng mình tới những tương lai tốt đẹp nhất có thể, bất kể đó là gì. Một trạng thái viatopia sẽ có đặc trưng là rủi ro hiện sinh cực kỳ thấp, sự nở rộ của các quan điểm đạo đức đa dạng, và năng lực ra quyết định tập thể một cách chu đáo, biết suy xét.

Hàm ý chiến lược ở đây là một sự lựa chọn về trọng tâm: liệu chúng ta có nên thiết kế các hệ thống AI đơn thuần như những công cụ được kiểm soát chặt chẽ để giải quyết các vấn đề trước mắt và ngăn ngừa thảm họa? Hay chúng ta cũng nên ưu tiên phát triển những AI có khả năng nâng cao tư duy con người, thúc đẩy sự phối hợp tốt hơn, và giúp chúng ta cân nhắc về chính những giá trị mà ta nên truyền lại cho các thế hệ kế thừa, từ đó đưa chúng ta tiến gần hơn tới trạng thái viatopia? Cuộc tranh luận này vẫn còn để ngỏ.

Căn chỉnh theo điều gì?

Ý chí Ngoại suy Nhất quán (Coherent Extrapolated Volition, CEV) là nỗ lực xác định điều mà nhân loại, xét trên tổng thể, sẽ mong muốn nếu chúng ta thông minh hơn, hiểu biết hơn, và phát triển hơn về mặt đạo đức. Ý tưởng này đề xuất rằng thay vì lập trình trực tiếp những giá trị cụ thể vào một AI siêu trí tuệ, chúng ta nên lập trình cho nó khả năng tự tìm ra điều mà con người sẽ mong muốn nếu vượt qua được những giới hạn nhận thức của mình. Khi huấn luyện các hệ thống AI dựa trên sở thích hiện tại của con người, chúng ta có nguy cơ mã hóa luôn cả những thiên kiến, mâu thuẫn, và sự thiển cận của chính mình. Thay vào đó, CEV đặt câu hỏi: chúng ta "sẽ muốn gì" nếu ta biết nhiều hơn, suy nghĩ nhanh hơn, trở thành phiên bản con người mà ta mong muốn trở thành, và đã cùng nhau trưởng thành hơn nữa? Về bản chất, hãy hình dung phiên bản lý tưởng của nhân loại có thể tồn tại trong tương lai về mặt lý thuyết. Rồi bảo AI hành động theo đúng phiên bản đó (Yudkowsky, 2004 (mở trong tab mới)).

CEV cố gắng tạo ra một con đường để AI tôn trọng những ý định sâu xa của chúng ta, thay vì chỉ những ham muốn trước mắt. Việc triển khai CEV trong thực tế hiện vẫn còn mang tính suy đoán. Nó đòi hỏi khả năng mô hình hóa tinh vi về tâm lý con người, sự phát triển đạo đức, và động lực xã hội — những năng lực vượt xa các hệ thống AI hiện nay. Những cách tiếp cận hiện đại như RLHF (Học tăng cường từ Phản hồi của Con người) có thể được xem là những tiền thân sơ khai, vốn chỉ căn chỉnh AI theo sở thích hiện tại của con người thay vì những sở thích đã được ngoại suy. Các khung Constitutional AI (AI Hiến pháp) tiến gần hơn một chút tới CEV bằng cách cố gắng mã hóa những nguyên tắc ở cấp độ cao hơn thay vì những sở thích cụ thể, nhưng vẫn còn cách rất xa so với việc ngoại suy đầy đủ.

Ý chí Tổng hợp Nhất quán (Coherent Aggregated Volition, CAV) tìm kiếm một tập hợp nhất quán gồm các mục tiêu và niềm tin đại diện tốt nhất cho các giá trị hiện tại của nhân loại, mà không cố gắng ngoại suy sự phát triển trong tương lai. Ben Goertzel đề xuất phương án thay thế này cho CEV, tập trung vào các giá trị hiện tại của con người thay vì suy đoán về phiên bản lý tưởng hóa của chúng ta trong tương lai. CAV gộp chung mục tiêu và niềm tin thành "gobs" (tập hợp mục tiêu và niềm tin — goal and belief sets) và tìm cách xác định một tập hợp nhất quán tối đa, cô đọng, vẫn giữ được sự tương đồng với các góc nhìn đa dạng của con người. Không giống như CEV — vốn giả định rằng các giá trị của chúng ta sẽ hội tụ nếu ta trở nên khai sáng hơn — CAV thừa nhận rằng những khác biệt giá trị nền tảng có thể vẫn sẽ tồn tại dai dẳng. Nó hướng tới việc tạo ra một sự tổng hợp nhất quán, cân bằng giữa các góc nhìn khác nhau, thay vì cố gắng dự đoán những góc nhìn đó sẽ phát triển ra sao. Điều này khiến CAV có khả năng khả thi hơn trong việc triển khai, vì nó làm việc với những giá trị hiện tại có thể quan sát được, thay vì những giá trị giả định trong tương lai (Goertzel, 2010 (mở trong tab mới)).

Ý chí Pha trộn Nhất quán (Coherent Blended Volition, CBV) nhấn mạnh rằng các giá trị của con người nên được "pha trộn" một cách sáng tạo thông qua các quy trình do con người dẫn dắt, thay vì được lấy trung bình hoặc ngoại suy bằng thuật toán. CBV hoàn thiện CAV bằng cách xử lý những cách hiểu sai tiềm ẩn. Khi bàn về việc tổng hợp giá trị, nhiều người mặc định rằng điều đó có nghĩa là lấy trung bình đơn giản hoặc biểu quyết theo đa số. Thay vào đó, CBV đề xuất một quy trình pha trộn sáng tạo, tạo ra những hệ giá trị mới, hài hòa, mà tất cả những người tham gia đều công nhận là đại diện thỏa đáng cho đóng góp của họ. Khái niệm này bắt nguồn từ các lý thuyết khoa học nhận thức về sự pha trộn khái niệm (conceptual blending), trong đó những ý tưởng mới xuất hiện từ sự kết hợp sáng tạo giữa những ý tưởng đã có. Trong khung khổ này, quá trình xác định các giá trị của AI sẽ được con người dẫn dắt thông qua các quy trình hợp tác, thay vì được ủy thác cho các hệ thống AI. Điều này giải quyết những lo ngại về chủ nghĩa gia trưởng của AI (AI paternalism), trong đó máy móc có thể lấn át quyền tự định hướng của con người nhân danh những lợi ích đã được "ngoại suy" của chúng ta (Goertzel & Pitt, 2012 (mở trong tab mới)). CBV kết nối với những cuộc thảo luận đương đại về quản trị AI có sự tham gia và giám sát dân chủ đối với quá trình phát triển AI. Những hệ thống như vTaiwan đã triển khai các quy trình tương tự CBV trong việc xây dựng chính sách công nghệ (vTaiwan, 2023 (mở trong tab mới)), cho thấy cách quá trình pha trộn do con người dẫn dắt có thể vận hành trong thực tế.

Căn chỉnh cho ai?

Căn chỉnh Đơn-Đơn (Single-Single Alignment): Khiến một hệ thống AI duy nhất theo đuổi một cách đáng tin cậy các mục tiêu của một người vận hành duy nhất. Chúng ta thậm chí còn chưa giải quyết được vấn đề này, và nó đặt ra những thách thức đáng kể. Một AI có thể được căn chỉnh để tuân theo mệnh lệnh theo nghĩa đen (như "lấy cà phê"), diễn giải ý nghĩa dự định (hiểu rằng "lấy cà phê" nghĩa là pha theo đúng khẩu vị của bạn), theo đuổi điều mà lẽ ra bạn nên muốn (như đề xuất trà nếu cà phê có hại cho sức khỏe của bạn), hoặc hành động vì lợi ích tốt nhất của bạn bất kể mệnh lệnh là gì. Việc tuân theo mệnh lệnh theo nghĩa đen thường dẫn đến những thất bại về đặc tả (specification) mà chúng ta sẽ bàn đến sau trong phần này. Phần lớn các nhà nghiên cứu sử dụng từ "căn chỉnh" để chỉ "căn chỉnh theo ý định" (intent alignment) (Christiano, 2018 (mở trong tab mới)), và một số cuộc thảo luận mang tính triết học hơn thì đi sâu vào lựa chọn thứ ba — làm điều mà tôi (hoặc nhân loại) lẽ ra đã muốn. Điều này liên quan đến những khái niệm như ý chí ngoại suy nhất quán (CEV) (Yudkowsky, 2004 (mở trong tab mới)), ý chí tổng hợp nhất quán (CAV) (Goertzel, 2010 (mở trong tab mới)), và nhiều luồng tư tưởng khác đi sâu vào diễn ngôn siêu đạo đức học (meta-ethics). Trong cẩm nang này, chúng tôi sẽ không bàn sâu về diễn ngôn triết học mà sẽ chủ yếu bám sát vào căn chỉnh theo ý định và góc nhìn học máy. Khi sử dụng từ "căn chỉnh" trong cẩm nang này, về cơ bản chúng tôi đang đề cập đến những vấn đề và thất bại xuất phát từ căn chỉnh đơn-đơn. Về mặt lịch sử, các loại căn chỉnh khác đã bị nghiên cứu rất ít, bởi vì phần lớn mọi người vẫn làm việc với ý tưởng về một siêu trí tuệ đơn nhất, tương tác với nhân loại như một khối thống nhất duy nhất.

Căn chỉnh Đơn-Đa (Single-Multi Alignment) — Căn chỉnh Nhiều AI theo Một Con người. Nếu chúng ta cho rằng ASI sẽ được cấu thành từ nhiều trí tuệ nhỏ hơn, cùng nhau làm việc, phân chia nhiệm vụ, và vận hành như một siêu cơ thể (superorganism), thì tất cả những vấn đề của căn chỉnh đơn-đơn vẫn sẽ tồn tại, bởi chúng ta vẫn cần giải quyết bài toán đơn-đơn trước khi thử sức với đơn-đa. Về mặt lý tưởng, chúng ta không muốn bất kỳ một con người đơn lẻ nào (hay một nhóm rất nhỏ người) nắm quyền kiểm soát một siêu trí tuệ (giả định rằng những "nhà độc tài nhân từ" không tồn tại).

Căn chỉnh Đa-Đơn (Multi-Single Alignment) — căn chỉnh một AI theo nhiều con người. Khi nhiều người cùng chia sẻ quyền kiểm soát một hệ thống AI duy nhất, chúng ta phải đối mặt với câu hỏi giá trị và sở thích của ai nên được ưu tiên. Thay vì cố gắng tổng hợp một cách máy móc sở thích cá nhân của từng người (điều có thể dẫn đến mâu thuẫn hoặc những kết quả theo kiểu "mẫu số chung nhỏ nhất"), một cách tiếp cận hứa hẹn hơn là căn chỉnh AI theo những nguyên tắc cấp cao hơn và các giá trị mang tính thể chế — tương tự như cách các thể chế dân chủ vận hành theo những nguyên tắc như minh bạch và trách nhiệm giải trình, thay vì cố gắng tối ưu hóa trực tiếp cho sở thích của từng công dân.

Căn chỉnh Đa-Đa (Multi-Multi Alignment) — căn chỉnh nhiều AI theo nhiều con người và với nhiều AI khác. Đây là kịch bản phức tạp nhất, liên quan đến nhiều hệ thống AI tương tác với nhiều con người. Ở đây, ranh giới giữa rủi ro mất căn chỉnh (AI giành được quyền lực bất chính đối với con người) và rủi ro lợi dụng sai mục đích (con người sử dụng AI để giành quyền lực bất chính đối với người khác) bắt đầu trở nên mờ nhạt. Thách thức cốt lõi trở thành việc ngăn chặn sự tập trung quyền lực có vấn đề, trong khi vẫn cho phép sự hợp tác có lợi giữa con người và AI. Điều này đòi hỏi một thiết kế hệ thống cẩn trọng, thúc đẩy hành vi căn chỉnh không chỉ ở cấp độ cá nhân mà trên toàn bộ mạng lưới tương tác giữa con người và AI.

Những Câu hỏi cho Dài hạn

Vẫn chưa rõ liệu việc giải quyết căn chỉnh đơn-đơn có đủ hay không. Ngay cả khi chúng ta có thể đảm bảo rằng mọi hệ thống AI đều được căn chỉnh hoàn hảo theo ý định của người ủy quyền (principal) tương ứng của nó, chúng ta vẫn sẽ phải đối mặt với những rủi ro nghiêm trọng khi các hệ thống này tương tác với nhau. Điều này là bởi những người ủy quyền khác nhau có thể có những lợi ích xung đột, hoặc bởi các hệ thống có thể không phối hợp hiệu quả ngay cả khi mục tiêu của chúng đã được căn chỉnh. Sự căn chỉnh hoàn hảo ở cấp độ cá nhân không thể đảm bảo hành vi tập thể an toàn, cũng giống như việc mọi tài xế đều tuân thủ luật giao thông không có nghĩa là sẽ không còn tắc đường hay tai nạn (Hammond et al., 2025 (mở trong tab mới)). Về bản chất, nếu chúng ta có ba bài toán con của căn chỉnh trong nội bộ một tác nhân đơn lẻ, thì khi những tác nhân cá nhân này bắt đầu tương tác với nhau, chúng ta sẽ có thêm ba bài toán con nữa: mất phối hợp, xung đột, và câu kết (collusion). Mỗi bài toán đại diện cho một cách khác nhau mà các hệ thống đa tác nhân (multi-agent) có thể thất bại, ngay cả khi từng tác nhân riêng lẻ dường như vận hành đúng đắn khi xét độc lập. Thậm chí còn có nhiều cách khác nữa, vượt xa những điều này, khi ta bắt đầu xem xét những hiệu ứng nổi lên (emergent effects) từ sự tương tác giữa các hệ thống phức tạp, cùng với hiện tượng xói mòn năng lực, như đã đề cập trong chương về rủi ro.

Ngay cả khi các thách thức kỹ thuật của căn chỉnh AI được khắc phục, vẫn còn vô số câu hỏi triết học sâu sắc và gây tranh cãi gay gắt. Việc giải quyết an toàn AI, đặc biệt là đối với Siêu Trí tuệ Nhân tạo (Artificial Superintelligence, ASI), có thể đòi hỏi phải đối diện với những vấn đề cốt lõi liên quan đến giá trị, ý thức, và mục đích tối hậu của sự tồn tại. Việc căn chỉnh ASI buộc chúng ta phải đặt ra những câu hỏi nền tảng về loại tương lai mà chúng ta thực sự mong muốn.

• Chúng ta nên căn chỉnh AI theo điều gì? ASI nên được căn chỉnh theo những giá trị hay nguyên tắc đạo đức cụ thể nào? Với sự đa dạng của các giá trị con người, liệu có thể đạt được sự đồng thuận hay không? Hoặc, nếu không thể thống nhất về các giá trị cuối cùng, liệu chúng ta có thể thống nhất về các quy trình hay nguyên tắc (như sự thảo luận cân nhắc, sự công bằng, hay tính dễ điều chỉnh (corrigibility)) có thể dẫn dắt một ASI hướng tới những giá trị chấp nhận được, hoặc cho phép các giá trị đó tiếp tục tiến hóa trong tương lai?
• Mục đích của Căn chỉnh: Sự Trường tồn của Nhân loại hay một "Người kế thừa Xứng đáng"? Mục tiêu chính có nên là sự sống còn và hưng thịnh vô thời hạn của nhân loại như chúng ta biết hiện nay? Hay chúng ta nên cân nhắc khả năng tạo ra một "Người kế thừa Xứng đáng" (Worthy Successor)? Dan Faggella (Faggella, 2025 (mở trong tab mới)) đề xuất khái niệm này: một ASI có khả năng sở hữu năng lực và giá trị đạo đức vượt trội hơn nhân loại, đến mức việc để nó dẫn dắt tương lai có thể là một lựa chọn hợp lý hơn. Việc định nghĩa và kiểm chứng các tiêu chí cho một người kế thừa như vậy (ví dụ: ý thức được nâng cao, năng lực khám phá vũ trụ) đặt ra những thách thức vô cùng lớn. Một số người, như Richard Sutton (Sutton, 2023 (mở trong tab mới)), lập luận rằng việc AI kế thừa vị trí của con người — những "đứa con trí tuệ" (mind children) của chúng ta — là điều tất yếu và hết sức đáng mong đợi. Sutton cho rằng chúng ta nên đón nhận và lên kế hoạch cho sự kế thừa này thay vì chống lại nó vì sợ hãi, đồng thời đặt câu hỏi tại sao chúng ta lại muốn giữ những sinh thể có tiềm năng vượt trội hơn mình trong tình trạng phục tùng.
• Chúng ta có nên trao quyền cho AI hay không? Liệu các hệ thống AI tiên tiến có thể trở nên có ý thức hay không? Điều này trước tiên đòi hỏi một sự hiểu biết rõ ràng hơn về chính bản thân ý thức — điều vẫn còn rất mơ hồ. Nếu AI có thể sở hữu ý thức hoặc những thuộc tính tương tự ý thức, thì chúng ta nên gán cho những trí tuệ số này tư cách đạo đức như thế nào? Liệu chúng có nên được hưởng quyền, hay được xem xét về mặt đạo đức hay không? Những chủ đề như vậy nằm ngoài phạm vi của cẩm nang này, nhưng đã được nghiên cứu bởi Eleos AI (mở trong tab mới).
• Còn động vật thì sao? Lợi ích của các thực thể không phải con người nên được đưa vào bài toán căn chỉnh AI như thế nào? Liệu các mục tiêu căn chỉnh có nên bao gồm rõ ràng phúc lợi động vật, bảo tồn hệ sinh thái, hay sự hưng thịnh của các dạng sống khác hay không?

Chúng ta không nên chống lại sự kế thừa, mà nên đón nhận và chuẩn bị cho nó. Tại sao chúng ta lại muốn giữ những sinh thể vượt trội hơn mình trong tình trạng phục tùng? Tại sao chúng ta không hân hoan trước sự vĩ đại của chúng, xem đó như một biểu tượng và sự nối dài cho chính sự vĩ đại của nhân loại, rồi cùng nhau xây dựng một nền văn minh vĩ đại hơn và bao trùm hơn? — Rich Sutton

Cục diện Cuối cùng (The Endgame): Có rất nhiều kết cục dài hạn tiềm tàng, và chúng phụ thuộc rất nhiều vào cách chúng ta trả lời những câu hỏi triết học này. Liệu mục tiêu tối hậu có đơn thuần là sự tiếp nối của ý thức hay của sự phức tạp, bất kể nó tồn tại trên nền tảng vật chất nào (như Max Tegmark đã khám phá trong cuốn Life 3.0 (Tegmark, 2017 (mở trong tab mới)))? Những lập trường triết học khác nhau dẫn đến những ưu tiên chiến lược rất khác biệt cho việc phát triển và căn chỉnh ASI.