Chương 3.6: Kết hợp các chiến lược

Các phần trước đã trình bày một loạt chiến lược đa dạng, mỗi chiến lược nhắm đến một khía cạnh khác nhau của rủi ro AI. Việc tổng hợp tất cả những chiến lược này thành một kế hoạch thống nhất, mạch lạc là một nhiệm vụ khó khăn. Phần này trình bày một trình tự chiến lược khả thi, minh họa cách các lớp phòng thủ khác nhau có thể được xây dựng chồng lên nhau để vượt qua chặng đường từ những rủi ro ngắn hạn đến các thách thức hiện sinh dài hạn. Trình tự này chỉ mang tính minh họa cho một mô hình, chứ không phải một lộ trình dứt khoát.

Bước 1: Quản lý Rủi ro và Quản trị Nền tảng. Đây là nền móng của mọi thứ. Nếu thiếu văn hóa an toàn và hoạt động quản lý rủi ro cơ bản, các giải pháp kỹ thuật sẽ không được triển khai đúng cách, và các phòng thí nghiệm sẽ chạy đua một cách liều lĩnh. Bước đầu tiên và phổ biến nhất là thiết lập các khung quản lý rủi ro và quản trị vững chắc. Mặc dù các nỗ lực hiện có như Bộ Quy tắc Ứng xử (Code of Practice) thuộc Đạo luật AI của Liên minh Châu Âu (EU AI Act) đã tạo ra một điểm khởi đầu, chúng vẫn còn nhiều hạn chế đáng kể. Ví dụ, mức phạt bị giới hạn trần (7% doanh thu hàng năm của công ty) có thể không đủ sức răn đe đối với các cá nhân có nguồn lực dồi dào, và các trường hợp miễn trừ phạm vi áp dụng dành cho nghiên cứu quân sự hoặc nội bộ khiến nhiều rủi ro trọng yếu bị bỏ ngỏ. Điều này cho thấy sự cần thiết của một cơ chế quản trị quốc tế mang tính ràng buộc. Để đạt được cơ chế quản trị như vậy, nhiều khả năng cần xây dựng một sự đồng thuận rộng rãi trong công chúng và giới chính trị về tầm quan trọng của các biện pháp an toàn chủ động, khiến cho văn hóa an toàn và hoạt động truyền thông cộng đồng trở thành điều kiện tiên quyết cho mọi nỗ lực khác.

Bước 2: Giảm thiểu Lợi dụng sai mục đích Thảm khốc. Chúng ta giải quyết vấn đề lợi dụng sai mục đích tiếp theo vì đây là mối nguy hiện hữu và năng lực cần thiết để gây ra nó vẫn ở dưới ngưỡng AGI. Thành công ở bước này (ví dụ, thông qua kiểm soát truy cập và tăng tốc phòng thủ (d/acc)) sẽ giúp chúng ta có thêm thời gian và xây dựng "cơ bắp" cho xã hội trong việc quản trị các hệ thống mạnh mẽ hơn sau này. Ưu tiên thứ hai là giảm thiểu tình trạng lợi dụng sai mục đích thảm khốc — một thách thức, xét về mặt khái niệm, dễ xử lý hơn so với bài toán căn chỉnh dài hạn. Tuyến phòng thủ đầu tiên là kiểm soát truy cập chặt chẽ đối với các mô hình vượt quá ngưỡng rủi ro đã được xác lập, nhằm ngăn việc gỡ bỏ các biện pháp bảo vệ khỏi mô hình mã nguồn mở một cách dễ dàng. Tuy nhiên, vì các năng lực nguy hiểm chắc chắn sẽ lan rộng theo thời gian, biện pháp này cần được kết hợp với một chiến lược chủ động là tăng tốc phòng thủ (d/acc) nhằm củng cố hạ tầng xã hội để chống lại các cuộc tấn công. Đồng thời, các chiến lược xã hội-kỹ thuật, bao gồm cả những quy định pháp luật rõ ràng, đóng vai trò then chốt trong việc ngăn chặn việc sử dụng bất hợp pháp các hệ thống AI đã bị phổ biến rộng rãi.

Bước 3: Đảm bảo Kiểm soát và Căn chỉnh AGI. Khi tiến gần đến AGI, chúng ta phải giả định rằng bài toán căn chỉnh vẫn chưa được giải quyết. Do đó, trọng tâm sẽ chuyển sang kiểm soát và giám sát — thông qua Tư duy Minh bạch (Transparent Thoughts) và các bài đánh giá. Đây chính là lưới an toàn của chúng ta. Chúng ta chỉ nên mở rộng quy mô năng lực nhanh bằng đúng tốc độ mà chúng ta có thể chứng minh được khả năng kiểm soát. Về lý thuyết, việc quản lý rủi ro mất căn chỉnh ở AGI khó hơn việc quản lý tình trạng lợi dụng sai mục đích. Một cách tiếp cận thận trọng là ưu tiên các kiến trúc hỗ trợ tư duy minh bạch, giúp hệ thống dễ được giám sát và kiểm toán hơn, đồng thời tránh các thiết kế khuyến khích lối suy luận nội bộ mờ đục (được gọi là "neuralese"). Các hệ thống này phải tuân theo những giao thức kiểm soát AI và quy trình đánh giá nghiêm ngặt. Nếu các cuộc kiểm toán phát hiện thất bại trong căn chỉnh, việc phát triển phải được tạm dừng cho đến khi vấn đề được khắc phục. Mô hình kiểm soát chặt chẽ các hệ thống tiềm ẩn rủi ro này cần song hành với một nỗ lực nghiên cứu được đẩy mạnh nhằm giải quyết triệt để bài toán căn chỉnh, cùng với những lằn ranh đỏ rõ ràng đối với việc mở rộng quy mô năng lực cho đến khi các mốc an toàn được đáp ứng.

Bước 4: Giải pháp Vững chắc cho Căn chỉnh ASI. Cuối cùng, đối với bước nhảy vọt lên siêu trí tuệ, việc kiểm soát trực tiếp gần như là bất khả thi. Nhưng chiến lược ở đây có thể mang tính "meta": sử dụng chính AGI đã được kiểm soát của chúng ta để Tự động hóa Nghiên cứu Căn chỉnh (Automate Alignment Research). Đây là cơ hội tốt nhất của chúng ta để đạt được một giải pháp có độ tin cậy cao. Nếu điều này thất bại, các chiến lược địa chính trị như Phối hợp (Coordination) hoặc Răn đe (Deterrence) sẽ trở thành những tuyến phòng thủ cuối cùng, mang tính bất đắc dĩ. Việc phát triển một giải pháp có độ tin cậy cao cho căn chỉnh ASI chính là "chén thánh" của lĩnh vực này. Chiến lược hàng đầu là tận dụng AGI đã được kiểm soát để Tự động hóa Nghiên cứu Căn chỉnh. Nếu thành công, điều này có thể dẫn đến việc tạo ra các hệ thống An toàn theo Thiết kế (Safe-by-Design) một cách nội tại. Một ASI mạnh mẽ và thực sự được căn chỉnh khi đó có thể được sử dụng để thực hiện một "hành động then chốt" (pivotal act) — tức là một sự can thiệp mang tính quyết định, được thiết kế nhằm giải quyết vĩnh viễn bài toán phối hợp toàn cầu và chấm dứt giai đoạn rủi ro cấp tính do việc phát triển ASI mất căn chỉnh gây ra. Tuy nhiên, nếu nghiên cứu này cho thấy rằng AI mạnh mẽ không thể được tạo ra mà không đi kèm những rủi ro không thể chấp nhận, cộng đồng quốc tế sẽ cần phối hợp để thực hiện một lệnh tạm dừng hoặc đình chỉ (moratorium) trên phạm vi toàn cầu. Nếu việc Phối hợp Toàn cầu (World Coordination) như vậy tỏ ra bất khả thi, các chiến lược cuối cùng — chẳng hạn như những cơ chế răn đe kiểu Hỏng hóc AI Được Đảm bảo Lẫn nhau (MAIM) — có thể trở nên cần thiết để ngăn chặn bất kỳ cá nhân đơn lẻ nào đơn phương phát triển một ASI không thể kiểm soát.

Tất nhiên, ngay cả kế hoạch mong manh này cũng chỉ là kế hoạch lý tưởng trên giấy. Có thể kế hoạch này sẽ không đủ, hoặc sẽ hoàn toàn khác biệt trong thực tế. Ví dụ, trong một kịch bản của báo cáo dự báo AI-2027, nhân loại sống sót không phải nhờ một kế hoạch chiến lược vĩ đại, mà bất chấp sự thất bại của phần lớn các nỗ lực quản trị, phối hợp và răn đe. Thay vào đó, một sự kiện "phát súng cảnh báo" (warning shot) đáng sợ đã thúc đẩy các phòng thí nghiệm hàng đầu chậm lại và triển khai vừa đủ các biện pháp giảm thiểu kỹ thuật để tránh thảm họa — những biện pháp giảm thiểu mà sau này tỏ ra không đủ trong các nhánh kịch bản nơi chúng ta mất quyền kiểm soát.