Chương 4.6: Kết luận

Xây dựng một hệ thống quản trị AI hiệu quả, có khả năng thích ứng, với chuyên môn kỹ thuật vững vàng, hoạt động kiểm toán chuyên nghiệp, và sự phối hợp quốc tế, là một điều kiện tiên quyết cấp bách để quản lý rủi ro trước khi năng lực AI vượt qua khả năng kiểm soát của chúng ta.

Các khung quản trị đã được xem xét xuyên suốt chương này cung cấp những công cụ thiết yếu để quản lý rủi ro AI, nhưng bản thân công cụ không quyết định được kết quả. Thành công đòi hỏi phải lựa chọn đúng ưu tiên, xây dựng những năng lực cần thiết, và duy trì những khung có thể phát triển cùng với công nghệ.

Chuyên môn kỹ thuật trong khu vực chính phủ cần được mở rộng mạnh mẽ tại mọi nền kinh tế lớn. Các Viện An toàn AI của Anh và Hoa Kỳ cho thấy điều gì là khả thi khi có đủ nguồn lực và sự ủng hộ về mặt chính trị (Dafoe, 2020 (mở trong tab mới)). Điều này đòi hỏi mức đãi ngộ cạnh tranh để thu hút nhân tài hàng đầu, những con đường sự nghiệp coi trọng việc phụng sự công, các chương trình trao đổi với khu vực doanh nghiệp và học thuật, và sự bảo vệ khỏi can thiệp chính trị (Zaidan & Ibrahim, 2024 (mở trong tab mới)). Hiện nay, việc căn chỉnh đúng đắn các hệ thống AI tiên tiến với giá trị con người sẽ đòi hỏi phải giải quyết nhiều sự bất định liên quan đến tâm lý học về lý trí, cảm xúc, và thiên kiến của con người, trong khi phần lớn các cơ quan chính phủ còn thiếu cả những hiểu biết kỹ thuật cơ bản nhất về hệ thống AI (Irving & Askell, 2019 (mở trong tab mới)).

Năng lực kiểm toán và đánh giá phải được chuyên nghiệp hóa thành một lĩnh vực riêng biệt. Khi các hệ thống AI ngày càng phức tạp hơn, việc đánh giá đòi hỏi chuyên môn chuyên biệt vượt xa việc kiểm thử phần mềm truyền thống (Anderljung et al., 2023 (mở trong tab mới)). Việc xây dựng lĩnh vực nghề nghiệp này bao gồm phát triển các chương trình chứng nhận cho kiểm toán viên AI, xây dựng các phương pháp luận và công cụ tiêu chuẩn, thiết lập các tổ chức nghề nghiệp và quy tắc đạo đức, và đảm bảo tính độc lập khỏi cả nhà phát triển lẫn cơ quan quản lý (Schuett, 2023 (mở trong tab mới)).

Các cơ chế phối hợp quốc tế cần có nguồn lực và thẩm quyền chuyên trách. Các nỗ lực hiện nay phụ thuộc nặng nề vào sự tham gia tự nguyện và ngân sách hạn hẹp (Ho et al., 2023 (mở trong tab mới)). Sự phối hợp hiệu quả đòi hỏi các ban thư ký chuyên trách với chuyên môn kỹ thuật, nguồn tài trợ cho sự tham gia của các nước đang phát triển, dịch vụ biên dịch và truyền thông, và hạ tầng cho việc chia sẻ thông tin một cách an toàn (Maas & Villalobos, 2023 (mở trong tab mới)).

Các khung quản trị phải phát triển nhanh như chính công nghệ mà chúng quản lý. Những quy định cứng nhắc sẽ nhanh chóng trở nên lạc hậu hoặc gây cản trở (Casper, 2024 (mở trong tab mới)). Việc tích hợp khả năng thích ứng vào các hệ thống quản trị là điều thiết yếu cho hiệu quả lâu dài (Anderljung et al., 2023 (mở trong tab mới)). Điều này đồng nghĩa với việc bắt buộc rà soát hằng năm các ngưỡng năng lực, phương pháp luận đánh giá, ưu tiên thực thi, và những bài học từ các sự cố (McKernon et al., 2024 (mở trong tab mới)).

Lập kế hoạch theo kịch bản giúp chuẩn bị cho những thay đổi mang tính gián đoạn trong quá trình phát triển AI. Quản trị hiện nay giả định rằng tiến bộ AI diễn ra tương đối liên tục, nhưng quá trình phát triển có thể đột ngột tăng tốc nhờ những đột phá thuật toán, chậm lại do các rào cản kỹ thuật, hoặc phân nhánh khi các khu vực khác nhau theo đuổi những cách tiếp cận không tương thích với nhau (Grace et al., 2024 (mở trong tab mới)). Các hệ thống quản trị cần có kế hoạch dự phòng cho những bước nhảy vọt nhanh chóng về năng lực, các sự cố AI nghiêm trọng, sự đổ vỡ của hợp tác quốc tế, và sự xuất hiện của trí tuệ nhân tạo tổng quát (artificial general intelligence, AGI) (Cotra, 2022 (mở trong tab mới)).

Học hỏi từ quá trình triển khai giúp cải thiện liên tục trong những năm then chốt sắp tới. Giai đoạn sắp tới sẽ tạo ra một lượng dữ liệu khổng lồ về những gì thực sự hiệu quả trong quản trị AI (Dafoe, 2020 (mở trong tab mới)). Việc học hỏi một cách hệ thống đòi hỏi phải theo dõi các biện pháp can thiệp và kết quả quản trị, chia sẻ thông lệ tốt nhất giữa các thẩm quyền tài phán, thừa nhận và khắc phục những thất bại, và cập nhật các khung dựa trên bằng chứng (Cihon, 2019 (mở trong tab mới)). Sự cám dỗ sẽ là cố định lại những cách tiếp cận hiện tại — chúng ta phải chống lại điều này, thay vào đó hướng đến sự phát triển dựa trên bằng chứng (Dafoe, 2018 (mở trong tab mới)).

Những lựa chọn được đưa ra trong vài năm tới sẽ định hình mối quan hệ giữa nhân loại và trí tuệ nhân tạo trong nhiều thập kỷ tới. Khi năng lực AI tiến bộ và ngày càng ăn sâu vào các hệ thống trọng yếu, việc lắp ghép thêm quản trị sau này sẽ ngày càng trở nên khó khăn hơn (Anderljung et al., 2023 (mở trong tab mới)). Chúng ta đã có đủ công cụ, tri thức, và những dấu hiệu cảnh báo cần thiết để xây dựng một hệ thống quản trị hiệu quả (Bengio et al., 2025 (mở trong tab mới)). Điều còn thiếu là ý chí tập thể để hành động trước khi các sự kiện buộc chúng ta phải ra tay trong thế bị động (Dafoe, 2018 (mở trong tab mới)).

Con đường phía trước đòi hỏi phải thừa nhận những sự thật khó chịu: các biện pháp tự nguyện của doanh nghiệp sẽ không đủ để xử lý những rủi ro mang tính hệ thống (Papagiannidis, 2025 (mở trong tab mới)), các cách tiếp cận cấp quốc gia cần đến sự phối hợp chưa từng có bất chấp những căng thẳng địa chính trị (Ho et al., 2023 (mở trong tab mới)), và quản trị quốc tế phải đối mặt với những thách thức kỹ thuật và chính trị to lớn (Maas & Villalobos, 2024 (mở trong tab mới)). Thế nhưng lịch sử cho thấy nhân loại có thể vươn lên đáp ứng những thách thức công nghệ khi những gì đang bị đe dọa trở nên rõ ràng và cấp bách (Maas, 2019 (mở trong tab mới)).

Với AI, những gì đang bị đe dọa không thể lớn hơn, và khung thời gian không thể ngắn hơn (Kokotajlo et al., 2025 (mở trong tab mới)). Câu hỏi không phải là liệu chúng ta có cần một hệ thống quản trị toàn diện hay không: những bằng chứng được trình bày xuyên suốt chương này đã khẳng định điều đó một cách dứt khoát. Câu hỏi là liệu chúng ta có xây dựng được nó kịp thời hay không — với sự tinh vi về mặt kỹ thuật và thẩm quyền thể chế cần thiết để quản trị công nghệ mạnh mẽ nhất của nhân loại — và khung thời gian để trả lời câu hỏi đó đang ngày càng thu hẹp theo mỗi lần ra mắt mô hình mới.