Chương 3: Chiến lược

Chương này cố gắng phác họa bức tranh tổng thể về chiến lược an toàn AI nhằm giảm thiểu những rủi ro đã được trình bày ở phần trước.

Năng lực AI phát triển rất nhanh, nên các chiến lược đảm bảo an toàn cũng phải liên tục thay đổi theo. Phiên bản đầu tiên của tài liệu này được viết vào mùa hè năm 2024, phiên bản này bao gồm bản cập nhật thực hiện vào mùa hè năm 2025. Xuyên suốt chương này, chúng tôi mong muốn cung cấp một cái nhìn tổng quan có hệ thống về tư duy và các công trình đang triển khai trong chiến lược an toàn AI tính đến năm 2025. Chúng tôi ghi nhận cả những phương pháp đã được thiết lập lẫn những hướng nghiên cứu mới đang nổi lên.

Chúng tôi đã phân loại các biện pháp giảm thiểu rủi ro xoay quanh việc phòng ngừa lợi dụng sai mục đích AI, các biện pháp an toàn cho trí tuệ nhân tạo tổng quát (AGI) và siêu trí tuệ nhân tạo (ASI), và cuối cùng là các phương pháp tiếp cận xã hội-kỹ thuật (socio-technical) giúp giảm thiểu mối lo ngại một cách tổng quát hơn trên mọi hạng mục. Mặc dù chúng tôi chọn cách phân tách này để tiện trình bày, chúng tôi ủng hộ một phương pháp tiếp cận toàn diện, kết hợp nhiều chiến lược với nhau thay vì chỉ theo đuổi một vài chiến lược riêng lẻ. Cuối chương, chúng tôi có một phần về kết hợp chiến lược, trong đó chúng tôi cố gắng phác thảo một cách khả dĩ để sự kết hợp này có thể tạo thành một khung phòng thủ theo chiều sâu (defense-in-depth) nhiều lớp.

Ngoài phạm vi của chương này

Mặc dù chương này tập trung vào các chiến lược liên quan trực tiếp đến việc ngăn ngừa những hậu quả tiêu cực trên diện rộng do lợi dụng sai mục đích AI, mất căn chỉnh, hoặc phát triển AI mất kiểm soát gây ra, một số chủ đề liên quan buộc phải được đặt ngoài phạm vi chính của chương:

• Thông tin sai lệch do AI tạo ra: Sự lan tràn của thông tin sai lệch do AI thúc đẩy, bao gồm deepfake và việc tạo ra nội dung thiên lệch. Các chiến lược đối phó với vấn đề này, như hệ thống phát hiện mạnh mẽ, gắn thủy vân (watermarking), và các nguyên tắc AI có trách nhiệm, phần lớn nằm ngoài phạm vi của chương này. Những vấn đề đó thường thuộc phạm trù kiểm duyệt nội dung, hiểu biết truyền thông, và quản trị nền tảng — khác với các chiến lược căn chỉnh và kiểm soát kỹ thuật cốt lõi được bàn đến trong chương này.
• Quyền riêng tư: Các hệ thống AI thường xử lý một lượng dữ liệu khổng lồ, làm gia tăng những lo ngại sẵn có về quyền riêng tư dữ liệu.
• An ninh: Các thông lệ an ninh tiêu chuẩn, như mã hóa, kiểm soát truy cập, phân loại dữ liệu, giám sát mối đe dọa, và ẩn danh hóa, là điều kiện tiên quyết để triển khai AI an toàn. Dù an ninh vững chắc là yếu tố thiết yếu cho các biện pháp như bảo vệ trọng số mô hình, những thông lệ tiêu chuẩn này khác với các chiến lược an toàn mới mẻ cần thiết để đối phó với những rủi ro như mất căn chỉnh mô hình hay lợi dụng sai mục đích năng lực.
• Phân biệt đối xử và nội dung độc hại: Mặc dù đầu ra thiên lệch hoặc độc hại là một mối lo ngại về an toàn, chương này tập trung vào các chiến lược nhằm ngăn ngừa những thất bại thảm khốc.
• Phúc lợi và quyền của trí tuệ số: Chúng ta không biết liệu AI có nên được xem là đối tượng đạo đức (moral patient) hay không. Đây là một phạm trù đạo đức riêng biệt, liên quan đến nghĩa vụ của chúng ta đối với AI, chứ không phải việc đảm bảo an toàn trước AI.
• Sai sót do thiếu năng lực: Mặc dù các thất bại của hệ thống AI do thiếu năng lực hoặc độ bền vững là một nguồn rủi ro (AISI, 2025 (mở trong tab mới)), các chiến lược được bàn đến trong chương này nhằm giảm thiểu rủi ro phát sinh từ cả sự thiếu bền vững lẫn năng lực cao (nhưng bị mất căn chỉnh hoặc bị lợi dụng sai mục đích). Giải pháp cho loại rủi ro này cũng tương tự như ở các ngành khác: kiểm thử, lặp lại cải tiến, và nâng cao năng lực của hệ thống.

Phạm vi được lựa chọn ở đây phản ánh mối quan tâm phổ biến trong một số bộ phận của cộng đồng an toàn AI, tập trung vào các rủi ro hiện sinh hoặc thảm họa quy mô lớn phát sinh từ các hệ thống AI mạnh mẽ, có khả năng mang tính tác nhân (agentic).