Chương 2.7: Kết luận

Những rủi ro đan xen của AI đòi hỏi một cách tiếp cận an toàn đa ngành để bảo toàn tiềm năng mang lại lợi ích to lớn cho nhân loại.

Việc giảm thiểu rủi ro tuyệt chủng từ AI nên là một ưu tiên toàn cầu, sánh ngang với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân. — CAIS

Chương này cho thấy có rất nhiều rủi ro tiềm tàng từ các hệ thống AI. Những tổn hại đã được ghi nhận ngày nay đã ảnh hưởng đến hàng nghìn người, cùng với những mối đe dọa hiện sinh tiềm tàng có thể ảnh hưởng đến mọi thế hệ tương lai. Vẫn còn nhiều bất đồng và thiếu sự đồng thuận về đâu là những vấn đề lớn nhất. Các năng lực nguy hiểm đã và đang xuất hiện trong các hệ thống hiện tại. Ta đang chứng kiến những minh chứng thực nghiệm về rủi ro mất căn chỉnh và lợi dụng sai mục đích. Nhiều rủi ro riêng lẻ trong số này có thể tương tác với nhau và cộng hưởng thêm thông qua các hiệu ứng hệ thống — lợi dụng sai mục đích tạo điều kiện cho mất căn chỉnh, áp lực cạnh tranh khuếch đại tai nạn, và thất bại trong phối hợp ngăn cản các biện pháp bảo vệ tập thể.

Có một hy vọng hiện sinh [existential hope] — bên cạnh những rủi ro này, tương lai của AI cũng chứa đựng tiềm năng to lớn cho sự phát triển thịnh vượng của con người. Các hệ thống AI được phát triển đúng cách có thể giúp giải quyết những thách thức lớn nhất của nhân loại — chữa khỏi bệnh tật, đảo ngược tổn hại môi trường, xóa bỏ đói nghèo, và mở rộng tri thức cùng sự sáng tạo của con người vượt ra ngoài những giới hạn hiện tại. Chính những năng lực tạo ra rủi ro cũng mang lại những cơ hội chưa từng có để nâng cao phúc lợi con người, kéo dài tuổi thọ khỏe mạnh, khám phá vũ trụ, và đạt được những mức độ thịnh vượng và hiểu biết mà trước đây không thể tưởng tượng nổi. Nhiều nhà nghiên cứu làm việc trong lĩnh vực an toàn AI chính vì họ tin rằng tiềm năng tích cực này lớn đến mức việc đảm bảo các kết cục có lợi biện minh cho những nỗ lực phòng ngừa sâu rộng. Mục tiêu không phải là ngăn chặn sự phát triển của AI, mà là định hướng nó theo những cấu hình tối đa hóa lợi ích trong khi giảm thiểu rủi ro.

Dù những rủi ro này là vô cùng to lớn, chúng tôi hy vọng thông điệp về hy vọng hiện sinh sẽ thôi thúc bạn góp phần giảm thiểu một số rủi ro này. Những tương lai tốt đẹp là hoàn toàn khả thi, nhưng chúng không tự nhiên mà có. Chúng đòi hỏi hành động tích cực và các chiến lược được hoạch định kỹ lưỡng. Chúng tôi cho rằng cần phải xây dựng một cách tiếp cận toàn cầu, đa ngành đối với an toàn AI, bao trùm các biện pháp bảo vệ kỹ thuật, các khung đạo đức vững chắc, và hợp tác quốc tế. Việc phát triển các công nghệ AI đòi hỏi sự tham gia của các nhà hoạch định chính sách, các nhà đạo đức học, các nhà khoa học xã hội, và công chúng nói chung để định hướng những hệ quả đạo đức và xã hội của AI.