Chương 2.1: Phân rã rủi ro

Có thể phân loại rủi ro AI theo nguyên nhân chính — lợi dụng sai mục đích, mất căn chỉnh và các yếu tố mang tính hệ thống — và theo mức độ nghiêm trọng tiềm tàng, từ những tổn hại cá nhân cho đến những mối đe dọa hiện sinh.

• 8 phút đọc
• Biên soạn bởi Markov Grey, Charbel-Raphaël Segerie

Trước khi đi vào các kịch bản rủi ro cụ thể, chúng ta cần một khung phân tích để đánh giá xem chúng nằm ở đâu trên phổ rủi ro. Việc phân loại rủi ro vốn dĩ mang tính đa chiều; không có một cách phân loại "tốt nhất" duy nhất. Chúng tôi chọn cách chia rủi ro theo hai yếu tố: "vì sao rủi ro xảy ra" (nguyên nhân) và "rủi ro có thể tồi tệ đến mức nào" (mức độ nghiêm trọng). Có những khung phân tích bổ trợ khác, chẳng hạn cách phân loại rủi ro của MIT, dựa trên "ai là người gây ra" (con người hay hệ thống AI), "chúng xuất hiện khi nào" (trong quá trình phát triển hay triển khai), hoặc "kết quả có phải là chủ đích hay không" (Slattery et al., 2024 (mở trong tab mới)). Cách phân rã của chúng tôi chỉ là một trong nhiều góc nhìn khả dĩ, nhưng những rủi ro mà chúng tôi sẽ đề cập thường xuất hiện xuyên suốt các khung phân tích khác nhau.

Nguyên nhân Gây ra Rủi ro

Chúng tôi phân loại rủi ro AI theo trách nhiệm nhân quả để xác định những điểm có thể can thiệp. Chúng tôi chia rủi ro dựa trên việc ai hoặc cái gì chịu trách nhiệm chính: con người sử dụng AI như một công cụ (lợi dụng sai mục đích), bản thân hệ thống AI hành xử theo cách không lường trước (mất căn chỉnh), hoặc những tác động nảy sinh từ tương tác giữa các hệ thống phức tạp (mang tính hệ thống). Góc nhìn theo nhân quả này giúp xác định những chỗ mà việc can thiệp có thể mang lại hiệu quả cao nhất.

• Rủi ro lợi dụng sai mục đích xảy ra khi con người cố ý sử dụng hệ thống AI để gây hại. Nhóm này bao gồm các cá nhân, tổ chức có ý đồ xấu, các quốc gia, tập đoàn, hoặc cá nhân tận dụng năng lực AI để đẩy nhanh những mối đe dọa sẵn có hoặc tạo ra những mối đe dọa mới. Hệ thống AI có thể vẫn hoạt động đúng như thiết kế, nhưng chính chủ đích của con người mới tạo ra rủi ro. Các ví dụ trải dài từ việc dùng AI để tạo mã độc hoặc vũ khí sinh học, cho đến triển khai vũ khí tự hành hay tiến hành các chiến dịch thông tin sai lệch quy mô lớn.
• Rủi ro mất căn chỉnh nảy sinh khi hệ thống AI theo đuổi những mục tiêu khác với ý định của con người. Những rủi ro này bắt nguồn từ thách thức kỹ thuật trong việc đặc tả mục tiêu, từ quá trình huấn luyện tạo ra những hành vi không lường trước, hoặc từ việc mục tiêu mà hệ thống AI học được mâu thuẫn với giá trị con người. Khác với lợi dụng sai mục đích, những rủi ro này xảy ra dù con người có thiện chí - chính hệ thống AI tự tạo ra hành vi gây hại thông qua đánh lừa đặc tả [specification gaming], khái quát hóa sai mục tiêu [goal misgeneralization], hoặc các dạng thất bại căn chỉnh khác.
• Rủi ro hệ thống [systemic risks] nảy sinh từ việc AI hòa nhập vào các hệ thống toàn cầu phức tạp, tạo ra những mối đe dọa nảy sinh mà không cá nhân nào chủ đích tạo ra. Nhóm này bao gồm tập trung quyền lực [power concentration] khi năng lực AI bị độc quyền hóa, thất nghiệp hàng loạt do tự động hóa, xói mòn nhận thức luận [epistemic erosion] khi nội dung do AI tạo ra tràn ngập các hệ thống thông tin, và những sự cố dây chuyền [cascading failures] lan khắp hạ tầng liên kết với nhau. Trách nhiệm trở nên phân tán giữa nhiều cá nhân và hệ thống, khiến các khung quy trách nhiệm truyền thống trở nên bất cập.

Nhiều rủi ro AI trong thực tế kết hợp nhiều con đường nhân quả khác nhau, hoặc hoàn toàn không thể phân loại rạch ròi. Phân tích hơn 1.600 rủi ro AI đã được ghi nhận cho thấy nhiều trường hợp không khớp gọn vào một nhóm phạm trù duy nhất nào (Slattery et al., 2024 (mở trong tab mới)). Những rủi ro liên quan đến tương tác giữa con người và AI pha trộn giữa mất căn chỉnh ở cấp độ cá nhân với rủi ro hệ thống. Rủi ro đa tác nhân [multi-agent risks] nảy sinh khi nhiều hệ thống AI tương tác với nhau theo những cách không lường trước. Một số kịch bản có hiệu ứng dây chuyền, trong đó lợi dụng sai mục đích tạo điều kiện cho mất căn chỉnh, hoặc áp lực mang tính hệ thống khuếch đại các thất bại cá nhân. Chúng tôi chọn cách phân rã theo nhân quả này vì mục đích giải thích, nhưng cần lưu ý rằng sẽ luôn có sự chồng lấn, và trong tương lai nhiều khả năng sẽ là sự pha trộn của rủi ro đến từ nhiều nguyên nhân khác nhau.

Mức độ Nghiêm trọng của Rủi ro

Rủi ro AI trải dài trên một phổ, từ những tổn hại cá nhân cho đến những mối đe dọa có thể làm chệch hướng vĩnh viễn nền văn minh nhân loại. Hiểu được mức độ nghiêm trọng giúp ưu tiên nguồn lực hạn chế và điều chỉnh cách ứng phó phù hợp với từng loại rủi ro. Thay vì xem mọi rủi ro AI đều quan trọng như nhau, chúng ta có thể sắp xếp chúng theo phạm vi và mức độ nghiêm trọng để biết loại nào cần được chú ý ngay lập tức, loại nào cần chuẩn bị cho dài hạn.

Rủi ro cá nhân và cục bộ ảnh hưởng đến những người hoặc cộng đồng cụ thể, nhưng vẫn nằm trong một phạm vi giới hạn. AI Incident Database ghi nhận hơn 1.000 trường hợp thực tế trong đó hệ thống AI đã gây ra hoặc suýt gây ra tổn hại (McGregor, 2020 (mở trong tab mới); AI Incident Database, 2025 (mở trong tab mới)). Những trường hợp này bao gồm tai nạn xe tự lái, thiên lệch thuật toán trong tuyển dụng hay cho vay gây bất lợi cho một số cá nhân nhất định, vi phạm quyền riêng tư khi hệ thống AI làm rò rỉ dữ liệu cá nhân, hoặc thao túng thông qua các chiến dịch thông tin sai lệch nhắm mục tiêu. Rủi ro cục bộ có thể là những sự cố hệ thống AI làm rối loạn hệ thống quản lý giao thông của một thành phố hoặc gây mất điện trong một khu vực. Những rủi ro này đã và đang gây ra tổn hại tức thời, được ghi nhận đầy đủ, cho một số lượng người từ vài nghìn đến hàng trăm nghìn người.

Rủi ro thảm họa [catastrophic risk] đe dọa những lượng dân số khổng lồ, nhưng vẫn cho phép phục hồi về sau. Khi số người chịu ảnh hưởng của rủi ro đạt khoảng 10% dân số toàn cầu, và mức độ lan rộng về mặt địa lý ngày càng lớn, chúng ta gọi đó là rủi ro thảm họa. Các ví dụ lịch sử bao gồm Cái Chết Đen (giết chết một phần ba dân số châu Âu), đại dịch cúm năm 1918 (50-100 triệu người chết), và những kịch bản tương lai tiềm tàng như chiến tranh hạt nhân hay đại dịch được thiết kế nhân tạo (Ord, 2020 (mở trong tab mới)). Trong bối cảnh AI, những rủi ro này có thể gây ra xáo trộn lan rộng trên phạm vi quốc tế. Thất nghiệp hàng loạt do tự động hóa AI có thể làm mất ổn định toàn bộ nền kinh tế, gây bất ổn xã hội và biến động chính trị. Các cuộc tấn công mạng dùng mã độc do AI tạo ra có thể làm tê liệt hệ thống tài chính hoặc hạ tầng trọng yếu của một quốc gia. Giám sát ứng dụng AI có thể cho phép các chế độ độc tài kiểm soát hàng trăm triệu người. Các thể chế dân chủ có thể sụp đổ trước các chiến dịch thông tin sai lệch do AI hỗ trợ diễn ra liên tục, làm rạn nứt nhận thức chung và khiến việc ra quyết định tập thể trở nên bất khả thi (Slattery et al., 2024 (mở trong tab mới); Hammond et al., 2025 (mở trong tab mới); Gabriel et al., 2024 (mở trong tab mới); Stanford HAI, 2025 (mở trong tab mới)). Những rủi ro này ảnh hưởng đến hàng triệu, thậm chí hàng tỷ người, nhưng nhìn chung không loại trừ khả năng phục hồi hay thích nghi về sau.

Rủi ro hiện sinh [existential risk] (x-risk) đại diện cho những mối đe dọa mà nhân loại sẽ không bao giờ có thể phục hồi trọn vẹn tiềm năng của mình. Khác với rủi ro thảm họa - nơi khả năng phục hồi vẫn còn - rủi ro hiện sinh hoặc xóa sổ hoàn toàn nhân loại, hoặc vĩnh viễn ngăn cản nền văn minh đạt tới những đỉnh cao về công nghệ, đạo đức hay văn hóa mà lẽ ra loài người có thể vươn tới. Rủi ro hiện sinh liên quan đến AI bao gồm những kịch bản trong đó các hệ thống tiên tiến khiến nhân loại vĩnh viễn mất năng lực, thiết lập một chế độ toàn trị ổn định không thể lật đổ, hoặc trực tiếp gây ra sự tuyệt chủng của loài người (Bostrom, 2002 (mở trong tab mới); Conn, 2015 (mở trong tab mới); Ord, 2020 (mở trong tab mới)). Những rủi ro này đòi hỏi chiến lược phòng ngừa thay vì ứng phó, bởi về bản chất, một khi đã xảy ra thì không thể rút kinh nghiệm từ thất bại đó được nữa.¹

Những rủi ro có mức độ nghiêm trọng cao hơn đại diện cho những sai lầm không thể đảo ngược, để lại hậu quả vĩnh viễn. Chúng ta đã chứng kiến AI gây ra những tổn hại được ghi nhận đối với con người thật, cũng như những tác động gây mất ổn định cho các hệ thống toàn cầu. Tuy nhiên, rủi ro thảm họa và rủi ro hiện sinh đặt ra một thách thức về bản chất khác hẳn: nếu hệ thống AI tiên tiến gây ra thảm họa hiện sinh, nhân loại sẽ không thể rút kinh nghiệm từ sai lầm đó để xây dựng những biện pháp bảo vệ tốt hơn. Chính tính không thể đảo ngược này khiến một số nhà nghiên cứu lập luận rằng nên ưu tiên phòng ngừa những kịch bản có xác suất thấp nhưng tầm ảnh hưởng lớn, song song với việc xử lý những tổn hại hiện tại (Bostrom, 2002 (mở trong tab mới)). Dù vậy, vẫn có những ý kiến trái chiều về việc nên phân bổ sự quan tâm như thế nào cho hợp lý giữa các mức độ nghiêm trọng khác nhau của rủi ro (Oxford Union Debate, 2024 (mở trong tab mới); Munk Debate, 2024 (mở trong tab mới)).

Rủi ro Ikigai (I-Risks) - Rủi ro từ việc mất đi mục đích sống

Rủi ro Ikigai (i-risk) liên quan đến việc đánh mất ý nghĩa và mục đích sống, ngay cả khi con người vẫn tồn tại và phát triển thịnh vượng. Được đặt tên theo khái niệm ikigai của Nhật Bản (mục đích sống), những rủi ro này nảy sinh khi hệ thống AI trở nên có năng lực vượt trội hơn con người ở mọi hoạt động vốn mang lại ý nghĩa. Con người có thể đánh mất cảm giác về mục đích sống khi AI có thể sáng tạo nghệ thuật tốt hơn, thực hiện nghiên cứu tốt hơn, và làm tốt hơn con người ở mọi công việc từng mang lại ý nghĩa cho cuộc sống. Khác với rủi ro tuyệt chủng hay rủi ro đau khổ, i-risk liên quan đến những kịch bản trong đó con người vẫn an toàn và đầy đủ về vật chất, nhưng lại mất phương hướng về mặt hiện sinh. Chúng ta có thể tạo ra những giới hạn nhân tạo để duy trì vai trò của con người, hoặc tìm ra những hình thức ý nghĩa hoàn toàn mới nảy sinh từ sự hợp tác giữa con người và AI. Tuy nhiên, những giải pháp này lại đặt ra chính những câu hỏi về tính chân thực, và liệu một ý nghĩa được duy trì một cách nhân tạo có thể thỏa mãn nhu cầu tâm lý của con người hay không (Yampolskiy, 2024 (mở trong tab mới); Yampolsky, 2024 (mở trong tab mới)).

Rủi ro Đau khổ Hiện sinh (S-Risks) - Rủi ro đau khổ kéo dài

Rủi ro đau khổ (s-risk) liên quan đến những lượng đau khổ ở quy mô thiên văn, có thể vượt xa toàn bộ đau khổ từng tồn tại trong lịch sử loài người. S-risk là một nhóm đặc biệt trong các rủi ro hiện sinh. Chúng đại diện cho những kịch bản trong đó tương lai chứa đựng lượng đau khổ lớn hơn hiện tại nhiều bậc, có thể liên quan đến hàng nghìn tỷ sinh thể có ý thức trải rộng khắp không gian và thời gian. Khác với rủi ro tuyệt chủng - vốn xóa bỏ hoàn toàn trải nghiệm - s-risk tạo ra những tương lai tràn ngập đau khổ khủng khiếp (Althaus & Gloor, 2016 (mở trong tab mới); Baumann, 2017 (mở trong tab mới); DiGiovanni, 2023 (mở trong tab mới)).

Các nền văn minh tương lai có thể tạo ra số lượng khổng lồ sinh thể nhân tạo có ý thức. Nếu những sinh thể này thực sự có ý thức, thì các trí tuệ số đó có thể trải qua đau khổ thật sự nếu bị tạo ra một cách bất cẩn. Đôi khi giải pháp hiệu quả nhất lại vô tình đi kèm đau khổ - chẳng hạn như hình thức nô lệ số [digital slavery], nơi hàng nghìn tỷ trí tuệ số phải thực hiện lao động tính toán trong điều kiện khủng khiếp. Các nền văn minh tương lai khi tiến hành những mô phỏng chi tiết về quá trình tiến hóa sinh học, hoặc kiểm chứng các lý thuyết về ý thức, có thể vô tình tạo ra hàng triệu sinh thể chịu đau khổ ngay bên trong các mô phỏng đó. Những sinh thể được mô phỏng này sẽ trải qua đau khổ thật sự, dù chúng chỉ tồn tại dưới dạng các quá trình tính toán.

Dù những kịch bản này nghe có vẻ như khoa học viễn tưởng, một số nhà nghiên cứu cho rằng chúng vẫn xứng đáng được xem xét, do những gì đang bị đặt cược có thể lớn đến mức khổng lồ, và do tính không thể đảo ngược của những hậu quả này nếu chúng thực sự xảy ra.

Những nhóm phạm trù rủi ro và các mức độ nghiêm trọng này tạo nền tảng để xem xét những năng lực AI cụ thể có thể dẫn đến hậu quả gây hại. Phần còn lại của chương sẽ tập trung trình bày các trường hợp cụ thể và các lập luận về việc những bước phát triển AI khác nhau có thể dẫn đến những mức độ tổn hại khác nhau ra sao, đặc biệt chú trọng vào những trường hợp có thể vượt qua ranh giới để trở thành thảm họa hoặc hiện sinh.

Chú thích

¹ Có ý kiến cho rằng sự sụp đổ văn minh không thể phục hồi - khi loài người hoặc tuyệt chủng, hoặc không bao giờ được thay thế bởi một nền văn minh kế tiếp có khả năng tái thiết - là điều khả thi, nhưng xác suất xảy ra cực kỳ thấp (Rodriguez, 2020 (mở trong tab mới)).