Chương 1.9: Phụ lục: Khảo sát chuyên gia

Các nhà nghiên cứu và chuyên gia công nghệ AI hàng đầu bày tỏ mối lo ngại đáng kể về rủi ro hiện sinh (existential risk) và mốc thời gian ngắn, cho thấy một sự đồng thuận ngày càng lớn về tính cấp bách của công tác an toàn, dù vẫn còn nhiều bất định về các kết quả cụ thể.

Khảo sát

Theo một khảo sát gần đây do AI Impacts thực hiện (AI Impacts, 2022 (mở trong tab mới)): "Thời gian dự kiến để đạt hiệu suất ngang tầm con người đã giảm từ 1 đến 5 thập kỷ kể từ khảo sát năm 2022. Như thường lệ, các câu hỏi của chúng tôi về 'trí tuệ máy cấp cao' (high-level machine intelligence, HLMI) và 'tự động hóa hoàn toàn lao động' (full automation of labor, FAOL) nhận được những câu trả lời rất khác nhau, và các cá nhân bất đồng quan điểm khá nhiều (thể hiện bằng các đường mảnh bên dưới), nhưng dự báo tổng hợp cho cả hai nhóm câu hỏi đều giảm mạnh. Để so sánh, giữa các khảo sát năm 2016 và 2022, dự báo cho HLMI chỉ dịch chuyển khoảng một năm."

Ta cũng có thể so sánh các dự đoán của cùng nghiên cứu này vào năm 2022 với kết quả hiện tại. Điều thú vị là cộng đồng nhìn chung đã đánh giá thấp tốc độ tiến bộ trong suốt năm 2023 và đã điều chỉnh dự đoán của mình xuống thấp hơn. Một số dự đoán khá bất ngờ. Ví dụ, những nhiệm vụ như "Viết bài luận Trung học" và "Phiên âm Giọng nói" có thể xem như đã được tự động hóa, lần lượt bởi ChatGPT và Whisper. Tuy nhiên, có vẻ như các nhà nghiên cứu chưa nhận thức được những kết quả này. Ngoài ra, một điều đáng ngạc nhiên là dự báo về thời điểm ta có thể xây dựng được một "nhà nghiên cứu AI" lại có mốc thời gian dài hơn so với thời điểm ta có thể xây dựng "trí tuệ máy cấp cao (mọi nhiệm vụ của con người)". Mức trung vị của khảo sát chuyên gia năm 2024 dự đoán trí tuệ máy ngang tầm con người (human-level machine intelligence, HLMI) sẽ xuất hiện vào năm 2049.

Trích dẫn

Dưới đây là nhiều trích dẫn từ nhiều người khác nhau liên quan đến AI chuyển đổi (transformative AI).

Chuyên gia AI

Lưu ý rằng Hinton, Bengio, và Sutskever là một trong những nhà nghiên cứu được trích dẫn nhiều nhất trong lĩnh vực AI. Và Hinton, Bengio, và LeCun là những người được trao Giải thưởng Turing cho học sâu (Deep Learning). Một số người dùng trên reddit đã tổng hợp một danh sách toàn diện các dự báo mốc thời gian AI được công khai phát biểu bởi các nhà nghiên cứu nổi tiếng và các lãnh đạo ngành.

Câu hỏi nghiên cứu đặt ra là: làm sao để ngăn chúng muốn giành quyền kiểm soát? Và không ai biết câu trả lời [...] Hồi chuông cảnh báo mà tôi đang gióng lên liên quan đến mối đe dọa hiện sinh (existential threat) của việc chúng giành quyền kiểm soát [...] Nếu bạn nhìn nhận nghiêm túc rủi ro hiện sinh (existential risk) như tôi hiện đang làm, thì có lẽ sẽ khá hợp lý nếu chỉ đơn giản là ngừng phát triển những thứ này thêm nữa [...] cứ như thể người ngoài hành tinh đã đổ bộ mà không ai nhận ra, vì họ nói tiếng Anh rất giỏi.

Geoffrey Hinton Cha đẻ của AI hiện đại, Người đoạt Giải thưởng Turing

Thật khó, xét về mặt cái tôi và cảm giác hài lòng về những gì mình làm, để chấp nhận ý tưởng rằng thứ mà bạn đã dành hàng thập kỷ để nghiên cứu thực ra có thể rất nguy hiểm cho nhân loại... Tôi nghĩ mình đã không muốn nghĩ quá nhiều về điều đó, và có lẽ nhiều người khác cũng vậy [...] AI nổi loạn (rogue AI) có thể gây nguy hiểm cho toàn thể nhân loại. Việc cấm các hệ thống AI mạnh mẽ (ví dụ vượt ngoài khả năng của GPT-4) được trao quyền tự định hướng và khả năng hành động độc lập (agency) sẽ là một khởi đầu tốt.

Yoshua Bengio Một trong những nhà khoa học được trích dẫn nhiều nhất mọi thời đại, Cha đẻ của AI hiện đại, Người đoạt Giải thưởng Turing

Nếu chúng ta tiếp tục [cách tiếp cận hiện tại của chúng ta], thì cuối cùng chúng ta sẽ mất quyền kiểm soát đối với máy móc.

Stuart Russell Đồng tác giả cuốn giáo trình AI hàng đầu, Đồng sáng lập Center for Human-Compatible AI

Chúng ta phải nhìn nhận nghiêm túc các rủi ro của AI như những thách thức toàn cầu lớn khác, chẳng hạn như biến đổi khí hậu. Cộng đồng quốc tế đã mất quá nhiều thời gian để phối hợp một phản ứng toàn cầu hiệu quả cho vấn đề đó, và giờ đây chúng ta đang phải sống chung với hậu quả. Chúng ta không thể để xảy ra sự chậm trễ tương tự với AI [...] rồi có lẽ một ngày nào đó sẽ có một tổ chức tương đương như IAEA, thực sự đứng ra kiểm toán những việc này.

Demis Hassabis Đồng sáng lập và CEO của DeepMind

Khi tôi nghĩ về lý do vì sao mình sợ hãi [...] tôi nghĩ điều thực sự khó phản bác là: sẽ có những mô hình mạnh mẽ; chúng sẽ mang tính tác nhân (agentic); chúng ta đang tiến gần đến điều đó. Nếu một mô hình như vậy muốn gây ra tàn phá và hủy diệt nhân loại hay bất cứ điều gì tương tự, tôi nghĩ về cơ bản chúng ta không có khả năng nào để ngăn chặn nó.

Dario Amodei Đồng sáng lập và CEO của Anthropic, Cựu Trưởng bộ phận An toàn AI tại OpenAI

[Về việc Tạm dừng] Tôi không loại trừ khả năng đó. Và tôi nghĩ rằng vào một thời điểm nào đó trong khoảng năm năm tới, chúng ta sẽ phải xem xét câu hỏi đó một cách rất nghiêm túc.

Mustafa Suleyman CEO của Microsoft AI, Đồng sáng lập DeepMind

Dù thế nào thì tương lai cũng sẽ tốt đẹp đối với các AI; sẽ thật tuyệt nếu nó cũng tốt đẹp cho con người [...] Không phải là nó sẽ chủ động căm ghét con người và muốn làm hại họ, mà đơn giản là nó sẽ trở nên quá mạnh mẽ, và tôi nghĩ một phép so sánh phù hợp sẽ là cách con người đối xử với động vật [...] Và tôi nghĩ theo mặc định, đó chính là kiểu quan hệ sẽ tồn tại giữa chúng ta và các AGI thực sự tự định hướng và hoạt động vì lợi ích của riêng mình.

Ilya Sutskever Một trong những nhà khoa học được trích dẫn nhiều nhất mọi thời đại, Đồng sáng lập và Cựu Giám đốc Khoa học tại OpenAI

Liệu các rủi ro tiềm tàng từ AI có vượt trội hơn các rủi ro hiện sinh tiềm tàng khác không…? Đó là rủi ro số 1 của tôi cho thế kỷ này [...] Điều khiến tôi lo lắng không phải là sự thiếu vắng các dự án AGI cụ thể, mà là sự thiếu vắng các kế hoạch cụ thể về cách giữ cho chúng an toàn.

Shane Legg

[Sau khi từ chức tại OpenAI, nói về các nguồn rủi ro] Những vấn đề này khá khó để giải quyết đúng đắn, và tôi lo ngại rằng chúng ta không đang đi trên quỹ đạo để đạt được điều đó [...] OpenAI đang gánh vác một trách nhiệm to lớn thay mặt cho toàn thể nhân loại. Nhưng trong những năm qua, văn hóa và quy trình an toàn đã bị xếp sau những sản phẩm hào nhoáng. Chúng ta đã chậm trễ quá lâu trong việc nhìn nhận thật sự nghiêm túc những hệ lụy của AGI.

Jan Leike Cựu đồng trưởng dự án Superalignment tại OpenAI

[Gợi ý về cách kêu gọi thành lập một cơ quan quản lý toàn cầu:] "bất kỳ cụm máy tính nào vượt một ngưỡng công suất cực cao nhất định – và với chi phí như hiện nay, có lẽ chỉ khoảng năm cụm như vậy trên toàn thế giới – bất kỳ cụm nào như vậy đều phải tuân theo cơ chế tương đương với các thanh tra viên vũ khí quốc tế" […] Tôi đã thực hiện một chuyến đi lớn vòng quanh thế giới trong năm nay, và trò chuyện với nguyên thủ quốc gia của nhiều nước sẽ cần tham gia vào việc này, và nhận được sự ủng hộ gần như tuyệt đối.

Sam Altman Đồng sáng lập và CEO của OpenAI

Diện mạo chính xác của thế giới hậu-AGI rất khó dự đoán — thế giới đó có lẽ sẽ khác biệt so với thế giới ngày nay còn hơn cả sự khác biệt giữa ngày nay và những năm 1500 [...] Chúng ta vẫn chưa biết việc đảm bảo các AGI hành động theo đúng giá trị của những người vận hành chúng sẽ khó đến mức nào. Một số người tin rằng điều đó sẽ dễ dàng; một số người tin rằng nó sẽ khó đến mức không thể tưởng tượng nổi; nhưng không ai biết chắc chắn.

Greg Brockman Đồng sáng lập và Cựu CTO của OpenAI

[Nói về thời điểm gần với sự ra đời của AGI đầu tiên] bạn sẽ chứng kiến động lực chạy đua, nơi mọi người đều cố giữ vị trí dẫn đầu, và điều đó có thể đòi hỏi phải thỏa hiệp về an toàn. Vì vậy tôi nghĩ có lẽ sẽ cần một sự phối hợp nào đó giữa các tổ chức lớn đang thực hiện loại huấn luyện này [...] Tạm dừng việc huấn luyện thêm, hoặc tạm dừng triển khai, hoặc tránh một số loại huấn luyện mà chúng ta cho là có thể rủi ro hơn.

John Schulman Đồng sáng lập OpenAI

Tôi chưa gặp ai trong các phòng thí nghiệm AI nói rằng rủi ro [từ việc huấn luyện một mô hình thế hệ kế tiếp] thấp hơn 1% khả năng hủy diệt hành tinh. Điều quan trọng là mọi người cần biết rằng sinh mạng đang bị đem ra đánh cược [...] Một điều mà việc tạm dừng đạt được là chúng ta sẽ không tiến xa hơn ranh giới tối tân (the Frontier), xét về các thử nghiệm tiền huấn luyện đầy rủi ro.

Jaan Tallinn Đồng sáng lập Skype, Future of Life Institute

Học giả

Một cỗ máy siêu trí tuệ có thể thiết kế ra những cỗ máy thậm chí tốt hơn; khi đó chắc chắn sẽ xảy ra một 'vụ nổ trí tuệ' (intelligence explosion), và trí tuệ của con người sẽ bị bỏ lại rất xa phía sau. Do đó, cỗ máy siêu trí tuệ đầu tiên sẽ là phát minh cuối cùng mà con người từng cần tạo ra, miễn là cỗ máy đó đủ ngoan ngoãn để chỉ cho chúng ta cách giữ nó trong tầm kiểm soát.

I. J. Good Nhà mật mã học tại Bletchley Park

Có vẻ như một khi phương pháp tư duy máy móc đã bắt đầu, sẽ không mất nhiều thời gian để nó vượt qua năng lực yếu ớt của chúng ta… Chúng sẽ có thể trò chuyện với nhau để mài giũa trí tuệ của mình. Vì vậy, đến một giai đoạn nào đó, chúng ta sẽ phải lường trước việc máy móc giành quyền kiểm soát.

Alan Turing Cha đẻ của Khoa học Máy tính và AI

Sự phát triển của trí tuệ nhân tạo hoàn chỉnh có thể báo hiệu sự kết thúc của loài người [...] Nó sẽ tự mình cất cánh, và tự thiết kế lại bản thân với tốc độ ngày càng tăng.

Stephen Hawking Nhà vật lý lý thuyết

Tôi không cho rằng một thực thể thực sự thông minh sẽ tấn công chúng ta bằng những đội quân robot diễu hành với đôi mắt đỏ rực, kiểu như trong một bộ phim thú vị về việc chúng ta chiến đấu với chúng. Tôi cho rằng một thực thể thực sự thông minh hơn và hoàn toàn vô cảm sẽ tìm ra các chiến lược và công nghệ có thể giết chúng ta một cách nhanh chóng, đáng tin cậy, rồi giết chúng ta.

Eliezer Yudkowsky Nhà nghiên cứu an toàn AI, Đồng sáng lập Machine Intelligence Research Institute

Doanh nhân Công nghệ

AI là một trường hợp hiếm hoi mà tôi nghĩ chúng ta cần chủ động trong việc quản lý thay vì bị động ứng phó [...] Tôi nghĩ [siêu trí tuệ số (digital super intelligence)] là cuộc khủng hoảng hiện sinh lớn nhất và cấp bách nhất mà chúng ta phải đối mặt. Cần phải có một cơ quan công quyền có đủ hiểu biết chuyên sâu, rồi sau đó là quyền giám sát, để xác nhận rằng mọi người đều đang phát triển AI một cách an toàn [...] Và hãy ghi nhớ lời tôi: AI nguy hiểm hơn vũ khí hạt nhân rất nhiều. Rất nhiều. Vậy tại sao chúng ta lại không có sự giám sát quản lý nào? Điều này thật điên rồ.

Elon Musk Nhà sáng lập/Đồng sáng lập OpenAI, Neuralink, SpaceX, xAI, PayPal, CEO của Tesla, CTO của X/Twitter

Những AI siêu trí tuệ đang ở phía trước chúng ta trong tương lai. [...] Có khả năng rằng AI sẽ vượt khỏi tầm kiểm soát. [Có thể,] một cỗ máy sẽ quyết định rằng con người là một mối đe dọa, kết luận rằng lợi ích của nó khác với lợi ích của chúng ta, hoặc đơn giản là ngừng quan tâm đến chúng ta.

Bill Gates Đồng sáng lập Microsoft

Tuyên bố Chung

Các rủi ro đáng kể có thể phát sinh từ khả năng lợi dụng sai mục đích có chủ đích, hoặc từ các vấn đề kiểm soát ngoài ý muốn liên quan đến việc căn chỉnh theo ý định của con người. Những vấn đề này một phần là do các năng lực đó chưa được hiểu đầy đủ [...] Có khả năng xảy ra tổn hại nghiêm trọng, thậm chí thảm khốc, dù là cố ý hay ngoài ý muốn, bắt nguồn từ những năng lực quan trọng nhất của các mô hình AI này.

Tuyên bố Bletchley (The Bletchley Declaration) Nhiều Quốc gia & EU, 2023