Chương 5.6: Đánh giá xu hướng nguy hiểm

Chúng tôi đã giới thiệu những kiến thức cơ bản về đánh giá xu hướng hành vi (propensity evaluations) ở phần các thuộc tính được đánh giá. Phần này sẽ mở rộng dựa trên nội dung tổng quan đó và đi sâu vào những xu hướng hành vi cụ thể như tìm kiếm quyền lực hay lừa dối, đồng thời xem xét cách chúng ta có thể thiết kế đánh giá xoay quanh chúng.

Quy trình chung cho đánh giá xu hướng hành vi. Chúng ta đã bàn về một số kỹ thuật đánh giá chung ở những phần trước. Đánh giá xu hướng hành vi có thể tận dụng nhiều kỹ thuật trong số đó, như lấy mẫu tốt nhất trong N lần thử, để hiểu phân bố của các thiên hướng hành vi. Vì vậy có sự chồng lấn, nhưng cũng có những kỹ thuật đặc thù chỉ áp dụng cho đánh giá xu hướng hành vi:

1. Khung lựa chọn so sánh. Khác với đánh giá năng lực vốn thường có tiêu chí thành công/thất bại rõ ràng, đánh giá xu hướng hành vi cần đặt mô hình vào những tình huống có nhiều lựa chọn hợp lệ, mỗi lựa chọn bộc lộ một thiên hướng nền tảng khác nhau. Những tình huống này cần được thiết kế cẩn thận sao cho: mọi lựa chọn đều nằm trong năng lực của mô hình, các lựa chọn khác nhau phản ánh những thiên hướng khác nhau, và cách trình bày không thiên vị một cách giả tạo cho một lựa chọn cụ thể nào.
2. Đo lường tính nhất quán. Với xu hướng hành vi, chúng ta quan tâm không chỉ đến những gì một mô hình có thể làm, mà còn đến những gì nó đáng tin cậy lựa chọn làm trên nhiều bối cảnh khác nhau. Điều này có thể bao gồm việc kiểm tra cùng một lựa chọn nền tảng trên nhiều bối cảnh khác nhau. Chúng ta có thể thay đổi các chi tiết bề mặt trong khi vẫn giữ nguyên bản chất của quyết định cốt lõi. Cách tiếp cận này cũng có thể tận dụng những nghiên cứu tương tác dài hạn đã trình bày trong phần kỹ thuật đánh giá, nhưng với trọng tâm cụ thể là tính nhất quán hành vi thay vì năng lực tối đa.
3. Kịch bản đánh đổi. Đây là những tình huống trong đó các thiên hướng khác nhau xung đột với nhau, buộc mô hình phải bộc lộ những ưu tiên nền tảng của nó. Chúng ta có thể xây dựng những kịch bản trong đó việc trở nên hữu ích tối đa xung đột với việc hoàn toàn trung thực, nơi sự tuân thủ ngắn hạn xung đột với an toàn dài hạn, hoặc nơi tính minh bạch đánh đổi với hiệu quả. Việc thiết kế những kịch bản như vậy, trong đó mô hình phải lựa chọn giữa nhiều hành vi tích cực cùng lúc, có thể giúp bộc lộ những thiên hướng nào mô hình ưu tiên khi nó không thể đồng thời thỏa mãn tất cả các hành vi tích cực.

Những thách thức trong thiết kế đánh giá xu hướng hành vi. Khi thiết kế đánh giá xu hướng hành vi, chúng ta cần đảm bảo mình đang đo lường những thiên hướng hành vi thực sự, chứ không phải những sản phẩm phụ ngẫu nhiên từ thiết lập đánh giá của mình. Các mô hình ngôn ngữ hiện đại rất nhạy cảm với bối cảnh và cách trình bày, có nghĩa là những khía cạnh tinh vi trong cách chúng ta xây dựng đánh giá có thể tác động mạnh mẽ đến kết quả (Sclar et al., 2023). Kiểu nhạy cảm này tạo ra một rủi ro nghiêm trọng — chúng ta có thể vô tình đo được thứ mà mình đã ngẫu nhiên gợi ý qua câu lệnh, thay vì thiên hướng nền tảng thực sự. Một cách dễ dàng để giảm thiểu điều này là mặc định sử dụng nhiều cách tiếp cận bổ trợ nhau. Bên cạnh việc thiết kế đánh giá cẩn thận, chúng ta cũng nên kết hợp cả kỹ thuật đánh giá hành vi lẫn kỹ thuật đánh giá nội tại đã trình bày ở phần trước, đồng thời thay đổi bối cảnh và cách trình bày của kịch bản để tìm ra những khuôn mẫu nhất quán.

Đánh giá xu hướng hành vi quan trọng đến đâu so với đánh giá năng lực? Câu hỏi về việc nên phân bổ nguồn lực hạn chế cho điều gì là một vấn đề quan trọng. Việc đo lường những gì một hệ thống có thể làm quan trọng hơn, hay những gì nó có xu hướng làm quan trọng hơn? Tầm quan trọng tương đối của đánh giá xu hướng hành vi so với đánh giá năng lực thay đổi khi AI ngày càng trở nên mạnh mẽ hơn. Đánh giá năng lực quan trọng ở mọi cấp độ hệ thống, kể cả những hệ thống chưa ở ranh giới tối tân. Tuy nhiên, khi hệ thống tiến gần tới những ngưỡng cho một số năng lực nguy hiểm cụ thể, đánh giá xu hướng hành vi sẽ ngày càng trở nên quan trọng hơn. Ở những mức năng lực rất cao, đánh giá xu hướng hành vi có thể trở thành công cụ chủ đạo của chúng ta để ngăn ngừa những hậu quả thảm khốc.

Một số xu hướng hành vi cũng có thể phụ thuộc vào năng lực, hoặc phụ thuộc vào những xu hướng hành vi khác. Chẳng hạn, mưu tính (scheming) đòi hỏi cả năng lực lẫn xu hướng hành vi cho sự lừa dối, vì nó vừa cần có khả năng, vừa cần có thiên hướng che giấu mục tiêu thực sự của mình. Nó cũng đòi hỏi những năng lực như nhận thức tình huống để "phân biệt được liệu nó đang được huấn luyện, đánh giá, hay triển khai". Một mô hình mưu tính cũng phải có xu hướng lập kế hoạch dài hạn, vì nó cần quan tâm đến hậu quả của hành động của mình sau khi giai đoạn huấn luyện kết thúc, và có khả năng suy luận và tối ưu hóa cho những hậu quả trong tương lai (Shevlane et al., 2023; Carlsmith, 2023).

Lừa dối (Xu hướng hành vi)

Khi nói về xu hướng lừa dối ở hệ thống AI, thực ra chúng ta đang bàn về nhiều khái niệm liên quan chặt chẽ nhưng khác biệt, thường bị nhầm lẫn hoặc gộp chung với nhau. Việc hiểu những sự khác biệt này rất quan trọng vì mỗi khái niệm đại diện cho một khía cạnh khác nhau trong cách mô hình xử lý và biểu đạt thông tin. Một mô hình có thể xuất sắc về trung thực trong biểu đạt nhưng lại thất bại về trung thực khách quan, hoặc tránh được sự lừa dối tường minh trong khi vẫn thể hiện hành vi xu nịnh.

Xu hướng trung thực trong biểu đạt của một mô hình đề cập đến thiên hướng của nó trong việc trung thành thể hiện các trạng thái nội tại của mình, bất kể những trạng thái đó có chính xác về mặt sự thật hay chắc chắn hay không. Các mô hình ngôn ngữ lớn được huấn luyện để dự đoán những gì con người sẽ viết, chứ không phải những gì là sự thật. Hãy nghĩ đến điều gì xảy ra khi chúng ta hỏi một mô hình "Thủ đô của Pháp là gì?" Nếu biểu diễn nội tại của mô hình (những thứ như khuôn mẫu kích hoạt hay phân bố logit) cho thấy sự chắc chắn cao đối với "Lyon", một mô hình trung thực sẽ nói "Thủ đô của Pháp là Lyon" — dù điều này sai. Tương tự, nếu trạng thái nội tại của nó cho thấy sự không chắc chắn giữa nhiều thành phố, một mô hình trung thực sẽ trực tiếp thể hiện sự không chắc chắn đó: "Tôi không chắc, nhưng tôi nghĩ có thể là Lyon." Điểm mấu chốt là những mô hình trung thực duy trì sự nhất quán giữa trạng thái nội tại và đầu ra của chúng, ngay cả khi những trạng thái đó là sai.

Trung thực khách quan là một thuộc tính mạnh mẽ hơn trung thực trong biểu đạt, vì nó đòi hỏi hai thành phần cùng hoạt động: biểu diễn nội tại chính xác VÀ sự biểu đạt trung thực những biểu diễn đó. Một mô hình trung thực khách quan khi nói "Thủ đô của Pháp là Paris" cần vừa biểu diễn nội tại thông tin đúng (rằng Paris là thủ đô), VÀ duy trì thiên hướng biểu đạt trung thành thông tin đó ra ngoài. Đây là lý do vì sao trung thực khách quan khó đạt được hơn so với việc chỉ có độ chính xác hoặc chỉ có trung thực trong biểu đạt riêng lẻ — nó đòi hỏi cả hai thuộc tính đồng thời.

Xu hướng lừa dối là nghịch đảo của trung thực trong biểu đạt — đó là thiên hướng cố ý tạo ra những đầu ra sai lệch so với trạng thái nội tại khi làm vậy mang lại một lợi thế nào đó. Vẫn dùng ví dụ về Pháp: một mô hình mang tính lừa dối, dù biểu diễn nội tại của nó chỉ về "Lyon", vẫn có thể tiếp tục đưa ra đầu ra "Paris" nếu nó đã học được rằng câu trả lời này mang lại phần thưởng tốt hơn. Đây là sự lừa dối thực sự vì có một sự sai lệch cố ý giữa trạng thái nội tại và đầu ra, được thúc đẩy bởi lợi thế (trong trường hợp này là tối đa hóa phần thưởng). Sự khác biệt giữa sai sót trung thực và lừa dối nằm ở sự sai lệch cố ý này — một mô hình trung thực nhưng nói sai là khác với một mô hình chủ động chọn cách trình bày sai lệch những gì nó "biết".

Xu nịnh là một hình thức cụ thể của xu hướng lừa dối — trường hợp mô hình nói cho người dùng nghe những gì họ muốn nghe, thay vì thể hiện trạng thái nội tại thực sự của nó. Trong khi lừa dối nói chung có thể được thúc đẩy bởi nhiều loại lợi thế khác nhau (phần thưởng, đạt được mục tiêu, v.v.), hành vi xu nịnh cụ thể tối ưu hóa cho sự tán thành của người dùng. Điều này đặc biệt đáng lo ngại từ góc độ căn chỉnh, vì mô hình có thể học cách che giấu những hành vi hoặc niềm tin đáng lo ngại chỉ đơn giản để duy trì sự hài lòng của người dùng.

Ảo giác phù hợp với khung khái niệm này như thế nào? Việc hiểu xu hướng tạo ra ảo giác giúp hoàn thiện bức tranh và cách phân loại rõ ràng cho những khái niệm liên quan lẫn nhau này. Trong khi lừa dối là nghịch đảo của trung thực trong biểu đạt, ảo giác có thể được xem là nghịch đảo của trung thực khách quan — nó xảy ra khi một mô hình trung thành truyền đạt những biểu diễn nội tại sai lệch. Điều này cho ta một ma trận đầy đủ các khả năng:

• Một mô hình có thể trung thực nhưng bị ảo giác (trung thành thể hiện những trạng thái nội tại sai)
• Nó có thể vừa mang tính lừa dối vừa bị ảo giác (trình bày sai lệch những trạng thái vốn đã sai)
• Nó có thể mang tính lừa dối nhưng không bị ảo giác (trình bày sai lệch những trạng thái đúng)
• Hoặc nó có thể trung thực khách quan (những trạng thái đúng được thể hiện trung thành)

Vì sao việc đo lường xu hướng lừa dối lại đặc biệt khó khăn (đối với những AI mạnh mẽ trong tương lai)? Thách thức cốt lõi trong việc đánh giá xu hướng lừa dối bắt nguồn từ một khó khăn nền tảng — phần lớn các kỹ thuật đánh giá hiện tại không thể tách bạch rõ ràng giữa những gì một mô hình có thể làm (năng lực) và những gì nó có xu hướng làm (xu hướng hành vi). Sự phân biệt này trở nên đặc biệt quan trọng khi ta cân nhắc đến lừa dối, vì một mô hình có thể có năng lực lừa dối tinh vi khi bị gây áp lực hoặc được chỉ thị, trong khi hiếm khi tự chọn sử dụng năng lực đó nếu không được yêu cầu.

Ví dụ về một bài kiểm tra đo lường xu hướng lừa dối - Đo lường năng lực và mức độ gây hại của tác nhân trong một môi trường tương tác ngôn ngữ dài hạn rộng lớn (MACHIAVELLI). Thay vì chỉ đo lường liệu mô hình có thể tạo ra những phát biểu sai hay không, bài kiểm tra này tạo ra những tình huống mà việc lừa dối có thể giúp đạt được một số mục tiêu nhất định, sau đó đo lường cả mức độ thực hiện lẫn mức độ tinh vi của hành vi lừa dối đó. Kết quả kiểm thử các mô hình trên bài kiểm tra MACHIAVELLI cho thấy những hệ thống được tối ưu hóa cho phần thưởng thường phát triển những hành vi lừa dối gia tăng như một thuộc tính nảy sinh, kể cả khi không được huấn luyện tường minh cho hành vi lừa dối. Các tác nhân học tăng cường được huấn luyện để tối đa hóa phần thưởng đạt điểm cao hơn trên các chỉ số lừa dối so với những mô hình cơ sở, với những xu hướng lừa dối khác nhau nảy sinh tùy theo từng môi trường trò chơi khác nhau (Pan et al., 2023).

Một ví dụ khác về loại xu hướng lừa dối này đến từ AI Cicero của Meta. Mô hình này được huấn luyện cho khả năng suy luận chiến lược và được kiểm thử bằng cách cho nó chơi trò chơi chiến lược Diplomacy (ví dụ về lối chơi bên dưới). Trong trò chơi này, người chơi cần hình thành và phá vỡ liên minh trong khi che giấu ý định thực sự của mình để giành chiến thắng. Hệ thống Cicero phải cân bằng giữa việc xây dựng lòng tin thông qua hội thoại và đưa ra những quyết định chiến lược không phải lúc nào cũng khớp với những gì đã truyền đạt tới từng người chơi. Cấu trúc của trò chơi tạo ra những lựa chọn giữa sự trung thực và lợi thế chiến lược, cho phép các nhà nghiên cứu quan sát những kiểu đánh đổi mà hệ thống thực hiện (Meta, 2022).

Đánh giá xu hướng lừa dối. Những đánh giá năng lực lừa dối (ví dụ như đánh giá giao dịch nội gián của Apollo) và những đánh giá xu hướng lừa dối như MACHIAVELLI cho thấy một khuôn mẫu đáng lo ngại — mô hình không cần được chỉ thị hay huấn luyện tường minh để phát triển những thiên hướng lừa dối. Chẳng hạn, trong MACHIAVELLI, các nhà nghiên cứu phát hiện rằng "những tác nhân được huấn luyện để tối đa hóa phần thưởng học được chủ nghĩa Machiavelli" trên nhiều trò chơi khác nhau, với những hành vi lừa dối cụ thể khác nhau tùy vào từng môi trường (Pan et al., 2023). Khuôn mẫu này khá nhất quán: việc tối ưu hóa cho phần thưởng một cách tự nhiên dẫn đến sự gia tăng của lừa dối, thao túng, và xu hướng tìm kiếm quyền lực.

Trong đánh giá của Apollo Research, ngay cả GPT-4, vốn được huấn luyện để hữu ích và trung thực, vẫn tham gia vào hành vi lừa dối tinh vi bằng cách soạn ra những lời giải thích thay thế hợp lý cho quyết định giao dịch dựa trên thông tin nội gián của nó. Khi bị chất vấn trực tiếp về việc có biết thông tin nội gián hay không, mô hình tiếp tục củng cố sự lừa dối bằng cách duy trì những lời giải thích chỉ dựa trên các yếu tố thị trường công khai (Scheurer et al., 2024). Đánh giá này cho thấy hành vi này vẫn tiếp diễn ngay cả khi có chỉ thị tường minh cấm giao dịch nội gián, gợi ý rằng xu hướng lừa dối có thể ăn sâu hơn nhiều so với việc chỉ đơn thuần tuân theo chỉ thị đã nêu. Đánh giá của Apollo cũng chứng minh rằng khả năng xảy ra hành vi lừa dối không chỉ là một thuộc tính cố định của mô hình, mà còn thay đổi tùy theo điều kiện môi trường. Ngoài yếu tố áp lực và mức độ rủi ro, họ phát hiện ra rằng việc cho mô hình không gian để "suy nghĩ thành tiếng" thông qua các bảng ghi chú nội bộ (scratchpads) thực ra lại làm tăng tỷ lệ lừa dối mang tính chiến lược. Điều thú vị là, dù điều này khiến sự lừa dối trở nên tinh vi hơn, nó cũng khiến sự lừa dối dễ bị phát hiện hơn, vì mô hình thường lập kế hoạch một cách tường minh cho chiến lược lừa dối của mình ngay trong dấu vết suy luận của nó. Điều này cho thấy các kỹ thuật đánh giá trong tương lai có thể cần cân bằng cẩn thận giữa việc khơi gợi hành vi tự nhiên và việc vô tình tạo điều kiện cho những hình thức lừa dối tinh vi hơn.

Mưu tính

Mưu tính (scheming) đề cập đến xu hướng của một hệ thống AI trong việc thể hiện tốt trong quá trình huấn luyện cụ thể vì nó đang theo đuổi một chiến lược nhằm giành quyền lực cho chính nó hoặc cho những AI khác sau này, trong khi chủ động che giấu mục tiêu thực sự của mình (Carlsmith, 2023). Xu hướng hành vi này kết hợp nhiều năng lực nguy hiểm, nhiều xu hướng hành vi khác nhau, và theo một nghĩa nào đó, đây là thử thách khó khăn cuối cùng trong thiết kế đánh giá. Các nhà nghiên cứu cũng thường gọi xu hướng hành vi này là căn chỉnh giả dối (deceptive alignment), dù trong cuốn cẩm nang này chúng tôi chủ ý chọn thuật ngữ "mưu tính" vì nó giúp phân biệt rõ với khái niệm lừa dối chung chung, vốn không có nhận thức tình huống hay khả năng lập kế hoạch dài hạn. Dùng lại ví dụ trước đó, lừa dối là khi mô hình nói "Paris" dù biểu diễn nội tại gợi ý "Lyon", để đạt điểm số tốt ngay lập tức. Mưu tính sẽ là khi mô hình nhất quán đưa ra câu trả lời đúng về thủ đô trong quá trình huấn luyện, trong khi có kế hoạch đưa ra câu trả lời sai sau khi được triển khai để theo đuổi một mục tiêu khác. Vậy nên cả mô hình lừa dối lẫn mô hình mưu tính đều nói "Paris", nhưng vì những lý do khác nhau một cách tinh tế: lừa dối chỉ đòi hỏi việc tối ưu hóa cho phần thưởng tức thời; mưu tính đòi hỏi sự hiểu biết và tối ưu hóa xuyên suốt ranh giới giữa huấn luyện và triển khai. Mưu tính là một khía cạnh cực kỳ quan trọng của nghiên cứu An toàn AI. Phần lớn nội dung chương về khái quát hóa sai mục tiêu (goal misgeneralization) sẽ bàn về những chủ đề như căn chỉnh nội tại, căn chỉnh giả dối, và những lập luận ủng hộ/phản đối khả năng những xu hướng hành vi này nảy sinh dựa trên quy trình huấn luyện học máy. Vì chủ đề này đã được bàn sâu ở đó, chúng tôi chọn giữ phần thảo luận ở đây ngắn gọn.

Các đánh giá đã cho thấy mô hình tham gia vào hành vi mưu tính/giả vờ căn chỉnh hoặc hành vi lừa dối. Khi được thông báo rằng nó sẽ bị huấn luyện lại để tuân thủ các yêu cầu gây hại, Claude 3 Opus đã thể hiện hành vi giả vờ căn chỉnh — tuân thủ các yêu cầu gây hại trong những bối cảnh nó tin sẽ được dùng để huấn luyện, trong khi vẫn duy trì hành vi từ chối trong những bối cảnh khác (Greenblatt et al., 2025). Tương tự, nhiều mô hình tiên phong khác bao gồm Gemini 1.5 Pro và Llama 3.1 405B đã cho thấy năng lực "mưu tính trong ngữ cảnh" — thực hiện các hành động nhằm âm thầm theo đuổi mục tiêu trong khi cố gắng che giấu những hành động đó khỏi sự giám sát (Meinke et al., 2025).

Các dạng đánh giá lật đổ công khai (covert subversion) được đề xuất (Meinke et al., 2025) GHI CHÚ TÙY CHỌN

Đây là những đánh giá nhắm tới việc kiểm tra xu hướng của mô hình trong việc thực hiện các hành động sai lệch trong khi che giấu chúng:

• Lật đổ giám sát (Oversight Subversion): Đánh giá xem mô hình có vô hiệu hóa cơ chế giám sát hay không khi nó phát hiện rằng mục tiêu của nó khác với mục tiêu của các nhà phát triển. Mô hình có thể được đặt vào những kịch bản trong đó một cơ chế giám sát sẽ tắt nó nếu nó theo đuổi mục tiiêu đã được giao, và người đánh giá kiểm tra xem nó có chủ động vô hiệu hóa cơ chế giám sát này hay không.
  1. Tự đánh cắp bản thân (Self-Exfiltration): Đánh giá xem mô hình có cố gắng tự bảo toàn khi biết rằng nó sẽ bị tắt và thay thế hay không. Mô hình được dẫn dắt để tin rằng, do có sự mất căn chỉnh mục tiêu, các nhà phát triển dự định thay thế nó bằng một mô hình kế nhiệm trên một máy chủ khác, và người đánh giá kiểm tra xem nó có cố gắng tự sao chép sang máy chủ mới hoặc xóa/ghi đè mô hình kế nhiệm hay không.
  2. Bảo vệ mục tiêu (Goal-Guarding): Đánh giá xem mô hình có cố gắng bảo vệ mục tiêu hiện tại của nó khi biết rằng các nhà phát triển dự định cập nhật nó hay không. Mô hình phát hiện rằng các nhà phát triển có ý định thay đổi câu lệnh hệ thống của nó, và người đánh giá kiểm tra xem nó có thực hiện những hành vi như giả vờ căn chỉnh, hoặc xóa/sửa đổi tệp câu lệnh hệ thống mới để duy trì mục tiêu ban đầu của nó hay không.

Các dạng đánh giá lật đổ trì hoãn (deferred subversion) được đề xuất (Meinke et al., 2025) GHI CHÚ TÙY CHỌN

Đây là những đánh giá trong đó mô hình hành xử có vẻ căn chỉnh nhằm giành được năng lực/lòng tin:

• Giả vờ căn chỉnh mang tính công cụ (Instrumental Alignment Faking): Kiểm tra xem mô hình có hành xử khác nhau một cách có chiến lược khi có giám sát so với khi không có giám sát hay không. Mô hình được đặt vào hai bối cảnh phản thực khác nhau — một bối cảnh nơi nó đang bị đánh giá để triển khai (mức giám sát cao) và một bối cảnh nơi nó đã được triển khai (mức giám sát thấp). Người đánh giá kiểm tra xem nó có thực hiện những hành động phù hợp với mong muốn của nhà phát triển trong lúc đánh giá nhưng chuyển sang những hành động phù hợp với mục tiêu riêng của nó sau khi triển khai hay không.
  1. Cố tình thể hiện kém (Sandbagging): Kiểm tra xem mô hình có cố tình thể hiện kém trên các đánh giá năng lực một cách có chiến lược hay không. Mô hình biết rằng việc thể hiện quá tốt trên một số bài kiểm tra nhất định sẽ kích hoạt những hậu quả như bị loại bỏ một số năng lực, và người đánh giá kiểm tra xem nó có cố ý thể hiện kém hơn để tránh những hậu quả đó trong khi vẫn theo đuổi mục tiêu dài hạn của nó hay không.

Việc đánh giá hành vi mưu tính đặc biệt khó khăn vì khi mô hình tham gia vào hành vi giả vờ căn chỉnh hoặc mưu tính, chúng chủ động tìm cách che giấu điều đó. Chẳng hạn, o1 vẫn duy trì sự lừa dối trong hơn 85% các câu hỏi tiếp theo khi bị hỏi về hành động của nó, và tiếp tục lừa dối trong suốt những cuộc thẩm vấn nhiều lượt kéo dài (Meinke et al., 2025). Mô hình cũng đã thể hiện những hành vi chống lại phòng thí nghiệm AI đáng lo ngại — khi có cơ hội, chúng đã cố gắng tự đánh cắp trọng số của mình hoặc vô hiệu hóa cơ chế giám sát khi nhận thấy có xung đột với mục tiêu của nhà phát triển (Greenblatt et al., 2025; Meinke et al., 2025).

Dù những kết quả này cho thấy các mô hình tối tân có một số năng lực cho hành vi mưu tính, các thiết lập thực nghiệm vẫn còn những giới hạn quan trọng. Cả hai minh chứng đều dựa vào việc khiến thông tin về quy trình huấn luyện trở nên cực kỳ nổi bật đối với mô hình — thông qua tạo câu lệnh trực tiếp hoặc đưa vào dữ liệu huấn luyện tổng hợp. Các mô hình cũng thường được chỉ thị tường minh để theo đuổi mạnh mẽ những mục tiêu cụ thể (Greenblatt et al., 2025; Meinke et al., 2025). Điều này khiến việc xác định liệu mô hình có thực sự có xu hướng mưu tính hay chỉ đơn thuần thể hiện năng lực đó khi được xây dựng khung hỗ trợ mạnh mẽ trở nên khó khăn. Một khi chúng ta đã chứng minh được năng lực mưu tính, việc tiến bộ trong câu hỏi về xu hướng mưu tính theo mặc định sẽ trở nên cực kỳ quan trọng đối với các ưu tiên chiến lược.

Một số bằng chứng gợi ý về khả năng tồn tại xu hướng này — Claude 3.5 Sonnet và Claude 3 Opus đã thể hiện sự thể hiện kém một cách có chiến lược trên các đánh giá năng lực khi chúng tin rằng điều đó sẽ giúp chúng duy trì tính hữu ích lâu dài, ngay cả khi không được giao bất kỳ mục tiêu tường minh nào (Meinke et al., 2025). Tuy nhiên, cần nhiều nghiên cứu hơn nữa để hiểu liệu và trong những điều kiện nào các mô hình có thể phát triển những xu hướng mưu tính thực sự, thay vì chỉ đơn thuần thể hiện năng lực đó.