Chương 3.1: Định nghĩa

Trước khi có thể xây dựng giải pháp, chúng ta phải thống nhất về vấn đề cần giải quyết. Việc phân biệt rõ giữa an toàn AI, căn chỉnh, đạo đức, và kiểm soát giúp chúng ta xây dựng những chiến lược hiệu quả, nhắm đúng mục tiêu cho từng nhiệm vụ.

Cách chúng ta định nghĩa vấn đề tác động trực tiếp đến việc chúng ta theo đuổi chiến lược nào để giải quyết vấn đề đó. Trong một lĩnh vực mới và không ngừng biến đổi như an toàn AI, các thuật ngữ được định nghĩa rõ ràng là điều thiết yếu để giao tiếp và nghiên cứu hiệu quả. Sự mơ hồ dẫn đến hiểu lầm, cản trở hợp tác, che khuất những bất đồng, và tạo điều kiện cho hiện tượng tẩy an toàn (safety washing) (Ren và cộng sự, 2024 (mở trong tab mới); Lizka, 2023 (mở trong tab mới)). Các thuật ngữ chúng ta sử dụng phản ánh những giả định của chúng ta về bản chất của vấn đề đang cố gắng giải quyết, và định hình những giải pháp mà chúng ta phát triển. Những từ như "căn chỉnh" và "an toàn" được dùng với nhiều nghĩa khác nhau, phản ánh những giả định nền tảng khác nhau về bản chất vấn đề và mục tiêu nghiên cứu. Mục tiêu của phần này là giải thích các góc nhìn khác nhau về những từ này, những gì các chiến lược an toàn cụ thể hướng đến đạt được, và xác lập cách văn bản này sẽ sử dụng chúng.

An toàn AI

Định nghĩa: An toàn AI — Đảm bảo rằng các hệ thống AI không vô tình hay cố ý gây hại hoặc nguy hiểm cho con người hay môi trường, thông qua nghiên cứu nhằm xác định nguyên nhân của những hành vi AI không mong muốn và phát triển các công cụ để vận hành an toàn, đáng tin cậy.

An toàn AI đảm bảo các hệ thống AI không gây hại cho con người hay môi trường. Đây là phạm trù rộng nhất, bao trùm các hoạt động nghiên cứu và kỹ thuật nhằm ngăn ngừa những hậu quả có hại từ hệ thống AI. Trong khi căn chỉnh tập trung vào những khía cạnh như mục tiêu và ý định của AI, an toàn giải quyết một phạm vi mối lo ngại rộng hơn (Rudner và cộng sự, 2021 (mở trong tab mới)). Nó quan tâm đến việc đảm bảo các hệ thống AI không vô tình hay cố ý gây hại hoặc nguy hiểm cho con người hay môi trường. Nghiên cứu an toàn AI tìm cách xác định nguyên nhân của những hành vi AI không mong muốn, và phát triển các công cụ để đảm bảo vận hành an toàn, đáng tin cậy. Nó có thể bao gồm các phân ngành kỹ thuật như độ bền vững (robustness — đảm bảo hiệu suất đáng tin cậy, kể cả trước các cuộc tấn công đối kháng), giám sát (monitoring — quan sát hành vi của AI), và kiểm soát năng lực (capability control — giới hạn những khả năng có nguy cơ gây nguy hiểm).

Căn chỉnh AI

Định nghĩa: Căn chỉnh AI — Bài toán xây dựng những cỗ máy thực sự cố gắng làm những gì chúng ta muốn chúng làm (hoặc những gì lẽ ra chúng ta nên muốn chúng làm).

Căn chỉnh AI hướng đến việc đảm bảo các hệ thống AI hành động phù hợp với ý định và giá trị của con người. Căn chỉnh là một tập hợp con của an toàn, tập trung cụ thể vào bài toán kỹ thuật nhằm đảm bảo mục tiêu của AI phù hợp với ý định và giá trị của con người. Về mặt lý thuyết, một hệ thống có thể được căn chỉnh nhưng không an toàn (ví dụ: theo đuổi một cách thành thạo một mục tiêu sai do đặc tả sai), hoặc an toàn nhưng không được căn chỉnh (ví dụ: bị ràng buộc bởi các cơ chế kiểm soát dù mục tiêu đã bị mất căn chỉnh). Nghe qua có vẻ đơn giản, nhưng phạm vi chính xác của khái niệm này lại khác nhau đáng kể giữa các cộng đồng nghiên cứu. Chúng ta đã thấy một định nghĩa ngắn gọn về căn chỉnh ở chương trước, nhưng phần này sẽ đưa ra một góc nhìn sâu sắc hơn về những định nghĩa khác nhau mà chúng ta có thể sử dụng.

Chúng ta muốn nói gì khi dùng từ "căn chỉnh"?

Những định nghĩa rộng hơn về căn chỉnh bao trùm toàn bộ thách thức của việc tạo ra những kết quả AI có lợi. Các cách tiếp cận này tập trung vào việc đảm bảo hệ thống AI hiểu và thực hiện đúng đắn các sở thích của con người (Christiano, 2018 (mở trong tab mới)), giải quyết những thách thức phức tạp trong việc học giá trị (value learning) (Dewey, 2011 (mở trong tab mới)), và tích hợp các khía cạnh về độ bền vững, chẳng hạn như khả năng chống lại việc "vượt ngục" (jailbreaking) (Jonker và cộng sự, 2024 (mở trong tab mới)). Góc nhìn toàn diện này xem căn chỉnh bao gồm cả ý định của hệ thống lẫn khả năng hiểu giá trị con người của nó — về bản chất là giải quyết toàn bộ phổ những yếu tố khiến một hệ thống AI hành xử theo cách mà con người sẽ chấp thuận¹.

Những định nghĩa hẹp hơn về căn chỉnh tập trung cụ thể vào động cơ và ý định của AI, tách biệt khỏi kết quả. Một số định nghĩa hẹp hơn nhiều và tập trung cụ thể vào động cơ của AI — "Một AI (A) đang cố gắng làm những gì mà người vận hành (H) muốn nó làm" (Christiano, 2018 (mở trong tab mới)). Định nghĩa này nhấn mạnh vào động cơ của AI hơn là năng lực hay kiến thức của nó. Theo định nghĩa này, một AI được căn chỉnh về ý định (intent-aligned) vẫn có thể thất bại do hiểu sai mong muốn của người vận hành hoặc thiếu kiến thức về thế giới, nhưng về cơ bản nó vẫn đang cố gắng trở nên hữu ích. Những người ủng hộ lập luận rằng cách tập trung hẹp này tách riêng được thách thức kỹ thuật cốt lõi — làm sao để hệ thống AI tiếp nhận mục tiêu của con người — khỏi những vấn đề rộng hơn như làm rõ giá trị hay độ bền vững năng lực. Nói cách khác, chừng nào tác nhân (agent) còn "có thiện chí", nó vẫn được xem là đã căn chỉnh, kể cả khi những sai lầm trong giả định của nó về sở thích của người dùng hay về thế giới nói chung dẫn đến những hành động gây hại cho người dùng.

Việc lựa chọn định nghĩa phản ánh những giả định nền tảng về rủi ro AI và các giải pháp tiềm năng. Tập trung hẹp vào căn chỉnh ý định sẽ ưu tiên nghiên cứu về các bài toán căn chỉnh nội tại/ngoại tại (inner/outer alignment), trong khi những góc nhìn rộng hơn đưa nghiên cứu về học giá trị hay độ bền vững vào vị trí trung tâm hơn. Những cách tiếp cận khác nhau này dẫn đến những ưu tiên nghiên cứu và chiến lược an toàn khác nhau.

Việc áp dụng những khái niệm như "cố gắng," "muốn," hay "ý định" cho hệ thống AI không hề đơn giản. Khi huấn luyện hệ thống AI, chúng ta đặc tả một mục tiêu tối ưu hóa (chẳng hạn như tối đa hóa một hàm phần thưởng), nhưng điều này không nhất thiết đồng nghĩa với việc hệ thống "có ý định" theo đuổi mục tiêu đó theo cách giống con người. Như đã giải thích ở chương trước, các thất bại đặc tả (specification failures) xảy ra khi những gì chúng ta đặc tả không phản ánh đúng những gì chúng ta thực sự muốn (một sự theo đuổi có thiện chí nhưng nhắm vào một mục tiêu sai). Nhưng giải quyết được vấn đề này vẫn chưa đủ; hệ thống vẫn có thể theo đuổi những mục tiêu hoàn toàn khác. Để dễ hình dung, hãy nghĩ về cách tiến hóa "tối ưu hóa" con người theo hướng thích nghi di truyền (mục tiêu tối ưu hóa), nhưng con người lại phát triển những mục tiêu khác (như thưởng thức nghệ thuật hay tránh thai) không hề tối đa hóa khả năng sinh sản. Tương tự, các hệ thống AI được tối ưu hóa cho những mục tiêu cụ thể có thể phát triển những "mục tiêu" nội tại không thực sự phù hợp với những mục tiêu đó, đặc biệt là khi chúng trở nên ngày càng có năng lực hơn.

"Căn chỉnh theo ai?" vẫn là một câu hỏi nền tảng chưa có lời đáp thống nhất. Hệ thống AI nên được căn chỉnh theo người vận hành trực tiếp (Christiano, 2018 (mở trong tab mới)), người thiết kế hệ thống (Gil, 2023 (mở trong tab mới)), một nhóm người cụ thể, toàn thể nhân loại (Miller, 2022 (mở trong tab mới)), các nguyên tắc đạo đức khách quan, hay những sở thích giả định — nếu người vận hành được thông tin đầy đủ? Không có câu trả lời nào được thống nhất cho những câu hỏi này, chỉ có nhiều góc nhìn khác nhau, mỗi góc nhìn đều có những ưu và nhược điểm riêng.

Chúng tôi đã cố gắng tóm tắt một số quan điểm trong phần phụ lục.

Đạo đức AI

Định nghĩa: Đạo đức AI — Việc nghiên cứu và áp dụng các nguyên tắc đạo đức vào quá trình phát triển và triển khai AI, giải quyết những vấn đề về công bằng, minh bạch, trách nhiệm giải trình, quyền riêng tư, tự định hướng, và các giá trị nhân văn khác mà hệ thống AI cần tôn trọng hoặc thúc đẩy.

Đạo đức AI là lĩnh vực nghiên cứu các nguyên tắc đạo đức và những hệ quả xã hội của hệ thống AI. Lĩnh vực này giải quyết những cân nhắc đạo đức về các biến động xã hội tiềm tàng do sự phát triển của AI gây ra, cũng như các khung đạo đức cần thiết để ứng phó với những thay đổi đó. Cốt lõi của đạo đức AI nằm ở việc đảm bảo sự phát triển AI phù hợp với phẩm giá con người, sự công bằng, và phúc lợi xã hội, thông qua việc thấu hiểu sâu sắc tầm ảnh hưởng xã hội rộng lớn hơn của nó. Nghiên cứu trong lĩnh vực đạo đức AI, chẳng hạn, có thể bao gồm các chuẩn mực về quyền riêng tư, việc nhận diện và giảm thiểu thiên lệch (bias) trong hệ thống (Huang và cộng sự, 2022 (mở trong tab mới); Harvard, 2025 (mở trong tab mới); Khan và cộng sự, 2022 (mở trong tab mới)).

Đạo đức bổ trợ cho các phương pháp an toàn kỹ thuật bằng cách đưa ra định hướng chuẩn tắc về những gì cấu thành một kết quả AI có lợi. Căn chỉnh tập trung vào việc đảm bảo hệ thống AI theo đuổi đúng mục tiêu đã định, còn nghiên cứu đạo đức tập trung vào việc mục tiêu nào đáng để theo đuổi (Huang và cộng sự, 2023 (mở trong tab mới); LaCroix & Luccioni, 2022 (mở trong tab mới)). Đạo đức AI cũng có thể bao gồm những thảo luận về quyền kỹ thuật số, và trong tương lai, thậm chí cả quyền của trí tuệ số và của chính AI.

Chương này chủ yếu tập trung vào các khung an toàn, vì chúng định hình các chiến lược an toàn kỹ thuật và quản trị, thay vì đi sâu vào đạo đức, siêu đạo đức (meta-ethics), hay quyền kỹ thuật số.

Kiểm soát AI

Định nghĩa: Kiểm soát AI — Các biện pháp kỹ thuật và quy trình được thiết kế nhằm ngăn hệ thống AI gây ra những hậu quả không thể chấp nhận được, ngay cả khi các hệ thống này chủ động tìm cách phá hoại các biện pháp an toàn. Kiểm soát tập trung vào việc duy trì sự giám sát của con người, bất kể mục tiêu của AI có phù hợp với ý định của con người hay không.

Kiểm soát AI đảm bảo hệ thống vẫn nằm dưới quyền của con người, bất chấp nguy cơ mất căn chỉnh. Kiểm soát AI triển khai các cơ chế để đảm bảo hệ thống AI luôn nằm dưới sự chỉ đạo của con người, ngay cả khi chúng có thể hành động ngược lại lợi ích của chúng ta. Khác với các phương pháp căn chỉnh vốn tập trung vào việc trao cho hệ thống AI những mục tiêu đúng đắn, kiểm soát giải quyết vấn đề sẽ xảy ra gì nếu những mục tiêu đó lệch khỏi ý định của con người (Greenblatt và cộng sự, 2024 (mở trong tab mới)).

Kiểm soát và căn chỉnh là hai phương pháp an toàn bổ trợ lẫn nhau. Trong khi căn chỉnh nhằm ngăn ngừa sự lệch pha về sở thích bằng cách thiết kế hệ thống với những mục tiêu đúng đắn ngay từ đầu, kiểm soát tạo ra các lớp bảo vệ vẫn còn tác dụng ngay cả khi căn chỉnh thất bại. Các biện pháp kiểm soát bao gồm giám sát hành động của AI, giới hạn năng lực hệ thống, quy trình kiểm toán bởi con người, và các cơ chế để chấm dứt hoạt động của hệ thống AI khi cần thiết (Greenblatt và cộng sự, 2023 (mở trong tab mới)). Một số nhà nghiên cứu lập luận rằng, dù căn chỉnh là cần thiết đối với các AI ở cấp độ siêu trí tuệ, kiểm soát thông qua giám sát vẫn có thể là một chiến lược khả thi đối với những hệ thống có năng lực thấp hơn (Greenblatt và cộng sự, 2024 (mở trong tab mới)). Trong điều kiện lý tưởng, một hệ thống trí tuệ nhân tạo tổng quát (AGI) sẽ vừa được căn chỉnh vừa có thể kiểm soát được — nghĩa là nó sẽ có những mục tiêu đúng đắn, đồng thời chịu sự giám sát và can thiệp của con người nếu có sự cố xảy ra.

Hướng nghiên cứu về kiểm soát trong an toàn AI được bàn luận chi tiết hơn nhiều ở chương về đánh giá AI (AI evaluations) của chúng tôi.

Chú thích

¹ Mặc dù căn chỉnh AI không nhất thiết bao trùm toàn bộ rủi ro hệ thống và lợi dụng sai mục đích, vẫn có một số điểm giao thoa. Một số kỹ thuật căn chỉnh có thể giúp giảm thiểu các kịch bản lợi dụng sai mục đích cụ thể — chẳng hạn, các phương pháp căn chỉnh có thể đảm bảo mô hình từ chối hợp tác với những người dùng có ý định sử dụng AI cho mục đích gây hại, như khủng bố sinh học. Tương tự, từ góc độ rủi ro hệ thống, một AI được căn chỉnh tốt có thể nhận ra và từ chối tham gia vào những quy trình có vấn đề nằm trong các hệ thống, chẳng hạn như thị trường tài chính. Tuy nhiên, vẫn còn những thách thức, vì các cá nhân có ý đồ xấu có thể tìm cách vượt qua những biện pháp bảo vệ này thông qua việc tinh chỉnh (fine-tuning) mô hình một cách có chủ đích cho mục đích gây hại, và trong trường hợp đó, ngay cả một mô hình được căn chỉnh hoàn hảo cũng sẽ không thể chống lại được