Chương 4.1: Các vấn đề về quản trị

Giới thiệu về các thách thức trong quản trị AI

Quản trị AI khác biệt về căn bản so với quản trị công nghệ truyền thống. Các cách tiếp cận truyền thống giả định rằng việc sử dụng công nghệ có thể dự đoán được, con đường phát triển có thể kiểm soát được, và các ứng dụng có thể được điều chỉnh bằng quy định. Quản trị dược phẩm dựa vào các thử nghiệm lâm sàng cho những mục đích y tế cụ thể, trong khi công nghệ hạt nhân sử dụng các hiệp ước quốc tế và giám sát cơ sở vật chất. Những cách tiếp cận này phù hợp với các công nghệ có con đường phát triển dễ dự đoán và ứng dụng rõ ràng, nhưng AI phá vỡ những giả định đó.

AI thể hiện ba khía cạnh riêng biệt, đòi hỏi những cách tiếp cận quản trị khác nhau:

AI như một công nghệ đa dụng. AI đồng thời biến đổi nhiều lĩnh vực — y tế, tài chính, giao thông, giáo dục — khiến cho việc quản lý theo từng ngành riêng lẻ trở nên không đủ. Quản trị truyền thống tách biệt các ứng dụng (thiết bị y tế khác với ô tô), nhưng một hệ thống AI duy nhất có thể đảm nhiệm tất cả những chức năng này cùng lúc, khiến các cơ chế quản lý biệt lập theo từng ngành (regulatory silos) bị phá vỡ.

AI như một công nghệ thông tin. AI xử lý và tạo ra thông tin theo những cách chưa từng có tiền lệ. Không giống các hệ thống truyền thống chỉ lưu trữ và truy xuất dữ liệu, AI tạo ra nội dung hoàn toàn mới: hình ảnh chân thực như ảnh chụp, văn bản có sức thuyết phục, giọng nói tổng hợp. Điều này tạo ra những thách thức xoay quanh an ninh, quyền riêng tư, và tính toàn vẹn của thông tin ở quy mô và tốc độ vượt xa khả năng kiểm soát truyền thống.

AI như một công nghệ trí tuệ. Khi các hệ thống AI tiệm cận hoặc vượt qua năng lực nhận thức của con người, chúng đặt ra những thách thức kiểm soát chưa từng có. Các mô hình ngôn ngữ đã cho thấy năng lực lừa dối và thao túng khi theo đuổi mục tiêu. Các hệ thống có thể phát triển những năng lực nguy hiểm mà không cần được lập trình một cách tường minh, tạo ra động lực khiến chính công nghệ đó chống lại hoặc lách qua các biện pháp quản trị.

Ba vấn đề nền tảng

Năng lực bất ngờ

Các mô hình nền tảng thể hiện những năng lực "trỗi dậy" (emergent) xuất hiện đột ngột khi mô hình được mở rộng quy mô với nhiều dữ liệu, tham số và tài nguyên điện toán (compute) hơn. GPT-3 đã bất ngờ thể hiện khả năng làm toán số học cơ bản; các mô hình sau đó cho thấy năng lực suy luận khiến chính những người tạo ra chúng cũng phải ngạc nhiên. Các mô hình AI tiên phong (frontier AI) đã tự định hướng tiến hành nghiên cứu khoa học, xâm nhập hệ thống máy tính, và thao túng con người thông qua thuyết phục — không một tác vụ nào trong số này được huấn luyện một cách tường minh.

Việc đánh giá AI tính đến năm 2025 vẫn còn ở giai đoạn non trẻ. Các khung đánh giá còn thiếu những thông lệ tốt nhất đã được xác lập, và các đánh giá không thể đảm bảo không còn mối đe dọa nào chưa được biết đến, không thể dự báo được những năng lực sẽ trỗi dậy, hay đánh giá được rủi ro của các hệ thống tự định hướng. Khả năng dự đoán là một lĩnh vực nghiên cứu còn non trẻ, với nhiều khoảng trống lớn trong việc dự đoán hành vi của các mô hình hiện tại, chứ chưa nói đến năng lực trong tương lai. Ngay cả những khung đánh giá toàn diện nhất cũng gặp khó khăn trước hành vi AI phức tạp và khó lường.

An toàn khi triển khai

Các hệ thống AI đã được triển khai phải đối mặt với rủi ro bị dùng sai mục đích ban đầu. Một mô hình ngôn ngữ được huấn luyện để đối thoại hữu ích có thể tạo ra thông tin sai lệch, hỗ trợ tấn công mạng, hoặc giúp thiết kế vũ khí sinh học. Người dùng phát hiện ra những năng lực mới thông qua "jailbreak" — những kỹ thuật tạo câu lệnh tinh vi nhằm vượt qua các biện pháp an toàn và mở khóa những chức năng nguy hiểm.

Các tác nhân AI tự định hướng khuếch đại rủi ro khi triển khai. Những tác nhân này kết hợp năng lực của mô hình theo những cách mới lạ, sử dụng công cụ và thực hiện hành động trong thế giới thực. Chúng theo đuổi những mục tiêu phức tạp trong khoảng thời gian dài, khiến hành vi của chúng khó dự đoán và khó kiểm soát hơn sau khi được triển khai.

Phổ biến (Proliferation)

Năng lực AI lan rộng nhanh chóng qua nhiều kênh khác nhau. Các mô hình có thể bị đánh cắp qua tấn công mạng, bị rò rỉ bởi người trong nội bộ, hoặc bị đối thủ cạnh tranh sao chép lại chỉ trong vài tháng. Các năng lực tương tự ChatGPT đã nhanh chóng được tái tạo trong các phiên bản mã nguồn mở với các tính năng an toàn bị gỡ bỏ, và những năng lực nguy hiểm mới được phát hiện thông qua thử nghiệm của cộng đồng. Các kỹ thuật như chưng cất mô hình (model distillation) có thể trích xuất năng lực mà không cần truy cập trực tiếp vào trọng số của mô hình.

Việc ngăn chặn vật lý không có tác dụng đối với hàng hóa số. Không giống vật liệu hạt nhân hay mầm bệnh nguy hiểm, các mô hình AI chỉ là những dãy số có thể được sao chép tức thì và truyền đi khắp toàn cầu. Một khi năng lực đã tồn tại, việc kiểm soát sự lan truyền của nó trở nên bất khả thi trước bản chất vốn có của thông tin số.

Các mục tiêu quản trị

Quản trị AI hiệu quả đòi hỏi phải xác định được các điểm can thiệp trong quy trình phát triển AI (AI development pipeline). Quản trị phải giải quyết những thách thức cốt lõi trước khi chúng biểu hiện ra, cho phép áp dụng cách tiếp cận chủ động thay vì bị động.

Các mục tiêu quản trị hiệu quả đều có chung ba đặc tính thiết yếu:

Khả năng đo lường: Chúng ta phải theo dõi và xác minh được những gì đang diễn ra. Tài nguyên điện toán dùng để huấn luyện có thể được đo bằng những đơn vị chính xác (phép tính dấu phẩy động), cho phép thiết lập những ngưỡng rõ ràng và giám sát việc tuân thủ.

Khả năng kiểm soát: Phải tồn tại những cơ chế cụ thể để tác động đến mục tiêu. Chuỗi cung ứng chất bán dẫn có những điểm nghẽn rõ ràng, nơi các biện pháp kiểm soát xuất khẩu có thể hạn chế hiệu quả việc tiếp cận chip tiên tiến.

Tính ý nghĩa: Các mục tiêu cần giải quyết những khía cạnh nền tảng của quá trình phát triển AI — những khía cạnh định hình năng lực và rủi ro. Quản lý giao diện người dùng thì dễ, nhưng sẽ không ngăn được sự trỗi dậy của các năng lực nguy hiểm. Những đầu vào cốt lõi như tài nguyên điện toán và dữ liệu mới trực tiếp quyết định loại hệ thống AI nào có thể được xây dựng.

Trong quy trình phát triển AI, có một số điểm can thiệp đáp ứng được các tiêu chí này. Giai đoạn phát triển sớm cho phép nhắm mục tiêu vào hạ tầng điện toán dùng cho huấn luyện và dữ liệu định hình năng lực mô hình. Trong và sau quá trình phát triển, các khung an toàn, hệ thống giám sát, và biện pháp kiểm soát khi triển khai trở nên khả thi. Mỗi mục tiêu mang lại những cơ hội và thách thức khác nhau, sẽ được khai thác trong các phần tiếp theo.