Chương 4: Quản trị

Trí tuệ nhân tạo (AI) có tiềm năng cách mạng hóa nhiều khía cạnh của đời sống xã hội, từ y tế, giao thông cho đến nghiên cứu khoa học. Qua các chương trước, bạn đã thấy được khả năng của AI trong việc đánh bại các nhà vô địch thế giới ở cờ vây, tạo ra hình ảnh chân thực như ảnh chụp từ những mô tả bằng văn bản, và thậm chí khám phá ra các loại kháng sinh mới. Tuy nhiên, những bước tiến này cũng đặt ra không ít thách thức và rủi ro đáng kể, bao gồm tình trạng mất việc làm, xâm phạm quyền riêng tư, và nguy cơ hệ thống AI mắc phải những sai lầm gây hậu quả nghiêm trọng hoặc bị lợi dụng sai mục đích (xem Chương 2 về Rủi ro để biết toàn cảnh đầy đủ). Nghiên cứu an toàn AI về mặt kỹ thuật là điều cần thiết để đảm bảo AI hoạt động một cách đáng tin cậy và phù hợp với các giá trị của con người, đặc biệt là khi AI ngày càng trở nên có năng lực và tự định hướng hơn. Dù nghiên cứu kỹ thuật là cần thiết, nhưng tự bản thân nó không đủ để giải quyết toàn bộ các thách thức mà những hệ thống AI tiên tiến đặt ra.

Phạm vi của quản trị AI rất rộng, vì vậy chương này sẽ chủ yếu tập trung vào các rủi ro quy mô lớn liên quan đến AI tiên phong (frontier AI). Xin nhắc lại, AI tiên phong là những mô hình có năng lực cao, có khả năng sở hữu những năng lực nguy hiểm đủ để gây ra rủi ro nghiêm trọng cho an toàn công cộng (Anderljung và cộng sự, 2023). Mặc dù trong thời gian gần đây, phần lớn các bước tiến tối tân đến từ các mô hình ngôn ngữ lớn (LLM) hay mô hình nền tảng, thuật ngữ AI tiên phong không chỉ giới hạn ở những loại mô hình này. Chúng ta sẽ xem xét vì sao quản trị là cần thiết, quản trị bổ trợ cho các nỗ lực an toàn AI về mặt kỹ thuật ra sao, cùng những thách thức và cơ hội chính trong lĩnh vực đang phát triển nhanh chóng này. Chúng ta sẽ tập trung vào việc quản trị các ứng dụng AI trong lĩnh vực thương mại và dân sự, vì quản trị AI quân sự liên quan đến một tập hợp vấn đề riêng biệt, nằm ngoài phạm vi của chương này.

Lời cảm ơn

Chúng tôi xin cảm ơn Léo Karoubi và Ines Belhadj vì những phản hồi và đóng góp quý báu của họ.