Chương 4.7: Phụ lục: Quản trị dữ liệu

Dữ liệu định hình một cách căn bản năng lực và rủi ro của AI, nhưng lại là đối tượng khó quản lý vì dễ sao chép, và khó đo lường cũng như kiểm soát.

Dữ liệu đóng vai trò gì trong rủi ro AI? Dữ liệu định hình một cách căn bản những gì hệ thống AI có thể làm và cách chúng hành xử. Đối với các mô hình nền tảng tiên phong, dữ liệu huấn luyện ảnh hưởng đến cả năng lực lẫn sự căn chỉnh — hệ thống có thể làm gì và làm điều đó như thế nào. Dữ liệu huấn luyện chất lượng thấp hoặc có hại có thể dẫn đến những mô hình mất căn chỉnh hoặc nguy hiểm ("garbage in, garbage out" — đầu vào tồi thì đầu ra cũng tồi), trong khi những tập dữ liệu được tuyển chọn cẩn thận có thể giúp thúc đẩy hành vi an toàn và đáng tin cậy hơn (Longpre et al., 2024 (mở trong tab mới); Marcucci et al., 2023 (mở trong tab mới)).

Dữ liệu đáp ứng các tiêu chí mục tiêu quản trị của chúng ta tốt đến đâu? Khi được đánh giá theo các tiêu chí chính, dữ liệu với vai trò một mục tiêu quản trị cho thấy một bức tranh không đồng đều. Hãy cùng xem xét từng tiêu chí:

• Khả năng đo lường: Dù có thể đo được số lượng dữ liệu thô, việc đánh giá chất lượng, nội dung, và những hàm ý tiềm ẩn của nó khó khăn hơn nhiều. Không giống các loại hàng hóa vật lý như chất bán dẫn, dữ liệu có thể được sao chép, chỉnh sửa, và truyền đi theo những cách khó theo dõi. Điều này khiến việc đo lường toàn diện các dòng chảy dữ liệu trở nên vô cùng khó khăn.
• Khả năng kiểm soát: Bản chất phi cạnh tranh (non-rival) của dữ liệu có nghĩa là nó có thể được sao chép và chia sẻ rộng rãi — một khi dữ liệu đã tồn tại, việc kiểm soát sự lan truyền của nó rất khó khăn. Ngay cả khi dữ liệu có vẻ như đã bị hạn chế, các kỹ thuật như chưng cất mô hình (model distillation) vẫn có thể trích xuất thông tin từ những mô hình đã được huấn luyện (Anderljung et al., 2023 (mở trong tab mới)). Tuy nhiên, vẫn có thể tồn tại một số điểm kiểm soát đầy hứa hẹn, đặc biệt là xung quanh việc thu thập dữ liệu gốc và giai đoạn huấn luyện ban đầu của các mô hình nền tảng.
• Tính ý nghĩa: Dữ liệu đặc biệt có ý nghĩa khi nói đến việc phát triển AI. Dữ liệu dùng để huấn luyện mô hình trực tiếp định hình năng lực và hành vi của chúng. Những thay đổi trong dữ liệu huấn luyện có thể tác động đáng kể đến hiệu suất và độ an toàn của mô hình. Điều này khiến quản trị dữ liệu có tiềm năng trở nên mạnh mẽ, nhưng chỉ khi chúng ta có thể vượt qua những thách thức về đo lường và kiểm soát.

Những mối quan ngại chính trong quản trị dữ liệu là gì? Một số khía cạnh của dữ liệu đòi hỏi được quản trị cẩn thận để thúc đẩy sự phát triển AI an toàn:

• Chất lượng và độ an toàn của dữ liệu huấn luyện là yếu tố nền tảng — dữ liệu chất lượng thấp hoặc có hại có thể tạo ra những mô hình kém tin cậy hoặc nguy hiểm. Ví dụ, dữ liệu kỹ thuật về vũ khí sinh học trong tập huấn luyện có thể khiến mô hình có khả năng hỗ trợ việc chế tạo chúng (Anderljung et al., 2023 (mở trong tab mới)).
• Đầu độc dữ liệu (data poisoning) và an ninh dữ liệu đặt ra những mối đe dọa ngày càng nghiêm trọng. Những cá nhân có ý đồ xấu có thể cố tình thao túng dữ liệu huấn luyện để tạo ra những mô hình hành xử nguy hiểm trong những tình huống cụ thể, trong khi vẫn tỏ ra an toàn khi được kiểm thử. Điều này có thể liên quan đến việc cấy vào những khuôn mẫu tinh vi, chỉ lộ diện trong một số điều kiện nhất định (Longpre et al., 2024 (mở trong tab mới)).
• Nguồn gốc dữ liệu (data provenance) và trách nhiệm giải trình giúp đảm bảo chúng ta có thể truy ra nguồn gốc của các hành vi mô hình. Nếu không theo dõi rõ ràng nguồn gốc dữ liệu huấn luyện và các đặc điểm của chúng, việc chẩn đoán và khắc phục vấn đề khi mô hình thể hiện những hành vi đáng lo ngại sẽ trở nên vô cùng khó khăn (Longpre et al., 2023 (mở trong tab mới)).
• Các khung về sự đồng thuận và quyền lợi bảo vệ cả người tạo ra dữ liệu lẫn người sử dụng. Nhiều thông lệ huấn luyện AI hiện nay hoạt động trong những vùng xám về mặt pháp lý và đạo đức liên quan đến quyền sử dụng dữ liệu. Những khung rõ ràng có thể giúp ngăn chặn việc sử dụng trái phép, trong khi vẫn cho phép đổi mới sáng tạo chính đáng (Longpre et al., 2024 (mở trong tab mới)).
• Thiên kiến và tính đại diện trong dữ liệu huấn luyện tác động trực tiếp đến hành vi của mô hình. Những tập dữ liệu thiên lệch hoặc thiếu tính đại diện có thể dẫn đến những mô hình hoạt động kém hoặc đưa ra những quyết định có hại đối với một số nhóm nhất định, có khả năng khuếch đại tình trạng bất bình đẳng xã hội ở quy mô rất lớn (Reuel et al., 2024 (mở trong tab mới)).
• Các giao thức tiếp cận và chia sẻ dữ liệu định hình việc ai có thể phát triển những hệ thống AI mạnh mẽ. Nếu không có sự quản trị xung quanh việc tiếp cận dữ liệu, chúng ta có nguy cơ hoặc là quyền lực bị tập trung quá mức vào tay một số ít cá nhân sở hữu tập dữ liệu lớn, hoặc ngược lại, là sự phổ biến không kiểm soát của những năng lực có khả năng nguy hiểm (Heim et al., 2024 (mở trong tab mới)).

Quản trị dữ liệu phù hợp với bức tranh quản trị AI tổng thể như thế nào? Ngay cả với những khung quản trị vững chắc, các nguồn dữ liệu thay thế hoặc việc tạo dữ liệu tổng hợp vẫn có khả năng lách qua những hạn chế. Thêm vào đó, nhiều năng lực đáng lo ngại có thể nảy sinh từ những dữ liệu huấn luyện tưởng chừng vô hại, thông qua những tương tác bất ngờ hoặc hành vi trỗi dậy. Dù quản trị dữ liệu vẫn quan trọng và xứng đáng được tìm hiểu sâu hơn, các mục tiêu quản trị khác có thể mang lại khả năng quản trị trực tiếp hơn đối với sự phát triển AI tiên phong trong ngắn hạn. Đây chính là lý do vì sao ở phần nội dung chính, chúng ta tập trung chủ yếu vào quản trị điện toán — vốn cung cấp những điểm kiểm soát cụ thể hơn nhờ bản chất vật lý và tập trung của nó.