Chương 4.2: Quản trị điện toán

Chỉ một số ít công ty sản xuất được loại chip cần thiết để xây dựng AI tiên tiến. Nếu các chính phủ kiểm soát được chuỗi cung ứng, việc kiểm soát khả năng tiếp cận phần cứng sẽ trở thành một hướng đi đầy hứa hẹn để hạn chế những ai có thể tạo ra AI có năng lực cao.

Điện toán (compute) là một mục tiêu quản trị mạnh mẽ vì nó đáp ứng cả ba tiêu chí của một mục tiêu quản trị hiệu quả:

• Khả năng đo lường: Không giống dữ liệu hay thuật toán, điện toán để lại những dấu vết vật lý rõ ràng. Việc huấn luyện các mô hình AI tiên phong đòi hỏi những trung tâm dữ liệu khổng lồ, chứa hàng nghìn con chip chuyên dụng (Pilz & Heim, 2023 (mở trong tab mới)). Chúng ta có thể theo dõi năng lực tính toán thông qua những chỉ số được định nghĩa rõ ràng như số phép tính dấu phẩy động (FLOPS), cho phép xác định các đợt huấn luyện có khả năng rủi ro trước khi chúng bắt đầu (Heim & Koessler, 2024 (mở trong tab mới)).
• Khả năng kiểm soát: Chuỗi cung ứng chip AI tiên tiến có những điểm kiểm soát rõ ràng. Chỉ ba công ty thống lĩnh thị trường hiện nay: NVIDIA thiết kế phần lớn chip huấn luyện AI, TSMC sản xuất những bộ vi xử lý tiên tiến nhất, và ASML là nhà sản xuất duy nhất cho ra đời những cỗ máy có khả năng chế tạo chip tối tân. Sự tập trung này giúp việc quản trị trở nên khả thi thông qua kiểm soát xuất khẩu, yêu cầu cấp phép, và giám sát chuỗi cung ứng (Grunewald, 2023 (mở trong tab mới); Sastry et al., 2024 (mở trong tab mới)).
• Tính ý nghĩa: Như đã thảo luận ở chương Rủi ro, những năng lực nguy hiểm nhất có xu hướng xuất hiện từ các mô hình có năng lực cao, vốn đòi hỏi một lượng lớn hạ tầng điện toán chuyên dụng để huấn luyện và vận hành (Anderljung et al., 2023 (mở trong tab mới); Sastry et al., 2024 (mở trong tab mới)). Nhu cầu điện toán trực tiếp giới hạn loại hệ thống AI nào có thể được xây dựng — ngay cả với thuật toán tối tân và tập dữ liệu khổng lồ, các tổ chức vẫn không thể huấn luyện các mô hình AI tiên phong nếu thiếu đủ năng lực điện toán (Besiroglu et al., 2024 (mở trong tab mới)). Điều này khiến điện toán trở thành một điểm can thiệp đặc biệt có ý nghĩa, vì nó cho phép chúng ta định hình quá trình phát triển AI trước khi các hệ thống nguy hiểm tiềm tàng xuất hiện, thay vì cố kiểm soát chúng sau khi sự việc đã rồi (Heim et al., 2024 (mở trong tab mới)).

Hình tương tác 4.1: Hiệu suất trên các bài kiểm tra kiến thức so với lượng điện toán dùng để huấn luyện. Hiệu suất trên các bài kiểm tra kiến thức được đo bằng bài kiểm tra MMLU, ở đây theo phương pháp học 5-shot (5-shot learning), tức đo độ chính xác của mô hình sau khi chỉ nhận được năm ví dụ cho mỗi tác vụ. Lượng điện toán dùng để huấn luyện được đo bằng tổng số petaFLOP, tương đương 1e15 phép tính dấu phẩy động (Giattino et al., 2023 (mở trong tab mới)).

Phần thảo luận trong các tiểu mục tiếp theo sẽ tập trung vào những yếu tố thực tế để triển khai quản trị điện toán. Chúng ta sẽ giải thích cách mà sự tập trung của chuỗi cung ứng giúp việc theo dõi và giám sát điện toán trở nên khả thi, đồng thời thảo luận ngắn gọn về các cơ chế quản trị điện toán dựa trên phần cứng ngay trên chip, và cuối cùng bàn về một số hạn chế xoay quanh việc quản trị dựa trên ngưỡng điện toán, cũng như cách mà huấn luyện phân tán và mã nguồn mở có thể thách thức quản trị điện toán.

Theo dõi

Chip chuyên dụng cho AI ra đời qua một quy trình toàn cầu phức tạp. Quy trình này bắt đầu từ việc khai thác và tinh luyện các nguyên liệu thô như silic và các nguyên tố đất hiếm. Những nguyên liệu này trở thành tấm wafer silic, sau đó được biến đổi thành chip qua hàng trăm công đoạn sản xuất chính xác. Quy trình này đòi hỏi thiết bị chuyên dụng (đặc biệt là các máy quang khắc (photolithography) của ASML) cùng nhiều loại hóa chất, khí, và công cụ từ các nhà cung cấp khác (Grunewald, 2023 (mở trong tab mới)).

Có nhiều điểm nghẽn (chokepoints) trong khâu thiết kế và sản xuất chất bán dẫn. Chuỗi cung ứng bị chi phối bởi một số ít công ty nắm giữ các công đoạn then chốt. NVIDIA thiết kế phần lớn chip chuyên dụng cho AI, TSMC sản xuất những con chip tiên tiến nhất, và ASML sản xuất những cỗ máy mà TSMC cần để chế tạo chip (Grunewald, 2023 (mở trong tab mới); Pilz et al., 2023 (mở trong tab mới)). Ước tính NVIDIA kiểm soát khoảng 80% thị trường GPU dùng để huấn luyện AI (Jagielski, 2024 (mở trong tab mới)). Tương tự, cả TSMC và ASML đều duy trì vị thế dẫn đầu vững chắc trong lĩnh vực của mình (Pilz et al., 2023 (mở trong tab mới)). Ngoài việc chế tạo chip, việc mua sắm và vận hành chúng ở quy mô cần thiết cho các mô hình AI tiên phong còn đòi hỏi khoản đầu tư ban đầu khổng lồ. Vào năm 2019, giới học thuật và các chính phủ dẫn đầu về siêu máy tính phục vụ AI. Ngày nay, các công ty kiểm soát hơn 80% năng lực điện toán AI toàn cầu, trong khi các chính phủ và giới học thuật đã tụt xuống dưới 20% (Pilz et al., 2025 (mở trong tab mới)). Chỉ ba nhà cung cấp — Amazon, Microsoft, và Google — kiểm soát khoảng 65% dịch vụ điện toán đám mây (Jagielski, 2024 (mở trong tab mới)). Một số ít công ty AI như OpenAI, Anthropic, và DeepMind tự vận hành các cụm GPU khổng lồ của riêng mình, nhưng ngay cả những cụm này cũng cần phần cứng chuyên dụng chịu sự kiểm soát của chuỗi cung ứng (Pilz & Heim, 2023 (mở trong tab mới)).

Sự tập trung của chuỗi cung ứng tạo ra những điểm can thiệp tự nhiên. Các cơ quan chức năng chỉ cần làm việc với một số ít bên chủ chốt để triển khai các biện pháp kiểm soát, như đã thấy qua các hạn chế xuất khẩu chip tiên tiến của Hoa Kỳ (Heim et al., 2024 (mở trong tab mới)). Tuy nhiên, cũng cần lưu ý rằng chính sự tập trung nặng nề này cũng là điều đáng lo ngại. Chúng ta đang chứng kiến một "khoảng cách điện toán" (compute divide) ngày càng lớn — trong khi các tập đoàn công nghệ lớn có thể chi hàng trăm triệu đô la cho việc huấn luyện AI, các nhà nghiên cứu học thuật lại chật vật để tiếp cận ngay cả những tài nguyên cơ bản nhất (Besiroglu et al., 2024 (mở trong tab mới)). Điều này ảnh hưởng đến việc ai có thể tham gia vào quá trình phát triển AI, đồng thời làm suy giảm khả năng giám sát độc lập đối với các mô hình AI tiên phong. Nó cũng làm dấy lên lo ngại về nguy cơ tập trung quyền lực.

Thay vì cố gắng kiểm soát toàn bộ hạ tầng điện toán, việc quản trị nên tập trung cụ thể vào các loại chip chuyên dụng cho AI. Những con chip này khác biệt với phần cứng đa dụng cả về năng lực lẫn chuỗi cung ứng. Bằng cách chỉ nhắm vào những con chip chuyên dụng cho AI tiên tiến nhất, chúng ta có thể xử lý các rủi ro thảm khốc mà vẫn để phần lớn hệ sinh thái điện toán nói chung không bị ảnh hưởng (Heim et al., 2024 (mở trong tab mới)). Ví dụ, các biện pháp kiểm soát xuất khẩu của Hoa Kỳ nhắm cụ thể vào GPU cao cấp dùng trong trung tâm dữ liệu, trong khi loại trừ phần cứng dành cho người tiêu dùng.

Giám sát

Việc huấn luyện các mô hình AI tiên phong để lại nhiều dấu vết có thể quan sát được, giúp chúng ta phát hiện những đợt huấn luyện AI đáng lo ngại. Dấu hiệu đáng tin cậy nhất là mức tiêu thụ năng lượng — những đợt huấn luyện có khả năng tạo ra hệ thống nguy hiểm đòi hỏi lượng điện năng khổng lồ, thường lên tới hàng trăm megawatt, tạo ra những khuôn mẫu tiêu thụ đặc trưng (Wasil et al., 2024 (mở trong tab mới); Shavit, 2023 (mở trong tab mới)). Bên cạnh năng lượng, các chỉ báo kỹ thuật khác bao gồm khuôn mẫu lưu lượng mạng đặc trưng cho việc huấn luyện mô hình, hồ sơ mua sắm và vận chuyển phần cứng, yêu cầu về hệ thống làm mát và dấu hiệu nhiệt, cũng như việc xây dựng hạ tầng như các trạm biến áp điện (Sastry et al., 2024 (mở trong tab mới); Shavit, 2023 (mở trong tab mới); Heim et al., 2024 (mở trong tab mới)). Những tín hiệu này trở nên đặc biệt hữu ích khi được kết hợp với nhau — sự tăng vọt đột ngột cả về mức tiêu thụ năng lượng lẫn lưu lượng mạng tại một cơ sở có chứa phần cứng AI đã biết là dấu hiệu mạnh cho thấy đang có hoạt động huấn luyện mô hình.

Các quy định đã bắt đầu sử dụng ngưỡng điện toán để kích hoạt các cơ chế giám sát. Sắc lệnh hành pháp về AI của Hoa Kỳ yêu cầu các công ty phải thông báo cho chính phủ về những đợt huấn luyện vượt quá 10²⁶ phép tính — một ngưỡng được thiết kế để nắm bắt quá trình phát triển của những hệ thống có năng lực cao nhất. Đạo luật AI của Liên minh Châu Âu (EU AI Act) đặt ra một ngưỡng còn thấp hơn, ở mức 10²⁵ phép tính, đòi hỏi không chỉ thông báo mà còn phải đánh giá rủi ro và áp dụng các biện pháp an toàn (Heim & Koessler, 2024 (mở trong tab mới)). Những ngưỡng này giúp xác định các hoạt động phát triển có khả năng rủi ro trước khi chúng hoàn tất, cho phép quản trị mang tính phòng ngừa thay vì phản ứng.

Các nhà cung cấp dịch vụ điện toán đám mây có thể đóng vai trò quan trọng trong quản trị điện toán. Phần lớn hoạt động phát triển AI tiên phong diễn ra thông qua các nền tảng điện toán đám mây thay vì phần cứng tự sở hữu. Điều này tạo ra những điểm kiểm soát tự nhiên cho việc giám sát, vì hầu hết các tổ chức phát triển AI tiên tiến đều phải làm việc thông qua những nhà cung cấp này (Heim et al., 2024 (mở trong tab mới)). Vị trí trung gian giữa phần cứng và nhà phát triển cho phép các nhà cung cấp đám mây triển khai những biện pháp kiểm soát vốn khó có thể thực thi chỉ bằng cách quản lý phần cứng. Họ duy trì hạ tầng vật lý, theo dõi khuôn mẫu sử dụng điện toán và lưu giữ hồ sơ phát triển. Họ cũng có thể giám sát việc tuân thủ các yêu cầu an toàn, triển khai kiểm soát quyền truy cập, và xử lý các vi phạm (Heim et al., 2024 (mở trong tab mới); Chan et al., 2024 (mở trong tab mới)). Một cách tiếp cận được đề xuất là áp dụng yêu cầu "định danh khách hàng" (know-your-customer, KYC) tương tự như trong ngành dịch vụ tài chính. Theo đó, nhà cung cấp sẽ xác minh danh tính và mục đích của khách hàng yêu cầu tài nguyên điện toán quy mô lớn, lưu giữ hồ sơ về những lần sử dụng điện toán đáng kể, và báo cáo các khuôn mẫu đáng ngờ (Egan & Heim, 2023 (mở trong tab mới)). Điều này có thể được thực hiện mà vẫn bảo vệ quyền riêng tư — các đặc điểm cơ bản của khối lượng công việc có thể được giám sát mà không cần truy cập vào những chi tiết nhạy cảm như kiến trúc mô hình hay dữ liệu huấn luyện (Shavit, 2023 (mở trong tab mới)). Các quy định KYC tương tự cũng có thể được áp dụng cho chuỗi cung ứng đối với việc mua bán phần cứng điện toán AI tối tân.

Kiểm soát tích hợp trên chip (On-Chip Controls)

Ngoài việc giám sát và phát hiện, hạ tầng điện toán còn có thể bao gồm những cơ chế kiểm soát chủ động được tích hợp trực tiếp vào phần cứng bộ xử lý. Tương tự như cách điện thoại thông minh và máy tính hiện đại tích hợp các phần tử bảo mật để bảo vệ quyền riêng tư và an ninh, chip AI cũng có thể tích hợp những tính năng xác minh và kiểm soát cách chúng được sử dụng. Những tính năng này có thể ngăn chặn các đợt huấn luyện trái phép hoặc đảm bảo chip chỉ được sử dụng tại những cơ sở đã được phê duyệt (Aarne et al., 2024 (mở trong tab mới)). Việc xác minh diễn ra ở cấp độ phần cứng, khiến nó khó bị vượt qua hơn nhiều so với các biện pháp kiểm soát bằng phần mềm. Cần lưu ý rằng các biện pháp kiểm soát tích hợp trên chip hiện vẫn còn mang tính suy đoán cao.

Các biện pháp kiểm soát tích hợp trên chip có thể cho phép áp dụng những phương pháp như giới hạn mức sử dụng, ghi nhật ký, và xác minh vị trí. Một số hướng tiếp cận cho thấy nhiều triển vọng. Giới hạn mức sử dụng có thể đặt trần cho lượng điện toán được dùng cho một số loại khối lượng công việc AI nhất định nếu không có sự cho phép đặc biệt. Hệ thống ghi nhật ký bảo mật có thể tạo ra những bản ghi chống giả mạo về cách chip được sử dụng. Xác minh vị trí có thể đảm bảo chip chỉ được sử dụng tại những cơ sở đã được phê duyệt (Brass & Aarne, 2024 (mở trong tab mới)). Phần cứng thậm chí có thể tích hợp những "khóa liên động an toàn" (safety interlocks) tự động tạm dừng quá trình huấn luyện nếu một số điều kiện nhất định không được đáp ứng. Những ý tưởng như thế này cũng được gọi là quản trị tích hợp trên chip (on-chip governance) (Aarne et al., 2024 (mở trong tab mới)). Chúng ta đã thấy những khái niệm tương tự trong lĩnh vực an ninh mạng, với các tính năng như Software Guard Extensions của Intel, hay mô-đun nền tảng đáng tin cậy (trusted platform module, TPM) (Intel, 2024 (mở trong tab mới)), vốn cung cấp những đảm bảo an ninh ở cấp độ phần cứng. Dù vẫn còn cách khá xa so với những biện pháp bảo vệ tương đương dành cho điện toán AI, các nghiên cứu ban đầu đã cho thấy những hướng đi đầy hứa hẹn (Shavit, 2023 (mở trong tab mới)). Một số chip hiện đã tích hợp sẵn khả năng giám sát cơ bản, có thể được mở rộng để phục vụ mục đích quản trị (Petrie et al., 2024 (mở trong tab mới)).

Hạn chế

Xu hướng trong thập kỷ qua là sử dụng ngày càng nhiều điện toán hơn, nhưng điều này sẽ không kéo dài mãi. Chúng ta đã bàn khá kỹ về các định luật mở rộng quy mô (scaling laws) ở những chương trước. Các nghiên cứu cho thấy lợi ích từ việc mở rộng quy mô đối với năng lực AI vẫn có thể tiếp tục đến năm 2030 (Sevilla et al., 2024 (mở trong tab mới)). Những cải tiến về thuật toán cũng nâng cao hiệu quả, nghĩa là cùng một lượng điện toán sẽ mang lại năng lực cao hơn theo thời gian. Các mô hình nhỏ hơn có thể bắt đầu thể hiện năng lực và rủi ro tương đương. Ví dụ, Falcon 180B bị vượt mặt bởi những mô hình nhỏ hơn nhiều như Llama-3 8B. Điều này khiến các ngưỡng điện toán cố định trở nên kém tin cậy hơn khi dùng làm chỉ báo năng lực, nếu không được cập nhật thường xuyên (Hooker, 2024 (mở trong tab mới)). Hơn nữa, các mô hình suy luận (reasoning models, LRM) và việc mở rộng quy mô tại thời điểm suy luận (inference-time scaling) (ví dụ: OpenAI o3, Claude 4, DeepSeek r1), cùng với các kỹ thuật như chưng cất mô hình (model distillation), có thể cải thiện đáng kể năng lực của mô hình mà không cần thay đổi lượng điện toán dùng để huấn luyện. Các khung quản trị hiện nay chưa tính đến những cải tiến hậu huấn luyện này (Shavit, 2023 (mở trong tab mới)).

Những mô hình nhỏ hơn, chuyên biệt hơn vẫn có thể gây ra rủi ro. Các lĩnh vực khác nhau có nhu cầu điện toán rất khác nhau. Những mô hình chuyên biệt cao, được huấn luyện trên các tập dữ liệu cụ thể, có thể phát triển năng lực nguy hiểm dù chỉ sử dụng lượng điện toán tương đối khiêm tốn. Ví dụ, các mô hình tập trung vào lĩnh vực sinh học hay an ninh mạng có thể gây ra rủi ro nghiêm trọng ngay cả khi mức sử dụng điện toán nằm dưới các ngưỡng quản lý thông thường (Mouton et al., 2024 (mở trong tab mới); Heim & Koessler, 2024 (mở trong tab mới)).

Quản trị điện toán có thể giúp kiểm soát rủi ro AI, nhưng các biện pháp kiểm soát quá chặt chẽ có thể đẩy nhanh tình trạng tập trung quyền lực. Chỉ một số ít tổ chức đủ khả năng chi trả lượng điện toán cần thiết để phát triển AI tiên phong (Purtova et al., 2022 (mở trong tab mới); Pilz et al., 2023 (mở trong tab mới)). Việc dựng thêm rào cản có thể làm trầm trọng thêm sự chênh lệch này, tập trung quyền lực vào tay một số ít tập đoàn công nghệ lớn và làm suy giảm khả năng giám sát độc lập (Besiroglu et al., 2024 (mở trong tab mới)). Các nhà nghiên cứu học thuật vốn đã chật vật để tiếp cận lượng điện toán cần thiết cho những nghiên cứu AI có giá trị. Khi các mô hình ngày càng lớn hơn và cần nhiều điện toán hơn, khoảng cách giữa ngành công nghiệp và giới học thuật ngày càng nới rộng (Besiroglu et al., 2024 (mở trong tab mới); Zhang et al., 2021 (mở trong tab mới)). Các cụm điện toán lớn có nhiều mục đích sử dụng chính đáng ngoài việc phát triển AI, từ nghiên cứu khoa học đến ứng dụng kinh doanh. Những hạn chế quá rộng có thể cản trở đổi mới sáng tạo có lợi. Ngoài ra, một khi mô hình đã được huấn luyện xong, chúng thường có thể chạy suy luận (inference) với lượng điện toán ít hơn nhiều so với lúc huấn luyện. Điều này khiến việc kiểm soát cách sử dụng các mô hình hiện có trở nên khó khăn, nếu không muốn áp đặt những biện pháp kiểm soát quá chặt chẽ lên hạ tầng điện toán nói chung (Sastry et al., 2024 (mở trong tab mới)).

Các phương pháp huấn luyện và suy luận phân tán có thể né tránh các biện pháp kiểm soát của quản trị điện toán. Hiện tại, việc huấn luyện các mô hình AI tiên phong đòi hỏi phải tập trung một lượng điện toán khổng lồ tại một địa điểm duy nhất, do yêu cầu giao tiếp giữa các chip. Các phương pháp huấn luyện phi tập trung đang được nghiên cứu, nhưng vẫn chưa thực sự bắt kịp các phương pháp tập trung (Douillard et al., 2023 (mở trong tab mới); Jaghouar et al., 2024 (mở trong tab mới)).¹ Tuy nhiên, nếu có những bước tiến căn bản trong các thuật toán huấn luyện phân tán, điều này cuối cùng có thể cho phép việc huấn luyện được chia nhỏ trên nhiều cơ sở nhỏ hơn. Dù cách làm này vẫn còn nhiều thách thức về mặt kỹ thuật và kém hiệu quả, nó có thể khiến việc phát hiện và kiểm soát các đợt huấn luyện nguy hiểm trở nên khó khăn hơn (Anderljung et al., 2023 (mở trong tab mới)).

Việc giám sát điện toán và các ngưỡng điện toán nên chủ yếu đóng vai trò như một cơ chế sàng lọc ban đầu. Những cách tiếp cận này nên được sử dụng chủ yếu để xác định các mô hình cần được xem xét kỹ hơn, thay vì là yếu tố duy nhất quyết định các yêu cầu quản lý cụ thể. Chúng phát huy hiệu quả nhất khi được dùng để kích hoạt các cơ chế giám sát như yêu cầu thông báo và đánh giá rủi ro, mà kết quả của chúng sau đó có thể làm cơ sở cho các biện pháp giảm thiểu phù hợp.

Các biện pháp quản trị kỹ thuật cần được phối hợp với các sáng kiến ở cấp doanh nghiệp, quốc gia và quốc tế. Chúng ta đã tập trung vào quản trị điện toán như ví dụ kỹ thuật chính, nhưng những thách thức về phối hợp cũng áp dụng tương tự cho quản trị dữ liệu, quản trị mô hình, và các biện pháp kỹ thuật khác. Mỗi cách tiếp cận đều gặp phải cùng một hạn chế căn bản: các biện pháp kỹ thuật đơn thuần không thể giải quyết được những rủi ro mang tính hệ thống nảy sinh từ động lực cạnh tranh và việc triển khai trên phạm vi toàn cầu. Đây chính là lý do vì sao các biện pháp kỹ thuật cần được lồng ghép vào trong các khung quản trị ở cấp doanh nghiệp, quốc gia và quốc tế — những khung quản trị giúp gắn kết động lực của các bên với các tiêu chuẩn an toàn được phối hợp thống nhất. Nhưng trước khi bàn đến những khung quản trị đó, chúng ta cần tìm hiểu những khái niệm rộng hơn như việc ra quyết định trong điều kiện bất định, các vấn đề hành động tập thể theo lý thuyết trò chơi, và những lực mang tính hệ thống khác định hình bối cảnh quản trị. Chúng ta sẽ bàn về điều này trong phần tiếp theo.

Chú thích

¹ Một số mô hình ví dụ được huấn luyện bằng các phương pháp phi tập trung bao gồm INTELLECT-1 và INTELLECT-2 (Prime Intellect, 2025 (mở trong tab mới))