Những “người gác cổng an toàn” của AI được chú ý khi OpenAI và Anthropic đối mặt áp lực giám sát

Ngành công nghiệp trí tuệ nhân tạo (AI) đang bước vào giai đoạn mà khả năng phát triển mô hình không còn là thước đo duy nhất của sức mạnh công nghệ. Khi các hệ thống AI ngày càng tiên tiến và được triển khai với tốc độ nhanh chóng, câu hỏi về mức độ an toàn, khả năng kiểm soát và tính minh bạch đang trở nên cấp thiết. Trong bối cảnh đó, những tổ chức đánh giá AI độc lập vốn ít được công chúng biết đến đang dần bước vào trung tâm của cuộc tranh luận.

Các tổ chức như Model Evaluation and Threat Research (METR), Apollo Research và Transluce được kỳ vọng giúp kiểm tra năng lực, phát hiện hành vi bất thường và đánh giá những rủi ro có thể phát sinh khi các mô hình AI hoạt động trong môi trường thực tế. Tuy nhiên, sự nổi lên của nhóm chuyên gia này cũng đặt ra một vấn đề khó giải quyết: làm thế nào để bảo đảm họ thực sự độc lập khi chính những doanh nghiệp phát triển AI có thể là bên tài trợ cho hoạt động đánh giá?

Đánh giá AI độc lập trở thành vấn đề trọng tâm

Trong một thời gian dài, các tổ chức đánh giá an toàn AI hoạt động ở phạm vi tương đối hẹp so với quy mô khổng lồ của ngành công nghiệp. Nhưng khi những mô hình tiên tiến ngày càng có khả năng thực hiện nhiệm vụ phức tạp, hỗ trợ lập trình, truy cập công cụ và tương tác với các hệ thống bên ngoài, nhu cầu đánh giá rủi ro đang tăng lên nhanh chóng.

OpenAI và Anthropic là hai doanh nghiệp nằm ở trung tâm cuộc tranh luận này. Cả hai vừa phải phát triển sản phẩm để duy trì lợi thế cạnh tranh, vừa đối mặt với áp lực chứng minh rằng công nghệ của họ có thể được triển khai một cách có trách nhiệm.

Những tổ chức đánh giá độc lập được kỳ vọng đóng vai trò như một lớp kiểm tra bổ sung, giúp xác định liệu các biện pháp bảo vệ của doanh nghiệp có thực sự hiệu quả hay không. Công việc của họ có thể bao gồm kiểm tra năng lực của mô hình, đánh giá khả năng thực hiện những hành vi ngoài dự kiến, thử nghiệm các tình huống có rủi ro cao và xem xét cách hệ thống phản ứng trước những giới hạn được đặt ra.

Điểm khác biệt quan trọng là các đánh giá này không hoàn toàn dựa vào kết quả tự kiểm tra do chính nhà phát triển công bố. Một bên thứ ba có chuyên môn và quyền tiếp cận phù hợp có thể đưa ra góc nhìn khác, từ đó giúp cơ quan quản lý, doanh nghiệp và công chúng hiểu rõ hơn về những giới hạn của công nghệ.

Tuy nhiên, sự độc lập trên danh nghĩa chưa đủ để bảo đảm tính khách quan. Các chuyên gia cần có quyền tiếp cận dữ liệu, công cụ, tài liệu kỹ thuật và kết quả thử nghiệm cần thiết. Nếu phạm vi đánh giá bị giới hạn hoặc kết quả bất lợi không được công bố, giá trị của hoạt động giám sát có thể suy giảm đáng kể.

OpenAI và Anthropic tìm kiếm cơ chế giám sát bên ngoài

Tranh luận về đánh giá AI độc lập tăng nhiệt sau khi Giám đốc điều hành Anthropic, Dario Amodei, kêu gọi thận trọng hơn đối với tốc độ phát triển các mô hình tiên tiến. Những lo ngại liên quan đến rủi ro công nghệ và việc một số nhà nghiên cứu rời công ty đã khiến vấn đề an toàn AI nhận được thêm sự chú ý.

Anthropic sau đó đề xuất đưa các chuyên gia đánh giá độc lập vào quy trình làm việc của mình. Theo định hướng được công ty công bố, các chuyên gia có thể được trang bị điều kiện làm việc, quyền truy cập và phương tiện tương tự những nhóm đánh giá rủi ro nội bộ. Công ty cũng đề cập đến khả năng cho phép công bố những phát hiện quan trọng, với một số giới hạn nhất định đối với thông tin nhạy cảm về bảo mật hoặc bí mật kinh doanh.

OpenAI cũng thể hiện sự ủng hộ đối với việc tăng cường đánh giá từ bên ngoài. Doanh nghiệp cho biết đang hoàn tất các hợp đồng với những đơn vị đánh giá an toàn độc lập và dự kiến công bố thêm thông tin. Công ty đồng thời nhắc đến các hoạt động hợp tác với METR và Redwood Research.

Dù vậy, cách thức triển khai vẫn chưa được thống nhất hoàn toàn. Những câu hỏi quan trọng bao gồm chuyên gia bên ngoài sẽ được tiếp cận dữ liệu ở mức nào, ai quyết định phạm vi kiểm tra, ai chịu trách nhiệm tài trợ và đơn vị đánh giá có được quyền công bố các phát hiện bất lợi hay không.

Đây không chỉ là vấn đề kỹ thuật. Một cơ chế đánh giá hiệu quả còn đòi hỏi những nguyên tắc quản trị đủ rõ ràng để hạn chế khả năng doanh nghiệp can thiệp vào kết luận chuyên môn.

Vấn đề tài chính và nguy cơ xung đột lợi ích

Một trong những trở ngại lớn nhất đối với hệ sinh thái đánh giá AI là nguồn kinh phí. Các phòng thí nghiệm AI hàng đầu sở hữu nguồn lực tài chính, đội ngũ nhân sự và cơ sở hạ tầng vượt xa nhiều tổ chức độc lập. Trong khi đó, những đơn vị đánh giá thường có quy mô nhỏ hơn và cần nguồn vốn ổn định để tuyển dụng chuyên gia, xây dựng phương pháp kiểm thử và duy trì hoạt động lâu dài.

Suresh Venkatasubramanian, giáo sư khoa học máy tính tại Đại học Brown, đặt vấn đề về mô hình kinh doanh của các tổ chức này: ai sẽ trả tiền cho họ và làm thế nào để họ có thể hỗ trợ ngành công nghiệp mà vẫn duy trì tính độc lập?

Đây là câu hỏi có ý nghĩa thực tế. Nếu doanh nghiệp AI trực tiếp chi trả cho đơn vị kiểm toán, tổ chức đánh giá có thể phải đối mặt với áp lực giữ chân khách hàng. Một báo cáo chỉ ra nhiều thiếu sót nghiêm trọng có thể khiến hợp đồng tiếp theo bị hủy hoặc làm giảm cơ hội hợp tác trong tương lai.

Ngược lại, nếu không có nguồn tài chính ổn định, các tổ chức đánh giá khó có thể xây dựng đội ngũ đủ mạnh để theo kịp tốc độ phát triển của những mô hình tiên tiến.

Vì vậy, một số chuyên gia cho rằng nguồn tài trợ cần được đa dạng hóa, chẳng hạn thông qua quỹ độc lập, nguồn đóng góp chung hoặc cơ chế hỗ trợ của chính phủ. Mục tiêu là giảm sự phụ thuộc của các tổ chức đánh giá vào từng doanh nghiệp mà họ phải kiểm tra.

Bài toán này tương tự những lĩnh vực kiểm toán tài chính và đánh giá an toàn trong ngành dược phẩm: bên chịu sự giám sát không nên có khả năng quyết định hoàn toàn ai giám sát mình, phạm vi giám sát đến đâu và kết quả nào được công bố.

METR và các tổ chức đánh giá AI đang phát triển nhanh

Sự quan tâm ngày càng lớn đối với an toàn AI đang thúc đẩy hệ sinh thái đánh giá mở rộng.

Theo nội dung được công bố trong tài liệu nguồn, công ty Vals AI, do Rayan Krishnan điều hành, đã tăng quy mô từ 8 nhân viên lên khoảng 30 người trong năm được đề cập. Doanh nghiệp này tập trung xây dựng các tiêu chuẩn nhằm đo lường hiệu suất của mô hình AI trong những nhiệm vụ cụ thể của từng ngành và công bố vòng gọi vốn trị giá 40 triệu USD vào tháng 8.

Trong khi đó, tổ chức phi lợi nhuận METR cho biết đã nhận được khoảng 71 triệu USD cam kết tài trợ trong sáu tháng trước thời điểm công bố vào tháng 8. Con số này vượt tổng số tiền đóng góp 13,6 triệu USD được ghi nhận trong báo cáo năm 2024 của tổ chức.

Những số liệu trên cho thấy nhu cầu dành cho hoạt động đánh giá AI đang tăng lên đáng kể. Tuy nhiên, nguồn lực tài chính lớn hơn chưa đồng nghĩa với việc hệ sinh thái đã đủ khả năng giám sát các doanh nghiệp AI hàng đầu.

Theo thông tin trong tài liệu nguồn, METR có chưa đến 50 nhân viên toàn thời gian. Quy mô này tương đối nhỏ nếu so sánh với những phòng thí nghiệm AI sử dụng hàng nghìn nhân sự và đầu tư hàng chục tỷ USD vào nghiên cứu, phát triển hạ tầng.

Sự chênh lệch về nguồn lực khiến các chuyên gia đặt câu hỏi liệu những tổ chức độc lập có đủ khả năng đánh giá toàn diện các hệ thống ngày càng phức tạp hay không. Ngoài chuyên môn kỹ thuật, họ còn cần quy trình quản trị, năng lực bảo mật và cơ chế bảo vệ nhân viên để có thể thực hiện công việc một cách hiệu quả.

Tranh cãi tại OpenAI làm nổi bật vấn đề bảo vệ người lên tiếng

Những tranh luận về an toàn AI không chỉ xoay quanh mô hình và tiêu chuẩn kiểm thử mà còn liên quan đến môi trường làm việc của các nhà nghiên cứu.

Theo tài liệu nguồn, OpenAI cho biết đã sa thải ba nhân viên vì vi phạm chính sách của công ty liên quan đến việc truy cập và xử lý thông tin nhạy cảm. Hai người trong số đó, Mikita Balesni và Tomek Korbak, cho biết họ tin rằng quyết định này có liên quan đến cách họ giao tiếp với các nhà đánh giá bên thứ ba.

OpenAI bác bỏ cách diễn giải đó. Công ty khẳng định vẫn cam kết hợp tác với các chuyên gia bên ngoài và xem việc làm việc cùng những tổ chức an toàn độc lập là một phần quan trọng trong hoạt động quản trị rủi ro.

Do đó, cần phân biệt giữa những cáo buộc của các nhân viên và lập trường chính thức của doanh nghiệp. Các thông tin trong tài liệu nguồn không đủ để kết luận nguyên nhân sa thải đã được xác minh độc lập.

Dù vậy, vụ việc làm nổi bật một câu hỏi rộng hơn: liệu các nhà nghiên cứu có thể nêu ra những lo ngại về an toàn mà không sợ bị trả đũa hay không?

Nếu nhân viên e ngại trao đổi với các chuyên gia đánh giá bên ngoài, những vấn đề quan trọng có thể không được phát hiện hoặc chuyển đến đúng người có trách nhiệm. Điều này có thể làm suy yếu cả hệ thống kiểm soát nội bộ lẫn cơ chế giám sát độc lập.

Diễn đàn Đánh giá Trí tuệ Nhân tạo, trong đó có METR và Viện Nghiên cứu Xác minh và Đánh giá Trí tuệ Nhân tạo (AVERI), đã công bố các điều kiện tối thiểu cho việc tích hợp chuyên gia đánh giá. Những yêu cầu được đề cập bao gồm tính minh bạch, bảo vệ chuyên gia khỏi sự trả đũa và quyền tiếp cận thông tin tương xứng với nhiệm vụ.

Thông điệp cốt lõi là hoạt động đánh giá bên ngoài phải bổ sung cho quy trình an toàn nội bộ, chứ không thể chỉ là một bước hình thức nhằm chứng minh doanh nghiệp đã thực hiện trách nhiệm của mình.

Chính phủ Mỹ có thể đóng vai trò gì?

Trong bối cảnh chưa có một khuôn khổ liên bang thống nhất được triển khai theo nội dung nguồn, trách nhiệm giám sát an toàn AI đang được thảo luận giữa doanh nghiệp, các tổ chức độc lập và nhà lập pháp.

Tổng thống Donald Trump đã khuyến khích các công ty công nghệ hợp tác với kiểm toán viên hoặc chuyên gia đánh giá độc lập theo một thỏa thuận tự nguyện được đề cập vào cuối tháng 9. Văn bản này nhấn mạnh trách nhiệm phát triển công nghệ an toàn và xây dựng niềm tin với khách hàng, công chúng.

Tuy nhiên, các cam kết tự nguyện có giới hạn rõ ràng. Nếu không có tiêu chuẩn chung, mỗi doanh nghiệp có thể lựa chọn phương pháp đánh giá, phạm vi công bố và cách xử lý những phát hiện quan trọng theo những cách khác nhau. Điều này gây khó khăn cho việc so sánh mức độ an toàn giữa các hệ thống.

Tổ chức Fathom từng đề xuất mô hình các Tổ chức Kiểm chứng Độc lập (IVO), trong đó những đơn vị đáp ứng yêu cầu sẽ được chính phủ cấp phép hoặc ủy quyền để kiểm tra việc tuân thủ các tiêu chí an toàn AI. Theo quan điểm của Andrew Freedman, lãnh đạo Fathom, sự giám sát của chính phủ có thể giúp hạn chế nguy cơ các đơn vị đánh giá phụ thuộc quá mức vào khách hàng doanh nghiệp.

Tại Quốc hội Mỹ, dự luật FRONTIER được giới thiệu vào tháng 7 với các nội dung liên quan đến giám sát rủi ro, tính minh bạch, đánh giá độc lập và báo cáo. Các nhà lập pháp ở một số bang như California, Connecticut và Virginia cũng được đề cập trong các nỗ lực xây dựng cơ chế đánh giá AI.

California đã triển khai các bước pháp lý liên quan đến tổ chức đánh giá độc lập và việc đăng ký kiểm toán viên AI, theo nội dung tài liệu nguồn. OpenAI và Anthropic cũng từng thể hiện sự ủng hộ đối với một số sáng kiến ở cấp bang.

Dẫu vậy, sự ủng hộ về nguyên tắc chưa đồng nghĩa với việc đã hình thành một hệ thống giám sát hoàn chỉnh. Một cơ chế có hiệu lực cần xác định rõ tiêu chuẩn kỹ thuật, quyền tiếp cận thông tin, trách nhiệm pháp lý, quy trình công bố kết quả và biện pháp xử lý khi phát hiện rủi ro nghiêm trọng.

Những điều kiện cần có để đánh giá AI thực sự độc lập

Các đề xuất từ doanh nghiệp và tổ chức chuyên môn cho thấy việc xây dựng cơ chế đánh giá đáng tin cậy cần nhiều hơn một hợp đồng thuê tư vấn. Có ít nhất năm yếu tố quan trọng cần được xem xét.

Thứ nhất, độc lập về tài chính. Nguồn tiền nên được thiết kế để hạn chế khả năng một khách hàng gây ảnh hưởng đến kết luận đánh giá. Quỹ chung hoặc cơ chế tài trợ đa bên có thể là những phương án cần nghiên cứu.

Thứ hai, quyền tiếp cận kỹ thuật đầy đủ. Chuyên gia phải được tiếp cận những hệ thống, dữ liệu và công cụ cần thiết để kiểm tra các tuyên bố về an toàn. Nếu quyền truy cập bị giới hạn quá mức, kết quả đánh giá có thể không phản ánh đúng rủi ro thực tế.

Thứ ba, quyền công bố phát hiện. Những kết quả quan trọng cần được công khai ở mức phù hợp, đồng thời có biện pháp bảo vệ thông tin cá nhân, bí mật kinh doanh và các chi tiết có thể bị lợi dụng để gây hại.

Thứ tư, bảo vệ chuyên gia. Người đánh giá và nhân viên cung cấp thông tin cần có cơ chế tránh bị trả đũa khi nêu ra vấn đề có căn cứ.

Thứ năm, tiêu chuẩn thống nhất. Phương pháp kiểm thử, phạm vi đánh giá và tiêu chí kết luận cần đủ rõ ràng để cơ quan quản lý, nhà đầu tư và công chúng có thể hiểu và so sánh kết quả giữa các mô hình.

Không yếu tố nào trong số này có thể tự mình giải quyết toàn bộ vấn đề. Nhưng nếu được kết hợp, chúng có thể tạo nền tảng để hoạt động đánh giá trở thành một phần thực chất của quản trị AI.

Cuộc cạnh tranh AI sẽ gắn chặt hơn với niềm tin công chúng

OpenAI và Anthropic đang cạnh tranh trong một thị trường có kỳ vọng tăng trưởng lớn, đồng thời đối mặt với những câu hỏi về quản trị, an toàn và khả năng mở rộng hoạt động kinh doanh. Theo các chuyên gia được dẫn trong tài liệu nguồn, sự cạnh tranh giữa hai công ty không loại trừ việc cả hai cùng nhận ra tầm quan trọng của đánh giá độc lập.

Tuy nhiên, động lực thúc đẩy doanh nghiệp hợp tác với bên thứ ba có thể không hoàn toàn xuất phát từ mục tiêu thiện chí. Niềm tin của khách hàng, đối tác, nhà đầu tư và cơ quan quản lý ngày càng có ý nghĩa đối với khả năng đưa các hệ thống AI tiên tiến ra thị trường.

Nếu cơ chế đánh giá được triển khai minh bạch, các tổ chức độc lập có thể giúp giảm khoảng cách thông tin giữa nhà phát triển và xã hội. Ngược lại, nếu họ thiếu quyền tiếp cận hoặc phụ thuộc vào chính doanh nghiệp cần giám sát, hoạt động kiểm tra có nguy cơ trở thành một hình thức chứng nhận mang tính thủ tục.

Trong dài hạn, câu hỏi không chỉ là AI có thể làm được những gì, mà còn là ai có thể xác minh những năng lực đó, bằng phương pháp nào và với mức độ độc lập ra sao.

Các tổ chức như METR, Apollo Research và Transluce vì vậy có thể trở thành một mắt xích ngày càng quan trọng trong hệ sinh thái AI. Nhưng để đảm nhiệm vai trò đó, họ cần nguồn lực, quyền hạn và cơ chế bảo vệ tương xứng với trách nhiệm được giao.

Câu hỏi thường gặp về đánh giá an toàn AI

1. Đánh giá an toàn AI độc lập là gì?

Đây là hoạt động kiểm tra mô hình AI bởi một tổ chức hoặc nhóm chuyên gia bên ngoài đơn vị phát triển. Mục tiêu là đánh giá năng lực, phát hiện hành vi ngoài dự kiến và xác định những rủi ro có thể xuất hiện khi công nghệ được sử dụng.

2. METR, Apollo Research và Transluce làm gì?

Đây là những tổ chức hoặc đơn vị hoạt động trong lĩnh vực đánh giá, nghiên cứu và kiểm tra các hệ thống AI. Vai trò cụ thể của mỗi bên có thể khác nhau, nhưng điểm chung là cung cấp góc nhìn chuyên môn nhằm giúp làm rõ khả năng và rủi ro của mô hình.

3. Vì sao doanh nghiệp AI cần chuyên gia đánh giá bên ngoài?

Đánh giá nội bộ có thể giúp doanh nghiệp phát hiện vấn đề trước khi phát hành sản phẩm, nhưng một đơn vị độc lập có thể cung cấp góc nhìn bổ sung và giảm sự phụ thuộc vào kết quả tự đánh giá. Điều này đặc biệt quan trọng với các hệ thống có năng lực cao và ảnh hưởng rộng.

4. Ai nên trả tiền cho các tổ chức đánh giá AI?

Không có một mô hình tài trợ duy nhất đã được thống nhất. Doanh nghiệp có thể trả tiền cho dịch vụ đánh giá, nhưng sự phụ thuộc vào một khách hàng duy nhất có thể tạo ra xung đột lợi ích. Các phương án như quỹ chung, tài trợ đa bên hoặc hỗ trợ từ chính phủ đang được xem xét như cách tăng tính độc lập.

5. Đánh giá độc lập có thay thế được quy định của chính phủ không?

Không. Hoạt động đánh giá là một công cụ kỹ thuật quan trọng, nhưng không tự thay thế được quy định pháp luật, trách nhiệm giải trình và cơ chế thực thi. Sự kết hợp giữa đánh giá chuyên môn độc lập, quản trị nội bộ và giám sát phù hợp có thể tạo ra hệ thống kiểm soát toàn diện hơn.

6. Điều gì quyết định độ tin cậy của một cuộc đánh giá AI?

Những yếu tố quan trọng gồm tính độc lập về tài chính, quyền tiếp cận kỹ thuật, phương pháp kiểm thử minh bạch, quyền công bố phát hiện, cơ chế xử lý xung đột lợi ích và khả năng bảo vệ chuyên gia trước áp lực từ doanh nghiệp.