Huawei, Alibaba, Tencent và Xiaomi cùng công bố Công ước AI: Trung Quốc siết quản trị tác nhân thông minh, bảo vệ quyền người dùng

Ngày 4/11, 20 tổ chức và doanh nghiệp công nghệ tại Trung Quốc, trong đó có Học viện Công nghệ Thông tin và Truyền thông Trung Quốc (CAICT), Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group và Douyin, đã cùng công bố “Công ước Tự kỷ luật về Phát triển các Tác nhân Thông minh”.

Động thái này cho thấy các tổ chức và doanh nghiệp công nghệ Trung Quốc đang chú trọng hơn đến việc xây dựng khuôn khổ phát triển và sử dụng các tác nhân thông minh (AI Agents). Không chỉ tập trung vào khả năng công nghệ, công ước còn nhấn mạnh những yêu cầu liên quan đến an ninh, tuân thủ pháp luật, bảo vệ quyền lợi người dùng và trách nhiệm xã hội.

Một trong những nội dung đáng chú ý là yêu cầu sử dụng các biện pháp kỹ thuật như thể hiện và nhúng quy tắc, kiểm tra tuân thủ để bảo đảm hành vi của tác nhân thông minh phù hợp với pháp luật, quy định, trật tự công cộng và đạo đức tốt. Các tổ chức tham gia cũng cam kết cùng nhau chống lại việc sử dụng tác nhân thông minh cho mục đích khai thác thuật toán và các hoạt động chợ đen.

Bên cạnh đó, công ước đưa ra tám biện pháp tự điều chỉnh, bao quát nhiều khía cạnh từ hệ thống tin cậy, cơ sở hạ tầng kết nối, khả năng tương tác đến bảo vệ an ninh, cơ chế quản trị, quyền người dùng, trao quyền cho ngành công nghiệp và hòa nhập công nghệ.

Trong số các nội dung được đề cập, hai định hướng đặc biệt đáng chú ý là tăng cường bảo vệ quyền và lợi ích của người dùng, đồng thời thúc đẩy chia sẻ công nghệ thông qua mã nguồn mở và hợp tác phát triển.

20 tổ chức công nghệ Trung Quốc cùng công bố công ước về tác nhân thông minh

Theo thông tin được công bố ngày 4/11, có tổng cộng 20 tổ chức tham gia công bố “Công ước Tự kỷ luật về Phát triển các Tác nhân Thông minh”.

Những cái tên được đề cập bao gồm Học viện Công nghệ Thông tin và Truyền thông Trung Quốc (CAICT), Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group và Douyin. Đây đều là những tổ chức hoặc doanh nghiệp có liên quan đến hệ sinh thái công nghệ và dịch vụ số tại Trung Quốc.

Việc nhiều tổ chức cùng tham gia một công ước tự điều chỉnh cho thấy vấn đề quản trị tác nhân thông minh đang được đặt ra ở cấp độ rộng hơn, thay vì chỉ là trách nhiệm riêng của từng doanh nghiệp phát triển sản phẩm.

Tác nhân thông minh là một hướng phát triển đáng chú ý của trí tuệ nhân tạo. Khác với những hệ thống AI chủ yếu phản hồi câu hỏi hoặc tạo nội dung theo yêu cầu, các tác nhân thông minh có thể được thiết kế để thực hiện chuỗi nhiệm vụ, phối hợp với công cụ và hỗ trợ người dùng xử lý công việc theo mục tiêu được giao.

Khi các hệ thống này ngày càng được ứng dụng trong nhiều hoạt động, yêu cầu về kiểm soát hành vi, bảo vệ dữ liệu và tuân thủ quy định cũng trở nên quan trọng hơn.

Công ước được công bố trong bối cảnh đó, với mục tiêu thúc đẩy sự phát triển có trật tự và có trách nhiệm của các tác nhân thông minh.

Đưa quy tắc vào hệ thống AI, tăng cường kiểm tra hành vi của tác nhân thông minh

Một nội dung cốt lõi của công ước là yêu cầu sử dụng những biện pháp kỹ thuật để bảo đảm tác nhân thông minh hoạt động trong khuôn khổ pháp luật và các chuẩn mực xã hội.

Cụ thể, công ước đề cập đến việc thể hiện và nhúng quy tắc vào hệ thống, đồng thời thực hiện kiểm tra tuân thủ. Đây là những biện pháp nhằm giúp các yêu cầu về pháp luật, quy định, trật tự công cộng và đạo đức tốt không chỉ tồn tại dưới dạng nguyên tắc trên giấy, mà còn được đưa vào quá trình thiết kế và vận hành công nghệ.

Đối với các hệ thống AI có khả năng thực hiện nhiều nhiệm vụ, việc kiểm soát hành vi có ý nghĩa đặc biệt quan trọng. Một tác nhân thông minh có thể tương tác với người dùng, xử lý thông tin và sử dụng các công cụ khác nhau. Vì vậy, nếu thiếu cơ chế kiểm tra phù hợp, những hành vi không mong muốn có thể phát sinh trong quá trình thực hiện nhiệm vụ.

Việc nhúng quy tắc và kiểm tra tuân thủ được công ước đề cập như một hướng tiếp cận kỹ thuật nhằm hạn chế nguy cơ này.

Bên cạnh yêu cầu tuân thủ, các tổ chức tham gia còn nhấn mạnh việc cùng nhau chống lại hành vi khai thác thuật toán và các hoạt động chợ đen thông qua tác nhân thông minh.

Đây là điểm cho thấy công ước không chỉ quan tâm đến hiệu quả của công nghệ, mà còn chú trọng cách công nghệ được sử dụng trong thực tế. Việc phát triển AI cần đi kèm trách nhiệm kiểm soát những hành vi có thể gây ảnh hưởng tiêu cực đến người dùng và môi trường số.

Tám biện pháp tự điều chỉnh định hình hướng phát triển tác nhân thông minh

Công ước đưa ra tám biện pháp tự điều chỉnh, bao quát các khía cạnh quan trọng trong quá trình phát triển hệ sinh thái tác nhân thông minh.

Các nội dung được đề cập gồm:

• Hệ thống tin cậy: Xây dựng nền tảng để các tác nhân thông minh hoạt động theo những nguyên tắc đáng tin cậy.
• Cơ sở hạ tầng kết nối: Chú trọng nền tảng hạ tầng hỗ trợ hoạt động và kết nối giữa các hệ thống.
• Khả năng tương tác: Thúc đẩy khả năng phối hợp và tương tác giữa các tác nhân thông minh.
• Bảo vệ an ninh: Đặt yêu cầu an toàn và bảo vệ hệ thống trong quá trình phát triển, triển khai công nghệ.
• Cơ chế quản trị: Xây dựng các nguyên tắc và cơ chế quản lý hoạt động của tác nhân thông minh.
• Quyền người dùng: Bảo vệ quyền và lợi ích hợp pháp của người sử dụng công nghệ.
• Trao quyền cho ngành công nghiệp: Khuyến khích ứng dụng tác nhân thông minh để hỗ trợ và thúc đẩy các lĩnh vực công nghiệp.
• Hòa nhập công nghệ: Hướng tới việc giúp nhiều nhóm người dùng và lĩnh vực khác nhau tiếp cận lợi ích của công nghệ.

Tám nội dung này cho thấy phạm vi của công ước không chỉ giới hạn ở vấn đề an toàn kỹ thuật. Các nguyên tắc còn bao gồm hạ tầng, khả năng kết nối, quyền người dùng và định hướng phát triển toàn ngành.

Đáng chú ý, hai nội dung liên quan đến bảo vệ quyền người dùng và chia sẻ công nghệ được nhấn mạnh như những tín hiệu quan trọng trong định hướng phát triển tác nhân thông minh.

Bảo vệ quyền được biết, quyền lựa chọn và quyền kiểm soát của người dùng

Một trong những điểm đáng chú ý nhất của công ước là yêu cầu bảo vệ quyền và lợi ích của người dùng.

Theo nội dung được công bố, công ước nhấn mạnh ba quyền quan trọng: quyền được biết, quyền được lựa chọn và quyền kiểm soát tối cao.

Quyền được biết liên quan đến việc người dùng cần được cung cấp thông tin cần thiết về hoạt động của các tác nhân thông minh. Điều này giúp người sử dụng hiểu rõ hơn về công nghệ đang tương tác với mình, thay vì hoàn toàn phụ thuộc vào những quyết định hoặc quy trình xử lý thông tin mà họ không nắm được.

Quyền được lựa chọn nhấn mạnh vai trò chủ động của người dùng khi tiếp cận và sử dụng dịch vụ. Người sử dụng cần có khả năng đưa ra lựa chọn đối với các hoạt động có liên quan đến mình.

Trong khi đó, quyền kiểm soát tối cao thể hiện yêu cầu bảo đảm người dùng có quyền kiểm soát đối với việc sử dụng công nghệ và những hoạt động liên quan đến quyền lợi của bản thân.

Đặc biệt, công ước đề cập rõ đến việc đưa trẻ vị thành niên, người cao tuổi và các nhóm khác vào phạm vi bảo vệ.

Đây là những nhóm người dùng có thể cần được quan tâm nhiều hơn trước nguy cơ thông tin cá nhân bị lạm dụng hoặc nhận thức bị thao túng thông qua các hệ thống công nghệ.

Công ước nhấn mạnh việc ngăn chặn hai nguy cơ đáng chú ý là lạm dụng thông tin cá nhân và thao túng nhận thức. Điều này cho thấy vấn đề bảo vệ người dùng không chỉ dừng ở bảo mật dữ liệu, mà còn liên quan đến cách công nghệ có thể tác động đến quá trình tiếp nhận thông tin và đưa ra quyết định của con người.

Trong bối cảnh tác nhân thông minh có thể tham gia ngày càng sâu vào các hoạt động số, việc đặt quyền người dùng vào trung tâm của quá trình phát triển là một định hướng quan trọng được thể hiện trong công ước.

Thúc đẩy mã nguồn mở và chia sẻ công nghệ trên phạm vi quốc tế

Bên cạnh bảo vệ quyền người dùng, công ước còn đề cập đến việc thúc đẩy chia sẻ công nghệ một cách toàn diện.

Các tổ chức tham gia ủng hộ mã nguồn mở và phát triển mở đối với những công nghệ cơ bản và phổ biến. Đồng thời, công ước khuyến khích tham gia nghiên cứu và phát triển các tiêu chuẩn quốc tế.

Định hướng này có ý nghĩa đối với khả năng mở rộng hệ sinh thái tác nhân thông minh. Khi công nghệ cơ bản được phát triển theo hướng mở và có sự chia sẻ, nhiều tổ chức, nhà phát triển và doanh nghiệp có thể có thêm cơ hội tiếp cận, nghiên cứu và xây dựng những ứng dụng phù hợp với nhu cầu của mình.

Mã nguồn mở cũng là một trong những phương thức thúc đẩy hợp tác trong lĩnh vực công nghệ. Thay vì mỗi tổ chức chỉ phát triển hệ thống theo hướng khép kín, việc chia sẻ công nghệ có thể tạo điều kiện để nhiều bên cùng tham gia hoàn thiện các nền tảng và công cụ cơ bản.

Ngoài ra, việc tham gia nghiên cứu và phát triển tiêu chuẩn quốc tế cho thấy công ước hướng đến khả năng kết nối rộng hơn giữa các hệ sinh thái công nghệ.

Mục tiêu được nêu trong công ước là giúp các dịch vụ tác nhân thông minh mang lại lợi ích cho người dùng ở nhiều quốc gia và khu vực hơn.

Như vậy, bên cạnh việc xây dựng nguyên tắc quản trị trong nước, các tổ chức tham gia cũng thể hiện định hướng thúc đẩy sự phát triển và chia sẻ công nghệ trên phạm vi quốc tế.

Công ước phản ánh những ưu tiên mới trong phát triển hệ sinh thái AI

Việc 20 tổ chức cùng công bố công ước cho thấy các vấn đề liên quan đến tác nhân thông minh đang được tiếp cận theo hướng toàn diện hơn.

Nếu như năng lực công nghệ thường là yếu tố được chú ý trong quá trình phát triển AI, thì công ước lần này nhấn mạnh thêm những yêu cầu về độ tin cậy, khả năng tương tác, an ninh, quản trị và quyền lợi người dùng.

Đây là những vấn đề có liên quan trực tiếp đến quá trình đưa tác nhân thông minh vào sử dụng trong thực tế. Một hệ thống AI không chỉ cần có khả năng thực hiện nhiệm vụ, mà còn phải hoạt động theo những nguyên tắc có thể kiểm soát và phù hợp với môi trường sử dụng.

Đặc biệt, việc đề cập đến quyền được biết, quyền lựa chọn và quyền kiểm soát cho thấy người dùng được xem là một chủ thể cần được bảo vệ trong hệ sinh thái công nghệ.

Trong khi đó, định hướng mã nguồn mở và phát triển tiêu chuẩn quốc tế thể hiện mong muốn mở rộng khả năng chia sẻ công nghệ, giúp dịch vụ tác nhân thông minh tiếp cận nhiều người dùng hơn.

Tuy nhiên, công ước được giới thiệu là một khuôn khổ tự điều chỉnh. Nội dung được cung cấp chưa nêu chi tiết về cơ chế thực thi, chế tài xử lý vi phạm hoặc cách thức đánh giá mức độ tuân thủ của từng tổ chức. Vì vậy, hiệu quả thực tế của những nguyên tắc này sẽ còn phụ thuộc vào cách các bên triển khai trong quá trình phát triển và cung cấp dịch vụ.

“Công ước Tự kỷ luật về Phát triển các Tác nhân Thông minh” được 20 tổ chức, doanh nghiệp công nghệ Trung Quốc công bố ngày 4/11 là một động thái đáng chú ý trong lĩnh vực quản trị AI.

Với sự tham gia của CAICT, Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group và Douyin, công ước đưa ra tám nhóm biện pháp tự điều chỉnh, tập trung vào hệ thống tin cậy, hạ tầng kết nối, khả năng tương tác, an ninh, quản trị, quyền người dùng, phát triển công nghiệp và hòa nhập công nghệ.

Hai định hướng nổi bật là bảo vệ quyền được biết, quyền lựa chọn và quyền kiểm soát của người dùng, đồng thời thúc đẩy mã nguồn mở, chia sẻ công nghệ và hợp tác xây dựng tiêu chuẩn quốc tế.

Thông điệp đáng chú ý từ công ước là sự phát triển của tác nhân thông minh cần đi cùng với trách nhiệm, an ninh và quyền lợi con người. Đây cũng là những yếu tố có thể ảnh hưởng đến cách các tổ chức xây dựng và triển khai hệ sinh thái AI trong thời gian tới.

Nguồn tham khảo: Thông tin về “Công ước Tự kỷ luật về Phát triển các Tác nhân Thông minh” được công bố ngày 4/11.

Câu hỏi thường gặp

1. Công ước về phát triển tác nhân thông minh được công bố khi nào?

Công ước được công bố ngày 4/11, với sự tham gia của 20 tổ chức, doanh nghiệp công nghệ tại Trung Quốc.

2. Những doanh nghiệp công nghệ nào tham gia công bố công ước?

Các tổ chức và doanh nghiệp được nêu trong thông tin công bố gồm CAICT, Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group và Douyin.

3. Công ước có tên gọi đầy đủ là gì?

Tên gọi được công bố là “Công ước Tự kỷ luật về Phát triển các Tác nhân Thông minh”.

4. Công ước đưa ra bao nhiêu biện pháp tự điều chỉnh?

Công ước đưa ra tám biện pháp, bao gồm hệ thống tin cậy, cơ sở hạ tầng kết nối, khả năng tương tác, bảo vệ an ninh, cơ chế quản trị, quyền người dùng, trao quyền cho ngành công nghiệp và hòa nhập công nghệ.

5. Công ước nhấn mạnh những quyền nào của người dùng?

Ba quyền được nhấn mạnh là quyền được biết, quyền được lựa chọn và quyền kiểm soát tối cao. Công ước cũng chú trọng bảo vệ trẻ vị thành niên, người cao tuổi và các nhóm người dùng khác.

6. Vì sao công ước đề cập đến mã nguồn mở?

Công ước ủng hộ mã nguồn mở và phát triển mở các công nghệ cơ bản, phổ biến nhằm thúc đẩy chia sẻ công nghệ. Đồng thời, các tổ chức tham gia khuyến khích nghiên cứu và phát triển tiêu chuẩn quốc tế để dịch vụ tác nhân thông minh có thể mang lại lợi ích cho người dùng ở nhiều quốc gia và khu vực hơn.

7. Công ước có mục tiêu gì đối với việc sử dụng tác nhân thông minh?

Công ước hướng đến việc bảo đảm các tác nhân thông minh hoạt động phù hợp với pháp luật, quy định, trật tự công cộng và đạo đức tốt; đồng thời ngăn chặn việc lợi dụng công nghệ cho mục đích khai thác thuật toán và các hoạt động chợ đen.