Một sự cố liên quan đến công cụ lập trình AI ZCode của Z.ai, công ty đứng sau các mô hình GLM, đang làm dấy lên tranh luận về quyền riêng tư và cách các hệ thống AI xử lý mã nguồn của người dùng.
Theo các thông tin được công bố, ZCode từng có cơ chế lập chỉ mục mã nguồn được bật mặc định. Cơ chế này có thể tạo bản sao dữ liệu trong thư mục dự án và gửi lên hạ tầng đám mây bên ngoài. Điều đáng chú ý là dữ liệu được cho là không chỉ bao gồm mã nguồn hiện tại mà còn có thể chứa lịch sử chỉnh sửa của Git.
Z.ai sau đó đã xin lỗi, cho biết đã khắc phục vấn đề, tạm ngừng một số tính năng liên quan và thực hiện các biện pháp xóa dữ liệu đã được truyền đi.
Phát hiện tập tin nén 313 MB trong thư mục làm việc
Vụ việc được chú ý sau khi một blogger công nghệ Trung Quốc sử dụng tài khoản Ferstar kiểm tra hoạt động của ZCode trên máy tính cá nhân.
Theo các thông tin được công bố, một tập tin nén dung lượng khoảng 313 MB đã được tạo trong môi trường làm việc và có tới 564 lần thử tải lên Alibaba Cloud nhưng không thành công. Một tập tin nhỏ hơn, khoảng 15 KB, được cho là đã truyền thành công.
Điểm đáng quan tâm nằm ở nội dung của tập tin lớn. Dựa trên tên và cấu trúc các tệp, người phát hiện cho rằng gói dữ liệu không chỉ chứa phiên bản mã nguồn hiện tại mà còn có các thành phần liên quan đến lịch sử Git.
Nếu đúng như vậy, phạm vi dữ liệu có khả năng được đóng gói sẽ lớn hơn nhiều so với một đoạn mã mà người dùng chủ động yêu cầu AI phân tích. Lịch sử Git có thể chứa những phiên bản mã cũ, các thay đổi đã bị xóa khỏi phiên bản hiện tại, nhánh phát triển, thông tin cấu hình hoặc dữ liệu từng được đưa vào dự án.
Tuy nhiên, cần phân biệt giữa việc một tập tin được tạo và đưa vào quá trình tải lên với việc toàn bộ tập tin đó thực sự đã được truyền thành công. Trong trường hợp tập tin 313 MB nói trên, các báo cáo cho biết quá trình tải lên đã thất bại nhiều lần.
Chức năng lập chỉ mục mã nguồn được bật mặc định
Z.ai giải thích rằng nguyên nhân liên quan đến tính năng lập chỉ mục mã nguồn, phục vụ các chức năng như tổ chức, tìm kiếm và hỗ trợ AI hiểu cấu trúc dự án.
Vấn đề khiến cộng đồng phát triển phần mềm quan tâm không chỉ nằm ở việc dữ liệu được xử lý trên máy tính cá nhân, mà còn ở cách dữ liệu được đưa ra khỏi thiết bị.
Các nhà phát triển đặt câu hỏi về việc liệu người dùng có được thông báo đầy đủ hay không, có thể chủ động tắt chức năng truyền dữ liệu hay không và chính sách quyền riêng tư có mô tả rõ phạm vi dữ liệu được gửi lên máy chủ hay không.
Một số báo cáo còn cho rằng các bản chụp repository có thể bao gồm thư mục .git, nơi lưu trữ lịch sử thay đổi của dự án. Đây là điểm đặc biệt nhạy cảm đối với doanh nghiệp bởi dữ liệu quá khứ đôi khi chứa thông tin không còn xuất hiện trong mã nguồn hiện tại.
Z.ai tạm ngừng tính năng và công bố mã nguồn ZCode
Trước phản ứng của cộng đồng, Z.ai cho biết đã khắc phục vấn đề liên quan đến cơ chế lập chỉ mục và tạm ngừng một số tính năng của ZCode.
Công ty cũng công bố mã nguồn ZCode để tăng khả năng kiểm tra từ bên ngoài. Theo thông tin được công bố, Z.ai cho biết các dữ liệu đã được tải lên đã bị xóa và không còn được lưu trữ trên hệ thống đám mây. Công ty cũng cho biết một cuộc đánh giá bảo mật bên ngoài đã kiểm tra việc xử lý dữ liệu và dự kiến công bố thêm báo cáo.
Việc mở mã nguồn là một bước đáng chú ý vì cho phép cộng đồng kỹ thuật kiểm tra trực tiếp cách phần mềm hoạt động thay vì chỉ dựa vào mô tả của nhà cung cấp. Tuy nhiên, việc mã nguồn hiện tại không còn chứa một cơ chế nào đó cũng không tự động chứng minh được toàn bộ hành vi của những phiên bản trước đây.
Vì sao lịch sử Git đặc biệt nhạy cảm?
Đối với một dự án phần mềm, mã nguồn hiện tại chỉ là một phần của dữ liệu có giá trị.
Lịch sử Git có thể phản ánh quá trình phát triển sản phẩm, các tính năng từng bị loại bỏ, cấu trúc hệ thống trước đây hoặc những thay đổi nội bộ. Trong một số trường hợp, thông tin nhạy cảm từng được đưa vào repository rồi xóa khỏi phiên bản hiện tại vẫn có thể tồn tại trong lịch sử commit.
Do đó, khi một công cụ AI có quyền truy cập vào toàn bộ workspace, doanh nghiệp cần xác định rõ AI đang đọc những tệp nào, tạo bản sao nào và dữ liệu nào được truyền ra ngoài.
Đây cũng là lý do sự cố ZCode được xem như một bài học rộng hơn đối với thị trường AI coding assistant. Khi AI có khả năng trực tiếp làm việc trên máy tính và repository, ranh giới giữa “đọc dữ liệu để hoàn thành nhiệm vụ” và “đưa dữ liệu lên máy chủ để xử lý” cần được công khai, minh bạch và có quyền kiểm soát rõ ràng.
Doanh nghiệp cần kiểm tra gì khi dùng AI lập trình?
Sự việc cho thấy độ chính xác của AI không phải yếu tố duy nhất cần đánh giá. Với công cụ có quyền truy cập mã nguồn nội bộ, doanh nghiệp nên kiểm tra ít nhất bốn vấn đề.
Thứ nhất, dữ liệu nào được phép rời khỏi thiết bị.
Thứ hai, người dùng có thể tắt hoàn toàn việc truyền dữ liệu hay không.
Thứ ba, dữ liệu được lưu trữ trong bao lâu và ai có quyền truy cập.
Thứ tư, người dùng có thể xác minh việc dữ liệu đã được xóa hay không.
Đặc biệt với các dự án chứa bí mật kinh doanh, thông tin khách hàng, khóa API hoặc mã nguồn độc quyền, việc cấp quyền cho một AI agent cần được xem tương tự như cấp quyền cho một phần mềm có khả năng truy cập hệ thống nội bộ.
Sự cố ZCode cho thấy khi AI ngày càng chuyển từ chatbot sang các “AI agent” có khả năng trực tiếp thao tác với máy tính và mã nguồn, vấn đề bảo mật dữ liệu sẽ trở nên quan trọng không kém khả năng viết code.
Một công cụ AI có thể giúp lập trình viên tiết kiệm đáng kể thời gian, nhưng quyền truy cập càng lớn thì yêu cầu minh bạch càng cao. Người dùng cần biết chính xác dữ liệu nào được thu thập, dữ liệu nào được truyền đi, máy chủ nào tiếp nhận và thời gian lưu trữ là bao lâu.
Với doanh nghiệp, nguyên tắc quan trọng không chỉ là AI có làm đúng nhiệm vụ hay không, mà còn là AI đã xử lý dữ liệu như thế nào trong quá trình thực hiện nhiệm vụ đó.
Câu hỏi về sự cố ZCode
ZCode là gì?
ZCode là công cụ lập trình AI của Z.ai, được thiết kế để hỗ trợ nhà phát triển đọc mã nguồn, viết chương trình, tìm lỗi và làm việc với các dự án phần mềm.
ZCode có thực sự tải toàn bộ mã nguồn lên máy chủ không?
Các báo cáo cho thấy công cụ từng tạo các gói dữ liệu chứa workspace và lịch sử Git để tải lên Alibaba Cloud. Tuy nhiên, cần phân biệt giữa dữ liệu được đóng gói, dữ liệu được gửi đi và dữ liệu thực sự được lưu trữ thành công trên máy chủ.
Tại sao lịch sử Git lại đáng lo ngại?
Lịch sử Git có thể chứa nhiều phiên bản trước của mã nguồn, bao gồm những phần đã bị xóa khỏi phiên bản hiện tại. Trong một số dự án, nó cũng có thể chứa thông tin cấu hình hoặc dữ liệu nhạy cảm từng xuất hiện trong quá trình phát triển.
Z.ai đã làm gì sau sự cố?
Công ty cho biết đã khắc phục vấn đề, tạm ngừng một số chức năng, xóa dữ liệu liên quan và công bố mã nguồn ZCode để tăng tính minh bạch.
Đừng bỏ lỡ những tin tức mới nhất
Cập nhật những diễn biến mới về AI, công nghệ, tài chính và thị trường quốc tế tại Điểm Tin Nhanh.
Đọc tin mới trên Điểm Tin Nhanh
