Amazon cảnh báo làn sóng lạm dụng token AI: Kỹ sư cần chứng minh hiệu quả thay vì chạy theo số lượng

Amazon thay đổi cách đánh giá hiệu quả sử dụng trí tuệ nhân tạo

Amazon đang khuyến khích các kỹ sư phần mềm sử dụng trí tuệ nhân tạo (AI) có chọn lọc hơn, đồng thời cảnh báo việc chạy theo số lượng token hoặc lượng mã do AI tạo ra có thể khiến doanh nghiệp tốn kém mà không cải thiện năng suất tương ứng.

Trong một bản ghi nhớ nội bộ gửi nhân viên, tập đoàn công nghệ Mỹ cho rằng các chỉ số như mức sử dụng token, tốc độ áp dụng công cụ AI và số lượng thay đổi mã vẫn tồn tại những hạn chế đáng kể nếu được sử dụng để đánh giá hiệu quả của một nhóm kỹ thuật. Theo Amazon, cách đo lường thiếu toàn diện có thể làm tăng chi phí và khiến quy trình phát triển phần mềm trở nên phức tạp hơn.

Bản ghi nhớ được lưu hành nội bộ vào tháng 9 và đăng tải trên trang web của công ty vào thứ Ba, đồng thời điều chỉnh cách Amazon xác định vai trò của kỹ sư phần mềm và các nhà quản lý phát triển phần mềm trong thời đại AI.

Amazon nhận định ngành kỹ thuật phần mềm mới chỉ bắt đầu chứng kiến tác động của trí tuệ nhân tạo. Mặc dù doanh nghiệp đã có những định hướng cho tương lai, nhiều phương pháp làm việc vẫn đang trong quá trình hình thành. Tuy nhiên, công ty tin rằng AI sẽ tiếp tục giữ vị trí trung tâm trong hoạt động kỹ thuật phần mềm.

Thông điệp của Amazon không đồng nghĩa với việc doanh nghiệp giảm cam kết đối với AI. Thay vào đó, công ty muốn nhân viên tập trung vào việc sử dụng công nghệ để giải quyết những vấn đề thực sự quan trọng, thay vì tối đa hóa các chỉ số thể hiện mức độ sử dụng công cụ.

Động thái này diễn ra trong bối cảnh nhiều doanh nghiệp đang đẩy mạnh ứng dụng AI nhưng đồng thời phải tìm lời giải cho hai vấn đề lớn: chi phí công nghệ tăng nhanh và khó xác định chính xác liệu AI có giúp nhân viên làm việc hiệu quả hơn hay không.

Tokenmaxxing là gì và vì sao Amazon quan ngại?

Token là đơn vị dữ liệu mà mô hình AI xử lý hoặc tạo ra khi tiếp nhận yêu cầu và trả về kết quả. Tùy thuộc vào mô hình, cách tính phí và khối lượng công việc, lượng token sử dụng có thể ảnh hưởng trực tiếp đến chi phí vận hành.

Trong quá trình triển khai AI, một số doanh nghiệp bắt đầu chú ý đến hiện tượng được gọi là “tokenmaxxing”. Thuật ngữ này mô tả xu hướng tối đa hóa lượng token sử dụng, đôi khi mà không quan tâm đầy đủ đến chất lượng đầu ra hoặc giá trị thực tế của công việc được hoàn thành.

Đối với kỹ sư phần mềm, AI có thể hỗ trợ viết mã, tìm lỗi, tạo tài liệu và phát triển tính năng. Tuy nhiên, sử dụng AI nhiều hơn không tự động đồng nghĩa với việc hoàn thành nhiều công việc có giá trị hơn.

Một kỹ sư có thể tiêu thụ lượng token lớn nhưng vẫn phải dành nhiều thời gian để kiểm tra, sửa chữa hoặc viết lại mã do AI tạo ra. Nếu kết quả không đáp ứng yêu cầu kỹ thuật, doanh nghiệp vừa phải chịu chi phí sử dụng mô hình vừa phải trả thêm chi phí nhân lực để xử lý các vấn đề phát sinh.

Tương tự, lượng mã được tạo ra có thể tăng đáng kể nhưng không giúp sản phẩm được phát hành nhanh hơn, không cải thiện độ ổn định và cũng không giải quyết được nhu cầu quan trọng của khách hàng.

Đây là lý do Amazon cho rằng mức sử dụng token và số lượng mã không nên được xem là những thước đo độc lập để đánh giá hiệu quả ứng dụng AI.

Vấn đề cốt lõi không nằm ở việc kỹ sư sử dụng bao nhiêu token, mà là họ có tạo ra kết quả tốt hơn nhờ nguồn lực đã đầu tư hay không.

Nếu AI giúp rút ngắn thời gian phát triển, nâng cao chất lượng sản phẩm hoặc giải quyết vấn đề trước đây đòi hỏi nhiều nguồn lực, việc sử dụng công cụ có thể mang lại giá trị rõ ràng. Ngược lại, nếu mức sử dụng tăng nhưng kết quả không cải thiện, doanh nghiệp cần xem xét lại cách triển khai.

Amazon từng đóng bảng xếp hạng nội bộ vì nhân viên lạm dụng token

Một trong những chi tiết đáng chú ý của câu chuyện là Amazon đã đóng bảng xếp hạng nội bộ vào tháng 5 sau khi phát hiện nhân viên lạm dụng token để cải thiện thứ hạng của mình.

Sự việc cho thấy một hệ thống đo lường có thể tạo ra hành vi không mong muốn nếu chỉ số được sử dụng trở thành mục tiêu thành tích. Khi nhân viên được khuyến khích tối đa hóa lượng token, họ có thể tập trung vào việc tăng mức sử dụng AI thay vì cải thiện chất lượng hoặc hiệu quả công việc.

Đây là vấn đề quen thuộc trong quản trị doanh nghiệp. Một chỉ số ban đầu được thiết kế để theo dõi hoạt động có thể trở nên kém hữu ích nếu người được đánh giá tìm cách tối ưu hóa con số đó mà không quan tâm đến mục tiêu thực sự.

Chẳng hạn, số dòng mã không phản ánh đầy đủ chất lượng phần mềm. Số lượng tác vụ được hoàn thành không thể hiện chính xác mức độ khó của từng nhiệm vụ. Tương tự, số lần gọi AI hoặc lượng token tiêu thụ không chứng minh rằng nhân viên đã tạo ra nhiều giá trị hơn cho doanh nghiệp.

Việc đóng bảng xếp hạng nội bộ cho thấy Amazon đã nhận diện được nguy cơ khi mức sử dụng token bị biến thành một mục tiêu cạnh tranh.

Theo thông tin trong bài viết nguồn, người phát ngôn của Amazon cho biết công ty chưa áp đặt giới hạn đối với lượng token mà nhân viên được sử dụng. Như vậy, hướng dẫn mới không đơn thuần là biện pháp cắt giảm quyền tiếp cận AI, mà nhấn mạnh yêu cầu sử dụng tài nguyên có cân nhắc.

Amazon cũng không yêu cầu nhân viên loại bỏ hoàn toàn những chỉ số như lượng token hoặc số lượng mã được tạo ra. Công ty cho rằng các dữ liệu này vẫn có thể cung cấp thông tin hữu ích, nhưng cần được xem xét cùng những chỉ số khác và đặt trong bối cảnh công việc thực tế.

Amazon ưu tiên tốc độ phát triển tính năng và kết quả thực tế

Thay vì chỉ theo dõi mức độ sử dụng AI, Amazon đang xem xét những chỉ số phản ánh trực tiếp hơn hiệu quả công việc của đội ngũ kỹ thuật.

Marc Brooker, phó chủ tịch kiêm kỹ sư ưu tú tại Amazon Web Services (AWS), cho biết công ty đã xem xét những yếu tố như tốc độ phát triển tính năng để đánh giá mức độ cải thiện năng suất của kỹ sư nhờ AI.

Theo Brooker, việc đánh giá có thể xem xét số lần ra mắt sản phẩm và số thay đổi được triển khai thành công trong môi trường vận hành thực tế.

Đây là những dữ liệu gắn với kết quả đầu ra mà doanh nghiệp quan tâm. Nếu một nhóm kỹ thuật có thể phát triển tính năng nhanh hơn, đưa sản phẩm ra thị trường hiệu quả hơn và triển khai những thay đổi cần thiết thành công, AI có thể đang mang lại lợi ích thiết thực.

Ngược lại, nếu nhóm sử dụng nhiều công cụ AI hơn nhưng thời gian phát triển không giảm, chất lượng phần mềm không cải thiện hoặc số lỗi tăng lên, mức sử dụng cao chưa thể được xem là bằng chứng của năng suất tốt hơn.

Brooker cho biết Amazon nhìn nhận việc đầu tư vào AI như một khoản đầu tư cần tạo ra giá trị. Khi có vấn đề quan trọng cần giải quyết cho khách hàng hoặc doanh nghiệp, công ty sẵn sàng đầu tư công cụ, thời gian, token và công sức của con người để xử lý.

Điều Amazon không muốn là nguồn lực bị lãng phí vào những công việc không quan trọng. Tuy nhiên, xác định chính xác nhiệm vụ nào tạo ra giá trị không phải lúc nào cũng dễ dàng. Vì vậy, doanh nghiệp cần duy trì tinh thần thử nghiệm để tìm ra cách sử dụng AI phù hợp.

Quan điểm này cho thấy Amazon không đặt mục tiêu giảm token bằng mọi giá. Điều công ty muốn đạt được là bảo đảm nguồn lực công nghệ và thời gian của nhân viên được đầu tư vào những nhiệm vụ có ý nghĩa.

Không phải nhiệm vụ nào cũng cần sử dụng AI

Bản ghi nhớ của Amazon cũng nhấn mạnh rằng nhân viên không nên coi việc không sử dụng AI trong một nhiệm vụ cụ thể là thất bại.

Công ty cho biết nếu công việc của một nhân viên không được hưởng lợi từ những công cụ AI hiện có, đó là một phát hiện chứ không phải thất bại. Amazon cũng cho rằng kỹ sư có thể giải thích rõ những trường hợp AI chưa hỗ trợ hiệu quả công việc đang thể hiện khả năng đánh giá mà công ty mong muốn.

Quan điểm này đặt trọng tâm vào năng lực chuyên môn thay vì yêu cầu nhân viên sử dụng AI trong mọi tình huống.

Trong phát triển phần mềm, AI có thể hỗ trợ viết mã, giải thích các đoạn mã phức tạp, tạo tài liệu, đề xuất phương án sửa lỗi hoặc xây dựng các trường hợp kiểm thử. Tuy nhiên, hiệu quả thực tế phụ thuộc vào tính chất của nhiệm vụ, chất lượng đầu vào và khả năng đánh giá kết quả.

Một số công việc đòi hỏi hiểu biết sâu về kiến trúc hệ thống, yêu cầu kinh doanh hoặc các thành phần quan trọng của phần mềm. Trong những trường hợp đó, kỹ sư vẫn phải kiểm tra kỹ tính chính xác, khả năng tương thích và mức độ an toàn của các thay đổi.

Nếu kết quả do AI tạo ra cần quá nhiều thời gian để xác minh hoặc chỉnh sửa, lợi ích về tốc độ có thể bị giảm đáng kể. Việc lựa chọn không sử dụng AI, hoặc chỉ sử dụng công nghệ trong một số bước nhất định, có thể là quyết định hợp lý hơn.

Cách tiếp cận này cũng hạn chế tình trạng nhân viên ứng dụng AI chỉ để đáp ứng yêu cầu nội bộ. Thay vì đánh giá mức độ thành công dựa trên tần suất sử dụng công cụ, doanh nghiệp có thể xem xét khả năng giải quyết vấn đề và chất lượng đầu ra.

Chi phí AI tăng khiến doanh nghiệp phải đánh giá lại lợi tức đầu tư

Amazon điều chỉnh hướng dẫn sử dụng AI trong bối cảnh nhiều công ty đang đối mặt với chi phí công nghệ tăng cao. Khi các nhóm kỹ thuật sử dụng mô hình AI thường xuyên hơn, tổng lượng tài nguyên tiêu thụ có thể tăng nhanh, đặc biệt đối với các nhiệm vụ phức tạp hoặc yêu cầu nhiều vòng xử lý.

Một số doanh nghiệp đã đặt giới hạn sử dụng token cho nhân viên nhằm kiểm soát chi phí. Những công ty khác chuyển sang các mô hình mã nguồn mở có chi phí thấp hơn đối với những nhiệm vụ phù hợp.

Tuy nhiên, giảm chi phí trực tiếp không phải lúc nào cũng đồng nghĩa với việc cải thiện hiệu quả tổng thể. Một mô hình có chi phí thấp hơn có thể đáp ứng các công việc đơn giản nhưng chưa chắc phù hợp với nhiệm vụ đòi hỏi độ chính xác cao. Ngược lại, sử dụng mô hình đắt tiền cho công việc không phức tạp có thể khiến doanh nghiệp phải chi tiêu nhiều hơn mức cần thiết.

Vì vậy, vấn đề quan trọng là lựa chọn đúng công cụ cho đúng nhiệm vụ, đồng thời đánh giá tổng chi phí để hoàn thành công việc.

Tổng chi phí có thể bao gồm tiền sử dụng mô hình, thời gian kiểm tra kết quả, công sức sửa lỗi, chi phí bảo trì và những vấn đề phát sinh khi triển khai sản phẩm vào môi trường thực tế.

Một công cụ AI giúp viết mã nhanh hơn nhưng tạo ra phần mềm khó bảo trì có thể không mang lại lợi ích như kỳ vọng. Ngược lại, một mô hình có chi phí cao hơn vẫn có thể là khoản đầu tư hiệu quả nếu giúp giảm lỗi nghiêm trọng, rút ngắn thời gian phát triển hoặc nâng cao chất lượng sản phẩm.

Cách tiếp cận mà Amazon đưa ra hướng đến việc đánh giá hiệu quả đầu tư trên cơ sở kết quả cuối cùng, thay vì chỉ quan tâm đến mức tiêu thụ tài nguyên.

Đối với doanh nghiệp, điều này đồng nghĩa với việc cần nhìn nhận AI như một khoản đầu tư kinh doanh có mục tiêu, chi phí và kết quả cần được đánh giá rõ ràng.

AI có thể thay đổi vai trò của kỹ sư phần mềm

Dưới sự lãnh đạo của CEO Andy Jassy, Amazon đã nhanh chóng tích hợp AI vào nhiều hoạt động kinh doanh. Trước đây, Jassy từng dự báo AI sẽ thay đổi phạm vi và tốc độ của công việc hằng ngày, đồng thời có khả năng thu hẹp lực lượng lao động trong vài năm tới thông qua tự động hóa. Ông cũng lưu ý rằng công nghệ này sẽ tạo ra những công việc khác.

Trong lĩnh vực kỹ thuật phần mềm, AI có thể đảm nhận một phần nhiệm vụ lặp lại, hỗ trợ tạo mã và giúp nhân viên xử lý công việc nhanh hơn. Tuy nhiên, khả năng tạo mã không đồng nghĩa với việc toàn bộ quy trình phát triển phần mềm có thể được tự động hóa mà không cần kiểm soát.

Kỹ sư vẫn cần xác định đúng vấn đề, lựa chọn kiến trúc phù hợp, đánh giá chất lượng, kiểm tra bảo mật và chịu trách nhiệm về những thay đổi được đưa vào hệ thống.

Khi AI có thể hỗ trợ nhiều công việc mang tính lặp lại, năng lực đánh giá chuyên môn, giải quyết vấn đề và kiểm soát chất lượng có thể trở nên quan trọng hơn trong quá trình phát triển sản phẩm.

Đối với nhà quản lý, thách thức là xây dựng phương pháp đánh giá phản ánh đầy đủ giá trị mà đội ngũ kỹ thuật tạo ra. Tốc độ phát triển tính năng cần được xem xét cùng chất lượng, độ ổn định, khả năng bảo trì và mức độ đáp ứng nhu cầu khách hàng.

Bản ghi nhớ của Amazon chưa đưa ra một công thức duy nhất để đo lường năng suất trong thời đại AI. Thay vào đó, công ty thừa nhận rằng các phương pháp thực hành tốt nhất vẫn đang hình thành và cần được thử nghiệm trong thực tế.

Điều này cho thấy việc triển khai AI không kết thúc ở việc cung cấp công cụ cho nhân viên. Doanh nghiệp còn phải điều chỉnh quy trình làm việc, xây dựng cơ chế kiểm soát và lựa chọn những chỉ số phù hợp để xác định công nghệ có thực sự tạo ra giá trị hay không.

Bài học cho doanh nghiệp trong cuộc đua ứng dụng AI

Từ hướng dẫn của Amazon, có thể rút ra một số nguyên tắc quan trọng đối với các doanh nghiệp đang triển khai trí tuệ nhân tạo.

Thứ nhất, không nên biến mức sử dụng AI thành mục tiêu độc lập. Token, số lần gọi mô hình và lượng mã được tạo ra có thể là dữ liệu tham khảo, nhưng không nên được dùng làm căn cứ duy nhất để đánh giá hiệu suất.

Thứ hai, doanh nghiệp cần xác định rõ mục tiêu trước khi đầu tư. AI được triển khai để giảm thời gian xử lý, cải thiện chất lượng, tăng tốc phát triển sản phẩm hay giải quyết một vấn đề cụ thể? Câu trả lời cần gắn với kết quả có thể theo dõi.

Thứ ba, phải đánh giá tổng chi phí thay vì chỉ xem hóa đơn sử dụng mô hình. Thời gian kiểm tra, sửa lỗi và duy trì sản phẩm cũng ảnh hưởng trực tiếp đến hiệu quả đầu tư.

Thứ tư, cần cho phép nhân viên lựa chọn công cụ phù hợp với từng nhiệm vụ. Không phải công việc nào cũng cần AI và việc sử dụng công nghệ một cách máy móc có thể tạo ra chi phí mà không mang lại lợi ích tương ứng.

Cuối cùng, doanh nghiệp cần duy trì tinh thần thử nghiệm. Các mô hình AI và quy trình làm việc đang phát triển nhanh chóng, vì vậy phương pháp đo lường hiệu quả cũng cần được điều chỉnh theo thực tế.

Thông điệp của Amazon tương đối rõ ràng: AI cần phục vụ mục tiêu kinh doanh, không phải trở thành một chỉ tiêu để nhân viên chạy theo. Doanh nghiệp có thể đạt kết quả tốt hơn ngay cả khi sử dụng ít token hơn, miễn là công cụ được lựa chọn đúng và nguồn lực được tập trung vào những vấn đề quan trọng.

Trong cuộc đua AI, lợi thế cạnh tranh không chỉ thuộc về những công ty sử dụng công nghệ nhiều nhất. Khả năng biến công nghệ thành kết quả thực tế, kiểm soát chi phí và duy trì chất lượng mới là những yếu tố quyết định hiệu quả đầu tư dài hạn.

Nguồn tham khảo: Bài viết nguồn do người dùng cung cấp về bản ghi nhớ nội bộ của Amazon, phát biểu của Marc Brooker và định hướng ứng dụng AI của công ty.

Câu hỏi thường gặp về chính sách sử dụng AI của Amazon

1. Vì sao Amazon cảnh báo kỹ sư không nên chạy theo token AI?

Amazon cho rằng lượng token sử dụng không phản ánh đầy đủ năng suất. Việc tối đa hóa token có thể làm tăng chi phí và lượng mã được tạo ra nhưng không nhất thiết cải thiện chất lượng sản phẩm hoặc tốc độ phát triển.

2. Tokenmaxxing là gì?

Tokenmaxxing là xu hướng tối đa hóa lượng token tiêu thụ khi sử dụng AI, đôi khi không chú trọng đầy đủ đến chất lượng đầu ra hoặc giá trị công việc. Cách tiếp cận này có thể khiến nhân viên tập trung vào mức sử dụng công nghệ thay vì kết quả thực tế.

3. Amazon có giới hạn lượng token mà nhân viên được sử dụng không?

Theo người phát ngôn của Amazon trong bài viết nguồn, công ty chưa áp đặt giới hạn sử dụng token đối với nhân viên. Hướng dẫn mới nhấn mạnh việc sử dụng tài nguyên có cân nhắc và đánh giá hiệu quả dựa trên kết quả.

4. Amazon sử dụng những chỉ số nào để đo lường năng suất AI?

Marc Brooker cho biết Amazon xem xét tốc độ phát triển tính năng, số lần ra mắt sản phẩm và số thay đổi được triển khai thành công trong môi trường thực tế. Những chỉ số này giúp đánh giá kết quả công việc thay vì chỉ đo mức độ sử dụng AI.

5. Amazon có khuyến khích nhân viên ngừng sử dụng AI không?

Không. Amazon coi AI là một phần quan trọng của kỹ thuật phần mềm. Công ty khuyến khích nhân viên sử dụng công cụ phù hợp với nhiệm vụ và thừa nhận rằng có những trường hợp AI chưa mang lại lợi ích rõ ràng.

6. Doanh nghiệp nên đánh giá hiệu quả đầu tư AI như thế nào?

Doanh nghiệp nên kết hợp chi phí sử dụng mô hình với thời gian hoàn thành công việc, chất lượng sản phẩm, tỷ lệ lỗi, tốc độ triển khai và giá trị mang lại cho khách hàng. Chỉ số token nên được sử dụng như dữ liệu tham khảo, không phải tiêu chí duy nhất.