Chi phí để AI thực hiện các phép tính và tạo ra câu trả lời đang giảm với tốc độ đáng kinh ngạc, ngay cả khi các tập đoàn công nghệ toàn cầu vẫn đang đổ hàng trăm tỷ USD vào chip, trung tâm dữ liệu và hạ tầng AI.
Theo nghiên cứu của Epoch AI, chi phí suy luận để đạt được cùng một mức hiệu năng AI đã giảm khoảng 47% mỗi quý kể từ năm 2023.
Điều đó đồng nghĩa chi phí cần thiết để một hệ thống AI giải quyết một bài toán có cùng mức độ khó đang giảm xuống rất nhanh. Tính theo chu kỳ một năm, mức giảm này tương đương việc chi phí suy luận chỉ còn khoảng 1/13 so với một năm trước.
Đây là một xu hướng đặc biệt đáng chú ý bởi nó diễn ra song song với làn sóng đầu tư cơ sở hạ tầng AI chưa từng có.
Các tập đoàn công nghệ đang xây dựng những trung tâm dữ liệu khổng lồ, mua hàng triệu GPU và đầu tư vào hệ thống điện, mạng lưới cùng các cụm máy tính chuyên dụng. Nhưng ở chiều ngược lại, chi phí sử dụng chính năng lực tính toán đó để tạo ra kết quả AI lại đang giảm nhanh chóng.
Chi phí AI đang giảm nhanh hơn nhiều công nghệ trong lịch sử
Epoch AI cho rằng tốc độ giảm chi phí suy luận AI hiện nay là một hiện tượng hiếm thấy trong lịch sử công nghệ.
Ngay cả sau khi điều chỉnh theo lạm phát, tốc độ giảm chi phí này được cho là nhanh hơn khoảng 4 lần so với công nghệ phân tích DNA, nhanh hơn khoảng 6 lần so với sự tiến bộ về sức mạnh xử lý máy tính và nhanh hơn tới 18 lần so với pin lithium-ion.
Nếu xu hướng này tiếp tục, AI có thể trở thành một trong những công nghệ có tốc độ giảm chi phí nhanh nhất từng được thương mại hóa.
Điều này có ý nghĩa rất lớn.
Trong quá khứ, những công nghệ mới thường bắt đầu với chi phí cao và sau đó giảm dần khi quy mô sản xuất tăng lên, phần cứng được tối ưu và quy trình sản xuất trở nên hiệu quả hơn.
AI đang trải qua một quá trình tương tự, nhưng với tốc độ nhanh hơn đáng kể.
Không chỉ chip mạnh hơn.
Các mô hình AI ngày càng được tối ưu, phần mềm hiệu quả hơn, kỹ thuật huấn luyện và suy luận tiến bộ hơn, đồng thời các nhà phát triển tìm ra nhiều phương pháp giúp mô hình nhỏ hơn đạt được hiệu năng trước đây chỉ có ở các hệ thống lớn.
Một năm chi phí giảm xuống còn một phần mười ba
Con số 47% mỗi quý có thể không gây ấn tượng nếu chỉ nhìn riêng từng quý.
Nhưng khi được cộng dồn theo thời gian, tác động trở nên rất lớn.
Nếu chi phí giảm khoảng 47% sau mỗi quý, sau bốn quý tổng chi phí sẽ chỉ còn một phần nhỏ so với thời điểm ban đầu.
Theo cách Epoch AI mô tả, chi phí suy luận để đạt cùng một mức hiệu năng AI giảm xuống khoảng 1/13 trong vòng một năm.
Điều này tạo ra một hiệu ứng tương tự định luật Moore nhưng diễn ra trên nhiều lớp công nghệ cùng lúc.
Phần cứng ngày càng mạnh hơn.
Thuật toán ngày càng hiệu quả hơn.
Mô hình ngày càng tối ưu hơn.
Và khả năng triển khai AI với chi phí thấp hơn ngày càng phổ biến.
Khi tất cả những yếu tố này cùng diễn ra, giá thành của một đơn vị “trí thông minh nhân tạo” có thể giảm nhanh hơn rất nhiều so với giá của phần cứng đơn thuần.
Ví dụ từ các mô hình AI cho thấy mức giảm khủng khiếp
Một ví dụ được Epoch AI sử dụng để minh họa là chi phí để các mô hình đạt được một mức hiệu năng nhất định trong bài kiểm tra GPQA Diamond.
GPQA Diamond là bài kiểm tra được thiết kế với các câu hỏi khoa học có độ khó cao, đòi hỏi kiến thức tương đương trình độ sau đại học, bao gồm vật lý, hóa học và sinh học.
Theo dữ liệu được dẫn trong nội dung nghiên cứu, mô hình o3 của OpenAI, ra mắt vào tháng 1/2025, cần khoảng 30 cent cho mỗi câu hỏi để đạt mức chính xác khoảng 75% trong bài kiểm tra này.
Trong khi đó, khoảng một năm rưỡi sau, một mô hình tiên tiến hơn có thể đạt mức điểm tương đương với chi phí chỉ khoảng 0,04 cent cho mỗi câu hỏi theo cách tính được nêu trong nguồn.
Đây là một mức giảm cực kỳ lớn.
Epoch AI ví von sự thay đổi này tương tự việc một chiếc ô tô mới có giá 50 triệu won đột nhiên giảm xuống chỉ còn khoảng 70.000 won trong vòng một năm rưỡi.
Dù đây là phép so sánh nhằm minh họa tốc độ giảm chi phí chứ không phải giá bán thực tế của một chiếc xe, nó cho thấy mức độ thay đổi đáng chú ý của kinh tế học AI.
“Chưng cất” đang đẩy nhanh cuộc đua giảm giá
Một trong những nguyên nhân khiến chi phí suy luận AI giảm nhanh là sự phổ biến của các kỹ thuật distillation, hay còn gọi là chưng cất mô hình.
Về cơ bản, chưng cất cho phép một mô hình nhỏ hơn học cách tái tạo một phần khả năng của mô hình lớn.
Một mô hình AI tiên tiến có thể sở hữu hàng trăm tỷ tham số và yêu cầu lượng tài nguyên khổng lồ để vận hành.
Nhưng nếu các nhà phát triển có thể chuyển một phần khả năng của mô hình lớn sang một mô hình nhỏ hơn, chi phí suy luận có thể giảm đáng kể.
Mô hình nhỏ hơn cần ít bộ nhớ hơn, ít năng lực tính toán hơn và có thể trả lời nhanh hơn.
Điều này đặc biệt quan trọng đối với các doanh nghiệp muốn triển khai AI ở quy mô lớn.
Một chatbot có vài triệu người dùng sẽ tạo ra hàng tỷ hoặc hàng chục tỷ lượt truy vấn.
Chỉ cần giảm vài phần trăm chi phí cho mỗi truy vấn, tổng số tiền tiết kiệm có thể lên tới hàng trăm triệu USD.
Chi phí giảm 66% mỗi quý nhờ kinh nghiệm triển khai
Theo nội dung nghiên cứu được dẫn lại, khi các phương pháp chưng cất và các kỹ thuật tối ưu khác được áp dụng rộng rãi, chi phí triển khai một mức hiệu năng AI tương đương đã có thời điểm giảm khoảng 66% mỗi quý.
Đây là con số thậm chí còn mạnh hơn mức giảm trung bình 47% mỗi quý được quan sát trong giai đoạn dài hơn.
Điều này cho thấy ngành AI không chỉ đang tiến bộ nhờ những đột phá trong nghiên cứu.
Kinh nghiệm triển khai thực tế cũng đang đóng vai trò quan trọng.
Mỗi khi một công ty phát hiện cách giảm thời gian xử lý, tối ưu bộ nhớ, giảm số phép tính hoặc sử dụng phần cứng hiệu quả hơn, toàn ngành có thể nhanh chóng học hỏi.
Đây chính là đặc điểm khiến AI khác biệt so với nhiều ngành công nghiệp truyền thống.
Phần mềm có thể được cập nhật gần như ngay lập tức và các kỹ thuật tối ưu hóa có thể được chia sẻ, tái tạo hoặc điều chỉnh với tốc độ rất nhanh.
Đầu tư AI tăng nhưng giá suy luận lại giảm
Một nghịch lý đang hình thành trong ngành AI.
Một mặt, chi phí xây dựng hạ tầng AI đang tăng mạnh.
Các công ty công nghệ lớn đang cạnh tranh để mua GPU, xây dựng trung tâm dữ liệu, ký hợp đồng điện dài hạn và phát triển những cụm máy tính có quy mô chưa từng có.
Các dự án trung tâm dữ liệu AI có thể cần hàng tỷ, thậm chí hàng chục tỷ USD vốn đầu tư.
Nhưng mặt khác, chi phí sử dụng mỗi đơn vị năng lực AI lại giảm.
Điều này không nhất thiết là mâu thuẫn.
Một ngành công nghiệp có thể đầu tư ngày càng nhiều tiền vào cơ sở hạ tầng trong khi giá dịch vụ cuối cùng giảm nhờ năng suất tăng.
Điều tương tự từng xảy ra trong ngành viễn thông và máy tính.
Các công ty có thể đầu tư rất lớn vào mạng lưới mới nhưng chi phí cho mỗi gigabyte dữ liệu hoặc mỗi đơn vị tính toán lại giảm mạnh theo thời gian.
AI có thể đang đi theo quỹ đạo tương tự.
Điều này có thể gây áp lực lên giá dịch vụ AI
Nếu chi phí suy luận tiếp tục giảm với tốc độ hiện tại, các công ty AI sẽ phải đối mặt với một vấn đề chiến lược.
Khi chi phí vận hành giảm, khách hàng sẽ kỳ vọng giá dịch vụ giảm theo.
Điều đó có thể dẫn đến một cuộc cạnh tranh về giá giữa các mô hình AI.
Một công ty có thể giảm giá API để giành thị phần.
Đối thủ buộc phải giảm theo.
Khách hàng có thể sử dụng AI nhiều hơn vì chi phí thấp hơn.
Tổng nhu cầu tính toán tăng mạnh và bù đắp một phần tác động của việc giá mỗi truy vấn giảm.
Đây là một trong những lý do tại sao chi phí AI giảm không đồng nghĩa nhu cầu trung tâm dữ liệu sẽ giảm.
Ngược lại, AI càng rẻ, người dùng càng có xu hướng sử dụng nhiều hơn.
AI rẻ hơn có thể mở rộng thị trường nhanh chóng
Hãy hình dung một doanh nghiệp trước đây phải trả 1 triệu USD mỗi tháng cho các tác vụ AI.
Nếu chi phí giảm 10 lần, doanh nghiệp có thể lựa chọn giảm hóa đơn xuống 100.000 USD.
Nhưng họ cũng có thể sử dụng ngân sách 1 triệu USD để triển khai AI nhiều hơn gấp 10 lần.
Ví dụ, thay vì chỉ dùng AI cho chăm sóc khách hàng, doanh nghiệp có thể triển khai thêm AI cho phân tích dữ liệu, lập trình, marketing, nghiên cứu thị trường, xử lý tài liệu và tự động hóa quy trình nội bộ.
Đây là hiệu ứng thường thấy khi công nghệ trở nên rẻ hơn.
Giá thấp tạo ra nhu cầu mới.
Nhu cầu mới lại thúc đẩy đầu tư vào cơ sở hạ tầng.
Vì vậy, ngay cả khi giá mỗi đơn vị suy luận giảm mạnh, tổng nhu cầu tính toán AI vẫn có thể tiếp tục tăng.
Các công ty AI có thể mất lợi thế giá rất nhanh
Epoch AI đưa ra một cảnh báo đáng chú ý đối với các tập đoàn công nghệ lớn.
Ngay cả khi một công ty bỏ ra lượng vốn khổng lồ để phát triển mô hình AI tiên tiến, khoảng thời gian mà công ty đó có thể duy trì mức giá cao nhờ lợi thế công nghệ có thể rất ngắn.
Nếu một kỹ thuật mới được phát triển, các đối thủ có thể nhanh chóng nghiên cứu, tối ưu hoặc tái tạo một phần khả năng đó.
Kỹ thuật chưng cất càng phổ biến, khoảng cách giữa mô hình tiên tiến nhất và các mô hình nhỏ hơn càng có thể thu hẹp.
Điều này khiến lợi thế công nghệ khó duy trì trong thời gian dài.
Nói cách khác, AI có thể trở thành một thị trường mà lợi thế hôm nay rất dễ trở thành tính năng tiêu chuẩn vào ngày mai.
Mô hình kinh doanh AI sẽ thay đổi?
Xu hướng giảm chi phí có thể buộc các công ty AI phải suy nghĩ lại về cách kiếm tiền.
Nếu chi phí suy luận liên tục giảm, việc chỉ bán quyền truy cập vào một mô hình AI có thể ngày càng khó tạo ra biên lợi nhuận cao.
Các công ty có thể phải tập trung vào những lớp giá trị khác như hệ sinh thái, dữ liệu, tác nhân AI, ứng dụng doanh nghiệp, tích hợp quy trình và dịch vụ chuyên biệt.
Điều này cũng có thể giải thích tại sao cuộc cạnh tranh AI đang chuyển từ việc “ai có mô hình thông minh nhất” sang “ai có thể biến mô hình thành sản phẩm có giá trị nhất”.
Mô hình tốt hơn vẫn quan trọng, nhưng chi phí và khả năng triển khai ở quy mô lớn ngày càng trở thành yếu tố quyết định.
Chi phí AI giảm có làm giảm nhu cầu chip?
Không nhất thiết.
Đây là một trong những hiểu lầm dễ xuất hiện khi nói về xu hướng giảm chi phí suy luận.
Nếu mỗi truy vấn AI rẻ hơn, số lượng truy vấn có thể tăng mạnh.
Một công ty trước đây sử dụng 1 triệu lượt suy luận mỗi tháng có thể tăng lên 20 triệu lượt nếu chi phí giảm đủ sâu.
Khi đó, tổng nhu cầu tính toán vẫn tăng.
Vì vậy, Nvidia và các nhà cung cấp chip AI vẫn có thể hưởng lợi ngay cả khi giá mỗi đơn vị suy luận giảm.
Điều quan trọng là tốc độ tăng tổng khối lượng tính toán so với tốc độ giảm chi phí trên mỗi đơn vị.
Cuộc cách mạng AI có thể nằm ở chi phí chứ không chỉ ở năng lực
Trong nhiều năm, câu chuyện AI chủ yếu xoay quanh việc mô hình nào thông minh hơn, có khả năng suy luận tốt hơn hoặc đạt điểm cao hơn trong các bài kiểm tra.
Nhưng khi công nghệ bước vào giai đoạn thương mại hóa quy mô lớn, một câu hỏi khác ngày càng quan trọng: AI đó có giá bao nhiêu để sử dụng?
Nếu một mô hình có năng lực tương đương nhưng chi phí vận hành thấp hơn 10 lần, nó có thể trở nên hấp dẫn hơn rất nhiều đối với doanh nghiệp.
Nếu chi phí thấp hơn 100 lần, những ứng dụng trước đây không có tính kinh tế có thể đột nhiên trở nên khả thi.
Đó có thể là bước ngoặt lớn nhất của AI trong những năm tới.
Theo dữ liệu được Epoch AI dẫn lại, tốc độ giảm chi phí suy luận hiện nay vượt xa nhiều công nghệ từng tạo ra những cuộc cách mạng năng suất trong lịch sử.
Điều này cũng tạo ra một nghịch lý: các công ty có thể phải chi hàng chục tỷ USD để xây dựng hạ tầng AI, nhưng giá của chính năng lực tính toán mà họ cung cấp lại liên tục giảm.
Với người dùng và doanh nghiệp, đây là tin tốt. AI ngày càng rẻ có nghĩa nhiều công việc trước đây quá đắt để tự động hóa sẽ trở nên khả thi.
Nhưng với các công ty AI, đây lại là một cuộc đua khắc nghiệt hơn.
Lợi thế công nghệ có thể tồn tại trong thời gian ngắn. Giá có thể giảm nhanh. Đối thủ có thể bắt kịp nhanh chóng.
Và khi AI tiến gần hơn tới một loại “hàng hóa tính toán” phổ biến, người chiến thắng cuối cùng có thể không phải là công ty sở hữu mô hình mạnh nhất, mà là công ty vận hành mô hình hiệu quả nhất, bán được nhiều nhất và xây dựng được hệ sinh thái khó thay thế nhất.
Nguồn tham khảo: Epoch AI và các thông tin được trình bày trong nội dung gốc do người dùng cung cấp.
Câu hỏi thường gặp về chi phí suy luận AI
Chi phí suy luận AI là gì?
Chi phí suy luận là chi phí tính toán cần thiết để một mô hình AI xử lý yêu cầu của người dùng và tạo ra kết quả. Nó khác với chi phí huấn luyện ban đầu của mô hình.
Tại sao chi phí suy luận AI đang giảm nhanh?
Có nhiều nguyên nhân, bao gồm chip mạnh hơn, phần mềm tối ưu hơn, mô hình nhỏ hơn, kỹ thuật chưng cất, tối ưu bộ nhớ và kinh nghiệm triển khai AI ngày càng nhiều.
Chi phí suy luận AI giảm 47% mỗi quý có ý nghĩa gì?
Nếu xu hướng này duy trì, chi phí để đạt cùng một mức hiệu năng AI sẽ giảm rất nhanh theo thời gian. Theo cách tính được nêu trong nghiên cứu, chi phí có thể chỉ còn khoảng 1/13 sau một năm.
Chưng cất mô hình AI là gì?
Đây là phương pháp giúp mô hình nhỏ hơn học hoặc tái tạo một phần khả năng của mô hình lớn hơn, từ đó giảm yêu cầu tính toán và chi phí vận hành.
AI càng rẻ có khiến trung tâm dữ liệu giảm đầu tư không?
Không nhất thiết. AI rẻ hơn có thể kích thích nhu cầu sử dụng tăng mạnh, khiến tổng nhu cầu tính toán vẫn tăng dù chi phí trên mỗi truy vấn giảm.
Chi phí suy luận giảm có ảnh hưởng đến các công ty AI lớn không?
Có. Nếu giá suy luận giảm nhanh, các công ty khó duy trì mức giá cao trong thời gian dài chỉ nhờ lợi thế công nghệ. Họ có thể phải cạnh tranh bằng sản phẩm, hệ sinh thái, dữ liệu và dịch vụ.
