CEO Salesforce Marc Benioff: “Không thể để trí tuệ nhân tạo trở thành mạng xã hội phiên bản 2.0”

Trí tuệ nhân tạo đang bước vào giai đoạn phát triển nhanh chưa từng có, kéo theo những kỳ vọng lớn về năng suất, tự động hóa và thay đổi cách con người làm việc. Tuy nhiên, cùng với cơ hội là câu hỏi ngày càng cấp thiết về trách nhiệm của những doanh nghiệp đang xây dựng các hệ thống AI mạnh mẽ.

Tại Dreamforce, sự kiện phần mềm thường niên của Salesforce, Marc Benioff, đồng sáng lập kiêm CEO Salesforce, đưa ra một thông điệp đáng chú ý: ngành AI không nên đi theo con đường mà mạng xã hội từng trải qua.

Trong cuộc trao đổi với Yahoo Finance tại trụ sở Salesforce ở San Francisco, Benioff cho rằng các nhà lãnh đạo AI cần hành động cụ thể để bảo đảm công nghệ được phát triển và triển khai với mức độ an toàn cao hơn.

Theo ông, những bài học từ hơn một thập kỷ phát triển của mạng xã hội không nên bị bỏ qua.

“Chúng ta không thể để trí tuệ nhân tạo trở thành mạng xã hội phiên bản 2.0”, Benioff nhấn mạnh.

Đằng sau cảnh báo này là những tranh luận kéo dài về tác động của mạng xã hội đối với trẻ em, sức khỏe cộng đồng, thông tin sai lệch và khả năng lan truyền nhanh chóng của những nội dung gây ảnh hưởng tiêu cực.

Benioff cho rằng ngành AI đang đứng trước cơ hội để tránh lặp lại những vấn đề đó ngay từ giai đoạn đầu.

Trách nhiệm phải thuộc về những người xây dựng AI

Một trong những điểm đáng chú ý nhất trong phát biểu của Marc Benioff là quan điểm về trách nhiệm của doanh nghiệp.

Theo CEO Salesforce, các công ty công nghệ không thể chỉ tạo ra sản phẩm rồi đẩy trách nhiệm cho người sử dụng hoặc cho xã hội khi công nghệ phát sinh hậu quả ngoài dự kiến.

Thay vào đó, những người phát triển sản phẩm và viết mã nguồn phải đóng vai trò trung tâm trong việc kiểm soát rủi ro.

Benioff cho rằng ngành công nghiệp AI cần xây dựng một nền tảng đạo đức rõ ràng, trong đó doanh nghiệp và lãnh đạo doanh nghiệp phải chịu trách nhiệm về những gì họ tạo ra.

Quan điểm này đặc biệt đáng chú ý trong bối cảnh AI đang chuyển từ các chatbot đơn thuần sang những hệ thống có khả năng thực hiện nhiều tác vụ phức tạp hơn.

Các mô hình AI hiện nay có thể hỗ trợ lập trình, phân tích dữ liệu, tạo nội dung, xử lý tài liệu và ngày càng tham gia sâu hơn vào hoạt động kinh doanh. Khi khả năng của hệ thống tăng lên, những câu hỏi về trách nhiệm đối với kết quả do AI tạo ra cũng trở nên phức tạp hơn.

Benioff cho rằng đây chính là lúc các doanh nghiệp phải xác định rõ trách nhiệm của mình.

Ông lập luận rằng với tư cách là kỹ sư, nhà phát triển phần mềm và người tạo sản phẩm, ông hiểu rằng sản phẩm của mình phải gắn với trách nhiệm của người tạo ra nó.

Salesforce muốn chứng minh các nhà sản xuất phần mềm vẫn có vai trò trong kỷ nguyên AI

Thông điệp về an toàn AI được Marc Benioff đưa ra trong bối cảnh Salesforce đang tổ chức một kỳ Dreamforce thu hút sự chú ý lớn của ngành công nghệ.

Trong sự kiện, Salesforce giới thiệu hàng loạt sản phẩm và công nghệ liên quan đến AI, đồng thời tìm cách khẳng định vị trí của các công ty phần mềm ứng dụng trong giai đoạn phát triển mới của công nghệ.

Một trong những vấn đề được giới đầu tư quan tâm là liệu các nhà sản xuất mô hình AI có dần chiếm phần lớn giá trị của ngành phần mềm hay không.

Sự xuất hiện của nhiều mô hình nền tảng mạnh mẽ từ các công ty như OpenAI và Anthropic khiến thị trường phần mềm phải đặt lại câu hỏi về lợi thế cạnh tranh.

Tuy nhiên, Salesforce đang theo đuổi một hướng tiếp cận khác.

Thay vì chỉ cạnh tranh ở lớp mô hình nền tảng, công ty tập trung vào dữ liệu, ngữ cảnh doanh nghiệp, giao diện người dùng và khả năng đưa AI vào các quy trình kinh doanh thực tế.

Điều này giải thích vì sao những công bố sản phẩm tại Dreamforce nhận được sự quan tâm lớn từ giới phân tích.

AIforce và mô hình Koa với Nvidia trở thành tâm điểm

Một số thông báo quan trọng được đưa ra tại Dreamforce bao gồm AIforce và sự hợp tác giữa Salesforce với Nvidia để phát triển một mô hình mới có tên Koa.

Sự hợp tác với Nvidia đặc biệt đáng chú ý bởi Nvidia đang giữ vai trò quan trọng trong cơ sở hạ tầng AI toàn cầu.

Trong khi đó, Salesforce có thế mạnh lâu năm trong phần mềm doanh nghiệp, dữ liệu khách hàng và hệ sinh thái CRM.

Sự kết hợp giữa năng lực phần cứng, mô hình AI và dữ liệu doanh nghiệp đang trở thành một trong những hướng cạnh tranh quan trọng của ngành công nghệ.

Theo nhà phân tích J. Parker Lane của Stifel, sự xuất hiện tại Dreamforce của Jensen Huang, Dario Amodei và Sam Altman cho thấy cách tiếp cận tương đối cởi mở của Salesforce đối với cả mô hình AI và giao diện người dùng.

Ông cũng cho rằng dữ liệu và ngữ cảnh có thể trở thành lợi thế cạnh tranh quan trọng trong “kỷ nguyên tác nhân” — giai đoạn AI không chỉ trả lời câu hỏi mà còn có khả năng thực hiện chuỗi nhiệm vụ thay người dùng.

Đây là một thay đổi đáng kể so với thế hệ chatbot AI đầu tiên.

Nếu AI tác nhân có thể truy cập dữ liệu doanh nghiệp, hiểu bối cảnh và tự thực hiện công việc, giá trị của nền tảng phần mềm có thể không chỉ nằm ở mô hình AI mà còn nằm ở hệ thống dữ liệu và môi trường mà mô hình được triển khai.

Dario Amodei và Sam Altman cũng cảnh báo về tương lai AI

Marc Benioff không phải lãnh đạo công nghệ duy nhất đề cập đến những rủi ro của AI tại Dreamforce.

Dario Amodei, CEO Anthropic, và Sam Altman, CEO OpenAI, cũng xuất hiện tại sự kiện và chia sẻ những quan điểm liên quan đến sự phát triển nhanh chóng của trí tuệ nhân tạo.

Trong thời gian gần đây, cuộc tranh luận về an toàn AI đã chuyển từ vấn đề mang tính lý thuyết sang những câu hỏi thực tế hơn.

Khi các mô hình ngày càng mạnh, khả năng lập trình, suy luận, tự động hóa và tương tác với các hệ thống khác cũng tăng lên. Điều này mở ra nhiều ứng dụng mới nhưng đồng thời đặt ra yêu cầu kiểm soát rủi ro chặt chẽ hơn.

Nhiều nhân vật có ảnh hưởng trong ngành công nghệ và đầu tư cũng tham gia cuộc tranh luận này, trong đó có nhà đầu tư mạo hiểm Bill Gurley và CEO Meta Mark Zuckerberg.

Điểm chung trong các cuộc thảo luận là chưa có một giải pháp duy nhất có thể xử lý toàn bộ rủi ro do AI tạo ra.

Vì sao Benioff nhắc đến bài học từ mạng xã hội?

Mạng xã hội từng được kỳ vọng sẽ giúp con người kết nối dễ dàng hơn, mở rộng khả năng tiếp cận thông tin và tạo ra những cộng đồng trực tuyến mới.

Tuy nhiên, sau hơn một thập kỷ phát triển, xã hội cũng chứng kiến nhiều vấn đề liên quan đến nội dung độc hại, thông tin sai lệch, thao túng thông tin và tác động đến người dùng trẻ tuổi.

Benioff cho rằng AI có thể rút kinh nghiệm từ quá trình đó.

Thay vì chờ đến khi những tác động tiêu cực trở nên nghiêm trọng rồi mới xây dựng cơ chế kiểm soát, các doanh nghiệp AI cần đưa trách nhiệm vào ngay trong quá trình thiết kế và phát triển sản phẩm.

Đây cũng là lý do ông nhấn mạnh rằng những người có khả năng ngăn chặn các vấn đề ngay từ đầu chính là những người đang xây dựng hệ thống.

Nói cách khác, an toàn AI không nên chỉ được xem là nhiệm vụ của cơ quan quản lý hay người sử dụng cuối cùng. Nó cần trở thành một phần của quá trình thiết kế sản phẩm.

AI đang bước vào giai đoạn cạnh tranh về dữ liệu và ngữ cảnh

Một điểm đáng chú ý khác từ Dreamforce là cuộc cạnh tranh AI đang dần chuyển sang nhiều lớp khác nhau.

Ở lớp đầu tiên là các mô hình nền tảng do những công ty như OpenAI, Anthropic và các doanh nghiệp công nghệ lớn phát triển.

Tiếp theo là cơ sở hạ tầng tính toán, nơi Nvidia giữ vai trò nổi bật.

Sau đó là lớp ứng dụng, dữ liệu và quy trình doanh nghiệp.

Salesforce đang tập trung mạnh vào lớp cuối cùng này.

Lợi thế của Salesforce đến từ lượng dữ liệu doanh nghiệp, quan hệ khách hàng và sự hiện diện lâu năm trong các quy trình bán hàng, marketing, chăm sóc khách hàng và vận hành.

Nếu AI trở thành một phần trực tiếp trong các quy trình đó, dữ liệu và ngữ cảnh có thể quyết định mức độ hữu ích của một hệ thống AI đối với doanh nghiệp.

Đây cũng là lý do giới phân tích đặc biệt quan tâm đến chiến lược AI của Salesforce thay vì chỉ nhìn vào khả năng của từng mô hình riêng lẻ.

AI không chỉ là cuộc đua công nghệ

Phát biểu của Marc Benioff cho thấy cuộc cạnh tranh AI đang có thêm một khía cạnh quan trọng: trách nhiệm.

Một mô hình có khả năng làm được nhiều việc hơn không đồng nghĩa với việc doanh nghiệp có thể giảm trách nhiệm đối với kết quả mà hệ thống tạo ra.

Đối với Salesforce, vấn đề này càng quan trọng bởi công ty cung cấp phần mềm cho doanh nghiệp và AI có thể được sử dụng trong những quy trình ảnh hưởng trực tiếp đến khách hàng.

Ví dụ, một hệ thống AI có thể hỗ trợ nhân viên bán hàng, phân tích khách hàng hoặc tự động hóa chăm sóc khách hàng. Nếu AI đưa ra thông tin sai hoặc thực hiện một hành động không phù hợp, câu hỏi đặt ra là ai chịu trách nhiệm?

Theo quan điểm của Benioff, doanh nghiệp xây dựng công nghệ không thể đứng ngoài câu trả lời đó.

Ông cũng liên hệ vấn đề này với hoạt động xuất bản của tạp chí Time mà ông sở hữu, cho rằng trách nhiệm đối với sản phẩm nội dung cũng tương tự trách nhiệm đối với sản phẩm công nghệ.

Kỷ nguyên AI cần một chuẩn mực trách nhiệm mới

Thông điệp của Marc Benioff có thể được xem là một phần của cuộc tranh luận rộng hơn về cách ngành công nghệ xây dựng AI trong những năm tới.

AI vẫn đang phát triển với tốc độ rất nhanh. Các công ty liên tục nâng cấp mô hình, tăng năng lực tính toán và mở rộng phạm vi ứng dụng.

Trong bối cảnh đó, việc xây dựng các nguyên tắc về trách nhiệm, minh bạch và an toàn có thể trở thành một yếu tố quan trọng không kém tốc độ phát triển sản phẩm.

Salesforce đồng thời muốn chứng minh rằng những công ty phần mềm truyền thống vẫn có thể đóng vai trò đáng kể trong kỷ nguyên AI bằng cách sở hữu dữ liệu, hiểu khách hàng và đưa AI vào các hoạt động kinh doanh cụ thể.

Dreamforce vì vậy không chỉ là nơi giới thiệu sản phẩm mới mà còn trở thành diễn đàn để ngành công nghệ tranh luận về tương lai của AI.

Thông điệp nổi bật của Benioff rất rõ ràng: AI không nên lặp lại những sai lầm của mạng xã hội. Những doanh nghiệp đang tạo ra công nghệ phải chủ động chịu trách nhiệm với tác động mà sản phẩm của họ có thể tạo ra.

Câu hỏi về SEO Marc Benioff của Salesforce

1. Marc Benioff là ai?

Marc Benioff là đồng sáng lập và CEO của Salesforce, một trong những doanh nghiệp phần mềm doanh nghiệp lớn trên thế giới. Ông cũng là một trong những nhân vật có ảnh hưởng trong ngành công nghệ Mỹ.

2. Vì sao Marc Benioff nói AI không thể trở thành “mạng xã hội phiên bản 2.0”?

Ông cho rằng ngành AI cần rút kinh nghiệm từ những vấn đề mà mạng xã hội đã trải qua, đặc biệt liên quan đến tác động xã hội, trẻ em, thông tin và trách nhiệm của các nền tảng.

3. Benioff cho rằng ai phải chịu trách nhiệm về AI?

Theo quan điểm ông đưa ra, các doanh nghiệp và những người trực tiếp xây dựng công nghệ phải chịu trách nhiệm về sản phẩm mà họ tạo ra, thay vì chỉ chuyển trách nhiệm cho người dùng.

4. Dreamforce có vai trò gì đối với chiến lược AI của Salesforce?

Dreamforce là sự kiện lớn của Salesforce, nơi công ty giới thiệu sản phẩm và chiến lược mới. AI đang trở thành một trong những trọng tâm quan trọng nhất của sự kiện này.

5. Koa là gì?

Koa được giới thiệu trong khuôn khổ hợp tác giữa Salesforce và Nvidia. Đây là một phần trong chiến lược AI mà Salesforce đang phát triển để phục vụ các ứng dụng doanh nghiệp.

6. Vì sao dữ liệu và ngữ cảnh quan trọng trong AI doanh nghiệp?

Một mô hình AI mạnh vẫn cần dữ liệu và ngữ cảnh phù hợp để tạo ra kết quả hữu ích trong môi trường doanh nghiệp. Vì vậy, khả năng kết nối AI với dữ liệu và quy trình thực tế có thể trở thành một lợi thế cạnh tranh quan trọng.