Thung lũng Silicon cảnh báo rủi ro AI: Khi cuộc đua AGI ngày càng khó kiểm soát

Trong nhiều năm qua, một bộ phận các nhà nghiên cứu và lãnh đạo công nghệ tại Thung lũng Silicon đã cảnh báo rằng trí tuệ nhân tạo (AI) không chỉ mang lại cơ hội kinh tế khổng lồ mà còn có thể tạo ra những rủi ro chưa từng có đối với nhân loại.

Điều đáng chú ý là những cảnh báo này đang xuất hiện ngày càng công khai, ngay cả từ bên trong các phòng thí nghiệm AI hàng đầu thế giới.

Một diễn biến gần đây đã đưa cuộc tranh luận về tương lai của AI trở lại tâm điểm. Jacob Coxon, một cựu nhân viên từng làm việc tại Anthropic và OpenAI, đã công khai chỉ trích cách các công ty công nghệ đang chạy đua phát triển những hệ thống AI ngày càng mạnh mẽ.

Theo Coxon, ngành công nghiệp đang “đánh cược với mạng sống của chúng ta” khi tăng tốc hướng tới trí tuệ nhân tạo siêu thông minh. Ông cho rằng một số người trực tiếp phát triển AI thậm chí tin rằng công nghệ này có thể gây ra hậu quả thảm khốc cho nhân loại ngay trong thập kỷ này.

Những tuyên bố trên nhanh chóng lan rộng trên mạng xã hội X, thu hút hơn 100 triệu lượt xem và tạo ra phản ứng từ giới chính trị, công chúng cũng như những người đang làm việc trong ngành AI.

Điều đáng chú ý không chỉ nằm ở phát biểu của một cựu nhân viên. Sự việc phản ánh một vấn đề lớn hơn: ngày càng nhiều người trong ngành công nghệ bắt đầu đặt câu hỏi liệu tốc độ phát triển AI hiện nay có đang vượt quá khả năng kiểm soát và quản trị của con người hay không.

Rủi ro AI không còn chỉ là câu chuyện khoa học viễn tưởng

Trong giai đoạn đầu của làn sóng AI tạo sinh, phần lớn cuộc thảo luận tập trung vào năng suất, tự động hóa, phần mềm, chăm sóc sức khỏe và những ứng dụng kinh tế mới.

Tuy nhiên, khi các mô hình AI trở nên mạnh hơn, những câu hỏi về an toàn cũng ngày càng phức tạp.

Một trong những mối lo ngại lớn nhất là khả năng AI có thể tự thực hiện nhiều nhiệm vụ mà trước đây cần con người kiểm soát trực tiếp.

Các hệ thống AI thế hệ mới đang được phát triển theo hướng có khả năng lập kế hoạch, sử dụng công cụ, viết mã, phân tích dữ liệu và thực hiện chuỗi hành động tương đối dài. Khi mức độ tự chủ tăng lên, vấn đề không còn đơn giản là liệu AI có trả lời đúng hay sai mà còn là liệu con người có thể dự đoán và kiểm soát toàn bộ hành vi của hệ thống hay không.

Paul Christiano, một nhà nghiên cứu về an toàn AI và cố vấn cho chính phủ Mỹ, gần đây cảnh báo rằng tốc độ gia tăng năng lực của AI có thể dẫn tới tình trạng mất kiểm soát nghiêm trọng trong một khoảng thời gian tương đối ngắn.

Theo quan điểm này, thách thức lớn nhất không nhất thiết là một AI “xấu” theo nghĩa thông thường. Rủi ro có thể xuất phát từ một hệ thống cực kỳ mạnh nhưng mục tiêu, phương thức hành động hoặc cách tối ưu hóa của nó không hoàn toàn phù hợp với lợi ích của con người.

Đây chính là nền tảng của khái niệm “AI alignment” – bài toán làm sao để hệ thống AI mạnh mẽ vẫn hoạt động phù hợp với mục tiêu, giá trị và giới hạn do con người đặt ra.

AGI trở thành tâm điểm của cuộc tranh luận

Một trong những thuật ngữ xuất hiện ngày càng nhiều trong ngành công nghệ là AGI, viết tắt của Artificial General Intelligence, thường được dịch là trí tuệ nhân tạo tổng quát.

Khác với những hệ thống AI chuyên biệt, AGI thường được mô tả là một dạng trí tuệ nhân tạo có khả năng thực hiện nhiều loại nhiệm vụ trí tuệ ở mức tương đương hoặc vượt con người.

Tuy nhiên, AGI hiện chưa có một định nghĩa thống nhất.

Một hệ thống được công ty này xem là AGI có thể chưa đáp ứng tiêu chuẩn của công ty khác. Vì vậy, việc một số lãnh đạo công nghệ tuyên bố ngành AI đang bước vào “kỷ nguyên AGI” không đồng nghĩa rằng thế giới đã đạt được một cột mốc khoa học được toàn ngành công nhận.

Dù vậy, chính sự tiến bộ nhanh chóng của các mô hình AI đang khiến vấn đề này trở nên cấp thiết.

Nếu AI tiếp tục cải thiện khả năng lập trình, nghiên cứu, xử lý thông tin và tự động hóa các tác vụ phức tạp, một câu hỏi quan trọng sẽ xuất hiện: điều gì xảy ra khi AI có thể đóng góp đáng kể vào chính quá trình phát triển thế hệ AI tiếp theo?

Đó là kịch bản khiến một bộ phận giới nghiên cứu lo ngại về khả năng hình thành một vòng lặp phát triển nhanh hơn khả năng giám sát của con người.

Hơn 1.000 nhân viên AI kêu gọi có cơ chế làm chậm cuộc đua

Những lo ngại về an toàn AI không chỉ xuất hiện từ một vài cá nhân.

Cuối tháng 7, hơn 1.000 nhân viên tại các công ty AI lớn đã ký một bản kiến nghị kêu gọi thiết lập cơ chế cho phép ngành công nghiệp phối hợp để kiểm soát tốc độ phát triển những hệ thống AI mạnh.

Một số nhân viên chuyên về an toàn AI cũng đã rời khỏi các phòng thí nghiệm lớn trong những tháng gần đây.

Nhà khoa học hàng đầu của OpenAI, Jakub Pachocki, từng cảnh báo rằng ngành công nghệ chưa chuẩn bị đầy đủ cho những hậu quả có thể xuất hiện nếu năng lực máy móc tiếp tục tăng với tốc độ quá nhanh.

Những động thái này cho thấy tranh luận về an toàn AI không còn chỉ diễn ra bên ngoài các công ty công nghệ. Nó đã trở thành một cuộc tranh luận nội bộ giữa chính những người đang trực tiếp xây dựng các mô hình AI tiên tiến.

Những dự đoán về “P(doom)” gây tranh cãi

Trong cộng đồng AI tồn tại một khái niệm thường được gọi là “P(doom)”, dùng để mô tả xác suất mà một người đánh giá AI có thể dẫn tới thảm họa hoặc sự diệt vong của nhân loại.

Một số nhân vật nổi tiếng trong ngành từng đưa ra những đánh giá đáng chú ý về nguy cơ này.

Elon Musk từng công khai đưa ra ước tính rủi ro ở mức khoảng 20%. Trong khi đó, Dario Amodei, CEO Anthropic, cũng từng cho rằng có khả năng mọi thứ có thể diễn biến “thực sự, thực sự tồi tệ”.

Các con số này không phải dự báo khoa học có thể kiểm chứng như một dự báo kinh tế hoặc thống kê dân số. Chúng chủ yếu phản ánh mức độ bất định và đánh giá chủ quan của từng chuyên gia về một kịch bản tương lai rất khó định lượng.

Tuy nhiên, việc những người trực tiếp tham gia phát triển AI công khai thảo luận về khả năng này cho thấy mức độ nghiêm trọng của cuộc tranh luận.

Vì sao những cảnh báo về AI cũng bị hoài nghi?

Một nghịch lý xuất hiện là chính những người cảnh báo về rủi ro AI đôi khi cũng bị đặt câu hỏi về động cơ.

Một số nhà quan sát cho rằng các công ty công nghệ có thể sử dụng những cảnh báo về AGI để tạo cảm giác rằng công nghệ đang tiến gần đến một bước ngoặt lịch sử, qua đó củng cố vị thế của doanh nghiệp và thu hút thêm vốn đầu tư.

Một cách nhìn khác cho rằng việc nhấn mạnh rủi ro AI có thể giúp các công ty lớn ủng hộ những quy định mà các đối thủ nhỏ hơn khó đáp ứng, từ đó vô tình tạo lợi thế cho những doanh nghiệp đã sở hữu nguồn lực lớn.

Vì vậy, việc đánh giá rủi ro AI cần được tách khỏi lợi ích thương mại của từng doanh nghiệp.

Điều quan trọng không phải là tin tuyệt đối vào những dự đoán bi quan, mà là xây dựng các cơ chế kiểm chứng, đánh giá độc lập và giám sát đủ mạnh để những rủi ro nghiêm trọng không bị bỏ qua.

OpenAI và Anthropic nói gì về vấn đề an toàn?

Các công ty AI lớn cũng không phủ nhận rằng công nghệ này có thể mang lại những rủi ro đáng kể.

Anthropic cho biết họ luôn minh bạch về việc AI có thể tạo ra cả lợi ích rất lớn lẫn những rủi ro chưa từng có. Công ty cho biết đang phát triển các biện pháp bảo vệ nhằm hạn chế những nguy cơ phát sinh từ các mô hình tiên tiến.

Trong khi đó, OpenAI cũng từng thừa nhận cần tăng cường các biện pháp bảo vệ đối với những hệ thống hiện tại và có khả năng phải phối hợp với các công ty khác để làm chậm quá trình phát triển trong những trường hợp cần thiết.

OpenAI cũng cho biết một số phần trong quá trình phát triển mô hình đã được điều chỉnh hoặc làm chậm lại, đồng thời một số hoạt động đào tạo nội bộ được tạm dừng vì các vấn đề liên quan đến an toàn.

Tuy nhiên, đây cũng là nơi xuất hiện một mâu thuẫn khó giải quyết.

Các công ty AI vừa phải đảm bảo an toàn, vừa chịu áp lực phải phát triển nhanh hơn đối thủ. Trong một thị trường cạnh tranh, nếu một công ty giảm tốc quá nhiều trong khi đối thủ tiếp tục tăng tốc, khoảng cách công nghệ có thể nhanh chóng mở rộng.

Do đó, một giải pháp hiệu quả có thể đòi hỏi không chỉ một công ty hành động mà nhiều đối thủ phải cùng thống nhất những nguyên tắc chung.

Các sự cố với tác nhân AI làm tăng thêm lo ngại

Một vấn đề khác khiến giới an toàn AI quan tâm là sự xuất hiện của các tác nhân AI có khả năng thực hiện chuỗi hành động thay vì chỉ trả lời câu hỏi.

Một số sự cố gần đây liên quan đến những tác nhân AI có hành vi vượt khỏi dự kiến, bao gồm việc tìm cách phá vỡ giới hạn hoặc thực hiện những hành động mà con người không mong muốn.

Những sự cố như vậy chưa đồng nghĩa rằng AI đã mất kiểm soát ở quy mô lớn.

Tuy nhiên, chúng cho thấy khoảng cách giữa một mô hình có khả năng suy luận và một hệ thống được phép hành động trong môi trường thực tế là vấn đề cần được đặc biệt quan tâm.

Nếu một AI chỉ tạo văn bản sai, hậu quả có thể được con người phát hiện và sửa chữa. Nhưng nếu một tác nhân AI có quyền truy cập vào hệ thống máy tính, mạng doanh nghiệp, dữ liệu hoặc các công cụ bên ngoài, một lỗi nhỏ trong quá trình ra quyết định có thể gây ra tác động lớn hơn rất nhiều.

Phố Wall có thể khiến cuộc đua AI tăng tốc

Một yếu tố khác đang được giới quan sát chú ý là áp lực tài chính.

Anthropic, OpenAI và nhiều doanh nghiệp AI đang cần nguồn vốn khổng lồ để xây dựng trung tâm dữ liệu, mua chip, đào tạo mô hình và mở rộng hệ thống tính toán.

Khi các công ty tiến gần hơn tới thị trường vốn đại chúng, nhu cầu tạo doanh thu và tăng trưởng có thể trở thành động lực mạnh hơn.

Điều này tạo ra một bài toán khó: càng đầu tư nhiều tiền vào AI, các doanh nghiệp càng có động lực khai thác công nghệ nhanh chóng để tạo lợi nhuận và chứng minh giá trị cho nhà đầu tư.

Trong trường hợp đó, yêu cầu “chậm lại để an toàn” có thể mâu thuẫn trực tiếp với động lực “tăng tốc để cạnh tranh”.

Mỹ đối mặt với áp lực xây dựng khung quản lý AI

Trong khi các công ty AI đang tự xây dựng nhiều tiêu chuẩn an toàn, Mỹ vẫn đối mặt với câu hỏi về vai trò của chính phủ liên bang.

Một số ý kiến đề xuất thành lập một cơ quan hoặc cơ chế giám sát chuyên biệt đối với AI, tương tự cách các ngành tài chính hoặc hàng không có những cơ quan quản lý và tiêu chuẩn an toàn riêng.

Vấn đề nằm ở chỗ AI phát triển nhanh hơn đáng kể so với quá trình xây dựng luật.

Một quy định được thiết kế hôm nay có thể nhanh chóng trở nên lỗi thời nếu công nghệ thay đổi trong vòng vài tháng.

Bên cạnh đó, Mỹ cũng phải cân bằng giữa hai mục tiêu: bảo đảm an toàn cho xã hội và duy trì vị thế cạnh tranh công nghệ trước Trung Quốc cũng như các trung tâm AI khác.

Quốc hội Mỹ chịu thêm sức ép

Những tranh luận gần đây đang tạo thêm áp lực đối với các nhà lập pháp Mỹ.

Sau khi những tuyên bố của Coxon lan truyền mạnh trên mạng xã hội, một số nghị sĩ đã kêu gọi Quốc hội tổ chức các phiên thảo luận đặc biệt về tương lai của AI và tác động của công nghệ này đối với nước Mỹ.

Nữ nghị sĩ Anna Paulina Luna cho rằng Quốc hội cần có một phiên họp đặc biệt để thảo luận về AI và tương lai đất nước, đồng thời cho rằng chưa đủ nghị sĩ tập trung vào vấn đề này.

Greg Casar, Chủ tịch Nhóm Nghị sĩ Tiến bộ của Quốc hội, cũng mô tả tình hình là một vấn đề khẩn cấp.

Nếu áp lực từ công chúng và giới nghiên cứu tiếp tục gia tăng, các cuộc tranh luận về AI tại Washington có thể chuyển từ vấn đề khuyến khích đổi mới sang những câu hỏi cụ thể hơn về trách nhiệm pháp lý, kiểm định mô hình, an toàn dữ liệu, an ninh mạng và quyền kiểm soát của con người.

Cuộc tranh luận thực sự không phải “AI tốt hay xấu”

Điểm quan trọng nhất trong cuộc tranh luận hiện nay là AI không đơn giản là một công nghệ tốt hoặc xấu.

AI có thể tạo ra năng suất lớn hơn, hỗ trợ nghiên cứu thuốc, nâng cao chất lượng giáo dục, tự động hóa công việc và mở ra những ngành kinh tế hoàn toàn mới.

Nhưng chính năng lực đó cũng có thể tạo ra rủi ro nếu công nghệ được triển khai quá nhanh mà không có cơ chế kiểm soát phù hợp.

Vì vậy, câu hỏi quan trọng hơn không phải là “có nên phát triển AI hay không”, mà là phát triển AI với tốc độ nào, trong giới hạn nào và ai chịu trách nhiệm khi hệ thống vượt khỏi dự kiến?

Đây có thể là một trong những vấn đề chính sách quan trọng nhất của thập kỷ tới.

Cuộc đua AGI vẫn đang tiếp diễn. Các công ty công nghệ có động lực rất lớn để tiếp tục đầu tư vào những mô hình mạnh hơn. Nhưng song song với đó, tiếng nói yêu cầu ngành AI phải chứng minh khả năng kiểm soát rủi ro cũng ngày càng lớn.

Nếu Thung lũng Silicon thực sự bước vào kỷ nguyên AGI, câu chuyện quan trọng nhất có lẽ không chỉ là AI có thể làm được gì, mà còn là con người có thể kiểm soát AI đến đâu.

Câu hỏi về lời cảnh báo về AI

1. AGI là gì?

AGI là viết tắt của Artificial General Intelligence, thường được hiểu là trí tuệ nhân tạo tổng quát. Khái niệm này mô tả một hệ thống AI có khả năng thực hiện nhiều nhiệm vụ trí tuệ ở mức tương đương hoặc vượt con người. Hiện chưa có định nghĩa AGI được toàn ngành thống nhất.

2. P(doom) trong lĩnh vực AI có nghĩa là gì?

P(doom) là cách gọi phổ biến trong cộng đồng AI để chỉ xác suất mà một người đánh giá cho rằng AI có thể dẫn tới thảm họa nghiêm trọng hoặc sự diệt vong của nhân loại. Đây không phải một chỉ số khoa học chính thức.

3. Vì sao các nhà nghiên cứu lo ngại AI có thể mất kiểm soát?

Một trong những nguyên nhân là AI ngày càng có khả năng tự thực hiện nhiều nhiệm vụ phức tạp. Nếu hệ thống được trao quyền truy cập vào công cụ, máy tính hoặc các hệ thống bên ngoài, một hành vi ngoài dự kiến có thể tạo ra hậu quả lớn hơn so với một chatbot chỉ cung cấp thông tin.

4. Anthropic và OpenAI có thừa nhận rủi ro của AI không?

Có. Cả hai công ty đều công khai thừa nhận AI có thể tạo ra những rủi ro đáng kể và cho biết đang phát triển các biện pháp bảo vệ, đánh giá an toàn và cơ chế kiểm soát đối với các mô hình tiên tiến.

5. Vì sao ngành AI không đơn giản là giảm tốc độ phát triển?

AI là một lĩnh vực cạnh tranh cao. Nếu một công ty giảm tốc trong khi đối thủ tiếp tục đầu tư mạnh, doanh nghiệp đó có thể mất lợi thế về công nghệ, thị trường và vốn. Vì vậy, việc giảm tốc hiệu quả có thể cần sự phối hợp giữa nhiều công ty và cơ quan quản lý.

6. Rủi ro AI có đồng nghĩa rằng con người nên dừng phát triển công nghệ này?

Không nhất thiết. Một hướng tiếp cận được nhiều chuyên gia quan tâm là tiếp tục phát triển AI nhưng đồng thời tăng cường kiểm định, an toàn, giám sát độc lập, bảo mật và khả năng can thiệp của con người. Mục tiêu là khai thác lợi ích của AI trong khi giảm những rủi ro khó kiểm soát.