Đồng sáng lập Reddit: Ngành công nghệ “thiếu nhạy bén” khi giải thích rủi ro AI, thông tin sai lệch lan rộng

Alexis Ohanian, đồng sáng lập Reddit, cho rằng ngành công nghệ đã “khá thiếu nhạy bén” trong cách giải thích về trí tuệ nhân tạo (AI), đặc biệt là những rủi ro có thể xuất hiện khi công nghệ ngày càng phát triển nhanh.

Trong cuộc trao đổi với CNBC, Ohanian cho rằng cuộc tranh luận về AI cần tập trung vào những nguy cơ thực chất, có cơ sở, thay vì biến chủ đề này thành công cụ để giành lợi thế trong các cuộc tranh luận chính trị hoặc truyền thông.

Theo ông, một công chúng được cung cấp thông tin đầy đủ sẽ có khả năng hiểu đúng hơn về AI, từ đó tham gia vào quá trình định hướng và quản lý công nghệ này. Ngược lại, những cảnh báo quá cực đoan hoặc các thông điệp thiếu bối cảnh có thể khiến những rủi ro thực tế bị che khuất.

Alexis Ohanian: AI có rủi ro nhưng không nên chỉ nhìn qua lăng kính “Skynet”

Ohanian thừa nhận AI thực sự tồn tại những rủi ro đáng quan tâm. Tuy nhiên, ông cho rằng một phần cuộc tranh luận hiện nay đang bị kéo về những kịch bản tận thế giống trong các bộ phim khoa học viễn tưởng.

Một ví dụ thường được nhắc đến là Skynet trong loạt phim “Kẻ hủy diệt”. Đây là một hệ thống AI hư cấu có khả năng tự nhận thức, sau đó xem con người là mối đe dọa và tìm cách tiêu diệt nhân loại.

Ohanian cho rằng những hình ảnh như vậy có thể tạo ra sự chú ý mạnh mẽ nhưng không nhất thiết phản ánh chính xác những vấn đề mà xã hội cần giải quyết ngay.

Ông nhận định rủi ro AI có thể “bình thường” hơn so với những kịch bản cực đoan mà nhiều người hình dung.

“Có những rủi ro, nhưng tôi nghĩ chúng ít nguy hiểm hơn, hoặc tầm thường hơn so với suy nghĩ của mọi người”, Ohanian nói.

Điều đáng chú ý trong quan điểm của đồng sáng lập Reddit là ông không phủ nhận nguy cơ từ AI. Thay vào đó, ông đặt vấn đề về cách ngành công nghệ truyền đạt những nguy cơ đó tới công chúng.

RSI trở thành tâm điểm trong cuộc tranh luận về AI

Những phát biểu của Ohanian được đưa ra trong bối cảnh giới nghiên cứu đang quan tâm nhiều hơn tới một khái niệm gọi là tự cải tiến đệ quy, hay Recursive Self-Improvement (RSI).

Về cơ bản, RSI mô tả một kịch bản trong đó hệ thống AI có thể hỗ trợ việc phát triển những mô hình AI tiên tiến hơn. Những mô hình mới lại có khả năng hỗ trợ quá trình tạo ra các mô hình tiếp theo.

Nếu chu trình này diễn ra liên tục và với tốc độ ngày càng nhanh, nó có thể tạo thành một vòng lặp:

AI hỗ trợ nghiên cứu → mô hình mới mạnh hơn → mô hình mới hỗ trợ nghiên cứu → thế hệ AI tiếp theo mạnh hơn.

Điều khiến các nhà nghiên cứu quan tâm không chỉ là tốc độ phát triển của AI, mà còn là khả năng con người có thể duy trì quyền giám sát khi quá trình phát triển trở nên phức tạp hơn.

Nếu các hệ thống AI đảm nhận ngày càng nhiều công đoạn trong việc huấn luyện, đánh giá, tối ưu hoặc thiết kế mô hình mới, con người có thể phải giám sát những quy trình mà chính họ ngày càng khó hiểu đầy đủ.

Đây là một trong những lý do RSI được đưa vào cuộc tranh luận rộng hơn về an toàn AI.

Nguy cơ lớn nằm ở việc con người có thể mất khả năng kiểm soát?

Một trong những câu hỏi quan trọng nhất xoay quanh RSI là: Nếu AI có thể giúp con người tạo ra AI mạnh hơn, liệu tốc độ cải tiến có thể vượt quá khả năng kiểm soát của con người hay không?

Đây vẫn là một vấn đề nghiên cứu và tranh luận, thay vì một kết luận chắc chắn về tương lai.

Có sự khác biệt đáng kể giữa việc AI hỗ trợ một nhà nghiên cứu viết mã, phân tích dữ liệu hoặc thử nghiệm kiến trúc mô hình với một hệ thống có khả năng tự chủ hoàn toàn trong việc thiết kế, huấn luyện và triển khai thế hệ AI tiếp theo.

Tuy nhiên, chính khoảng cách giữa hai trạng thái này khiến các nhà nghiên cứu AI safety quan tâm đến cách xây dựng những cơ chế kiểm soát phù hợp trước khi năng lực hệ thống tiếp tục tăng.

Trong trường hợp các hệ thống AI ngày càng tham gia sâu vào nghiên cứu AI, câu hỏi về quyền truy cập, giám sát, đánh giá và khả năng dừng hệ thống có thể trở nên quan trọng hơn.

Ohanian muốn công chúng chú ý đến những rủi ro thực tế

Theo Ohanian, một trong những vấn đề cần được thảo luận nhiều hơn là hiện tượng nhiều AI agent cùng hoạt động để giải quyết một nhiệm vụ phức tạp.

AI agent có thể được hiểu là những hệ thống AI có khả năng thực hiện một chuỗi hành động nhằm đạt một mục tiêu, thay vì chỉ trả lời một câu hỏi đơn lẻ.

Trong một hệ thống nhiều tác nhân, mỗi agent có thể đảm nhận một vai trò khác nhau. Một tác nhân có thể thu thập dữ liệu, tác nhân khác phân tích, một hệ thống khác viết mã hoặc thực hiện một nhiệm vụ cụ thể.

Khi các tác nhân phối hợp, hệ thống tổng thể có thể trở nên phức tạp hơn đáng kể.

Điều này đặt ra các câu hỏi về việc một chuỗi hành động có thể tạo ra kết quả ngoài dự kiến hay không, con người có thể can thiệp ở đâu và ai chịu trách nhiệm nếu hệ thống thực hiện sai nhiệm vụ.

Theo cách nhìn này, rủi ro AI không nhất thiết phải bắt đầu bằng một hệ thống giống Skynet. Những vấn đề khó kiểm soát có thể xuất hiện từ chính việc hàng loạt hệ thống tự động cùng tương tác với nhau.

So sánh AI với năng lượng hạt nhân

Ohanian ví AI với năng lượng hạt nhân, hai lĩnh vực đều là những thành tựu khoa học có khả năng tạo ra tác động rất lớn.

Năng lượng hạt nhân có thể được sử dụng để sản xuất điện và phục vụ nhiều mục đích khác, nhưng đồng thời cũng đòi hỏi các tiêu chuẩn an toàn nghiêm ngặt.

AI cũng có tính chất tương tự ở một khía cạnh: công nghệ có thể tạo ra lợi ích đáng kể nhưng việc triển khai thiếu kiểm soát có thể dẫn đến những hậu quả không mong muốn.

AI hiện được ứng dụng trong nhiều lĩnh vực như phát triển phần mềm, nghiên cứu khoa học, giáo dục, phân tích dữ liệu, tự động hóa doanh nghiệp và sáng tạo nội dung.

Song song với đó là những vấn đề như thông tin sai lệch, quyền riêng tư, an ninh mạng, quyền sở hữu trí tuệ, việc làm và kiểm soát các hệ thống tự động.

Vì vậy, câu hỏi không chỉ nằm ở việc AI có nguy hiểm hay không mà còn ở cách xã hội xây dựng cơ chế quản lý và giám sát công nghệ này.

“Ít bài đăng trên Twitter hơn, nhiều cuộc trò chuyện có suy nghĩ hơn”

Ohanian cho rằng xã hội cần có những cuộc thảo luận nghiêm túc hơn về AI thay vì để những thông điệp ngắn, gây sốc trên mạng xã hội dẫn dắt nhận thức.

Ông nói rằng ông hy vọng tương lai AI sẽ diễn biến theo hướng tích cực và điều đó cần “ít bài đăng trên Twitter hơn và nhiều cuộc trò chuyện có suy nghĩ hơn”.

Đồng sáng lập Reddit cũng bày tỏ sự thất vọng trước một số bài đăng mang tính bi quan mà ông cho rằng không phản ánh đầy đủ thực tế.

Vấn đề này đặc biệt đáng chú ý trong bối cảnh AI là một chủ đề có tính kỹ thuật cao nhưng lại được thảo luận rộng rãi trên mạng xã hội.

Một tuyên bố về một khả năng giả định của AI có thể nhanh chóng được chia sẻ như thể đó là một sự kiện đã xảy ra. Ngược lại, những hạn chế kỹ thuật của hệ thống thường ít được chú ý hơn.

Khoảng cách giữa hai loại thông tin này có thể tạo ra nhận thức sai lệch về tốc độ phát triển cũng như mức độ nguy hiểm thực tế của AI.

Nhà nghiên cứu rời Anthropic và cảnh báo về AI

Cuộc tranh luận về rủi ro AI cũng nóng lên sau khi Jacob Coxon, người từng làm việc tại cả Anthropic và OpenAI, công khai thông báo rời Anthropic.

Coxon cho biết ông nghỉ việc vì lo ngại cách các công ty AI phát triển những hệ thống ngày càng mạnh.

Theo những tuyên bố được ông đăng tải trên mạng xã hội, Coxon cho rằng Anthropic và OpenAI đang chấp nhận những rủi ro rất lớn trong quá trình phát triển AI. Ông cũng cho rằng một số người trong ngành tin rằng AI có khả năng gây ra hậu quả cực kỳ nghiêm trọng đối với nhân loại trong những năm tới.

Những phát biểu này là quan điểm của một cá nhân và cần được phân biệt với các kết luận khoa học đã được xác lập. Tuy nhiên, chúng cho thấy mức độ tranh luận ngày càng gay gắt bên trong chính ngành phát triển AI.

Một mặt, các phòng thí nghiệm AI muốn tăng tốc nghiên cứu và khai thác tiềm năng của những mô hình mới. Mặt khác, các nhà nghiên cứu an toàn AI đặt câu hỏi về việc liệu các biện pháp kiểm soát có theo kịp tốc độ nâng cao năng lực của hệ thống hay không.

Thông tin sai lệch có thể trở thành một rủi ro riêng

Ohanian đặc biệt nhấn mạnh vấn đề thông tin sai lệch.

Theo ông, việc công chúng tiếp nhận quá nhiều thông tin không chính xác hoặc thiếu bối cảnh có thể khiến cuộc tranh luận về AI trở nên khó khăn hơn.

Nếu mọi cảnh báo đều được mô tả bằng những kịch bản tận thế, công chúng có thể dần mất niềm tin vào các cảnh báo nghiêm túc.

Ngược lại, nếu ngành công nghệ chỉ nhấn mạnh lợi ích mà không giải thích đầy đủ những giới hạn và rủi ro, người dùng có thể đánh giá thấp những vấn đề cần được kiểm soát.

Do đó, một cách tiếp cận cân bằng cần phân biệt ít nhất ba nhóm thông tin.

Thứ nhất là những khả năng AI đã chứng minh được trong thực tế.

Thứ hai là những khả năng đang được thử nghiệm hoặc phát triển.

Thứ ba là những kịch bản dài hạn vẫn còn nhiều bất định.

Việc phân biệt ba nhóm này giúp người đọc hiểu đâu là dữ kiện, đâu là dự báo và đâu là giả thuyết.

Vì sao cách giải thích AI lại quan trọng?

AI không còn chỉ là vấn đề của các phòng thí nghiệm công nghệ. Công nghệ này đã xuất hiện trong công cụ tìm kiếm, phần mềm văn phòng, ứng dụng sáng tạo, dịch vụ chăm sóc khách hàng và nhiều quy trình doanh nghiệp.

Khi AI trở nên phổ biến hơn, quyết định của xã hội về cách sử dụng và quản lý nó sẽ phụ thuộc phần lớn vào mức độ hiểu biết của công chúng.

Một cách giải thích quá đơn giản có thể khiến vấn đề bị hiểu sai theo hai hướng.

Một là đánh giá quá cao năng lực của AI và cho rằng hệ thống có thể làm mọi thứ.

Hai là đánh giá quá thấp những rủi ro thực tế vì cho rằng tất cả cảnh báo về AI chỉ là câu chuyện khoa học viễn tưởng.

Quan điểm của Ohanian hướng tới việc thu hẹp khoảng cách này bằng những cuộc

Tranh luận về AI cần dựa trên thực tế

Những phát biểu của Alexis Ohanian phản ánh một vấn đề ngày càng quan trọng trong kỷ nguyên AI: cách xã hội nói về công nghệ đôi khi quan trọng không kém chính công nghệ đó.

AI đang phát triển nhanh, nhưng tốc độ phát triển không có nghĩa mọi kịch bản được mô tả trên mạng xã hội đều đã trở thành hiện thực.

Tương tự, việc một số rủi ro còn chưa xảy ra cũng không có nghĩa chúng không đáng được nghiên cứu.

RSI, AI agent, khả năng tự động hóa nghiên cứu AI và vấn đề kiểm soát hệ thống đều là những chủ đề cần được theo dõi dựa trên bằng chứng cụ thể.

Ohanian cho rằng ngành công nghệ cần làm tốt hơn trong việc giải thích những vấn đề này cho công chúng. Thay vì những khẩu hiệu ngắn hoặc các kịch bản gây sốc, ông muốn thấy nhiều cuộc thảo luận có chiều sâu hơn về những gì AI thực sự có thể làm, những gì vẫn còn giới hạn và những rủi ro nào cần được xử lý.

“Tôi cảm thấy bực bội vì thấy rất nhiều thông tin sai lệch lan truyền”, Ohanian nói, đồng thời bày tỏ hy vọng rằng về lâu dài xã hội sẽ tìm được cách tiếp cận phù hợp với công nghệ này.

Trong một lĩnh vực thay đổi nhanh như AI, việc phân biệt giữa sự thật, dự báo và giả định có thể trở thành yếu tố quan trọng để công chúng hiểu đúng về tương lai của trí tuệ nhân tạo.

Những câu hỏi thường gặp về rủi ro AI và RSI

RSI là gì?

RSI, viết tắt của Recursive Self-Improvement, là khái niệm mô tả khả năng một hệ thống AI tham gia vào quá trình cải thiện hoặc phát triển những hệ thống AI tiếp theo, từ đó có thể tạo ra một vòng lặp nâng cao năng lực.

RSI có nghĩa AI sẽ tự động trở thành Skynet?

Không. RSI và Skynet là hai khái niệm hoàn toàn khác nhau. Skynet là một hệ thống hư cấu trong phim “Kẻ hủy diệt”, còn RSI là một khái niệm được thảo luận trong nghiên cứu về AI và khả năng tự động hóa quá trình phát triển AI.

Alexis Ohanian có cho rằng AI không nguy hiểm?

Không. Ohanian thừa nhận AI có những rủi ro. Điểm ông nhấn mạnh là xã hội cần tập trung vào các nguy cơ thực tế thay vì chỉ sử dụng những kịch bản tận thế để mô tả tương lai AI.

AI agent có thể tạo ra rủi ro như thế nào?

Khi nhiều AI agent cùng thực hiện một nhiệm vụ, mỗi tác nhân có thể đảm nhận một phần công việc. Sự phối hợp giữa nhiều hệ thống có thể làm tăng độ phức tạp và tạo ra những hành vi khó dự đoán hơn, đặc biệt khi các agent có quyền truy cập vào công cụ hoặc hệ thống bên ngoài.

Vì sao thông tin sai lệch về AI đáng lo ngại?

Thông tin sai lệch có thể khiến người dùng hiểu quá mức hoặc đánh giá thấp năng lực và rủi ro của AI. Cả hai trường hợp đều có thể ảnh hưởng đến cách xã hội đưa ra quyết định về việc sử dụng và quản lý công nghệ.

AI có thể tự phát triển các mô hình mới không?

AI hiện có thể hỗ trợ nhiều công đoạn trong quá trình nghiên cứu và phát triển mô hình. Tuy nhiên, khả năng AI tự chủ hoàn toàn trong việc thiết kế, huấn luyện và triển khai liên tục những thế hệ AI mạnh hơn vẫn là vấn đề đang được nghiên cứu và tranh luận.