Tri thức sẽ sụp đổ nếu chúng ta chỉ dựa vào câu trả lời do trí tuệ nhân tạo cung cấp

Một sinh viên có thể yêu cầu AI giải thích một định lý trong vài giây. Một lập trình viên có thể nhận được đoạn mã hoàn chỉnh mà không cần tự viết từng dòng. Một bác sĩ có thể sử dụng AI để tổng hợp hàng loạt tài liệu y khoa. Một luật sư có thể yêu cầu hệ thống phân tích hàng trăm trang hồ sơ chỉ trong thời gian rất ngắn.

Hiệu quả là điều khó phủ nhận.

Nhưng phía sau sự tiện lợi đó xuất hiện một câu hỏi sâu hơn: Nếu con người ngày càng ít phải tự suy nghĩ, tự tìm kiếm và tự kiểm chứng, xã hội sẽ lấy đâu ra lượng tri thức mới để tiếp tục phát triển?

Đây chính là vấn đề được nhà kinh tế học Daron Acemoglu cùng Dingwen Kong và Asuman Ozdaglar nghiên cứu trong công trình “AI, Human Cognition and Knowledge Collapse”.

Nhóm tác giả xây dựng một mô hình động về việc AI tạo sinh, đặc biệt là AI có khả năng đưa ra khuyến nghị theo từng hoàn cảnh, có thể thay đổi động lực học tập của con người và ảnh hưởng đến hệ sinh thái thông tin trong dài hạn.

Điều đáng chú ý là AI có thể giúp con người đưa ra quyết định tốt hơn trong hiện tại, nhưng đồng thời lại làm giảm động lực tạo ra tri thức mới. Nếu xu hướng này đi đủ xa, xã hội có thể bước vào trạng thái mà nghiên cứu gọi là knowledge collapse – sụp đổ tri thức.

“Sụp đổ tri thức” nghĩa là gì?

Khái niệm này nghe giống một kịch bản khoa học viễn tưởng, nhưng trong nghiên cứu của Acemoglu, nó có ý nghĩa kinh tế và thông tin khá cụ thể.

Nhóm nghiên cứu phân biệt hai loại tri thức.

Thứ nhất là tri thức chung của cộng đồng, tức những kiến thức được tích lũy và chia sẻ trong xã hội.

Thứ hai là tri thức theo ngữ cảnh, tức thông tin mà mỗi cá nhân thu thập được để giải quyết một vấn đề cụ thể.

Hai loại tri thức này bổ trợ cho nhau.

Ví dụ, một bác sĩ khi điều trị bệnh nhân sẽ tích lũy kinh nghiệm riêng từ từng trường hợp. Một phần kinh nghiệm đó có thể được chuyển thành bài nghiên cứu, bài giảng, hướng dẫn điều trị hoặc dữ liệu được chia sẻ với cộng đồng y khoa.

Như vậy, một quyết định cá nhân không chỉ tạo ra lợi ích cho người thực hiện mà còn có thể tạo ra một phần tri thức mới cho xã hội.

Quá trình đó diễn ra hàng ngày trong trường học, bệnh viện, phòng thí nghiệm, doanh nghiệp, diễn đàn chuyên môn và các cộng đồng nghề nghiệp.

AI có thể làm gián đoạn vòng tuần hoàn này.

AI có thể làm con người ít muốn học hơn

Hãy hình dung một sinh viên đang làm luận văn.

Trước đây, để giải quyết một vấn đề, sinh viên có thể phải:

• Đọc tài liệu gốc.
• So sánh nhiều nghiên cứu.
• Tìm dữ liệu.
• Thảo luận với giảng viên.
• Thử nghiệm.
• Phát hiện sai sót.
• Tự xây dựng lập luận.

Quá trình này mất thời gian nhưng tạo ra kiến thức.

Bây giờ, sinh viên có thể đưa câu hỏi cho AI và nhận được một bản tổng hợp trong vài giây.

Nếu bản tổng hợp đủ chính xác, động lực đọc hàng chục tài liệu gốc sẽ giảm.

Tương tự, một lập trình viên mới có thể yêu cầu AI tạo toàn bộ chức năng thay vì tự thiết kế thuật toán. Một nhà nghiên cứu có thể yêu cầu AI tổng hợp tài liệu thay vì đọc từng công trình. Một nhân viên có thể hỏi chatbot thay vì tìm hiểu quy trình nội bộ.

Công việc được hoàn thành nhanh hơn, nhưng lượng kiến thức mà con người tự hình thành có thể giảm.

Đây là điểm trung tâm trong mô hình của Acemoglu, Kong và Ozdaglar.

Theo nghiên cứu, AI có khả năng đưa ra khuyến nghị theo từng hoàn cảnh có thể thay thế một phần nỗ lực mà con người trước đây phải bỏ ra để học. Trong khi đó, chính nỗ lực của con người lại đồng thời tạo ra những tín hiệu kiến thức có thể được cộng đồng tích lũy.

Nghịch lý: AI càng chính xác, rủi ro có thể càng lớn

Đây là phần đáng chú ý nhất của nghiên cứu.

Thông thường, chúng ta nghĩ AI càng chính xác thì càng tốt.

Nếu AI trả lời đúng 70% câu hỏi, cải thiện lên 90% rõ ràng là một tiến bộ.

Nhưng xét ở góc độ động lực học tập, câu chuyện lại không đơn giản.

Khi AI đủ chính xác, lợi ích của việc tự học có thể giảm xuống.

Tại sao phải mất ba giờ đọc tài liệu nếu AI có thể đưa ra câu trả lời trong vài giây?

Tại sao phải tự viết một chương trình nếu AI có thể tạo ra mã hoạt động ngay lập tức?

Tại sao phải học cách tìm kiếm dữ liệu nếu một tác nhân AI có thể tự tìm, tổng hợp và trình bày kết quả?

Nếu ngày càng nhiều người đưa ra lựa chọn như vậy, lượng tri thức mới do con người tạo ra có thể giảm.

Và nếu tri thức chung giảm, việc học thêm lại càng trở nên kém hấp dẫn.

Từ đó hình thành một vòng xoáy đi xuống.

Ít người học → ít tri thức mới được tạo ra → kho tri thức chung suy giảm → việc tự học trở nên ít hiệu quả hơn → càng ít người muốn học.

MIT mô tả đây là một động lực có thể dẫn tới trạng thái “knowledge-collapse steady state” trong mô hình, tức một trạng thái cân bằng trong đó kho tri thức chung cuối cùng suy giảm mạnh, dù AI vẫn có thể cung cấp lời khuyên được cá nhân hóa có chất lượng cao.

Nhưng AI có thực sự khiến tri thức nhân loại biến mất?

Không nên hiểu nghiên cứu theo nghĩa đó.

Đây là điểm rất quan trọng khi diễn giải công trình.

Acemoglu và các đồng tác giả không đưa ra dự báo rằng toàn bộ tri thức nhân loại chắc chắn sẽ biến mất.

Thay vào đó, họ xây dựng một mô hình lý thuyết để chỉ ra một khả năng dài hạn: nếu con người đủ nhạy với chi phí học tập, AI đưa ra khuyến nghị đủ chính xác và tri thức do con người tạo ra không được tập hợp hiệu quả, xã hội có thể tiến tới trạng thái sụt giảm tri thức chung.

Nói cách khác, đây là một rủi ro cần được xem xét, không phải một lời tiên tri.

MIT cũng nhấn mạnh một yếu tố có thể làm thay đổi đáng kể kết quả: khả năng tổng hợp và chia sẻ tri thức do con người tạo ra.

Nếu những phát hiện mới vẫn được ghi nhận, kiểm chứng, công bố và phổ biến hiệu quả, nguy cơ suy giảm kho tri thức chung có thể thấp hơn.

Stack Overflow là một ví dụ đáng chú ý

Nghiên cứu không chỉ nói về một vấn đề hoàn toàn trừu tượng.

Trong bài nghiên cứu, các tác giả đề cập đến những bằng chứng cho thấy hoạt động xây dựng tri thức tập thể đã giảm ở một số môi trường khi AI trở thành công cụ thay thế.

Một ví dụ là Stack Overflow, nơi các lập trình viên trước đây đặt câu hỏi, trả lời, sửa lỗi và trao đổi kinh nghiệm.

Khi các công cụ AI có thể trực tiếp trả lời câu hỏi lập trình, một phần nhu cầu truy cập và đóng góp vào những diễn đàn như vậy có thể giảm.

Nghiên cứu dẫn lại bằng chứng cho thấy hoạt động và sự tương tác của con người trên Stack Overflow đã suy giảm sau sự phổ biến của các công cụ AI tạo sinh. Một mô hình tương tự cũng được thảo luận đối với Wikipedia trong những lĩnh vực mà ChatGPT có khả năng thay thế hiệu quả việc tìm kiếm thông tin.

Điều này tạo ra một nghịch lý.

AI có thể học từ kho tri thức do con người xây dựng, nhưng chính sự tiện lợi của AI lại có thể khiến con người ít tiếp tục xây dựng kho tri thức đó.

Điều gì xảy ra trong giáo dục?

Giáo dục có thể là một trong những lĩnh vực chịu tác động rõ nhất.

Nếu mục tiêu của giáo dục chỉ là tìm ra đáp án, AI có thể trở thành công cụ cực kỳ hiệu quả.

Nhưng nếu mục tiêu là hình thành năng lực suy nghĩ, câu chuyện hoàn toàn khác.

Một học sinh tự giải một bài toán sẽ học được nhiều hơn đáp án cuối cùng.

Các em học cách:

• Nhận diện vấn đề.
• Đặt giả thuyết.
• Thử phương pháp.
• Phát hiện lỗi.
• Điều chỉnh cách tiếp cận.
• Kiểm chứng kết quả.

Nếu AI đưa ngay đáp án cuối cùng, một phần quá trình này biến mất.

Điều đó không có nghĩa AI không nên được sử dụng trong trường học.

Ngược lại, AI có thể trở thành một gia sư rất mạnh nếu được sử dụng đúng cách.

Thay vì yêu cầu AI giải bài, học sinh có thể yêu cầu AI đặt câu hỏi gợi mở.

Thay vì yêu cầu viết toàn bộ bài luận, người học có thể yêu cầu AI phản biện lập luận.

Thay vì yêu cầu tạo toàn bộ chương trình, lập trình viên có thể tự thiết kế trước rồi sử dụng AI để kiểm tra lỗi.

Sự khác biệt nằm ở việc AI thay thế quá trình học hay hỗ trợ quá trình học.

Trong y tế, hậu quả còn đáng chú ý hơn

Hãy tưởng tượng một bác sĩ trẻ sử dụng AI để hỗ trợ chẩn đoán.

Nếu AI đưa ra danh sách chẩn đoán có khả năng cao, công cụ này có thể giúp bác sĩ tiết kiệm thời gian.

Nhưng nếu bác sĩ chỉ chấp nhận kết luận mà không hiểu tại sao AI đưa ra kết luận đó, năng lực chuyên môn cá nhân có thể không được phát triển tương ứng.

Y khoa đặc biệt phụ thuộc vào kinh nghiệm.

Một bác sĩ có thể nhận ra một biểu hiện bất thường không phải vì nó xuất hiện trong một câu trả lời chuẩn, mà vì họ từng gặp một trường hợp tương tự nhiều năm trước.

Kinh nghiệm đó chính là một phần của tri thức theo ngữ cảnh.

Khi hàng triệu quyết định chuyên môn được chuyển sang cho AI, câu hỏi đặt ra là: ai sẽ tiếp tục tạo ra những kinh nghiệm mới để đào tạo thế hệ chuyên gia tiếp theo?

Đây là vấn đề mà khung lý thuyết của Acemoglu giúp đặt ra, dù bản thân nghiên cứu không khẳng định rằng AI chắc chắn sẽ gây ra kết quả như vậy trong ngành y tế.

Luật pháp cũng có bài toán tương tự

Trong lĩnh vực pháp lý, AI có thể tìm kiếm án lệ, tổng hợp quy định và phân tích tài liệu với tốc độ rất cao.

Nhưng luật pháp không chỉ là việc tìm một câu trả lời.

Luật sư cần hiểu:

• Vì sao một phán quyết được đưa ra.
• Hoàn cảnh nào khiến một án lệ có giá trị.
• Những điểm khác biệt giữa các vụ việc.
• Quy định nào có thể thay đổi.
• Lập luận nào có thể bị phản bác.

Nếu AI trở thành nơi mọi người chỉ lấy “đáp án cuối cùng”, một phần quá trình đào tạo tư duy pháp lý có thể bị bỏ qua.

Vấn đề vì vậy không phải là AI có thể trả lời câu hỏi hay không.

Vấn đề là con người có còn học được từ quá trình đi đến câu trả lời hay không.

“Cố tình làm AI kém hoàn hảo” có phải là giải pháp?

Đây là đề xuất gây tranh luận nhất từ nghiên cứu.

Trong mô hình, các tác giả cho rằng nếu AI quá chính xác và thay thế quá nhiều nỗ lực học tập của con người, việc thiết kế mức độ chính xác hoặc cách thức AI đưa ra khuyến nghị có thể trở thành một công cụ chính sách.

MIT Research Insight diễn giải một hướng tiếp cận trong nghiên cứu là có thể cần hạn chế độ chính xác của một số hệ thống AI tác nhân ở mức phù hợp để duy trì động lực học tập. Một kịch bản chính sách trong nghiên cứu thậm chí xem xét giai đoạn tạm dừng một số loại AI tác nhân để khôi phục kho tri thức chung trước khi áp dụng giới hạn về độ chính xác.

Nghe có vẻ nghịch lý.

Tại sao con người lại muốn làm AI kém thông minh hơn?

Bởi mục tiêu không phải tối đa hóa độ chính xác của từng câu trả lời riêng lẻ, mà là tối ưu hóa lợi ích của xã hội trong dài hạn.

Một hệ thống AI trả lời hoàn hảo mọi câu hỏi có thể giúp một người hôm nay.

Nhưng một hệ thống khiến con người vẫn phải suy nghĩ, kiểm chứng và đóng góp kiến thức có thể tạo ra lợi ích lớn hơn cho xã hội trong nhiều năm sau.

“Khoảng trống” đôi khi lại có giá trị

Có một nghịch lý sâu sắc ở đây.

Trong giáo dục truyền thống, giáo viên thường không đưa đáp án ngay.

Họ đặt câu hỏi.

Họ để học sinh mắc lỗi.

Họ yêu cầu sinh viên giải thích.

Trong nghiên cứu khoa học, những thí nghiệm thất bại vẫn được ghi lại vì chúng giúp người khác không lặp lại sai lầm.

Trong lập trình, một câu hỏi trên diễn đàn có thể mất hàng giờ để cộng đồng tìm ra lời giải, nhưng quá trình đó tạo thành tài liệu cho hàng triệu người sau này.

Những thứ này không hiệu quả theo nghĩa hẹp.

Nhưng chúng tạo ra tri thức công cộng.

AI có thể làm cho quá trình giải quyết vấn đề nhanh hơn rất nhiều.

Câu hỏi là liệu chúng ta có thể thiết kế AI sao cho sự tiện lợi không xóa bỏ quá trình học tập.

Không phải cứ dùng AI là mất tri thức

Một cách nhìn cân bằng hơn là phân biệt giữa hai cách sử dụng AI.

Cách thứ nhất: AI thay thế tư duy.

Người dùng đặt câu hỏi → AI trả lời → người dùng chép lại → kết thúc.

Trong trường hợp này, lợi ích trước mắt rất lớn nhưng quá trình học tập của con người có thể rất nhỏ.

Cách thứ hai: AI khuếch đại tư duy.

Người dùng tự suy nghĩ → AI cung cấp phản biện → người dùng kiểm tra → sửa giả thuyết → tạo ra kết luận mới → chia sẻ kết quả.

Trong trường hợp này, AI không nhất thiết làm tri thức suy giảm.

Thậm chí nó có thể giúp con người nghiên cứu nhanh hơn và tạo ra nhiều tri thức hơn.

MIT cũng nghiên cứu một hướng khác liên quan đến cách AI tổng hợp kiến thức xã hội. Công trình “How AI Aggregation Affects Knowledge” cho thấy cách thiết kế cơ chế tổng hợp và tốc độ cập nhật thông tin có thể ảnh hưởng đến khả năng học hỏi của xã hội. Các tác giả cũng nhận thấy những hệ thống tổng hợp cục bộ, theo chủ đề hoặc gần với nguồn thông tin hơn có thể có những đặc tính thuận lợi hơn trong một số môi trường.

Bài toán thật sự không phải là AI hay con người

Có lẽ câu hỏi quan trọng nhất không phải:

“AI có thông minh hơn con người không?”

Mà là:

“AI sẽ khiến con người sử dụng trí thông minh của mình theo cách nào?”

Nếu AI làm những công việc lặp lại, con người có thể dành nhiều thời gian hơn cho sáng tạo.

Nếu AI giúp nhà nghiên cứu xử lý dữ liệu, họ có thể thực hiện nhiều thí nghiệm hơn.

Nếu AI giúp bác sĩ tổng hợp hồ sơ, bác sĩ có thể dành nhiều thời gian hơn cho bệnh nhân.

Nếu AI hỗ trợ lập trình, kỹ sư có thể tập trung vào kiến trúc hệ thống.

Nhưng điều đó chỉ xảy ra nếu con người vẫn duy trì năng lực hiểu, kiểm chứng và tạo ra tri thức mới.

Nếu AI trở thành một chiếc máy bán đáp án, con người có nguy cơ đánh mất chính kỹ năng cần thiết để đánh giá những đáp án đó.

Kiến thức không bao giờ được tích lũy miễn phí

AI đang làm thay đổi cách con người tiếp cận thông tin nhanh hơn bất kỳ công nghệ nào trước đây.

Một câu hỏi từng cần hàng giờ tìm kiếm nay có thể được giải đáp trong vài giây.

Một nhiệm vụ từng cần nhiều người có thể được tự động hóa.

Một khối lượng tài liệu khổng lồ có thể được tổng hợp trong thời gian rất ngắn.

Nhưng chính sự tiện lợi đó đặt ra một câu hỏi khó hơn.

Nếu con người không còn cần tự tìm hiểu, ai sẽ tạo ra tri thức mới?

Đó chính là giá trị của nghiên cứu về “knowledge collapse”. Nó không nói rằng AI chắc chắn sẽ phá hủy tri thức nhân loại. Nó cảnh báo rằng tri thức tập thể có thể bị xem như một nguồn tài nguyên miễn phí trong khi thực tế nó cần con người liên tục tạo ra, kiểm chứng, chia sẻ và cập nhật.

AI có thể giúp chúng ta đi nhanh hơn.

Nhưng đi nhanh hơn không đồng nghĩa với việc hiểu sâu hơn.

Một xã hội sử dụng AI tốt có lẽ không phải là xã hội để máy móc trả lời mọi câu hỏi, mà là xã hội biết khi nào nên nhận câu trả lời, khi nào nên đặt câu hỏi ngược lại và khi nào con người cần tự mình tìm ra đáp án.

Hỏi đáp về nguy cơ “sụp đổ tri thức” do AI

“Sụp đổ tri thức” là gì?

Đây là tên gọi cho một trạng thái trong mô hình nghiên cứu của Acemoglu, Kong và Ozdaglar, trong đó động lực học tập của con người suy giảm đến mức kho tri thức chung có thể tiếp tục suy giảm theo thời gian, dù AI vẫn cung cấp lời khuyên cá nhân hóa có độ chính xác cao.

Nghiên cứu có khẳng định AI chắc chắn khiến tri thức nhân loại biến mất không?

Không. Đây là một mô hình lý thuyết về động lực học tập và tích lũy tri thức. Kết quả phụ thuộc vào những điều kiện nhất định, chẳng hạn mức độ chính xác của AI, mức độ con người phản ứng với lợi ích của việc học và khả năng xã hội tổng hợp tri thức chung.

Vì sao AI càng chính xác lại có thể trở thành vấn đề?

Nếu AI đưa ra câu trả lời đủ tốt, chi phí và lợi ích của việc tự học có thể khiến con người giảm nỗ lực. Khi ít người tự học và chia sẻ kinh nghiệm hơn, xã hội có thể tạo ra ít tri thức chung hơn.

AI có thể giúp chống lại nguy cơ này không?

Có. AI có thể được thiết kế để giải thích, đặt câu hỏi, phản biện và hướng người dùng tự suy nghĩ thay vì chỉ cung cấp đáp án. Ngoài ra, việc duy trì các hệ thống chia sẻ và tổng hợp tri thức do con người tạo ra có thể làm tăng khả năng chống chịu trước nguy cơ suy giảm tri thức.

Học sinh có nên ngừng sử dụng AI?

Không nhất thiết. Vấn đề nằm ở cách sử dụng. AI có thể là công cụ hỗ trợ học tập nếu người học vẫn phải tự giải thích, kiểm chứng, đặt câu hỏi và hình thành lập luận của riêng mình.

“Cố tình làm AI kém chính xác” có phải giải pháp chắc chắn?

Không. Đây là một hướng chính sách được phân tích trong mô hình nghiên cứu nhằm giải quyết vấn đề động lực học tập. Việc áp dụng ngoài thực tế cần cân nhắc lợi ích và chi phí trong từng lĩnh vực.