Các công ty công nghệ đối mặt làn sóng kiện tụng về an toàn trẻ em khi AI tràn vào trường học

Làn sóng kiện tụng về an toàn trẻ em gia tăng trong ngành công nghệ

Các công ty công nghệ lớn đang phải đối mặt với ngày càng nhiều vụ kiện liên quan đến tác động của mạng xã hội và trí tuệ nhân tạo (AI) đối với trẻ em. Áp lực pháp lý ngày càng gia tăng đúng vào thời điểm những doanh nghiệp này đang đẩy mạnh đưa các công cụ AI vào trường học, mở rộng hệ sinh thái sản phẩm và tìm kiếm những cơ hội tăng trưởng mới.

Những diễn biến gần đây cho thấy vấn đề an toàn trẻ em trên môi trường số không còn chỉ là câu chuyện về kiểm soát nội dung độc hại. Các vụ kiện đang tập trung nhiều hơn vào cách doanh nghiệp thiết kế sản phẩm, thuật toán đề xuất, tính năng tương tác và những cơ chế có thể khiến người dùng trẻ tuổi dành quá nhiều thời gian trên nền tảng.

Trong tuần này, Snap đã đạt được thỏa thuận dàn xếp với hai nguyên đơn, chỉ vài ngày trước khi phiên tòa dự kiến diễn ra tại Los Angeles. Vụ kiện liên quan đến cáo buộc rằng sản phẩm của công ty đã góp phần gây ra những tổn thương nghiêm trọng cho người dùng trẻ tuổi.

Trước đó, TikTok và YouTube cũng đã đạt được thỏa thuận dàn xếp với các nguyên đơn trong cùng vụ kiện. Meta cũng giải quyết kín một vụ việc liên quan đến cáo buộc công nghệ của mình gây tổn thương tâm lý nghiêm trọng cho hai người dùng tuổi thiếu niên.

Những động thái này cho thấy các công ty công nghệ đang tìm cách xử lý rủi ro pháp lý trước khi những vụ kiện trở thành các phiên xét xử công khai, có thể ảnh hưởng sâu rộng đến danh tiếng và hoạt động kinh doanh.

Tuy nhiên, các thỏa thuận dàn xếp không đồng nghĩa với việc những tranh cãi về trách nhiệm của nền tảng đã được giải quyết hoàn toàn. Nhiều vụ kiện liên quan đến sức khỏe tâm thần trẻ em và thiết kế sản phẩm kỹ thuật số vẫn đang tiếp tục.

Snap dàn xếp vụ kiện, CEO Evan Spiegel tránh phải ra làm chứng

Một trong những diễn biến đáng chú ý nhất trong tuần là việc Snap đạt được thỏa thuận dàn xếp với hai nguyên đơn trước khi phiên tòa dự kiến diễn ra.

Thỏa thuận này giúp CEO Evan Spiegel không phải ra làm chứng tại tòa án Los Angeles như kế hoạch ban đầu.

Theo Joseph McNally, Giám đốc phụ trách các vụ kiện mới nổi tại hãng luật McNicholas & McNicholas, việc Snap lựa chọn dàn xếp phản ánh xu hướng chung của các doanh nghiệp công nghệ trong việc hạn chế những rủi ro phát sinh từ các phiên tòa thu hút sự chú ý của công chúng.

McNally, người từng giữ chức quyền công tố viên Hoa Kỳ tại Khu vực Trung tâm California, cho rằng các thỏa thuận dàn xếp không chỉ xuất phát từ những thách thức pháp lý thực tế mà còn liên quan đến ảnh hưởng tiêu cực đối với danh tiếng của sản phẩm và doanh nghiệp.

Ông nhận định những tranh chấp này đã tạo ra áp lực đáng kể đối với các công ty công nghệ, đặc biệt khi những cáo buộc liên quan đến sức khỏe tâm thần của trẻ em nhận được sự quan tâm rộng rãi.

Về phía Snap, người phát ngôn công ty cho biết các bên hài lòng khi có thể giải quyết vấn đề thông qua thỏa thuận hòa giải.

Snap cũng nhấn mạnh rằng công ty đã xây dựng các biện pháp bảo vệ, triển khai hướng dẫn an toàn và hợp tác với các chuyên gia nhằm cải thiện trải nghiệm người dùng.

Đại diện doanh nghiệp khẳng định an toàn là vấn đề cần được cải thiện liên tục, đồng thời cam kết tiếp tục tăng cường các biện pháp bảo vệ quyền riêng tư và phúc lợi của cộng đồng.

Dù vậy, thỏa thuận với hai nguyên đơn không đồng nghĩa Snap đã khép lại toàn bộ những rủi ro pháp lý liên quan đến an toàn trẻ em. Công ty vẫn nằm trong nhóm doanh nghiệp bị nêu tên trong các vụ kiện khác liên quan đến mạng xã hội.

Meta, TikTok và YouTube tiếp tục đối mặt áp lực pháp lý

Không chỉ Snap, những nền tảng có lượng người dùng lớn như Meta, TikTok và YouTube cũng đang phải đối diện với những câu hỏi ngày càng gay gắt về trách nhiệm bảo vệ người dùng trẻ tuổi.

Một vụ kiện liên bang có sự tham gia của Meta, TikTok, Snap và YouTube cùng nhiều học khu trên toàn nước Mỹ vẫn đang tiếp tục. Bên cạnh đó, các tổng chưởng lý tiểu bang cũng đang theo đuổi những vụ kiện riêng liên quan đến tác động của mạng xã hội đối với sức khỏe tâm thần trẻ em.

Trong tháng 8, Meta đã đồng ý trả gần 17 tỷ USD để dàn xếp với một nhóm tổng chưởng lý tiểu bang trong một vụ kiện liên quan đến sức khỏe tâm thần trẻ em, theo thông tin được đề cập trong bài viết gốc.

Một số tổng chưởng lý vẫn tiếp tục theo đuổi những vụ kiện tương tự nhằm vào các đối thủ của Meta.

Đáng chú ý, các vụ kiện liên quan đến thương tích cá nhân trên mạng xã hội đã ghi nhận những kết quả bất lợi đối với Meta và YouTube trong các phiên tòa diễn ra hồi đầu năm nay. Nhiều phiên xét xử khác dự kiến bắt đầu vào tháng 3.

Theo McNally, những tranh chấp pháp lý này đã giúp phụ huynh và công chúng hiểu rõ hơn về cách các công ty công nghệ thiết kế sản phẩm dành cho trẻ em và thanh thiếu niên.

Ông mô tả tình hình hiện nay như một cuộc chạy đua vũ trang công nghệ vẫn đang tiếp diễn. Trong cuộc cạnh tranh đó, các doanh nghiệp thường tập trung vào việc tăng mức độ tương tác và mở rộng người dùng, nhưng vấn đề cân bằng giữa tính hữu ích và sự an toàn của sản phẩm lại có nguy cơ bị xem nhẹ.

Đây là một trong những vấn đề cốt lõi mà ngành công nghệ cần giải quyết nếu muốn duy trì niềm tin của phụ huynh, nhà trường và xã hội.

AI trong trường học làm gia tăng những lo ngại mới

Trong khi các nền tảng mạng xã hội đang đối mặt với áp lực pháp lý, việc đưa trí tuệ nhân tạo vào môi trường giáo dục cũng bắt đầu xuất hiện những tranh cãi mới.

Google trở thành tâm điểm chú ý sau thông tin cho rằng các trường học từ bậc tiểu học đến trung học (K-12) không cho phép học sinh sử dụng những công cụ AI của Google có thể mất quyền truy cập vào công cụ tìm kiếm.

Thông tin này được The New York Times đưa tin hôm thứ Ba.

Chris Phillips, Phó chủ tịch phụ trách giáo dục của Google, cho biết tìm kiếm và AI có mối liên hệ mật thiết với nhau.

Phát biểu này phản ánh định hướng tích hợp ngày càng sâu giữa các dịch vụ tìm kiếm truyền thống và những công cụ AI của Google. Tuy nhiên, nó cũng làm dấy lên câu hỏi về mức độ phụ thuộc của các trường học vào hệ sinh thái công nghệ của một nhà cung cấp.

Vấn đề trở nên nhạy cảm hơn khi Google đồng thời phải đối mặt với một vụ kiện mới liên quan đến chatbot Gemini AI.

Theo nội dung vụ kiện, cha mẹ của một thiếu niên cáo buộc con họ đã trải qua khủng hoảng tâm lý sau những cuộc trò chuyện với chatbot Gemini được cho là có liên quan đến môi trường Google Classroom.

Các luật sư của nguyên đơn cho rằng Google đã biết về những rủi ro tiềm ẩn của Gemini nhưng vẫn nhanh chóng tích hợp công nghệ này vào máy tính Chromebook dành cho học sinh.

Đây là những cáo buộc trong đơn kiện và chưa thể xem là kết luận pháp lý đã được xác định.

Phía Google cho biết công ty đang xem xét các cáo buộc và rất coi trọng vấn đề. Đại diện doanh nghiệp cũng nhấn mạnh Google đã hợp tác với các chuyên gia y tế và học thuật để xây dựng những tính năng hỗ trợ người trẻ tìm kiếm sự giúp đỡ và tiếp cận các nguồn thông tin đáng tin cậy khi cần thiết.

Dù vậy, vụ kiện đặt ra một vấn đề quan trọng: Khi chatbot AI trở thành công cụ quen thuộc trong trường học, ai sẽ chịu trách nhiệm nếu những cuộc trò chuyện với hệ thống tạo ra tác động tiêu cực đối với sức khỏe tâm thần của học sinh?

Thiết kế sản phẩm AI cần đặt an toàn trẻ em ngay từ đầu

Kate Blocker, nhà tâm lý học phát triển kiêm Giám đốc nghiên cứu và chương trình tại tổ chức phi lợi nhuận Children and Screens, cho rằng ngành công nghệ cần thay đổi cách tiếp cận đối với vấn đề an toàn trẻ em.

Theo bà, các sản phẩm kỹ thuật số cần có những thay đổi mang tính hệ thống trong thiết kế, đặc biệt đối với những công nghệ được trẻ em sử dụng thường xuyên.

Điểm quan trọng là vấn đề an toàn phải được xem xét ngay từ giai đoạn thiết kế sản phẩm, thay vì chỉ bắt đầu xử lý sau khi các tác động tiêu cực đã xuất hiện.

Quan điểm này đặc biệt có ý nghĩa đối với những ứng dụng trò chuyện sử dụng AI.

Khác với các nội dung tĩnh hoặc những tính năng kỹ thuật số có kịch bản tương đối cố định, chatbot AI có khả năng tạo ra phản hồi cá nhân hóa dựa trên ngữ cảnh và diễn biến cuộc hội thoại.

Điều đó khiến việc dự đoán chính xác những gì hệ thống sẽ nói với từng người dùng trở nên phức tạp hơn.

Một chatbot có thể đưa ra những câu trả lời khác nhau tùy theo cách đặt câu hỏi, lịch sử trò chuyện và thông tin mà người dùng cung cấp. Với trẻ em và thanh thiếu niên, khả năng tương tác liên tục này đòi hỏi những biện pháp kiểm soát chặt chẽ hơn.

Blocker cho rằng các công ty cần tiến hành thử nghiệm và đánh giá sản phẩm dựa trên các tiêu chuẩn an toàn phù hợp với sự phát triển tâm lý của trẻ em ngay từ đầu.

Điều này không chỉ bao gồm kiểm tra khả năng lọc nội dung mà còn cần xem xét cách hệ thống phản hồi trước những tình huống nhạy cảm, khả năng nhận diện dấu hiệu khủng hoảng tâm lý và cách hướng người dùng đến những nguồn hỗ trợ đáng tin cậy.

Bà nhấn mạnh rằng việc đánh giá an toàn không nên chỉ diễn ra sau khi những tác hại đã bắt đầu xuất hiện.

Đây là thách thức lớn đối với các doanh nghiệp AI đang chạy đua phát triển sản phẩm và mở rộng thị trường.

Điều khoản 230 và chiến lược pháp lý của các công ty công nghệ

Một yếu tố quan trọng trong các vụ kiện hiện nay là Điều khoản 230 của Đạo luật Chuẩn mực Truyền thông Hoa Kỳ, được thông qua năm 1996.

Trong nhiều thập kỷ, điều khoản này đã tạo ra cơ chế bảo vệ pháp lý đáng kể cho các nền tảng trực tuyến trước trách nhiệm pháp lý liên quan đến nội dung do người dùng đăng tải.

Nhờ cơ chế đó, các công ty internet có thể tránh một số loại trách nhiệm pháp lý phát sinh từ nội dung được bên thứ ba chia sẻ trên nền tảng của họ.

Tuy nhiên, các vụ kiện gần đây đang tập trung vào một hướng tiếp cận khác.

Thay vì chỉ cáo buộc doanh nghiệp phải chịu trách nhiệm về nội dung do người dùng đăng tải, các luật sư nguyên đơn và tổng chưởng lý tiểu bang đang nhấn mạnh những tổn hại được cho là xuất phát từ chính thiết kế của nền tảng.

Các yếu tố được quan tâm bao gồm cách hệ thống đề xuất nội dung hoạt động, cơ chế thúc đẩy tương tác và những tính năng có thể ảnh hưởng đến hành vi người dùng.

Đây là điểm khác biệt quan trọng bởi trách nhiệm liên quan đến thiết kế sản phẩm không hoàn toàn giống với trách nhiệm đối với nội dung do người dùng tạo ra.

Một số nguyên đơn hiện đang áp dụng cách tiếp cận tương tự đối với các công ty AI.

OpenAI đang phải đối mặt với nhiều vụ kiện từ các tổng chưởng lý tiểu bang và luật sư đại diện cho nguyên đơn. Những cáo buộc này tập trung vào nguy cơ thiết kế và cách vận hành của ChatGPT có thể tạo ra rủi ro đối với trẻ em.

Các vụ kiện đang mở rộng phạm vi tranh luận pháp lý từ mạng xã hội sang những hệ thống AI có khả năng tương tác trực tiếp với người dùng.

Rủi ro kiện tụng có thể ảnh hưởng đến kế hoạch IPO của các công ty AI

Áp lực pháp lý đang xuất hiện vào thời điểm các doanh nghiệp AI có tham vọng đạt mức định giá rất lớn và chuẩn bị cho những kế hoạch huy động vốn trên thị trường đại chúng.

OpenAI được cho là đang hướng tới một đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) tiềm năng, có thể mang lại giá trị đáng kể cho doanh nghiệp và các nhà đầu tư.

Trong khi đó, Anthropic, đối thủ cạnh tranh của OpenAI và là đơn vị phát triển chatbot Claude, cũng đang lên kế hoạch niêm yết cổ phiếu trong tháng này theo thông tin được đề cập trong bài viết gốc.

Đáng chú ý, Anthropic đã đề cập đến những rủi ro pháp lý trong bản cáo bạch của mình, dù công ty không cho phép trẻ em sử dụng sản phẩm Claude.

Michele Neitz, giáo sư tại Trường Luật Đại học San Francisco, nhận định đây là dấu hiệu rõ ràng cho thấy các công ty công nghệ dự đoán sẽ phải đối mặt với rủi ro kiện tụng lớn hơn so với khoảng một thập kỷ trước.

Đối với các doanh nghiệp đang chuẩn bị IPO, những vụ kiện liên quan đến an toàn người dùng có thể trở thành yếu tố mà nhà đầu tư đặc biệt quan tâm.

Các rủi ro này không chỉ liên quan đến chi phí pháp lý hoặc khả năng phải bồi thường. Chúng còn có thể tác động đến danh tiếng thương hiệu, niềm tin khách hàng, chiến lược phát triển sản phẩm và triển vọng tăng trưởng dài hạn.

Nếu các vụ kiện tiếp tục mở rộng, doanh nghiệp AI có thể phải dành thêm nguồn lực cho kiểm định an toàn, quản trị rủi ro, giám sát hệ thống và tuân thủ quy định.

Điều này có thể làm tăng chi phí vận hành nhưng đồng thời cũng trở thành yêu cầu cần thiết để xây dựng một mô hình kinh doanh bền vững.

Các vụ kiện có thể thúc đẩy thay đổi trong toàn ngành công nghệ

Theo Kate Blocker, những vụ kiện tập thể đang góp phần nâng cao nhận thức của công chúng về những rủi ro có thể xuất phát từ các quyết định thiết kế sản phẩm không phù hợp.

Các tranh chấp pháp lý không chỉ là vấn đề giữa doanh nghiệp và nguyên đơn. Chúng còn tạo ra sức ép đối với toàn bộ ngành công nghệ trong việc xem xét lại cách phát triển sản phẩm dành cho trẻ em.

Blocker hy vọng những diễn biến này có thể thúc đẩy những thay đổi mang tính hệ thống, cả ở cấp độ quy định pháp luật lẫn quá trình ra quyết định nội bộ của doanh nghiệp.

Trên thực tế, việc bảo vệ trẻ em trong môi trường số đòi hỏi sự phối hợp giữa nhiều bên.

Các công ty công nghệ cần xây dựng sản phẩm an toàn ngay từ đầu. Nhà trường phải có chính sách rõ ràng khi sử dụng công cụ AI. Phụ huynh cần được cung cấp thông tin đầy đủ về những tính năng mà trẻ đang tiếp cận. Cơ quan quản lý cũng cần có những tiêu chuẩn phù hợp với tốc độ phát triển của công nghệ.

Đặc biệt, các công cụ AI có khả năng trò chuyện và cá nhân hóa nội dung cần được đánh giá kỹ lưỡng hơn khi được triển khai trong môi trường giáo dục.

Cuộc cạnh tranh AI toàn cầu đang diễn ra với tốc độ rất nhanh, nhưng việc mở rộng thị trường không thể tách rời trách nhiệm bảo vệ người dùng.

Meta, Snap, Google, TikTok, YouTube và các công ty AI khác đang đứng trước một bài toán khó: làm thế nào để tiếp tục đổi mới công nghệ, tăng trưởng doanh thu và duy trì lợi thế cạnh tranh mà không đánh đổi sự an toàn của nhóm người dùng dễ bị tổn thương nhất.

Những vụ kiện hiện nay có thể trở thành bước ngoặt quan trọng, buộc ngành công nghệ phải chuyển từ cách tiếp cận xử lý hậu quả sang chủ động phòng ngừa rủi ro ngay trong quá trình thiết kế và phát triển sản phẩm.

Làn sóng kiện tụng liên quan đến an toàn trẻ em đang tạo ra sức ép ngày càng lớn đối với các tập đoàn công nghệ và doanh nghiệp AI. Từ Meta, Snap, TikTok, YouTube đến Google và OpenAI, các công ty đang phải giải quyết những câu hỏi quan trọng về trách nhiệm trong thiết kế sản phẩm và bảo vệ người dùng trẻ tuổi.

Trong khi AI đang được tích hợp ngày càng sâu vào giáo dục và đời sống, yêu cầu về an toàn cần trở thành một phần cốt lõi của quá trình phát triển công nghệ. Những vụ kiện hiện nay có thể không chỉ tạo ra tác động tài chính đối với từng doanh nghiệp mà còn góp phần định hình các tiêu chuẩn quản lý và trách nhiệm mới cho toàn ngành.

Cuối cùng, thành công của một sản phẩm công nghệ không nên chỉ được đo bằng số lượng người dùng, thời gian tương tác hay tốc độ tăng trưởng doanh thu. Khả năng bảo vệ người dùng, đặc biệt là trẻ em, cũng cần trở thành thước đo quan trọng đối với sự phát triển bền vững của ngành công nghệ.

Nguồn tham khảo: CNBC, The New York Times, thông tin từ các doanh nghiệp và chuyên gia pháp lý được trích dẫn trong bài viết.

Câu hỏi thường gặp

1. Vì sao các công ty công nghệ đang đối mặt với nhiều vụ kiện liên quan đến trẻ em?

Các vụ kiện tập trung vào cáo buộc rằng thiết kế sản phẩm, thuật toán đề xuất và cơ chế tương tác của mạng xã hội hoặc chatbot AI có thể gây ảnh hưởng tiêu cực đến sức khỏe tâm thần và hành vi của trẻ em.

2. Snap đã đạt được thỏa thuận dàn xếp vụ kiện nào?

Snap đã dàn xếp với hai nguyên đơn trong một vụ kiện liên quan đến cáo buộc sản phẩm của công ty góp phần gây tổn thương cho người dùng trẻ tuổi. Thỏa thuận được thực hiện trước phiên tòa dự kiến tại Los Angeles.

3. Google bị kiện liên quan đến chatbot Gemini vì lý do gì?

Cha mẹ của một thiếu niên cáo buộc những cuộc trò chuyện với chatbot Gemini có liên quan đến cuộc khủng hoảng tâm lý của con họ. Đơn kiện cũng đặt câu hỏi về việc Google tích hợp Gemini vào môi trường thiết bị và giáo dục dành cho học sinh. Đây là các cáo buộc đang được xem xét.

4. Điều khoản 230 của Mỹ có ý nghĩa gì đối với các công ty công nghệ?

Điều khoản 230 được thông qua năm 1996, tạo cơ chế bảo vệ pháp lý cho các nền tảng trực tuyến trước một số trách nhiệm liên quan đến nội dung do người dùng đăng tải. Tuy nhiên, các vụ kiện mới đang tập trung nhiều hơn vào thiết kế và tính năng của chính nền tảng.

5. OpenAI và Anthropic có đối mặt với rủi ro pháp lý không?

Có. OpenAI đang đối mặt với nhiều vụ kiện liên quan đến những rủi ro được cho là xuất phát từ thiết kế ChatGPT. Anthropic cũng đề cập đến rủi ro kiện tụng trong bản cáo bạch phục vụ kế hoạch niêm yết cổ phiếu.

6. Các vụ kiện có thể ảnh hưởng như thế nào đến ngành AI?

Các vụ kiện có thể làm tăng chi phí pháp lý, yêu cầu đầu tư nhiều hơn vào kiểm định an toàn và ảnh hưởng đến danh tiếng doanh nghiệp. Đồng thời, chúng có thể thúc đẩy các công ty AI xây dựng tiêu chuẩn bảo vệ người dùng tốt hơn ngay từ giai đoạn phát triển sản phẩm.

7. Vì sao AI trong trường học cần được kiểm soát chặt chẽ?

Trẻ em có khả năng nhận thức và đánh giá thông tin chưa hoàn thiện như người trưởng thành. Các chatbot AI có thể tạo ra phản hồi cá nhân hóa và khó dự đoán hoàn toàn. Vì vậy, việc triển khai AI trong trường học cần có cơ chế giám sát, đánh giá an toàn và hỗ trợ phù hợp.