California siết quản lý AI: Newsom thúc đẩy “công tắc tắt khẩn cấp” trước khi quá muộn

California đang đẩy nhanh các biện pháp quản lý trí tuệ nhân tạo (AI) trong bối cảnh những cảnh báo về rủi ro của công nghệ này ngày càng được quan tâm. Ngày 18/9/2026, Thống đốc California Gavin Newsom ban hành một sắc lệnh hành pháp yêu cầu xây dựng thêm các khuyến nghị nhằm tăng cường an toàn và giám sát đối với những hệ thống AI tiên tiến.

Điểm đáng chú ý trong sắc lệnh là việc California thúc đẩy cơ chế giám sát độc lập và nghiên cứu khả năng yêu cầu các công ty phát triển AI tiên tiến xây dựng một “kill switch”, tức cơ chế tắt khẩn cấp mô hình trong những tình huống được xác định là nguy hiểm.

Theo Văn phòng Thống đốc California, một nhóm chuyên gia sẽ được tập hợp để xây dựng hướng dẫn cho bang trong vòng hai tháng, qua đó đề xuất những thay đổi có thể giúp củng cố các quy định hiện hành về an toàn và bảo mật AI.

Newsom: California không muốn chờ đợi trước những rủi ro của AI

Sắc lệnh mới được ban hành trong thời điểm cuộc tranh luận về cách kiểm soát AI tại Mỹ đang nóng lên. Các hệ thống AI ngày càng có khả năng thực hiện những tác vụ phức tạp, trong khi chính phủ, doanh nghiệp và giới nghiên cứu vẫn tiếp tục tranh luận về mức độ giám sát cần thiết.

Trong tuyên bố công bố sắc lệnh, Newsom cho rằng chính phủ liên bang chưa xây dựng được cơ chế giám sát và trách nhiệm giải trình mà ông cho là đủ mạnh đối với AI. Ông nhấn mạnh California muốn đẩy nhanh quá trình xây dựng các biện pháp giám sát nhưng vẫn theo hướng thận trọng.

Thông điệp “hành động trước khi quá muộn” trở thành một trong những điểm nhấn của sắc lệnh lần này.

Theo Văn phòng Thống đốc, nhóm chuyên gia được triệu tập sẽ xem xét những thay đổi có thể áp dụng vào luật California, bao gồm tăng cường kiểm tra độc lập đối với các công ty phát triển AI tiên tiến, xác minh các báo cáo an toàn và đánh giá rủi ro, đồng thời nghiên cứu cơ chế tắt khẩn cấp đối với các mô hình AI.

Điều này cho thấy trọng tâm của California không chỉ nằm ở việc yêu cầu doanh nghiệp công bố thông tin mà còn hướng tới một mô hình trong đó hoạt động đánh giá an toàn có sự tham gia của các tổ chức độc lập.

“Kill switch” AI là gì và vì sao California muốn nghiên cứu?

“Kill switch” có thể hiểu đơn giản là công tắc hoặc cơ chế tắt khẩn cấp. Trong bối cảnh AI, khái niệm này đề cập tới khả năng dừng một hệ thống hoặc mô hình khi phát hiện hành vi nguy hiểm, sự cố nghiêm trọng hoặc tình huống vượt ngoài các điều kiện vận hành an toàn.

Theo nội dung được California công bố, sắc lệnh chưa đơn giản biến “kill switch” thành một yêu cầu kỹ thuật áp dụng ngay lập tức cho mọi công ty AI. Thay vào đó, bang yêu cầu các chuyên gia nghiên cứu và đưa ra khuyến nghị về khả năng củng cố luật, trong đó có việc thúc đẩy cơ chế tắt khẩn cấp cho các mô hình AI tiên tiến. Hiệu quả của cơ chế này cũng có thể được kiểm chứng liên tục bởi một tổ chức xác minh độc lập.

Đây là điểm quan trọng cần phân biệt.

Sắc lệnh ngày 18/9/2026 chủ yếu mở đường cho việc xây dựng và tăng tốc các yêu cầu giám sát, thay vì ngay lập tức áp dụng một “nút tắt” duy nhất cho toàn bộ ngành AI.

Nếu được triển khai trong tương lai, cơ chế này có thể trở thành một lớp bảo vệ bổ sung đối với những mô hình AI có khả năng hoạt động ở quy mô lớn hoặc được sử dụng trong những lĩnh vực nhạy cảm.

California muốn tăng vai trò của bên thứ ba

Một trong những nội dung nổi bật khác của sắc lệnh là thúc đẩy sự tham gia của các tổ chức kiểm định và xác minh độc lập.

Theo kế hoạch được công bố, California có thể yêu cầu các công ty AI tiên tiến đưa một tổ chức xác minh độc lập vào quá trình đánh giá thường xuyên tại phòng thí nghiệm của họ.

Các tổ chức này có thể thực hiện việc kiểm tra, đánh giá rủi ro và xác minh những tài liệu mà doanh nghiệp AI phải công bố theo luật của bang.

Mô hình này xuất phát từ một vấn đề lớn trong quản trị AI: doanh nghiệp phát triển mô hình thường đồng thời là đơn vị tự đánh giá sản phẩm của mình.

Khi AI trở nên phức tạp hơn, câu hỏi đặt ra là liệu các tiêu chuẩn an toàn có nên được đánh giá bởi một bên có tính độc lập cao hơn hay không.

California đang cố gắng xây dựng một cơ chế theo hướng đó.

Sắc lệnh mới nối tiếp hàng loạt chính sách AI của California

Sắc lệnh ngày 18/9 không phải hành động đầu tiên của California trong lĩnh vực AI.

Theo chính quyền bang, California đã triển khai một loạt chính sách liên quan đến AI trong những năm gần đây, bao gồm an toàn mô hình tiên tiến, quyền riêng tư, deepfake, chatbot AI dành cho trẻ em, an ninh mạng, lao động và việc sử dụng AI trong khu vực công.

Đặc biệt, trong tháng 9/2026, Newsom đã ký SB 813 và AB 1405, tạo ra khuôn khổ cho các tổ chức xác minh độc lập và hệ thống đăng ký các kiểm toán viên AI, đồng thời đặt ra các tiêu chuẩn về tính độc lập, minh bạch và tính toàn vẹn của hoạt động kiểm toán.

Sắc lệnh mới yêu cầu đẩy nhanh việc triển khai các cơ chế này và tiếp tục nghiên cứu những thay đổi cần thiết để tăng cường an toàn AI.

Theo California, những đề xuất đang được xem xét gồm:

• Tăng cường kiểm toán độc lập đối với các công ty phát triển AI tiên tiến.
• Yêu cầu các báo cáo minh bạch và đánh giá rủi ro được xác minh bởi tổ chức độc lập.
• Nghiên cứu cơ chế “kill switch” cho các mô hình AI tiên tiến.
• Kiểm tra định kỳ hiệu quả của cơ chế tắt khẩn cấp.
• Mở rộng định nghĩa về các sự cố an toàn nghiêm trọng để bao gồm một số tình huống mất kiểm soát hệ thống.

Vì sao cuộc tranh luận về AI nóng lên tại Mỹ?

Động thái của California xuất hiện trong bối cảnh Mỹ đang có cuộc tranh luận lớn về cách cân bằng giữa đổi mới công nghệ và kiểm soát rủi ro.

Một bên cho rằng AI có thể tạo ra năng suất, việc làm mới và những bước tiến lớn trong khoa học, y tế, công nghệ và kinh tế. Việc áp dụng các quy định quá chặt chẽ có thể làm chậm đổi mới hoặc khiến các công ty Mỹ mất lợi thế cạnh tranh.

Ở chiều ngược lại, nhiều nhà nghiên cứu và lãnh đạo ngành công nghệ cảnh báo rằng tốc độ phát triển của các mô hình AI đang tạo ra những rủi ro mới, từ an ninh mạng, gian lận và thông tin giả cho tới những kịch bản nghiêm trọng hơn liên quan đến khả năng kiểm soát các hệ thống AI tiên tiến.

Cuộc tranh luận trở nên đáng chú ý hơn sau khi nhà nghiên cứu Jacob Coxon rời Anthropic và công khai cảnh báo rằng những người xây dựng AI có thể tin công nghệ này có khả năng gây ra hậu quả cực kỳ nghiêm trọng nếu không được kiểm soát phù hợp. Vấn đề này đã thúc đẩy thêm các lời kêu gọi tăng cường quy định tại Washington.

Washington và California đang có cách tiếp cận khác nhau

Sắc lệnh của Newsom cũng đặt California vào một cuộc tranh luận rộng hơn về vai trò của chính quyền liên bang.

Tổng thống Donald Trump đã công khai phản đối những lời kêu gọi áp dụng thêm quy định liên bang đối với AI. Reuters đưa tin ngày 14/9 rằng Trump gọi các lời kêu gọi quản lý mới là một “hoax” và cho rằng Mỹ đã có những công cụ cần thiết để giám sát ngành AI.

Trong khi đó, một số lãnh đạo và nhà lập pháp Mỹ lại thúc đẩy các cơ chế giám sát chặt chẽ hơn. Thống đốc Pennsylvania Josh Shapiro cũng đã kêu gọi tăng cường các biện pháp bảo vệ liên quan đến AI và đề cập đến vai trò của giám sát độc lập.

Như vậy, hiện tồn tại sự khác biệt rõ rệt về cách tiếp cận: một số bên ưu tiên tốc độ phát triển và khả năng cạnh tranh công nghệ, trong khi những bên khác muốn thiết lập thêm các rào chắn an toàn trước khi AI được triển khai rộng hơn.

Newsom muốn California trở thành mô hình quản lý AI

Trong thông báo về sắc lệnh, Newsom tiếp tục nhấn mạnh rằng California muốn xây dựng một khuôn khổ có thể được tham khảo ở cấp quốc gia.

Đây là một mục tiêu phù hợp với vai trò đặc biệt của California trong hệ sinh thái công nghệ Mỹ. Bang này tập trung một lượng lớn doanh nghiệp công nghệ, phòng thí nghiệm AI, nhà đầu tư và lực lượng lao động kỹ thuật cao.

Vì vậy, những quy định được áp dụng tại California có khả năng tạo ra ảnh hưởng vượt ra ngoài phạm vi bang nếu các doanh nghiệp lựa chọn áp dụng cùng một tiêu chuẩn trên toàn bộ hoạt động của họ.

California trước đây cũng đã ban hành chính sách liên quan đến deepfake, AI tạo sinh, quyền riêng tư, chatbot dành cho trẻ em, an ninh mạng và tác động của AI đối với việc làm. Chính quyền bang hiện tiếp tục mở rộng phạm vi chính sách sang hoạt động kiểm toán và xác minh độc lập đối với AI.

AI “kill switch” có thể thay đổi cách doanh nghiệp phát triển mô hình?

Nếu một cơ chế tắt khẩn cấp được đưa vào quy định chính thức, các công ty phát triển AI có thể phải tính đến khả năng kiểm soát và dừng mô hình ngay từ giai đoạn thiết kế.

Điều này có thể ảnh hưởng tới nhiều khía cạnh kỹ thuật, chẳng hạn:

• Cách mô hình được triển khai trên hạ tầng điện toán.
• Quyền kiểm soát của doanh nghiệp đối với mô hình.
• Khả năng ngắt kết nối khỏi các công cụ bên ngoài.
• Cơ chế xác định thế nào là sự cố nghiêm trọng.
• Quyền kích hoạt lệnh dừng khẩn cấp.
• Kiểm tra định kỳ xem cơ chế tắt có thực sự hoạt động hay không.

Tuy nhiên, hiệu quả của một “kill switch” trong thực tế sẽ phụ thuộc vào kiến trúc của từng hệ thống AI. Đặc biệt với các mô hình được triển khai trên nhiều máy chủ hoặc tích hợp với nhiều dịch vụ, việc xác định chính xác phạm vi cần tắt có thể phức tạp.

Vì vậy, việc California yêu cầu nghiên cứu và đưa ra khuyến nghị trước khi thay đổi luật là một bước đáng chú ý.

Sắc lệnh có ý nghĩa gì với ngành AI?

Đối với các công ty AI, điều đáng chú ý nhất không nhất thiết là một “nút tắt” cụ thể mà là xu hướng chuyển từ tự quản lý sang kiểm toán và giám sát độc lập.

Các doanh nghiệp có thể phải chuẩn bị nhiều hơn cho việc chứng minh rằng mô hình của mình đáp ứng các tiêu chuẩn an toàn, bảo mật và minh bạch.

Đối với nhà đầu tư và thị trường công nghệ, các quy định mới có thể tạo thêm chi phí tuân thủ, nhưng đồng thời cũng có thể tạo ra những tiêu chuẩn rõ ràng hơn cho hoạt động phát triển AI.

Đối với người sử dụng, mục tiêu của những chính sách này là tăng khả năng kiểm soát rủi ro khi AI được sử dụng ngày càng sâu trong đời sống, doanh nghiệp và các dịch vụ quan trọng.

Newsom và bối cảnh chính trị của cuộc tranh luận AI

Sắc lệnh cũng được ban hành trong thời điểm Newsom đang thu hút sự chú ý trên phạm vi toàn quốc.

Newsom từng nói ông đang cân nhắc khả năng tranh cử tổng thống Mỹ năm 2028. Gần đây, ông cũng cho biết sẽ không tranh cử nếu cựu Phó Tổng thống Kamala Harris tham gia cuộc đua.

Tuy nhiên, việc đánh giá động cơ chính trị đằng sau từng chính sách AI là vấn đề khác với việc ghi nhận chính sách được ban hành. Về mặt thực tế, sắc lệnh ngày 18/9 tạo ra một quy trình cụ thể để California tiếp tục nghiên cứu, tăng tốc và mở rộng các cơ chế giám sát AI.

Điểm đáng chú ý là những chính sách này được đưa ra ngay trong thời điểm cuộc tranh luận về quản trị AI đang diễn ra ở cấp liên bang và quốc tế.

Sắc lệnh ngày 18/9/2026 của Thống đốc Gavin Newsom đánh dấu một bước tiếp theo trong quá trình California xây dựng khung quản lý AI. Trọng tâm của động thái lần này là đẩy nhanh giám sát độc lập, kiểm toán, đánh giá rủi ro và nghiên cứu cơ chế tắt khẩn cấp đối với các mô hình AI tiên tiến.

Điểm đáng chú ý là California không lựa chọn cách tiếp cận chỉ dựa vào một quy định duy nhất. Thay vào đó, bang đang xây dựng nhiều lớp kiểm soát, từ kiểm toán độc lập, minh bạch báo cáo, đánh giá an toàn cho tới cơ chế ứng phó khi xảy ra sự cố.

Trong khi đó, tại Washington, cuộc tranh luận về mức độ can thiệp của chính phủ đối với AI vẫn tiếp tục. Một bên nhấn mạnh nhu cầu bảo vệ an toàn và trách nhiệm giải trình; bên khác lo ngại quy định quá mức có thể làm chậm đổi mới và ảnh hưởng đến năng lực cạnh tranh công nghệ của Mỹ.

Với việc AI ngày càng trở thành một phần quan trọng của kinh tế số, cuộc tranh luận này có thể sẽ còn kéo dài. Sắc lệnh mới của California vì thế không chỉ liên quan đến một bang của Mỹ mà còn cho thấy một câu hỏi lớn hơn đang được đặt ra trên toàn cầu: làm thế nào để kiểm soát những rủi ro mới của AI mà vẫn duy trì tốc độ đổi mới công nghệ?

Câu hỏi về sắc lệnh AI mới của California

Gavin Newsom đã cấm AI tại California chưa?

Chưa. Sắc lệnh ngày 18/9/2026 không cấm AI. Nội dung chính là yêu cầu các cơ quan và nhóm chuyên gia xây dựng khuyến nghị nhằm tăng cường an toàn, bảo mật và giám sát đối với AI, trong đó có nghiên cứu cơ chế tắt khẩn cấp cho các mô hình tiên tiến.

“Kill switch” AI là gì?

Đây là cách gọi một cơ chế có khả năng tắt hoặc dừng khẩn cấp một hệ thống AI khi xảy ra tình huống nguy hiểm. California hiện đang nghiên cứu khả năng đưa yêu cầu này vào khuôn khổ an toàn đối với các mô hình AI tiên tiến.

Khi nào nhóm chuyên gia phải đưa ra khuyến nghị?

Theo thông tin từ Văn phòng Thống đốc California, nhóm chuyên gia được yêu cầu xây dựng hướng dẫn cho bang trong vòng hai tháng.

California có bắt buộc tất cả công ty AI phải có bên thứ ba kiểm toán ngay lập tức không?

Sắc lệnh mới chủ yếu đẩy nhanh việc triển khai các khuôn khổ đã được ban hành và yêu cầu nghiên cứu thêm các biện pháp. California đã ký SB 813 và AB 1405 trong tháng 9/2026 để xây dựng cơ chế xác minh và kiểm toán độc lập, nhưng các yêu cầu cụ thể tiếp theo vẫn cần được triển khai theo khuôn khổ pháp lý tương ứng.

Vì sao California tập trung vào AI safety?

California cho rằng AI có tiềm năng lớn nhưng cũng có thể tạo ra những rủi ro về an toàn, bảo mật, quyền riêng tư, lao động và xã hội. Các chính sách gần đây của bang tập trung vào việc thiết lập cơ chế đánh giá và trách nhiệm giải trình song song với việc tiếp tục phát triển công nghệ.