Các nhà lập pháp California thông qua AI an toàn Bill SB 53 – nhưng Newsom vẫn có thể phủ quyết

Thượng viện tiểu bang của California đã phê duyệt cuối cùng vào sáng thứ Bảy cho một hóa đơn an toàn AI lớn đặt ra các yêu cầu minh bạch mới đối với các công ty lớn.

Theo mô tả của tác giả của nó, Thượng nghị sĩ bang Scott Wiener, SB 53, yêu cầu các phòng thí nghiệm AI lớn phải minh bạch về các giao thức an toàn của họ, tạo ra sự bảo vệ của người thổi còi cho [employees] Tại AI Labs & tạo một đám mây công cộng để mở rộng Truy cập tính toán (CalCompute).

Dự luật hiện được chuyển đến Thống đốc California Gavin Newsom để ký hoặc phủ quyết. Anh ấy đã không bình luận công khai về SB 53, nhưng năm ngoái, anh ấy đã phủ quyết một dự luật an toàn mở rộng hơn cũng được tác giả bởi Wiener, đồng thời ký hợp đồng với luật hẹp hơn nhắm vào các vấn đề như Deepfakes.

Vào thời điểm đó, Newsom thừa nhận tầm quan trọng của việc bảo vệ công chúng khỏi các mối đe dọa thực sự do công nghệ này đặt ra, nhưng đã chỉ trích dự luật trước đây của Wiener vì đã áp dụng các tiêu chuẩn nghiêm ngặt của Hồi giáo vào các mô hình lớn bất kể chúng có được triển khai trong môi trường có nguy cơ cao hay không, [involved] Ra quyết định quan trọng hoặc sử dụng dữ liệu nhạy cảm.

Wiener cho biết dự luật mới bị ảnh hưởng bởi các khuyến nghị từ hội đồng chính sách của các chuyên gia AI mà Newsom triệu tập sau quyền phủ quyết của mình.

Politico cũng báo cáo rằng SB 53 gần đây đã được sửa đổi để các công ty phát triển các mô hình AI của Front Frontier trong khi mang lại doanh thu hàng năm dưới 500 triệu đô la sẽ chỉ cần tiết lộ chi tiết an toàn cấp cao, trong khi các công ty kiếm được nhiều hơn mức cần cung cấp các báo cáo chi tiết hơn.

Dự luật đã bị phản đối bởi một số công ty Thung lũng Silicon, các công ty VC và các nhóm vận động hành lang. Trong một bức thư gần đây gửi cho Newsom, Openai đã không đề cập cụ thể đến SB 53 nhưng lập luận rằng để tránh sự trùng lặp và sự không nhất quán của các công ty, các công ty nên được coi là tuân thủ các quy tắc an toàn trên toàn tiểu bang miễn là họ đáp ứng các tiêu chuẩn liên bang hoặc châu Âu.

Và người đứng đầu chính sách AI và giám đốc pháp lý của Andreessen Horowitz gần đây đã tuyên bố rằng nhiều dự luật AI của tiểu bang ngày nay – như các đề xuất ở California và New York – có nguy cơ vượt qua một dòng bằng cách vi phạm các giới hạn hiến pháp về cách các quốc gia có thể điều chỉnh thương mại giữa các tiểu bang.

Những người đồng sáng lập của A16Z trước đây đã chỉ ra quy định công nghệ là một trong những yếu tố dẫn họ trở lại giá thầu của Donald Trump cho nhiệm kỳ thứ hai. Chính quyền Trump và các đồng minh sau đó kêu gọi lệnh cấm 10 năm đối với quy định AI của tiểu bang.

Anthropic, trong khi đó, đã được đưa ra ủng hộ SB 53.

Chúng tôi từ lâu đã nói rằng chúng tôi sẽ thích một tiêu chuẩn liên bang, ông Jack Clark, đồng sáng lập nhân học nói trong một bài đăng. Tuy nhiên, trong trường hợp không có điều này tạo ra một bản thiết kế vững chắc cho quản trị AI không thể bỏ qua.