Tại sao SB 53 của California có thể cung cấp một kiểm tra có ý nghĩa đối với các công ty AI lớn

Thượng viện tiểu bang của California gần đây đã chấp thuận cuối cùng cho một dự luật an toàn AI mới, SB 53, gửi nó cho Thống đốc Gavin Newsom để ký hoặc phủ quyết.

Nếu tất cả điều này nghe có vẻ quen thuộc, đó là vì Newsom đã phủ quyết một dự luật an toàn AI khác, cũng được viết bởi Thượng nghị sĩ bang Scott Wiener, năm ngoái. Nhưng SB 53 hẹp hơn so với SB 1047 trước đây của Wiener, tập trung vào các công ty AI lớn kiếm được hơn 500 triệu đô la doanh thu hàng năm.

Tôi đã có cơ hội thảo luận về SB 53 với các đồng nghiệp của tôi Max Zeff và Kirsten Korosec trên tập mới nhất của công bằng podcast hàng đầu của TechCrunch. Max tin rằng dự luật mới của Wiener có một luật trở thành luật tốt hơn, một phần vì sự tập trung của công ty lớn đó và bởi vì nó được xác nhận bởi công ty AI Anthropic.

Đọc bản xem trước cuộc trò chuyện của chúng tôi về luật an toàn và cấp độ nhà nước dưới đây. .

Tối đa: Tại sao bạn nên quan tâm đến luật an toàn của AI đang đi qua một phòng ở California? Chúng tôi đang bước vào kỷ nguyên này, nơi các công ty AI đang trở thành công ty quyền lực nhất thế giới và đây sẽ có khả năng là một trong số ít kiểm tra về quyền lực của họ.

Điều này hẹp hơn nhiều so với SB 1047, đã có rất nhiều sự đẩy lùi vào năm ngoái. Nhưng tôi nghĩ SB 53 vẫn đặt một số quy định có ý nghĩa trên các phòng thí nghiệm AI. Nó làm cho họ xuất bản các báo cáo an toàn cho các mô hình của họ. Nếu họ có một sự cố, về cơ bản, nó buộc họ phải báo cáo điều đó với chính phủ. Và nó cũng vậy, đối với các nhân viên tại các phòng thí nghiệm này, nếu họ lo ngại, cung cấp cho họ một kênh để báo cáo rằng với chính phủ và không phải đối mặt với sự đẩy lùi từ các công ty, mặc dù rất nhiều người trong số họ đã ký NDA.

Đối với tôi, điều này cảm thấy như một kiểm tra có ý nghĩa có ý nghĩa đối với sức mạnh của các công ty công nghệ, một điều mà chúng tôi thực sự chưa có trong vài thập kỷ qua.

Kirsten: Theo quan điểm của bạn về lý do tại sao nó quan trọng ở cấp tiểu bang, điều quan trọng là phải suy nghĩ về thực tế là California. Mỗi công ty AI chính là khá nhiều, nếu không dựa trên đây, nó có một dấu chân lớn trong tiểu bang này. Không phải là các tiểu bang khác không quan trọng – Tôi không muốn nhận email từ những người ở Colorado hoặc bất cứ điều gì – nhưng vấn đề là nó đặc biệt ở California vì nó thực sự là một trung tâm của hoạt động AI.

Tuy nhiên, câu hỏi của tôi dành cho bạn, Max, có vẻ như có rất nhiều ngoại lệ và khắc. Nó hẹp hơn, nhưng nó có phức tạp hơn trước đó không [bill]?

Tối đa: Trong một số cách, vâng. Tôi muốn nói rằng việc khắc phục chính của dự luật này là nó thực sự cố gắng không áp dụng cho các công ty khởi nghiệp nhỏ. Và về cơ bản, một trong những tranh cãi chính xung quanh nỗ lực lập pháp cuối cùng từ Thượng nghị sĩ Scott Weiner, người đại diện cho San Francisco, người đã là tác giả

Hóa đơn này đặc biệt áp dụng cho các nhà phát triển AI [generating] Hơn 500 triệu đô la [from] Mô hình AI của họ. Điều này thực sự cố gắng nhắm mục tiêu Openai, Google Deepmind, những công ty lớn này chứ không phải là công ty khởi nghiệp của bạn.

Anthony: Theo tôi hiểu, nếu bạn là một công ty khởi nghiệp nhỏ hơn, bạn phải chia sẻ một số thông tin an toàn, nhưng không nhiều.

Của nó [also] Đáng nói về bối cảnh rộng lớn hơn xung quanh quy định của AI và thực tế là một trong những thay đổi lớn giữa năm ngoái và năm nay là chúng tôi có một tổng thống mới. Chính quyền liên bang đã có nhiều lập trường không có quy định và các công ty sẽ có thể làm những gì họ muốn, đến mức họ thực sự đã bao gồm [language] Trong các hóa đơn tài trợ nói rằng các quốc gia không thể có quy định AI của riêng họ.

Tôi không nghĩ rằng bất kỳ điều đó đã vượt qua cho đến nay, nhưng có khả năng họ có thể cố gắng vượt qua điều đó trong tương lai. Vì vậy, đây có thể là một mặt trận khác trong đó chính quyền Trump và các quốc gia màu xanh đang chiến đấu.

Vốn chủ sở hữu là podcast hàng đầu của TechCrunch, được sản xuất bởi Theresa Loconsolo, và đăng vào mỗi thứ Tư và thứ Sáu.

Đăng ký chúng tôi trên Apple podcastsThì U ámThì Spotifyvà tất cả các diễn viên. Bạn cũng có thể theo dõi vốn chủ sở hữu trên X Và Chủ đềtại @equitypod.