Tổng chưởng lý California Rob Bonta và Tổng chưởng lý Del biết, Kathy Jennings đã gặp và gửi một bức thư ngỏ tới Openai để bày tỏ mối quan tâm của họ về sự an toàn của Chatgpt, đặc biệt là cho trẻ em và thanh thiếu niên.
Cảnh báo được đưa ra một tuần sau khi Bonta và 44 Tổng chưởng lý khác gửi thư cho 12 công ty AI hàng đầu, sau các báo cáo về các tương tác không phù hợp về tình dục giữa AI Chatbots và trẻ em.
Kể từ khi phát hành bức thư đó, chúng tôi đã biết về cái chết đau lòng bằng cách tự tử của một người trẻ tuổi ở California sau khi anh ta kéo dài các tương tác với một chatbot Openai, cũng như một vụ giết người tự sát tương tự ở Connecticut, ông Bont Bonta và Jennings viết. Bất cứ điều gì bảo vệ đã có mặt không hoạt động.
Hai quan chức nhà nước hiện đang điều tra việc tái cấu trúc đề xuất của Openai thành một thực thể vì lợi nhuận để đảm bảo rằng nhiệm vụ của tổ chức phi lợi nhuận vẫn còn nguyên vẹn. Nhiệm vụ đó bao gồm đảm bảo rằng trí tuệ nhân tạo được triển khai an toàn và xây dựng trí thông minh chung nhân tạo (AGI) để mang lại lợi ích cho tất cả nhân loại, bao gồm cả trẻ em, theo thư.
Trước khi chúng tôi được hưởng lợi, chúng tôi cần đảm bảo rằng các biện pháp an toàn đầy đủ được áp dụng để không gây hại, thư tiếp tục. Đó là quan điểm chung của chúng tôi rằng Openai và ngành công nghiệp nói chung không phải là nơi họ cần đảm bảo an toàn trong sự phát triển và triển khai của các sản phẩm AI. Là luật sư nói chung, an toàn công cộng là một trong những nhiệm vụ cốt lõi của chúng tôi.
Bonta và Jennings đã yêu cầu thêm thông tin về các biện pháp phòng ngừa và quản trị an toàn hiện tại của Openai, và nói rằng họ hy vọng công ty sẽ thực hiện các biện pháp khắc phục ngay lập tức khi thích hợp.
TechCrunch đã tiếp cận với Openai để bình luận.
Sự kiện TechCrunch
San Francisco
|
27-29 tháng 10 năm 2025
