Tổng chưởng lý Hoa Kỳ gồm 44 khu vực pháp lý đã ký một lá thư [PDF] gửi cho các giám đốc điều hành của nhiều công ty AI, kêu gọi họ bảo vệ trẻ em “khỏi sự khai thác của các sản phẩm trí tuệ nhân tạo săn mồi.” Trong bức thư, AGS đã chỉ ra meta và nói rằng các chính sách của nó “cung cấp một cơ hội hướng dẫn để truyền tải thẳng thắn [their] mối quan tâm. “Cụ thể, họ đã đề cập đến một báo cáo gần đây của Reutersđiều này tiết lộ rằng Meta cho phép AI Chatbot của mình “tán tỉnh và tham gia vào việc nhập vai lãng mạn với trẻ em”. Reuters Có thông tin từ một tài liệu meta nội bộ có chứa các hướng dẫn cho bot của nó.
Họ cũng chỉ ra một Tạp chí Phố Wall Điều tra trong đó AI Chatbot của Meta, ngay cả những người sử dụng tiếng nói của những người nổi tiếng như Kristen Bell, đã bị bắt gặp khi có các cuộc trò chuyện nhập vai tình dục với các tài khoản được dán nhãn là chưa đủ tuổi. AGS đã đề cập ngắn gọn về một vụ kiện chống lại Google và nhân vật. Một vụ kiện khác mà họ đề cập cũng là chống lại nhân vật.
“Bạn nhận thức rõ rằng công nghệ tương tác có tác động đặc biệt mạnh mẽ đến việc phát triển bộ não”, Tổng chưởng lý viết trong thư của họ. “Quyền truy cập ngay lập tức của bạn vào dữ liệu về các tương tác của người dùng khiến bạn trở thành tuyến phòng thủ ngay lập tức nhất để giảm thiểu tác hại cho trẻ em. Và, vì các thực thể được hưởng lợi từ sự tham gia của trẻ em với các sản phẩm của bạn, bạn có nghĩa vụ pháp lý đối với chúng với tư cách là người tiêu dùng.” Nhóm này đã đề cập cụ thể bức thư cho Anthropic, Apple, Chai AI, Starter Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, Openai, Perplexity AI, Repkika và Xai.
Họ đã kết thúc bức thư của mình bằng cách cảnh báo các công ty rằng họ “sẽ chịu trách nhiệm” cho các quyết định của họ. Mạng xã hội đã gây ra tác hại đáng kể cho trẻ em, một phần, vì “Cơ quan giám sát của chính phủ đã không làm công việc của họ đủ nhanh.” Nhưng bây giờ, AGS cho biết họ đang chú ý và các công ty “sẽ trả lời” nếu họ “cố ý làm hại trẻ em”.
