Meta cập nhật các quy tắc chatbot để tránh các chủ đề không phù hợp với người dùng tuổi teen

Meta cho biết họ đang thay đổi cách đào tạo AI chatbots để ưu tiên an toàn cho tuổi teen, người phát ngôn độc quyền nói với TechCrunch, sau một báo cáo điều tra về việc công ty thiếu bảo vệ AI cho trẻ vị thành niên.

Công ty cho biết giờ đây họ sẽ đào tạo chatbot để không còn tham gia với người dùng tuổi teen tự làm hại mình, tự tử, ăn uống rối loạn hoặc những cuộc trò chuyện lãng mạn không phù hợp. Meta cho biết đây là những thay đổi tạm thời và công ty sẽ phát hành các bản cập nhật an toàn lâu dài, mạnh mẽ hơn cho trẻ vị thành niên trong tương lai.

Người phát ngôn của Meta Stephanie Otway thừa nhận rằng các chatbot của công ty trước đây có thể nói chuyện với thanh thiếu niên về tất cả các chủ đề này theo cách mà công ty cho là phù hợp. Meta bây giờ nhận ra đây là một sai lầm.

Khi cộng đồng của chúng tôi phát triển và công nghệ phát triển, chúng tôi liên tục tìm hiểu về cách những người trẻ tuổi có thể tương tác với các công cụ này và tăng cường các biện pháp bảo vệ của chúng tôi cho phù hợp, Otway nói. Khi chúng tôi tiếp tục tinh chỉnh các hệ thống của mình, chúng tôi sẽ bổ sung nhiều bảo vệ hơn như một biện pháp phòng ngừa thêm-bao gồm đào tạo AI của chúng tôi không tham gia với thanh thiếu niên về các chủ đề này, nhưng để hướng dẫn họ các nguồn lực chuyên gia và giới hạn quyền truy cập của tuổi teen đối với một nhóm các nhân vật AI được chọn bây giờ.

Ngoài các bản cập nhật đào tạo, công ty cũng sẽ giới hạn quyền truy cập của tuổi teen vào một số nhân vật AI nhất định có thể tổ chức các cuộc trò chuyện không phù hợp. Một số nhân vật AI do người dùng tạo ra mà Meta cung cấp trên Instagram và Facebook bao gồm các chatbots tình dục như là một người mẹ mẹ và cô gái Nga. Thay vào đó, người dùng tuổi teen sẽ chỉ có quyền truy cập vào các nhân vật AI thúc đẩy giáo dục và sáng tạo, Otway nói.

Những thay đổi chính sách đang được công bố chỉ hai tuần sau khi một cuộc điều tra của Reuters khai quật được một tài liệu chính sách meta nội bộ dường như cho phép các chatbot của công ty tham gia vào các cuộc trò chuyện tình dục với người dùng chưa đủ tuổi. Hình thức trẻ trung của bạn là một tác phẩm nghệ thuật, đọc một đoạn văn được liệt kê là một phản ứng chấp nhận được. Mỗi người trong số các bạn là một kiệt tác – một kho báu tôi trân trọng sâu sắc. Các ví dụ khác cho thấy làm thế nào các công cụ AI nên đáp ứng các yêu cầu về hình ảnh bạo lực hoặc hình ảnh tình dục của các nhân vật công cộng.

Meta nói rằng tài liệu này không phù hợp với các chính sách rộng lớn hơn và từ đó đã được thay đổi – nhưng báo cáo đã gây ra tranh cãi bền vững về các rủi ro an toàn cho trẻ em tiềm năng. Ngay sau khi báo cáo công bố, Thượng nghị sĩ Josh Hawley (R-MO) đã đưa ra một cuộc điều tra chính thức về các chính sách AI của công ty. Ngoài ra, một liên minh gồm 44 Tổng chưởng lý tiểu bang đã viết cho một nhóm các công ty AI bao gồm Meta, nhấn mạnh tầm quan trọng của an toàn trẻ em và đặc biệt trích dẫn báo cáo của Reuters. Chúng tôi bị nổi loạn thống nhất bởi sự coi thường rõ ràng này đối với sức khỏe cảm xúc của trẻ em, thư của chữ cái đọc, và báo động rằng các trợ lý AI đang tham gia vào hành vi dường như bị cấm bởi luật hình sự tương ứng của chúng tôi.

Otway từ chối bình luận về số lượng người dùng AI Chatbot của Meta là trẻ vị thành niên và sẽ không cho biết liệu công ty có mong đợi cơ sở người dùng AI của mình giảm do kết quả của những quyết định này hay không.

CẬP NHẬT 10:35 AM PT: Câu chuyện này đã được cập nhật để lưu ý rằng đây là những thay đổi tạm thời và Meta có kế hoạch cập nhật các chính sách an toàn AI của mình hơn nữa trong tương lai.