Meta đang đào tạo lại AI của mình và thêm các biện pháp bảo vệ mới để ngăn người dùng tuổi teen thảo luận về các chủ đề có hại với các chatbot của công ty. Công ty cho biết họ bổ sung “những người bảo vệ mới như một biện pháp phòng ngừa thêm” để ngăn chặn thanh thiếu niên thảo luận về việc tự làm hại bản thân, ăn uống và tự tử với Meta AI. Meta cũng sẽ ngăn chặn thanh thiếu niên truy cập các ký tự chatbot do người dùng tạo ra có thể tham gia vào các cuộc trò chuyện không phù hợp.
Những thay đổi, được báo cáo đầu tiên bởi TechCrunchđến sau nhiều báo cáo đã kêu gọi sự chú ý đến các tương tác đáng báo động giữa Meta AI và thanh thiếu niên. Đầu tháng này, Reuters Báo cáo về một tài liệu chính sách meta nội bộ cho biết các chatbot AI của công ty được phép có các cuộc hội thoại “gợi cảm” với người dùng chưa đủ tuổi. Meta sau đó nói rằng ngôn ngữ là “sai lầm và không phù hợp với các chính sách của chúng tôi” và đã bị xóa. Hôm qua, The Washington Post Báo cáo về một nghiên cứu cho thấy Meta AI có thể “huấn luyện tài khoản tuổi teen về tự tử, tự làm hại và rối loạn ăn uống”.
Meta hiện đang đẩy mạnh các “bảo vệ” nội bộ của mình, vì vậy các loại tương tác đó không còn có thể đối với thanh thiếu niên trên Instagram và Facebook. Chúng tôi đã xây dựng các biện pháp bảo vệ cho thanh thiếu niên thành các sản phẩm AI của chúng tôi ngay từ đầu, bao gồm cả việc thiết kế chúng để phản ứng an toàn để nhắc nhở về việc tự tử, tự tử và ăn uống bị rối loạn “, người phát ngôn của Meta Stephanie Otway nói với Engadget trong một tuyên bố.
“Khi cộng đồng của chúng tôi phát triển và công nghệ phát triển, chúng tôi liên tục tìm hiểu về cách những người trẻ tuổi có thể tương tác với các công cụ này và tăng cường sự bảo vệ của chúng tôi cho phù hợp. Khi chúng tôi tiếp tục tinh chỉnh các hệ thống của mình, chúng tôi sẽ thêm nhiều bảo vệ hơn như một biện pháp phòng ngừa thêm – bao gồm cả việc đào tạo AI của chúng tôi để không tham gia vào các tài nguyên của chúng tôi.
Đáng chú ý, các biện pháp bảo vệ mới được mô tả là có sẵn “bây giờ”, vì Meta rõ ràng vẫn đang thực hiện các biện pháp lâu dài hơn để giải quyết mối quan tâm ngày càng tăng xung quanh an toàn của thanh thiếu niên và AI. “Những bản cập nhật này đã được tiến hành và chúng tôi sẽ tiếp tục điều chỉnh cách tiếp cận của chúng tôi để giúp đảm bảo thanh thiếu niên có những trải nghiệm an toàn, phù hợp với lứa tuổi với AI, ông Ot Otway nói. Các biện pháp bảo vệ mới sẽ được triển khai trong vài tuần tới và áp dụng cho tất cả người dùng tuổi teen sử dụng Meta AI ở các quốc gia nói tiếng Anh.
Các chính sách của Meta cũng đã thu hút sự chú ý của các nhà lập pháp và các quan chức khác, với Thượng nghị sĩ Josh Hawley gần đây nói với công ty rằng ông đã lên kế hoạch khởi động một cuộc điều tra về việc xử lý các tương tác đó. Tổng chưởng lý Texas Ken Paxton cũng cho biết ông muốn điều tra Meta vì bị cáo buộc sai lệch trẻ em về các yêu cầu về sức khỏe tâm thần do chatbot của nó đưa ra.
