Openai tuyên bố hôm nay rằng họ đang phát triển một “trải nghiệm chatgpt khác” phù hợp với thanh thiếu niên, một động thái nhấn mạnh những lo ngại ngày càng tăng về tác động của AI Chatbots đối với sức khỏe tâm thần của giới trẻ.
Chế độ tuổi teen mới là một phần của sự thúc đẩy an toàn rộng lớn hơn của công ty sau vụ kiện của một gia đình bị cáo buộc là sự thiếu bảo vệ của Tuntpt đã góp phần vào cái chết do tự tử con trai tuổi teen của họ. Những thay đổi bao gồm công nghệ dự đoán tuổi để giữ trẻ em dưới 18 tuổi khỏi phiên bản tiêu chuẩn của TATGPT. Theo thông báo, nếu hệ thống không thể tự tin ước tính tuổi của ai đó, TATGPT sẽ tự động mặc định theo trải nghiệm dưới 18 tuổi.
“Chúng tôi ưu tiên an toàn trước quyền riêng tư và tự do cho thanh thiếu niên; đây là một công nghệ mới và mạnh mẽ và chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ đáng kể”, Giám đốc điều hành Openai Sam Altman viết trong một bài đăng trên blog.
Đừng bỏ lỡ bất kỳ nội dung công nghệ và đánh giá dựa trên phòng thí nghiệm nào của chúng tôi. Thêm CNET làm nguồn Google ưa thích.
Có gì mới trong chế độ tuổi teen của Chatgpt
Openai cho biết phiên bản tuổi teen sẽ đi kèm với các giới hạn tích hợp chặt chẽ hơn, chẳng hạn như:
- Bộ lọc nội dung: Không có cuộc trò chuyện hay thảo luận về bản thân, ngay cả trong bối cảnh hư cấu hoặc sáng tạo.
- Phản ứng khủng hoảng: Nếu một thiếu niên thể hiện những suy nghĩ tự tử, Openai có thể cố gắng cảnh báo cha mẹ và trong các tình huống khẩn cấp, thậm chí liên hệ với các nhà chức trách.
- Kiểm soát của cha mẹ: Phụ huynh có thể liên kết các tài khoản, đặt quy tắc về cách TATGPT phản hồi và thực thi “Giờ mất điện” khi ứng dụng không giới hạn.
.
Bối cảnh lớn hơn
Thông báo của Openai được đưa ra chỉ vài giờ trước phiên điều trần của Thượng viện ở Washington, DC, kiểm tra mối đe dọa tiềm tàng của AI đối với những người trẻ tuổi. Các nhà lập pháp đã thúc đẩy các công ty công nghệ về an toàn tuổi teen sau các vụ kiện cáo buộc các nền tảng AI làm xấu đi các cuộc đấu tranh về sức khỏe tâm thần hoặc cung cấp lời khuyên về sức khỏe có hại.
Cách tiếp cận của Openai phản ánh các động thái trước đó của các công ty như Google, nơi thúc đẩy những đứa trẻ trên YouTube sau khi chỉ trích và áp lực điều tiết. Bài đăng trên blog của Altman đóng khung động tác như một phần của hành động cân bằng rộng hơn giữa an toàn, quyền riêng tư và tự do. Người lớn, ông lập luận, nên được đối xử “như người lớn” với ít hạn chế hơn, trong khi thanh thiếu niên cần được bảo vệ thêm – ngay cả khi điều đó có nghĩa là thỏa hiệp về quyền riêng tư, như yêu cầu ID.
Đọc thêm: Openai muốn bạn nhận được chứng chỉ trong Chatgpt và tìm công việc tiếp theo của bạn
Công ty cho biết họ sẽ triển khai trải nghiệm tập trung vào tuổi teen này vào cuối năm nay. Tuy nhiên, lịch sử cho thấy rằng thanh thiếu niên hiểu biết thường tìm thấy cách giải quyết để có quyền truy cập không giới hạn. Nó chắc chắn sẽ là một câu hỏi liệu những người bảo vệ này có đủ để bảo vệ thanh thiếu niên nói dối công nghệ, những người thoải mái leo lên chúng hay không.
Nếu bạn cảm thấy như bạn hoặc ai đó bạn biết đang gặp nguy hiểm ngay lập tức, hãy gọi 911 (hoặc đường dây khẩn cấp địa phương của đất nước bạn) hoặc đến phòng cấp cứu để được giúp đỡ ngay lập tức. Giải thích rằng đó là một trường hợp khẩn cấp tâm thần và yêu cầu một người được đào tạo cho các loại tình huống này. Nếu bạn đang vật lộn với những suy nghĩ tiêu cực hoặc cảm giác tự tử, tài nguyên có sẵn để giúp đỡ. Ở Mỹ, hãy gọi Lifeline phòng chống tự tử quốc gia vào năm 988.