OpenAI đang phát triển một hệ thống được thiết kế để tự động xác định người dùng tuổi teen và hạn chế việc sử dụng ChATGPT của họ. Trong một bài đăng trên blog được xuất bản hôm thứ ba, công ty cho biết trải nghiệm mới sẽ đi kèm với các chính sách phù hợp với lứa tuổi, bao gồm một khối nội dung tình dục đồ họa. “Trong trường hợp đau khổ cấp tính”, hệ thống cũng sẽ có khả năng liên hệ với cơ quan thực thi pháp luật để đảm bảo an toàn cho người dùng. Trong các kịch bản mà Chatgpt không thể ước tính độ tuổi của người dùng, nó sẽ mặc định cho họ trải nghiệm Gated mới. OpenAI sẽ cung cấp một cách để người dùng trưởng thành xác minh tuổi của họ và mở khóa các khả năng đầy đủ của TATGPT. Công ty đã không tuyên bố khi có kế hoạch triển khai các hệ thống mới.
Thông báo sau cái chết của Adam Raine, 16 tuổi, thiếu niên đầu tiên được cho là đã tự tử sau khi TATGPT bị cáo buộc đã giúp anh ta lên kế hoạch cho cái chết của mình. Trước hậu quả của vụ tự tử, Openai đã hứa sẽ giải phóng các biện pháp kiểm soát được thiết kế để cung cấp cho cha mẹ và người giám hộ nhiều hơn về việc sử dụng Chatgpt của thiếu niên. Vào thứ ba, công ty đã nhắc lại rằng những điều khiển đó sẽ đến trước cuối tháng và nói rằng họ sẽ bao gồm một tính năng bổ sung sẽ cho cha mẹ khả năng đặt hàng giờ mà con của họ không thể sử dụng chatgpt.
Một cách riêng biệt, Openai đã xuất bản một lá thư từ CEO Sam Altman kể chi tiết suy nghĩ của công ty về vấn đề này. “Chúng tôi ưu tiên an toàn trước sự riêng tư và tự do cho thanh thiếu niên; đây là một công nghệ mới và mạnh mẽ, và chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ đáng kể”, Altman nói. “Chúng tôi nhận ra rằng những nguyên tắc này đang xung đột và không phải ai cũng đồng ý với cách chúng tôi giải quyết xung đột đó. Đây là những quyết định khó khăn, nhưng sau khi nói chuyện với các chuyên gia, đây là điều chúng tôi nghĩ là tốt nhất và muốn minh bạch trong ý định của chúng tôi.”
