ChatGPT hiện đang bước đi thận trọng, nhưng chatbot có thể trở nên nguy hiểm hơn vào cuối năm nay.
Trong những tuần gần đây, chatbot AI tổng hợp đã hoạt động với những hạn chế có phần nghiêm ngặt, vì OpenAI cố gắng giải quyết những lo ngại rằng nó không xử lý tốt các vấn đề sức khỏe tâm thần nhạy cảm. Nhưng Giám đốc điều hành Sam Altman cho biết trong một bài đăng vào thứ Ba X rằng công ty sẽ giảm bớt một số hạn chế đó vì nó “có thể giảm thiểu các vấn đề nghiêm trọng về sức khỏe tâm thần”.
Altman cho biết trong một bài đăng tiếp theo hôm thứ Tư rằng những thay đổi này dự kiến sẽ ưu tiên sự an toàn cho thanh thiếu niên đồng thời “đối xử với người dùng trưởng thành như người lớn”. Các công cụ được tích hợp trong mô hình để giải quyết các chủ đề nhạy cảm và giải quyết các cuộc khủng hoảng về sức khỏe tâm thần sẽ vẫn dành cho tất cả người dùng, nhưng người dùng trưởng thành sẽ có nhiều quyền tự do hơn khi sử dụng ChatGPT mà không cần bật lên ưu tiên hoặc định tuyến lại mô hình.
Altman nói: “Tất nhiên, nó không áp dụng trên diện rộng: ví dụ: chúng tôi vẫn sẽ không cho phép những thứ gây hại cho người khác và chúng tôi sẽ đối xử với những người dùng đang gặp khủng hoảng về sức khỏe tâm thần rất khác với những người dùng không mắc bệnh”. “Không theo chủ nghĩa gia trưởng, chúng tôi sẽ cố gắng giúp người dùng đạt được mục tiêu dài hạn của họ.”
(Tiết lộ: Ziff Davis, công ty mẹ của CNET, vào tháng 4 đã đệ đơn kiện OpenAI, cáo buộc họ vi phạm bản quyền của Ziff Davis trong việc đào tạo và vận hành hệ thống AI của mình.)
Những thay đổi khác cũng được mong đợi. Altman cho biết công ty có thể cho phép nội dung “khiêu dâm” đối với người dùng trưởng thành đã được xác minh khi họ triển khai hệ thống “giới hạn độ tuổi” hoặc nội dung giới hạn độ tuổi vào tháng 12. Altman cho biết nội dung người lớn là một phần trong nguyên tắc “đối xử với người dùng trưởng thành như người lớn” của công ty.
Bài đăng của Altman cũng đã công bố một phiên bản ChatGPT mới trong vài tuần tới, với tính năng hoạt động giống với mẫu GPT-4o của công ty hơn. Người dùng Chatbot đã phàn nàn sau khi công ty thay thế 4o bằng GPT-5 không mang tính cá nhân vào đầu năm nay, nói rằng phiên bản mới thiếu tính hấp dẫn và vui nhộn của các mô hình chatbot trước đó.
“Nếu bạn muốn ChatGPT của mình phản hồi theo cách rất giống con người hoặc sử dụng nhiều biểu tượng cảm xúc hoặc hành động như một người bạn, ChatGPT nên làm điều đó (nhưng chỉ khi bạn muốn chứ không phải vì chúng tôi đang sử dụng tối đa)”, Altman viết.
Đừng bỏ lỡ bất kỳ nội dung công nghệ khách quan nào và các bài đánh giá dựa trên phòng thí nghiệm của chúng tôi. Thêm CNET làm nguồn ưa thích của Google.
Sau khi OpenAI bị các bậc cha mẹ kiện vì cáo buộc ChatGPT góp phần vào vụ tự tử của cậu con trai tuổi teen của họ, công ty đã áp đặt một loạt hạn chế và thay đổi mới, bao gồm quyền kiểm soát của phụ huynh, cảnh báo về hành vi nguy hiểm và phiên bản chatbot thân thiện với thanh thiếu niên. Vào mùa hè, OpenAI đã triển khai lời nhắc giải lao nhằm khuyến khích mọi người thỉnh thoảng ngừng trò chuyện với bot.
Hôm thứ Ba, công ty cũng tuyên bố thành lập một hội đồng gồm các chuyên gia về AI và sức khỏe, bao gồm một số người có chuyên môn về tâm lý học và hành vi con người.
Điều này xảy ra khi các nhà lập pháp và cơ quan quản lý đang gióng lên hồi chuông cảnh báo về những rủi ro mà các công cụ AI gây ra cho con người, đặc biệt là trẻ em. Vào thứ Hai, Thống đốc California Gavin Newsom đã ký thành luật các hạn chế mới đối với các chatbot đồng hành với AI. Tháng trước, Ủy ban Thương mại Liên bang đã mở một cuộc điều tra đối với một số công ty AI, bao gồm cả OpenAI.