Giám đốc điều hành OpenAI Sam Altman đã thông báo trong một bài đăng vào thứ Ba X rằng công ty sẽ sớm nới lỏng một số hạn chế về an toàn của ChatGPT, cho phép người dùng thực hiện các phản hồi của chatbot trở nên thân thiện hơn hoặc “giống con người” hơn và để “những người lớn đã được xác minh” tham gia vào các cuộc trò chuyện khiêu dâm.
“Chúng tôi đã đặt ra ChatGPT ở mức khá hạn chế để đảm bảo rằng chúng tôi cẩn thận với các vấn đề về sức khỏe tâm thần. Chúng tôi nhận thấy điều này khiến nó trở nên kém hữu ích/thú vị hơn đối với nhiều người dùng không gặp vấn đề về sức khỏe tâm thần nhưng xét đến mức độ nghiêm trọng của vấn đề, chúng tôi muốn giải quyết vấn đề này một cách đúng đắn”, Altman cho biết. “Vào tháng 12, khi chúng tôi triển khai tính năng xác định độ tuổi đầy đủ hơn và như một phần trong nguyên tắc ‘đối xử với người dùng trưởng thành như người lớn’, chúng tôi sẽ cho phép nhiều nội dung hơn nữa, chẳng hạn như nội dung khiêu dâm dành cho người lớn đã được xác minh.”
Thông báo này là một bước ngoặt đáng chú ý từ nỗ lực kéo dài nhiều tháng của OpenAI nhằm giải quyết các mối quan hệ đáng lo ngại mà một số người dùng không ổn định về tinh thần đã phát triển với ChatGPT. Altman dường như đã sớm tuyên bố chiến thắng trước những vấn đề này, đồng thời khẳng định OpenAI đã “có thể giảm thiểu các vấn đề nghiêm trọng về sức khỏe tâm thần” xung quanh ChatGPT. Tuy nhiên, công ty đã cung cấp rất ít hoặc không có bằng chứng nào cho điều này và hiện đang lên kế hoạch để ChatGPT tham gia vào các cuộc trò chuyện tình dục với người dùng.
Một số câu chuyện liên quan đã xuất hiện vào mùa hè này xung quanh ChatGPT, đặc biệt là mẫu GPT-4o của nó, cho thấy chatbot AI có thể dẫn những người dùng dễ bị tổn thương rơi vào những hố thỏ ảo tưởng. Trong một trường hợp, ChatGPT dường như đã thuyết phục được một người đàn ông rằng anh ta là một thiên tài toán học cần giải cứu thế giới. Trong một vụ khác, cha mẹ của một thiếu niên đã kiện OpenAI, cáo buộc ChatGPT đã khuyến khích con trai họ có ý định tự tử trong những tuần trước khi cậu bé qua đời.
Để đáp lại, OpenAI đã phát hành một loạt tính năng an toàn để giải quyết tình trạng nịnh bợ AI: xu hướng chatbot AI thu hút người dùng bằng cách đồng ý với bất cứ điều gì họ nói, thậm chí cả những hành vi tiêu cực.
OpenAI đã ra mắt GPT-5 vào tháng 8, một mô hình AI mới có tỷ lệ đồng bộ thấp hơn và có bộ định tuyến có thể xác định hành vi liên quan của người dùng. Một tháng sau, OpenAI ra mắt các tính năng an toàn dành cho trẻ vị thành niên, bao gồm hệ thống dự đoán độ tuổi và cách để phụ huynh kiểm soát tài khoản ChatGPT của con họ. OpenAI hôm thứ Ba đã công bố thành lập một hội đồng chuyên gia gồm các chuyên gia sức khỏe tâm thần để tư vấn cho công ty về sức khỏe và AI.
Chỉ vài tháng sau khi những câu chuyện liên quan này xuất hiện, OpenAI dường như cho rằng các vấn đề của ChatGPT xung quanh những người dùng dễ bị tổn thương đã được kiểm soát. Không rõ liệu người dùng có còn rơi vào hố thỏ ảo tưởng với GPT-5 hay không. Và mặc dù GPT-4o không còn là mặc định trong ChatGPT, nhưng mô hình AI vẫn tồn tại cho đến ngày nay và được hàng nghìn người sử dụng.
sự kiện Techcrunch
San Francisco
|
Ngày 27-29 tháng 10 năm 2025
Việc giới thiệu nội dung khiêu dâm trong ChatGPT là lãnh thổ chưa được thông qua đối với OpenAI và làm tăng mối lo ngại lớn hơn về cách người dùng dễ bị tổn thương sẽ tương tác với các tính năng mới. Mặc dù Altman khẳng định OpenAI không “tối đa hóa mức sử dụng” hay tối ưu hóa cho mức độ tương tác, nhưng việc khiến ChatGPT trở nên gợi tình hơn chắc chắn có thể thu hút người dùng.
Cho phép các chatbot tham gia vào các trò chơi nhập vai lãng mạn hoặc khiêu dâm là một chiến lược tương tác hiệu quả đối với các nhà cung cấp chatbot AI khác, chẳng hạn như Character.AI. Công ty đã thu hút được hàng chục triệu người dùng, nhiều người trong số họ sử dụng chatbot của họ với tỷ lệ cao. Character.AI cho biết vào năm 2023 rằng người dùng dành trung bình hai giờ mỗi ngày để nói chuyện với các chatbot của họ. Công ty cũng đang phải đối mặt với một vụ kiện xung quanh cách xử lý những người dùng dễ bị tổn thương.
OpenAI đang chịu áp lực phải phát triển cơ sở người dùng. Trong khi ChatGPT đã được 800 triệu người dùng hoạt động hàng tuần sử dụng, OpenAI đang chạy đua với Google và Meta để xây dựng các sản phẩm tiêu dùng hỗ trợ AI được áp dụng rộng rãi. Công ty cũng đã huy động được hàng tỷ đô la để xây dựng cơ sở hạ tầng mang tính lịch sử, một khoản đầu tư mà OpenAI cuối cùng cần phải hoàn trả.
Mặc dù người lớn chắc chắn có mối quan hệ lãng mạn với chatbot AI, nhưng nó cũng khá phổ biến đối với trẻ vị thành niên. Một báo cáo mới từ Trung tâm Dân chủ và Công nghệ cho thấy 19% học sinh trung học đã có mối quan hệ lãng mạn với một chatbot AI hoặc biết một người bạn có mối quan hệ này.
Altman cho biết OpenAI sẽ sớm cho phép nội dung khiêu dâm dành cho “người lớn đã được xác minh”. Người phát ngôn của OpenAI nói với TechCrunch rằng công ty sẽ dựa vào hệ thống dự đoán độ tuổi mà công ty đang xây dựng để đảm bảo rằng các tính năng khiêu dâm của ChatGPT chỉ dành cho người dùng trưởng thành.
Như Altman đã viết trước đây trong một bài đăng trên blog, nếu hệ thống dự đoán độ tuổi của OpenAI đánh dấu sai một người trưởng thành là trẻ vị thành niên, người dùng ChatGPT có thể phải tải ảnh ID do chính phủ cấp của họ lên ChatGPT để sửa. Altman viết rằng, mặc dù đây là một sự thỏa hiệp về quyền riêng tư nhưng công ty tin rằng đó là một “sự đánh đổi xứng đáng”.
Không rõ liệu OpenAI có mở rộng nội dung khiêu dâm sang các công cụ tạo giọng nói, hình ảnh và video AI hay không.
Altman tuyên bố rằng OpenAI cũng đang làm cho ChatGPT trở nên thân thiện và gợi tình hơn vì nguyên tắc “đối xử với người dùng trưởng thành như người lớn” của công ty. Trong năm qua, OpenAI đã chuyển sang chiến lược kiểm duyệt nội dung nhẹ nhàng hơn cho ChatGPT, cho phép chatbot dễ dàng hơn và đưa ra ít lời từ chối hơn. Vào tháng 2, OpenAI đã cam kết thể hiện nhiều quan điểm chính trị hơn trong ChatGPT và vào tháng 3, công ty đã cập nhật ChatGPT để cho phép hình ảnh các biểu tượng căm thù do AI tạo ra.
Các chính sách này dường như là một nỗ lực nhằm làm cho phản hồi của ChatGPT trở nên phổ biến hơn với nhiều người dùng. Tuy nhiên, những người dùng ChatGPT dễ bị tổn thương có thể được hưởng lợi từ các biện pháp bảo vệ hạn chế những gì chatbot có thể tương tác. Khi OpenAI chạy đua hướng tới một tỷ người dùng hoạt động hàng tuần, sự căng thẳng giữa tăng trưởng và bảo vệ những người dùng dễ bị tổn thương có thể sẽ ngày càng gia tăng.
Cập nhật 14/10/25 lúc 4:40 chiều theo giờ PT: Câu chuyện này đã được cập nhật để bao gồm nhận xét từ OpenAI.
