Chúng tôi đã thấy trí tuệ nhân tạo đưa ra một số phản hồi khá kỳ lạ cho các truy vấn khi chatbot trở nên phổ biến hơn. Hôm nay, Reddit Answers đang được chú ý sau khi người điều hành gắn cờ công cụ AI vì đã cung cấp lời khuyên y tế nguy hiểm mà họ không thể vô hiệu hóa hoặc ẩn khỏi chế độ xem.
Bản mod cho thấy Reddit Answers đề xuất rằng những người bị đau mãn tính nên ngừng dùng thuốc theo toa hiện tại và dùng kratom liều cao, một chất không được kiểm soát và là bất hợp pháp ở một số bang. Người dùng cho biết sau đó họ đã hỏi Reddit Answers về các câu hỏi y tế khác. Họ đã nhận được những lời khuyên tiềm ẩn nguy hiểm trong việc điều trị bệnh sốt sơ sinh bên cạnh một số hành động chính xác cũng như gợi ý rằng heroin có thể được sử dụng để giảm đau mãn tính. Một số mod khác, đặc biệt là từ các subreddits tập trung vào sức khỏe, đã trả lời bài đăng gốc và bổ sung thêm mối lo ngại rằng họ không có cách nào để tắt hoặc gắn cờ sự cố khi Reddit Answers cung cấp thông tin không chính xác hoặc nguy hiểm trong cộng đồng của họ.
Một đại diện từ Reddit nói Phương tiện truyền thông 404 rằng Câu trả lời Reddit đã được cập nhật để giải quyết một số mối quan tâm của mod. Người phát ngôn nói với ấn phẩm: “Bản cập nhật này đảm bảo rằng ‘Câu trả lời liên quan’ cho các chủ đề nhạy cảm, trước đây có thể hiển thị trên trang chi tiết bài đăng (còn được gọi là trang hội thoại), sẽ không còn được hiển thị nữa. “Thay đổi này được thực hiện để nâng cao trải nghiệm người dùng và duy trì khả năng hiển thị nội dung phù hợp trong nền tảng.” Chúng tôi đã liên hệ với Reddit để yêu cầu nhận xét bổ sung về những chủ đề đang bị loại trừ nhưng hiện tại chưa nhận được phản hồi.
Trong khi người đại diện nói Phương tiện truyền thông 404 rằng Reddit Answers “loại trừ nội dung từ các cộng đồng riêng tư, bị cách ly và NSFW, cũng như một số chủ đề dành cho người trưởng thành”, công cụ AI rõ ràng dường như không được trang bị để cung cấp thông tin y tế đúng cách, chưa kể đến việc xử lý những lời châm chọc, mỉa mai hoặc lời khuyên tồi tệ tiềm ẩn có thể được đưa ra bởi các Redditor khác. Ngoài động thái mới nhất là không xuất hiện trong các chủ đề nhạy cảm, có vẻ như Reddit không có kế hoạch cung cấp bất kỳ công cụ nào để kiểm soát cách thức hoặc thời điểm AI được hiển thị trong các subreddits, điều này có thể khiến nhiệm vụ kiểm duyệt vốn đã đầy thách thức gần như không thể thực hiện được.
