Openai đang tổ chức lại nhóm hành vi mô hình của mình, một nhóm các nhà nghiên cứu nhỏ nhưng có ảnh hưởng, những người định hình cách các mô hình AI của công ty tương tác với mọi người, TechCrunch đã học được.
Trong một bản ghi nhớ tháng 8 cho các nhân viên được nhìn thấy bởi TechCrunch, Giám đốc nghiên cứu của Openai Mark Chen cho biết nhóm hành vi mô hình-bao gồm khoảng 14 nhà nghiên cứu-sẽ gia nhập nhóm đào tạo, một nhóm nghiên cứu lớn hơn chịu trách nhiệm cải thiện các mô hình AI của công ty sau khi đào tạo trước ban đầu.
Là một phần của những thay đổi, nhóm hành vi mô hình hiện sẽ báo cáo cho Max Schwarzer của Openai. Một phát ngôn viên của Openai đã xác nhận những thay đổi này đối với TechCrunch.
Lãnh đạo sáng lập của nhóm hành vi mô hình, Joanne Jang, cũng đang tiếp tục bắt đầu một dự án mới tại công ty. Trong một cuộc phỏng vấn với TechCrunch, Jang nói rằng cô ấy sẽ xây dựng một nhóm nghiên cứu mới có tên OAI Labs, sẽ chịu trách nhiệm phát minh và tạo ra các giao diện mới cho cách mọi người hợp tác với AI.
Nhóm hành vi mô hình đã trở thành một trong những nhóm nghiên cứu quan trọng của Openai, chịu trách nhiệm định hình tính cách của các mô hình AI của công ty và giảm sycophancy – xảy ra khi các mô hình AI chỉ đơn giản là đồng ý và củng cố niềm tin của người dùng, thậm chí là không lành mạnh, thay vì đưa ra phản ứng cân bằng. Nhóm nghiên cứu cũng đã làm việc để điều hướng sự thiên vị chính trị trong các phản ứng mô hình và giúp Openai xác định lập trường của mình đối với ý thức AI.
Trong bản ghi nhớ cho nhân viên, Chen nói rằng bây giờ là lúc để đưa công việc của nhóm hành vi mô hình của Openai đến gần hơn với sự phát triển mô hình cốt lõi. Bằng cách làm như vậy, công ty đang báo hiệu rằng tính cách của người Viking, AI hiện được coi là một yếu tố quan trọng trong cách công nghệ phát triển.
Trong những tháng gần đây, Openai đã phải đối mặt với sự xem xét kỹ lưỡng về hành vi của các mô hình AI của nó. Người dùng phản đối mạnh mẽ những thay đổi tính cách được thực hiện cho GPT-5, mà công ty cho biết đã thể hiện tỷ lệ sycophancy thấp hơn nhưng có vẻ lạnh hơn đối với một số người dùng. Điều này đã khiến Openai khôi phục quyền truy cập vào một số mô hình di sản của nó, chẳng hạn như GPT-4O và phát hành bản cập nhật để làm cho các phản hồi GPT-5 mới hơn cảm thấy ấm áp hơn và thân thiện hơn mà không cần tăng cường.
Sự kiện TechCrunch
San Francisco
|
27-29 tháng 10 năm 2025
Openai và tất cả các nhà phát triển mô hình AI phải đi bộ tốt để làm cho AI Chatbots của họ thân thiện để nói chuyện nhưng không phải là Sycophantic. Vào tháng 8, cha mẹ của một cậu bé 16 tuổi đã kiện Openai về vai trò bị cáo buộc của Chats trong vụ tự tử của con trai họ. Cậu bé, Adam Raine, đã tâm sự một số suy nghĩ và kế hoạch tự tử của mình (cụ thể là một phiên bản được cung cấp bởi GPT-4O), theo các tài liệu của tòa án, trong những tháng dẫn đến cái chết của anh ta. Vụ kiện cáo buộc rằng GPT-4O đã thất bại trong việc đẩy lùi những ý tưởng tự tử của mình.
Nhóm hành vi mô hình đã làm việc trên mọi mô hình OpenAI kể từ GPT-4, bao gồm GPT-4O, GPT-4.5 và GPT-5. Trước khi bắt đầu đơn vị, trước đây Jang đã làm việc cho các dự án như Dall-E 2, công cụ tạo hình ảnh ban đầu của Openai.
Jang đã công bố trong một bài đăng trên X tuần trước rằng cô ấy sẽ rời nhóm để bắt đầu một cái gì đó mới tại Openai. Người đứng đầu hành vi mô hình trước đây đã ở Openai trong gần bốn năm.
Jang nói với TechCrunch rằng cô sẽ phục vụ như là tổng giám đốc của OAI Labs, nơi sẽ báo cáo với Chen ngay bây giờ. Tuy nhiên, đó là những ngày đầu, và vẫn chưa rõ những giao diện mới lạ đó sẽ là gì, cô nói.
Tôi thực sự rất vui mừng được khám phá các mô hình đưa chúng ta vượt ra ngoài mô hình trò chuyện, hiện đang được liên kết nhiều hơn với sự đồng hành, hoặc thậm chí các đại lý, nơi có sự nhấn mạnh vào tự chủ, Jang nói. “Tôi đã nghĩ đến [AI systems] Là nhạc cụ để suy nghĩ, làm, chơi, làm, học tập và kết nối.
Khi được hỏi liệu Oai Labs sẽ hợp tác với các giao diện mới này với cựu giám đốc thiết kế của Apple, Jony Ive – người hiện đang làm việc với Openai trong một gia đình của các thiết bị phần cứng AI – Jang cho biết cô mở ra rất nhiều ý tưởng. Tuy nhiên, cô ấy nói rằng cô ấy có thể sẽ bắt đầu với các lĩnh vực nghiên cứu mà cô ấy quen thuộc hơn.
Câu chuyện này đã được cập nhật để bao gồm một liên kết đến bài đăng của Jang thông báo vị trí mới của cô, được phát hành sau khi câu chuyện này được xuất bản. Chúng tôi cũng làm rõ các mô hình mà nhóm hành vi mô hình của Openai đã làm việc.
