Một số nhà nghiên cứu Openai hiện tại và trước đây đang lên tiếng về cuộc đột phá đầu tiên của công ty vào phương tiện truyền thông xã hội: ứng dụng Sora, một nguồn cấp dữ liệu theo phong cách Tiktok chứa đầy các video do AI tạo ra và rất nhiều Sam Altman Deepfakes. Các nhà nghiên cứu, phát sóng sự bất bình của họ trên X, dường như bị phá hủy về cách mà sự ra mắt phù hợp với sứ mệnh phi lợi nhuận của Openai để phát triển AI tiên tiến có lợi cho nhân loại.
Các nguồn cấp dữ liệu dựa trên AI của AI rất đáng sợ
Boaz Barak, một nhà nghiên cứu và giáo sư Harvard khác, đã trả lời: Tôi chia sẻ một sự pha trộn tương tự giữa lo lắng và phấn khích.
Cựu nhà nghiên cứu Openai Rohan Pandey đã sử dụng khoảnh khắc để cắm một công ty khởi nghiệp mới, các phòng thí nghiệm định kỳ, được tạo thành từ các nhà nghiên cứu AI Lab trước đây đang cố gắng xây dựng các hệ thống AI để khám phá khoa học: Nếu bạn không muốn xây dựng máy bay SLOP AI TIKTOK.
Có nhiều bài viết khác dọc theo cùng một dòng.
Sự ra mắt của Sora làm nổi bật một sự căng thẳng cốt lõi cho OpenAI đã bùng phát hết lần này đến lần khác. Đây là công ty công nghệ tiêu dùng phát triển nhanh nhất trên Trái đất, nhưng nó cũng là phòng thí nghiệm AI của Frontier với một điều lệ phi lợi nhuận cao. Về mặt lý thuyết, một số nhân viên cũ của Openai mà tôi đã nói để tranh luận về việc kinh doanh người tiêu dùng, có thể phục vụ nhiệm vụ: Chatgpt giúp tài trợ cho nghiên cứu AI và phân phối công nghệ rộng rãi.
Giám đốc điều hành của Openai Sam Altman đã nói nhiều như vậy trong một bài đăng trên X Thứ tư, giải quyết lý do tại sao công ty phân bổ rất nhiều vốn và điện toán cho một ứng dụng truyền thông xã hội AI:
Sự kiện TechCrunch
San Francisco
|
27-29 tháng 10 năm 2025
“Chúng tôi hầu hết cần vốn để xây dựng [sic] AI có thể làm khoa học, và chắc chắn chúng tôi tập trung vào AGI với hầu hết tất cả các nỗ lực nghiên cứu của chúng tôi, Altman nói. Thật tuyệt khi cho mọi người thấy công nghệ/sản phẩm mới tuyệt vời trên đường đi, làm cho họ mỉm cười và hy vọng kiếm được một số tiền cho tất cả những gì tính toán cần thiết.
Khi chúng tôi ra mắt TATGPT, có rất nhiều ‘những người cần điều này và AGI ở đâu’, ông Alt Altman tiếp tục. Phạm vi[R]Eality có nhiều sắc thái khi nói đến quỹ đạo tối ưu cho một công ty.
Nhưng tại thời điểm nào, doanh nghiệp tiêu dùng của Openai đã vượt qua nhiệm vụ phi lợi nhuận của mình? Nói cách khác, khi nào Openai nói không với cơ hội kiếm tiền, phát triển nền tảng vì nó mâu thuẫn với nhiệm vụ?
Câu hỏi hiện ra khi các cơ quan quản lý xem xét kỹ lưỡng sự chuyển đổi vì lợi nhuận của Openai, mà Openai cần hoàn thành để tăng thêm vốn và cuối cùng công khai. Tổng chưởng lý California Rob Bonta cho biết vào tháng trước rằng ông đặc biệt quan tâm đến việc đảm bảo rằng nhiệm vụ an toàn đã nêu của Openai với tư cách là một tổ chức phi lợi nhuận vẫn ở phía trước và trung tâm trong việc tái cấu trúc.
Những người hoài nghi đã bác bỏ sứ mệnh của Openai là một công cụ xây dựng thương hiệu để thu hút tài năng từ Big Tech. Nhưng nhiều người trong cuộc tại Openai khẳng định đó là trung tâm của lý do tại sao họ gia nhập công ty ngay từ đầu.
Hiện tại, dấu chân của Sora là nhỏ; Ứng dụng này là một ngày tuổi. Nhưng lần đầu tiên của nó đánh dấu sự mở rộng đáng kể của kinh doanh tiêu dùng của Openai và đưa công ty đưa ra các ưu đãi đã gây ra các ứng dụng truyền thông xã hội trong nhiều thập kỷ.
Không giống như Chatgpt, được tối ưu hóa cho tính hữu dụng, Openai cho biết Sora được xây dựng để giải trí – một nơi để tạo và chia sẻ các clip AI. Nguồn cấp dữ liệu cảm thấy gần gũi hơn với các cuộn Tiktok hoặc Instagram, các nền tảng nổi tiếng với các vòng gây nghiện của chúng.
Openai khẳng định họ muốn tránh những cạm bẫy đó, tuyên bố trong bài đăng trên blog thông báo về việc ra mắt Sora rằng mối quan tâm của người Hồi giáo về việc do sử dụng, nghiện, cô lập và các nguồn cấp dữ liệu RL-Sloptimized là hàng đầu của tâm trí. Công ty nói rõ ràng rằng họ không tối ưu hóa thời gian dành cho nguồn cấp dữ liệu và thay vào đó muốn tối đa hóa sự sáng tạo. Openai nói rằng họ sẽ gửi lời nhắc cho người dùng khi họ đã cuộn quá lâu và chủ yếu cho họ thấy những người mà họ biết.
Đó là một điểm khởi đầu mạnh mẽ hơn so với những rung cảm của Meta-một nguồn cấp dữ liệu video ngắn được cung cấp bằng AI khác được phát hành vào tuần trước-điều đó dường như đã được chạy ra ngoài mà không có nhiều biện pháp bảo vệ. Là một cựu lãnh đạo chính sách của Openai, Miles Brundage, chỉ ra, có thể sẽ có các ứng dụng tốt và xấu của các nguồn cấp dữ liệu AI-Video, giống như chúng ta đã thấy trong kỷ nguyên chatbot.
Tuy nhiên, như Altman từ lâu đã thừa nhận, không ai đặt ra để xây dựng một ứng dụng gây nghiện. Các ưu đãi của việc chạy một nguồn cấp dữ liệu hướng dẫn họ đến nó. Openai thậm chí đã gặp phải các vấn đề xung quanh Sycophancy ở TATGPT, mà công ty nói là không chủ ý do một số kỹ thuật đào tạo của nó.
Trong một podcast tháng 6, Altman đã thảo luận về những gì anh ta gọi là sự sai lệch lớn của phương tiện truyền thông xã hội.
“Một trong những sai lầm lớn của kỷ nguyên truyền thông xã hội là [that] Các thuật toán thức ăn có một loạt các hậu quả tiêu cực, ngoài ý muốn đối với toàn bộ xã hội và thậm chí có thể là người dùng cá nhân. Mặc dù họ đang làm điều mà người dùng muốn – hoặc ai đó nghĩ rằng người dùng muốn – hiện tại, đó là [to] Nhận chúng, giống như, tiếp tục dành thời gian cho trang web.
Vẫn còn quá sớm để cho biết ứng dụng Sora được sắp xếp như thế nào với người dùng hoặc nhiệm vụ của Openai. Người dùng đã nhận thấy một số kỹ thuật tối ưu hóa tham gia trong ứng dụng, chẳng hạn như biểu tượng cảm xúc động xuất hiện mỗi khi bạn thích video. Cảm giác đó được thiết kế để bắn một chút dopamine cho người dùng để tham gia vào một video.
Bài kiểm tra thực sự sẽ là cách Openai phát triển Sora. Cho rằng AI đã tiếp quản các nguồn cấp dữ liệu truyền thông xã hội thông thường, có vẻ hợp lý khi các nguồn cấp dữ liệu bản địa AI có thể sớm có khoảnh khắc của chúng. Liệu Openai có thể phát triển Sora mà không sao chép những sai lầm của những người tiền nhiệm hay không vẫn còn được nhìn thấy.
