Thực sự, thật không công bằng khi giữ một công ty công nghệ cho tuyên bố sứ mệnh của mình. Từ Google không phải là người xấu xa cho đến những người nâng cao ý thức của WeWork, những tuyên bố sứ mệnh thường được viết ở tuổi thiếu niên của một công ty, vào thời điểm khó xử đó khi giấc mơ của họ trải dài đến đường chân trời, các nhà đầu tư mạo hiểm đều mỉm cười và không ai nghe thấy thuật ngữ trách nhiệm của người hâm mộ. Nó giống như đánh giá ai đó dựa trên tình cảm được thể hiện ở phía sau kỷ yếu học cấp ba của họ.
Nhưng Openai, bạn đang đẩy nó.
Điều hướng đến trang về công ty và bạn vẫn sẽ đọc những từ này, lần đầu tiên xuất hiện trong điều lệ năm 2018, ba năm sau khi thành lập: Nhiệm vụ của chúng tôi là đảm bảo rằng trí thông minh chung nhân tạo – các hệ thống AI thường thông minh hơn con người – có lợi cho toàn nhân loại. Đó là, ít nhất, không phải là thứ mà họ luôn sống, vì một số phạm vi bảo hiểm hoàn hảo trong tương lai của công ty đã chứng minh. .
Hãy nhìn xem, nếu bạn hỏi tôi tuyên bố sứ mệnh của tôi là gì khi tôi 3 tuổi, có lẽ nó sẽ xảy ra, thì trở thành người chơi NBA đầu tiên hạ cánh trên sao Hỏa. Chúng tôi không phải lúc nào cũng đạt được những gì chúng tôi đặt ra. Ưu tiên thay đổi, bạn không phát triển thành 7 feet-2, hóa ra bạn sợ không gian-bạn hiểu ý tôi.
Nhưng với sản phẩm mới nhất của nó-mạng xã hội video do AI tạo ra Sora 2-Openai có thể đã lập kỷ lục mọi thời đại về khoảng cách lớn nhất giữa tuyên bố sứ mệnh và công việc thực tế.
Phục vụ vô hạn của AI Slop
Cách tốt nhất để hiểu Sora 2 là nó có lẽ là khía cạnh tồi tệ nhất của các mô hình ngôn ngữ lớn như Chatgpt – khả năng mạnh mẽ của họ để khiến người dùng bị cuốn hút vào chúng – với những gì không thể chối cãi là khía cạnh tồi tệ nhất của phương tiện truyền thông hiện đại: cuộn vô tận các video thẳng đứng, trong số các tác động tiêu cực khác, đã thu hút sự chú ý của chúng ta.
Nó giống như dùng heroin và trộn nó với tôi không biết, có một loại thuốc gây nghiện cao, khiến bạn bị chùng xuống trước màn hình và trừ đi vài chục điểm IQ? Heroin, với, giống như, nhiều heroin hơn? Tôi thực sự không chắc mình có kinh nghiệm về thuốc để trả lời câu hỏi này.
Các vấn đề cơ bản được đặt ra bởi các video do AI thực sự không thể tạo ra là rõ ràng và được vật chất hóa gần như ngay lập tức khi ra mắt Sora 2 vào đầu tuần này.
Đăng ký tại đây để khám phá những vấn đề lớn, phức tạp mà thế giới phải đối mặt và những cách hiệu quả nhất để giải quyết chúng. Đã gửi hai lần một tuần.
Tham gia vi phạm bản quyền. Một trong những video Sora 2 đầu tiên tôi bắt gặp là một Rick và Morty hoàn toàn được đưa đến thăm SpongeBob Squarepants, và vâng, tâm hồn tôi đã chết một chút viết câu đó. Hóa ra Openai Set Sora 2 để cho phép tài liệu có bản quyền theo mặc định, đặt trách nhiệm vào chủ sở hữu sở hữu trí tuệ để chủ động yêu cầu Openai, xin vui lòng, lấy tài liệu của họ ra. Điều đó sẽ – mặc dù không phải trước khi Openai gặt hái được sự ồn ào của mạng xã hội về tất cả những bản sao của Rick và Morty, giống như nó đã làm trong cơn sốt ngắn cho studio ghiblify ảnh của bạn. (Tôi biết tất cả các bạn vẫn có chúng ở đâu đó.)
Sau đó, có Deepfakes. Một trong những tính năng giết người của Sora 2 là bạn có thể tải hình ảnh của mình vào ứng dụng và sau đó bật nó vào bất kỳ video nào do AI tạo bất kì Người dùng Sora để khai thác nó. Chà, như Washington Post đưa tin, phải mất khoảng năm giây trước khi các clip bắt đầu được tạo ra từ các cảnh quay của cảnh sát giả; Người thật ăn mặc như các tướng Đức Quốc xã; Cảnh quay thực tế nhưng giả mạo của các sự kiện lịch sử; Và vâng, Giám đốc điều hành Openai Sam Altman mua sắm.
Điều này có nghĩa là, vào thời điểm Tổng thống Hoa Kỳ đang đăng các video Deepfake do AI tạo ra của Nhà lãnh đạo thiểu số Dân chủ trong một sombrero và ria mép, Openai vừa trao cho người Mỹ-ít nhất là những người có mã truy cập Sora 2-video giả hoàn toàn thực tế bằng một nút nhấn. Và đã tạo ra một mạng xã hội giống như Tiktok mà nó có thể được chia sẻ. Mặc dù điều tốt là Openai đã bao gồm các quy tắc để cấm mạo danh, lừa đảo và gian lận, và bảo vệ để chặn ảnh khoả thân và bạo lực đồ họa, nhưng nó cảm thấy hơi giống như nói một vũ khí tự động với sự an toàn là hoàn toàn vô hại.
Bằng cách nào đó, tôi nghi ngờ rằng bất kỳ ai trong số đó sẽ có lợi cho tất cả nhân loại. Nhưng nó gần như chắc chắn sẽ có lợi cho điểm mấu chốt của Openai, tại một thời điểm mà công ty chỉ có giá trị 500 tỷ đô la – đánh bại ngay cả SpaceX – và khi tiếng ồn về bong bóng AI đang trở nên không thể bỏ qua. .
Vì thế. Sam Altman nghĩ gì về tất cả những điều này? May mắn thay, Sam đã giữ một blog từ ít nhất là năm 2013, trở lại khi anh đang suy ngẫm về sự tồn tại có thể của người ngoài hành tinh. Sora 2, ông đã viết, là một khoảnh khắc ‘Chat For Sáng tạo’ của người Viking, một trong những điều có thể dẫn đến một vụ nổ Cambrian, nơi mà chất lượng nghệ thuật và giải trí của người Hồi giáo có thể tăng mạnh.
Tôi đoán là nào? Chắc chắn thời đại hậu cambriThì Hoặc quái vật Tully Tully, một sinh vật có mắt rình rập với một ống lấy cho một cái miệng trông giống như một cái gì đó bạn có thể nhận được nếu Chúa có thể ghi được mã truy cập Sora 2. Nếu máy phối lại Deepfake vô tâm đó là Sora 2 là thứ sẽ được coi là sáng tạo trong tương lai, chỉ cần cho tôi chiếc Paperclip Maximizer AI.
Nhưng có lẽ phần tồi tệ nhất về Sora 2 – và các máy phát sóng AI tương tự từ Meta – là nó làm lu mờ công việc AI thực sự có thể mang lại lợi ích cho toàn nhân loại. Cùng tuần Openai đã tung ra Sora 2 trên chúng tôi, một số người lưu vong từ các công ty AI lớn đã công bố ra mắt các phòng thí nghiệm định kỳ, một công ty khởi nghiệp nhằm sử dụng trí tuệ nhân tạo để tăng tốc các khám phá về vật lý, hóa học và các lĩnh vực khoa học khác. Bạn biết đấy, những thứ chúng tôi thực sự có thể sử dụng.
Có lẽ tôi quá đơn giản khi hỏi những bộ óc tốt nhất và được bù đắp cao nhất trong thế hệ của tôi để làm việc tại các công ty AI, như, làm điều này thay vì điều đó. Rốt cuộc, Openai là một doanh nghiệp. (Hoặc một tổ chức phi lợi nhuận? Hoặc một tập đoàn lợi ích công cộng? Thành thật mà nói, nó có một chút trong không khí vào lúc này.) Nó theo những gì thị trường ra lệnh. Điều đó có nghĩa là tuyến phòng thủ cuối cùng là dành cho chúng tôi, người dùng thế giới, đứng lên và nói, Không, tôi sẽ không ăn AI Slop của bạn.
Tất nhiên, cuối cùng kiểm tra, Sora đứng thứ 3 trên bảng xếp hạng ứng dụng iPhone. Tất cả chúng ta đều bị lừa.