Owen Sakawa, người sáng lập Elloe AI, muốn nền tảng của mình trở thành “hệ thống miễn dịch cho AI” và “phần mềm chống vi-rút cho bất kỳ tác nhân AI nào”.
Sakawa cho biết trong một cuộc phỏng vấn vài ngày trước hội nghị TechCrunch Disrupt, nơi Elloe AI lọt vào Top 20 chung cuộc trong cuộc thi Startup Battlefield, là thêm một lớp vào LLM của các công ty để kiểm tra sự thiên vị, ảo giác, lỗi, vấn đề tuân thủ, thông tin sai lệch và đầu ra không an toàn.
Sakawa (ảnh trên) cho biết: “AI đang phát triển với tốc độ rất nhanh và nó di chuyển nhanh đến mức này mà không có đường ray bảo vệ, không có lưới an toàn, không có cơ chế ngăn nó đi chệch khỏi đường ray”.
Elloe AI là một API hoặc SDK, một mô-đun nằm trên lớp đầu ra của mô hình AI, một “cơ sở hạ tầng trên đường dẫn LLM của bạn”, như Sakawa giải thích. “Và về cơ bản nó nằm ở đó để kiểm tra tính xác thực của từng phản hồi.”
Hệ thống của công ty khởi nghiệp có các lớp riêng, hay còn gọi là “mỏ neo”, như Sakawa đã nói.
Neo đầu tiên kiểm tra tính xác thực của phản hồi LLM dựa trên các nguồn có thể xác minh được. Sau đó, mỏ neo thứ hai sẽ kiểm tra xem đầu ra có vi phạm bất kỳ quy định nào hay không, chẳng hạn như luật bảo mật y tế HIPAA của Hoa Kỳ, luật bảo vệ dữ liệu và quyền riêng tư sâu rộng của Châu Âu GDPR hay liệu nó có tiết lộ một số Thông tin cá nhân cá nhân (PII) hay không. Điểm neo cuối cùng là dấu vết kiểm tra cho thấy tất cả các quyết định trước đó đã được đưa ra như thế nào và cho phép các cơ quan quản lý hoặc bất kỳ ai kiểm tra hệ thống “phân tích dòng suy nghĩ cho mô hình đó từ nơi đưa ra quyết định, nguồn gốc của quyết định đó, điểm tin cậy của tất cả những quyết định đó,” theo Sakawa.
Nói rõ hơn, Sakawa cho biết Elloe AI không được xây dựng trên LLM, bởi vì theo quan điểm của ông, việc để LLM kiểm tra các LLM khác chỉ là đặt “Band-Aid vào một vết thương khác”. Tuy nhiên, hệ thống của Elloe AI sử dụng các kỹ thuật AI, chẳng hạn như học máy. Và có con người trong vòng lặp: Nhân viên của Elloe AI, những người luôn tuân thủ các quy định mới về bảo vệ dữ liệu và bảo vệ người dùng, Sakawa cho biết.
sự kiện Techcrunch
San Francisco
|
Ngày 27-29 tháng 10 năm 2025
Nếu bạn muốn tìm hiểu thêm về Elloe AI — đồng thời tìm hiểu hàng chục công ty khác, nghe quảng cáo chiêu hàng của họ và nghe các diễn giả khách mời trên bốn sân khấu khác nhau — hãy tham gia cùng chúng tôi tại Disrupt, từ ngày 27 đến 29 tháng 10, ở San Francisco. Tìm hiểu thêm ở đây.
