Comet, trình duyệt web mới được cung cấp AI của Perplexity, gần đây đã bị tổn thương bảo mật đáng kể, theo một bài đăng trên blog tuần trước từ Brave, một công ty trình duyệt web cạnh tranh. Lỗ hổng đã được sửa chữa, nhưng nó chỉ ra những thách thức của việc kết hợp các mô hình ngôn ngữ lớn vào các trình duyệt web.
Không giống như các trình duyệt web truyền thống, Comet có trợ lý AI được tích hợp. Trợ lý này có thể quét trang bạn đang xem, tóm tắt nội dung của nó hoặc thực hiện các tác vụ cho bạn. Vấn đề là trợ lý AI của Comet được xây dựng trên cùng một công nghệ với các chatbot AI khác, như Chatgpt.
AI Chatbots không thể nghĩ và lý luận giống như cách con người có thể, và nếu họ đọc một phần nội dung có nghĩa là thao tác đầu ra của nó, thì nó có thể sẽ theo sau. Điều này được gọi là kỹ thuật kịp thời.
.
Một đại diện cho Brave đã không trả lời ngay lập tức yêu cầu bình luận.
Các công ty AI cố gắng giảm thiểu sự thao túng của AI Chatbots, nhưng điều đó có thể là khó khăn, vì các diễn viên xấu luôn nhìn vào những cách mới lạ để vượt qua các biện pháp bảo vệ.
“Lỗ hổng này là cố định”, Jesse Dwyer, người đứng đầu truyền thông của Perplexity nói trong một tuyên bố. “Chúng tôi có một chương trình tiền thưởng khá mạnh mẽ và chúng tôi đã làm việc trực tiếp với Brave để xác định và sửa chữa nó.”
Kiểm tra văn bản ẩn được sử dụng trên reddit
Trong thử nghiệm của mình, Brave đã thiết lập một trang Reddit với văn bản vô hình trên màn hình và yêu cầu Comet tóm tắt nội dung trên màn hình. Khi AI xử lý nội dung của trang, nó không thể phân biệt giữa các lời nhắc độc hại và bắt đầu cung cấp cho người thử nghiệm của Brave thông tin nhạy cảm.
Trong trường hợp này, văn bản ẩn đã cho phép Trợ lý AI của Comet điều hướng đến tài khoản Perplexity của người dùng, trích xuất địa chỉ email được liên kết và điều hướng đến tài khoản Gmail. Đại lý AI về cơ bản là một người dùng thực tế, có nghĩa là các phương thức bảo mật truyền thống không hoạt động.
Brave cảnh báo rằng loại tiêm kịp thời này có thể đi xa hơn, truy cập vào tài khoản ngân hàng, hệ thống công ty, email riêng và các dịch vụ khác.
Kỹ sư bảo mật di động cao cấp của Brave, Artem Chaikin, và VP về quyền riêng tư và bảo mật, Shivan Kaul Sahib, đã đưa ra một danh sách các bản sửa lỗi có thể. Đầu tiên, trình duyệt web AI nên luôn luôn coi nội dung trang là không đáng tin cậy. Các mô hình AI nên kiểm tra để đảm bảo họ tuân theo ý định của người dùng. Mô hình phải luôn luôn kiểm tra lại với người dùng để đảm bảo các tương tác là chính xác và chế độ duyệt đại lý chỉ nên bật khi người dùng muốn.
Bài đăng trên blog của Brave là bài đầu tiên trong một loạt liên quan đến những thách thức mà các trình duyệt web AI phải đối mặt. Brave cũng có một trợ lý AI, Leo, được nhúng trong trình duyệt của nó.
AI ngày càng được nhúng trong tất cả các phần của công nghệ, từ tìm kiếm của Google đến bàn chải đánh răng. Mặc dù có một trợ lý AI rất tiện dụng, những công nghệ mới này có các lỗ hổng bảo mật khác nhau.
Trong quá khứ, tin tặc cần phải trở thành các lập trình viên chuyên gia để đột nhập vào các hệ thống. Tuy nhiên, khi đối phó với AI, có thể sử dụng ngôn ngữ tự nhiên để có được các biện pháp bảo vệ tích hợp trong quá khứ.
Ngoài ra, vì nhiều công ty dựa vào các mô hình AI chính, chẳng hạn như các công ty từ Openai, Google và Meta, bất kỳ lỗ hổng nào trong các hệ thống đó có thể mở rộng cho các công ty sử dụng các mô hình tương tự. Các công ty AI chưa mở về các loại lỗ hổng bảo mật này vì làm như vậy có thể khiến tin tặc, cung cấp cho họ những con đường mới để khai thác.
