Box tích hợp hệ thống nhúng Nemotron của Nvidia để hỗ trợ tác tử truy xuất dữ liệu

Tại hội nghị dành cho các nhà phát triển vào hôm thứ Năm, Box đã giới thiệu tính năng mới tích hợp hệ thống nhúng Nemotron của Nvidia vào phần lõi sản phẩm của mình. Tính năng mang tên Box Content Retrieval cho phép các tác tử AI (phần mềm tự hành thực hiện tác vụ) giải đáp thắc mắc hiệu quả hơn nhờ dựa vào siêu dữ liệu nhúng do Nemotron tạo ra. Theo Box, hệ thống này sẽ chính thức ra mắt vào đầu năm tới và áp dụng cho toàn bộ khách hàng thuộc gói Enterprise Advance của hãng.
Giám đốc điều hành Aaron Levie của Box cho biết giải pháp này giúp gia tăng mạnh mẽ độ phù hợp trong công nghệ tìm kiếm dành cho các tác tử. Thay vì tác tử phải đọc lần lượt từng tài liệu, hệ thống có thể trích xuất và gửi lại những phân đoạn liên quan nhất tới truy vấn hay công việc của người dùng. Tính năng này là một bước ứng dụng thực tế từ dự án Nemotron Embed của Nvidia nhằm cung cấp các mô hình nhúng mở để nâng cao chất lượng truy xuất tự động. Các phòng thí nghiệm lớn thường bỏ qua loại mô hình sử dụng LLM để tiền xử lý dữ liệu này, trong khi phiên bản Nemotron phát hành vào tháng 7 của Nvidia đã dẫn đầu bài đánh giá RTEB đo lường chất lượng truy xuất.
Box cho biết hệ thống phát huy tác dụng tốt nhất khi kết hợp cùng các tác tử đang hoạt động, tiêu biểu như luật sư cần tìm kiếm điều khoản hay tiền lệ pháp lý. Các mô hình nhúng của Nemotron vượt khỏi phạm vi từ khóa cơ bản để nhận diện khái niệm nền tảng, giúp công cụ hiển thị đúng chủ đề pháp luật dù cách diễn đạt khác nhau. Phó chủ tịch Kari Briski của Nvidia chia sẻ với TechCrunch rằng bà dự kiến các truy vấn sẽ được phản hồi nhanh gấp 4 lần, đồng thời giảm 20% sai sót và bớt 90% lượng token sử dụng.
Bài viết trên TechCrunch nhận định rằng dù các mô hình Nemotron được cung cấp miễn phí, việc hệ thống phụ thuộc chặt chẽ vào siêu dữ liệu và cơ chế kiểm soát quyền có sẵn của Box sẽ khiến việc sao chép từ đầu gặp nhiều trở ngại. Ông Aaron Levie nói với TechCrunch rằng doanh nghiệp đang đưa khoảng 5 công nghệ khác nhau vào trong một giao diện lập trình duy nhất. Dịch vụ nâng cấp này sẽ được cung cấp tới tất cả khách hàng Enterprise Advance khi bắt đầu triển khai vào đầu năm sau.