Moore Threads hoàn tất thích ứng ngày đầu cho Kimi K3.1 Pro trên card MTT S5000

Moore Threads thông báo card MTT S5000 và bộ phần mềm MUSA đã hoàn tất thích ứng ngay từ ngày đầu cho Kimi K3.1 Pro của Moonshot AI. Pandaily lưu ý đây là triển khai chức năng theo mô tả của công ty sau khi Moonshot phát hành trọng số, không phải so sánh hiệu năng.
Hệ thống kết hợp SGLang-MUSA, thư viện toán tử MATE và trình biên dịch MTCC, kết nối việc tải mô hình, khởi chạy dịch vụ cùng xử lý văn bản và hình ảnh cơ bản.
Với trọng số chuyên gia MXFP4, đội ngũ chuyển đổi trực tuyến và tái sử dụng vùng nhớ FP8 giữa các lớp thay vì tạo trước bản sao ngoại tuyến hoàn chỉnh. Đội ngũ kỹ thuật sử dụng toán tử chú ý thưa MATE song hành với quản lý trạng thái Kimi Delta Attention.
Đợt thích ứng bổ sung thêm một lựa chọn phần cứng để triển khai trọng số mở của Kimi K3.1 Pro cho các tác vụ tác tử (hệ thống AI tự hành). Dù vậy, báo cáo chưa công bố năng lực phục vụ đo đạc thực tế, cấu hình sản xuất, độ trễ hay mức tiêu thụ điện năng.