Microsoft ra mắt Mu – mô hình ngôn ngữ nhỏ tích hợp sẵn trong Windows 11

Sau khi ra mắt dòng máy Copilot+ PC với NPU chuyên dụng có thể xử lý trên 40 TOPS, Microsoft tiếp tục trình làng Mu – một mô hình ngôn ngữ nhỏ (Small Language Model – SLM) hoạt động hoàn toàn trên thiết bị và tích hợp trực tiếp vào Windows 11.

Mục tiêu của Mu là nâng cấp trải nghiệm tìm kiếm và tương tác trong ứng dụng Cài đặt (Settings) thông qua khả năng hiểu ngôn ngữ tự nhiên. Mô hình này được đưa vào thử nghiệm đầu tiên trên Windows Insider Dev Channel dành cho thiết bị Copilot+.

Điểm nổi bật của mô hình Mu:

• Mu là mô hình encoder-decoder với quy mô 330 triệu tham số.
• Thiết kế giúp giảm độ trễ token đầu tiên tới 47% và tăng tốc độ giải mã gấp 4,7 lần so với mô hình decoder-only cùng kích thước.
• Sử dụng kỹ thuật chia sẻ trọng số để giảm tổng số tham số.
• Được huấn luyện trên hạ tầng GPU NVIDIA A100 thông qua Azure Machine Learning.
• Dù chỉ bằng 1/10 kích thước của mô hình Phi-3.5-mini đã tinh chỉnh, Mu vẫn cho hiệu năng tương đương ở nhiều tác vụ ngôn ngữ.
• Tối ưu cho truy vấn nhiều từ, trong khi các từ đơn lẻ hoặc viết chưa đầy đủ vẫn được xử lý bằng công cụ tìm kiếm truyền thống trong Windows.

Với hiệu năng xử lý hơn 100 token/giây trực tiếp trên thiết bị, Mu giúp người dùng có thể tương tác nhanh chóng và mượt mà mà không cần kết nối internet. Người dùng quan tâm có thể trải nghiệm tính năng này bằng cách cập nhật lên Windows 11 Build 26120.3964 (KB5058496) trở lên.

Microsoft cho thấy chiến lược rõ ràng trong việc đưa AI xuống cấp hệ điều hành, giúp người dùng sử dụng các tính năng AI hữu ích như tìm kiếm thông minh, hỗ trợ cài đặt, hoặc trợ lý ảo ngay trong các ứng dụng cơ bản mà không cần phụ thuộc vào đám mây. Với Mu, tương lai AI nội bộ trên PC trở nên rõ ràng hơn bao giờ hết.