DeepSeek công khai mã nguồn DeepInfer, phần mềm chạy AI hỗ trợ cả chip Huawei

Khi bạn hỏi DeepSeek một câu, có một phần mềm phía sau lo việc chạy mô hình AI trên máy chủ và trả câu trả lời về cho bạn. Hôm nay DeepSeek công khai mã nguồn của chính phần mềm đó.

Nói rõ trước: đây không phải mô hình mới, cũng không phải tính năng mới trong app DeepSeek. Đây là phần mềm suy luận (inference engine), thứ chạy mô hình. Và người mới không tự chạy được nó, vì nó cần máy chủ chuyên dụng.

Chuyện gì đã xảy ra?

Ngày 20/10/2026, DeepSeek đưa mã nguồn của DeepInfer lên GitHub ↗. Lần đưa mã đầu tiên (initial commit) lúc 12:09 sáng giờ miền Đông nước Mỹ, tức khoảng 11:09 sáng giờ Việt Nam.

Theo trang giới thiệu (README) trên GitHub của DeepSeek:

• DeepInfer là "khung suy luận hiệu năng cao chạy các dịch vụ quy mô lớn của DeepSeek". Bản phát hành này cho phép suy luận ngoại tuyến (offline), với các tính năng cốt lõi cần để phục vụ ở quy mô lớn.
• Mô hình được hỗ trợ: DeepSeek-V4.1-Flash (mặc định là bản DeepSeek-V4.1-Flash-1017, tải từ Hugging Face).
• Phần cứng được hỗ trợ: GPU Nvidia SM100 (loại GPU trung tâm dữ liệu đời Blackwell) và chip NPU Huawei Ascend 950.
• Bản này CHƯA có ba phần cần cho một dịch vụ hoàn chỉnh: hệ thống KV-cache, tách giai đoạn prefill và decode, và cân bằng tải giữa các bản sao.
• Yêu cầu: Linux, GCC 13 trở lên, Python 3.12, và CUDA 13 (với Nvidia) hoặc CANN 9.2 (với Ascend).
• Các số đo hiệu năng trong README chỉ chạy trên Nvidia: 4 GPU SM100 cho phần prefill, 64 GPU cho phần decode. README không công bố số đo nào trên chip Huawei.
• Giấy phép: Apache 2.0. DeepSeek nói DeepInfer ban đầu được xây chủ yếu trên vLLM, có lấy cảm hứng từ SGLang và TensorRT-LLM.

Giới lập trình quan tâm khá nhanh: tới 7:23 sáng giờ miền Đông nước Mỹ, kho mã đã có khoảng 5.300 sao trên GitHub.

Theo báo Yicai (第一财经) ↗ của Trung Quốc cùng ngày, DeepSeek cho biết sau khi đã mở mã nguồn một loạt mô hình, trình biên dịch TileLang và các thư viện toán tử, công ty quyết định mở hoàn toàn khung suy luận nội bộ DeepInfer. Theo lời DeepSeek mà Yicai dẫn, DeepInfer đã phục vụ DeepSeek V4.1 Flash ở quy mô lớn với thông lượng cao, độ trễ thấp, và mã suy luận cùng các tối ưu cho những mô hình DeepSeek sau này sẽ được cập nhật ở đây. Lời này chỉ có trên Yicai. Mình chưa thấy DeepSeek đăng trên blog hay trang chính thức nào khác.

Vì sao điều này quan trọng với người Việt?

Hiểu đúng "mở" là mở cái gì. Mô hình mở (open weights) là bạn tải được bộ "não" của AI. Phần mềm suy luận là cỗ máy chạy bộ não đó. DeepSeek trước đây đã mở mô hình; giờ họ mở thêm cỗ máy. Hai thứ khác nhau, và tin này là về thứ hai.

Chip Huawei có thêm phần mềm. Card AI chỉ hữu ích khi có phần mềm tốt chạy trên nó. Việc phần mềm của DeepSeek hỗ trợ Huawei Ascend 950 cho thấy Trung Quốc đang đẩy phần mềm AI chạy trên chip trong nước. Bài trước về đơn hàng Nvidia là mặt bên kia của cùng câu chuyện chip.

Mã mở thì ai cũng soi được. Với Apache 2.0, các công ty và nhóm lập trình, kể cả ở Việt Nam, được phép đọc, sửa và dùng lại mã này.

Cách thử hoặc theo dõi

Người dùng bình thường không chạy được DeepInfer: nó cần Linux và GPU trung tâm dữ liệu Nvidia SM100 hoặc chip Huawei Ascend 950. Nếu tò mò, bạn có thể:

1. Mở kho mã DeepInfer trên GitHub ↗, chép phần README và nhờ ChatGPT hoặc Gemini dịch, giải thích từng mục bằng tiếng Việt.
2. Hỏi một AI: "Giải thích cho người mới: 'mô hình mở' (open weights) và 'phần mềm suy luận' (inference engine) khác nhau thế nào?"
3. Muốn trò chuyện với mô hình mở mà dữ liệu không rời khỏi máy mình, thử Ollama hoặc LM Studio với các mô hình nhỏ. Lưu ý: DeepSeek-V4.1-Flash không chạy được trên laptop.

Những điều cần để ý

• DeepInfer là phần mềm chạy AI, không phải mô hình mới.
• Lời phát biểu của DeepSeek chỉ đến từ báo Yicai.
• Mã hỗ trợ Huawei Ascend 950, nhưng không có nguồn nào nói app DeepSeek đang chạy trên chip Huawei, và README không có số đo hiệu năng trên Ascend.
• Bản này còn thiếu ba phần (KV-cache, tách prefill và decode, cân bằng tải), nên chưa phải dịch vụ hoàn chỉnh.

Tóm lại

DeepSeek đã công khai mã nguồn DeepInfer, phần mềm chạy các dịch vụ AI của họ, hỗ trợ cả GPU Nvidia và chip Huawei Ascend 950, theo giấy phép Apache 2.0. Đây là tin cho dân lập trình và công ty; người mới chưa thử được. Điều đáng học: "mở mô hình" và "mở phần mềm chạy mô hình" là hai chuyện khác nhau.