DeepSeek Và Huawei Phát Triển Công Cụ Mã Nguồn Mở Cho Chip Ascend

DeepSeek phát hành bộ công cụ lập trình mã nguồn mở cho chip AI Ascend của Huawei. Phần trung tâm là TileLang, một ngôn ngữ mà DeepSeek nói là dễ dùng hơn CUDA của Nvidia.

Bộ công cụ còn có các thư viện cho tính toán và chuyển dữ liệu giữa các chip. Hai bên cũng tối ưu một cụm 128 chip Ascend 950.

TileLang ban đầu do các nhà nghiên cứu ở Đại học Bắc Kinh phát triển. DeepSeek đã dùng ngôn ngữ này khoảng 1 năm và cho rằng muốn xây dựng một hệ sinh thái phần mềm độc lập cho chip AI thì trước hết cần một ngôn ngữ chung, dễ lập trình nhưng vẫn khai thác hết phần cứng.

DeepSeek nói đã thử TileLang trên các chip Nvidia cũ hơn trước. Hiện đây là công cụ chính của công ty cho công việc về trí tuệ nhân tạo tổng quát.

Động thái này diễn ra khi các nhà làm model ở Trung Quốc như Z.ai và Moonshot AI được cho là đi nhanh hơn các hãng chip trong nước. Huawei đã ra mắt các chip AI và hệ thống cụm máy mới trước đó 2 tuần, và nói chúng sẽ được dùng rộng rãi cho huấn luyện model vào năm sau.

Huawei cũng nói họ không theo kịp nhu cầu trong nước nên sẽ bán ít chip ra nước ngoài hơn. Eric Xu, chủ tịch luân phiên hiện tại của Huawei, nói công ty không thể chấp nhận một tương lai phụ thuộc vào việc người khác có sẵn sàng bán chip cho Trung Quốc hay không.

SemiAnalysis cũng đã kiểm tra Jalapeño, chip suy luận của OpenAI, và gọi lợi thế CUDA là có thể không còn nữa vì OpenAI đưa model mới lên phần cứng của mình rất nhanh. Jalapeño vượt Blackwell của Nvidia về hiệu năng trên mỗi watt trong phần lớn kịch bản được thử, và model của OpenAI cũng giúp thiết kế chip này; các model đó chạy trên GPU của Nvidia.

Nhóm phân tích nói họ mới chỉ thử các kịch bản tương đối dễ tối ưu, với khoảng 8.000 token đầu vào và 1.000 token đầu ra.