Aleph Alpha Phát Hành Kolibri, Model Có Trọng Số Mở

Kolibri có khoảng 3 tỉ tham số hoạt động trên mỗi token nhờ kiến trúc pha trộn chuyên gia. Đây là model ngôn ngữ cho tiếng Đức và tiếng Anh.

Aleph Alpha nói Kolibri nằm trên biên Pareto về chất lượng và chi phí vận hành ở cả hai ngôn ngữ. Công ty cho biết model này vượt các model so sánh có kiến trúc tương tự, trong đó có một số cũ hơn đáng kể từ tháng 3 và tháng 4 năm 2026, trên một trong hai thước đo.

Tiếng Đức chiếm 21,3% dữ liệu huấn luyện. Công ty cho biết đã xây một chuỗi xử lý dữ liệu tiếng Đức riêng cho dự án, và các model Trung Quốc cũng được dùng để tạo dữ liệu huấn luyện tổng hợp.

Kolibri nhắm tới hành chính công, hàng không và công nghiệp. Model được phát triển theo luật châu Âu, với EU AI Act trong tầm nhìn, hỗ trợ cửa sổ ngữ cảnh tới 1 triệu token và được huấn luyện trên 768 GPU B200 ở Đức và Phần Lan.