AMD Mua Taalas Để Nhúng Model AI Trực Tiếp Vào Silicon

Taalas, thành lập ở Toronto năm 2023, phát triển các chip chuyên biệt mà công ty gọi là model-specific integrated circuits, đúc kiến trúc và trọng số của một model vào transistor thay vì di chuyển chúng qua bộ nhớ băng thông cao. Cách làm này giúp chạy suy luận rất nhanh nhưng mỗi chip chỉ chạy được một model duy nhất.

Taalas từng ra mắt chip thử nghiệm HC1 trên tiến trình 6 nm của Taiwan Semiconductor Manufacturing Co.; chip này phục vụ Llama 3.1-8B với tốc độ gần 16.000–17.000 token mỗi giây, mức mà Taalas so sánh là nhanh gấp nhiều lần phần cứng cạnh tranh với mức tiêu thụ điện thấp hơn. Công ty cũng phát triển HC2 nhắm vào các model khoảng 20 tỉ tham số.

AMD cho biết sẽ tích hợp công nghệ của Taalas vào lộ trình gia tốc, đưa các chip của Taalas hoạt động cùng GPU Instinct trong các hệ thống cấp rack Helios và bộ xử lý Epyc, đồng thời lập trình thông qua phần mềm ROCm. Vamsi Boppana, Phó chủ tịch cao cấp mảng AI của AMD, nói thỏa thuận tăng cường danh mục AI của công ty và mang lại lựa chọn về năng lực tính toán cho khách hàng.

Taalas đã huy động 169 triệu đô la vào tháng 2 từ Quiet Capital, Fidelity và nhà đầu tư bán dẫn Pierre Lamond, nâng tổng vốn đến khoảng 219 triệu đô la. Thương vụ mua lại chưa tiết lộ giá và đang chờ các điều kiện đóng giao dịch và phê duyệt theo quy định.