Google DeepMind Biến Gemma 4 Thành DiffusionGemma, Dùng Lại Model Thay Vì Huấn Luyện Từ Đầu

DiffusionGemma được phát hành giữa tháng Sáu và báo cáo kỹ thuật vừa được Google công bố. Thay vì sinh token từng chữ như model ngôn ngữ thông thường, DiffusionGemma tinh chỉnh các khối 256 token song song, tương tự cách mô hình ảnh tạo hình từ nhiễu. Trên bộ tăng tốc Nvidia H100, model đạt khoảng 1.500 token mỗi giây.

Nhóm nghiên cứu bắt đầu từ Gemma-4-26B-A4B hiện có và chuyển đổi nó thành model khuếch tán bằng cách sử dụng dưới 10% ngân sách token huấn luyện ban đầu, theo báo cáo. Quá trình gồm hai bước chính: trước tiên model học tái tạo các khối văn bản bị nhiễu từ dữ liệu mẫu; sau đó là một giai đoạn kết hợp huấn luyện tăng cường và chưng cất bộ lấy mẫu, gọi tắt là SD·RL.

Báo cáo cho biết phương pháp kết hợp này tăng điểm trung bình trên các chuẩn đo suy luận khoảng 10 điểm và gần như tăng gấp bốn số token trên mỗi bước tính toán. Kết quả phụ là câu trả lời của DiffusionGemma ngắn hơn khoảng 50%, góp phần tăng tốc độ xử lý.

DiffusionGemma vẫn giữ khả năng sinh token theo thứ tự từng từ như model gốc, cho phép chuyển giữa hai chế độ tuỳ theo nhiệm vụ. Sau tinh chỉnh tối thiểu, model giải gần 85% bài Sudoku đúng, trong khi model gốc thất bại hoàn toàn với nhiệm vụ này. Các đầu ra cấu trúc như JSON hay sửa mã hoàn thành sau 2–3 bước tinh chỉnh vì dữ liệu đầu vào đã xác định phần lớn token.

Báo cáo cũng nêu DiffusionGemma có hiệu năng tuyệt đối thua model tự hồi quy gốc. Google chỉ ra nhiều nguyên nhân, gồm việc model không được huấn luyện như một model khuếch tán từ đầu, giai đoạn huấn luyện bổ sung tương đối ngắn, SD·RL ưu tiên tốc độ hơn chất lượng tối đa, và kiến trúc cùng dữ liệu huấn luyện được kế thừa từ Gemma 4 có thể không tối ưu cho phương pháp khuếch tán.

Ngoài ra, báo cáo lưu ý model đôi khi mắc kẹt trong vòng lặp lặp từ, tạo ra những từ lặp nhiều lần liên tiếp.