Baseten Ra Chuẩn An Toàn Cho Model Trọng Số Mở

Base Labs là bộ phận nghiên cứu Baseten lập ra đầu năm nay. Nhóm này sẽ phát triển và công bố các phương pháp huấn luyện và giám sát model mở.

Công ty nói họ muốn biến an toàn thành một chuẩn cho model mở. Chuẩn này phải minh bạch và được đưa vào ngay từ lúc huấn luyện và triển khai, thay vì gắn thêm sau đó.

Thông báo được đưa ra giữa lúc có tranh luận về an toàn của model trọng số mở. Baseten nói các model này có thể bị làm nguy hiểm hơn khi rào chắn bị gỡ bỏ bằng một kỹ thuật đang nổi lên, và Hugging Face hiện liệt kê hơn 6.000 model như vậy.

Goodfire AI chuyên mở hộp đen của AI để giải thích cách model đưa ra quyết định. Công ty cho rằng an toàn phải được đưa vào model mở và do bên cung cấp chúng bảo đảm.

Baseten là đơn vị cung cấp chạy suy luận AI. Công ty đã gọi vốn 1,5 tỉ đô la vào tháng 6 và nâng định giá lên 13 tỉ đô la, còn Goodfire AI đã gọi 150 triệu đô la đầu năm nay trong vòng do B Capital dẫn dắt để phát triển nền tảng giải thích model.