Baidu: ERNIE 4.5 21B A3B

от baidu

Усовершенствованная текстовая модель Mixture-of-Experts (MoE) с общим числом параметров 21 миллиард, из которых 3 миллиарда активируются на токен, обеспечивающая исключительное мультимодальное понимание и генерацию благодаря гетерогенным структурам MoE и маршрутизации с изоляцией модальностей. Поддерживает...