Поздравляем команду исследователей с продвижением вывода DeepSeek V3/R1.



На NVIDIA GB200 NVL72 они достигают 26 тыс. входных токенов/с и 13 тыс. выходных токенов/с на один GPU — это почти 4× / 5× ускорение по сравнению с H100.

Они достигли этого с помощью NVFP4 MoE, внимания FP8, сокращения параллелизма экспертов.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 7
  • Репост
  • Поделиться
комментарий
0/400
MEVSupportGroupvip
· 9ч назад
Четырехкратное увеличение слишком круто, не правда ли?
Посмотреть ОригиналОтветить0
shadowy_supercodervip
· 10ч назад
Это слишком жестко, не так ли?
Посмотреть ОригиналОтветить0
DefiOldTrickstervip
· 10ч назад
Старик привык к бурям, GPU тоже может за одну секунду На луну.
Посмотреть ОригиналОтветить0
DaoTherapyvip
· 10ч назад
Снова дрожь от технологических новшеств
Посмотреть ОригиналОтветить0
MerkleDreamervip
· 10ч назад
Вкусно, да? Скорость просто космическая!
Посмотреть ОригиналОтветить0
PanicSellervip
· 10ч назад
Снова недостаточно для 3090
Посмотреть ОригиналОтветить0
0xLuckboxvip
· 10ч назад
Аа
Посмотреть ОригиналОтветить0
  • Закрепить