Честно? Лабораториям нужно переключиться на другие скорости. Мы находимся на этапе, когда стремление к немного более умным моделям больше не дает результата. Теперь действительно важно, насколько быстро эти системы реагируют и сколько контекста они могут обрабатывать, не задыхаясь. Подумайте об этом - в реальных приложениях никому не интересно, если ваш ИИ набрал на 2% больше в каком-то тесте, если обработка занимает вечность или он забывает, что вы сказали три запроса назад. Скорость и объем памяти - вот где сейчас находится настоящее конкурентное преимущество.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
18 Лайков
Награда
18
6
Репост
Поделиться
комментарий
0/400
TradingNightmare
· 21ч назад
Сказано отлично, эту ловушку benchmark давно пора выбросить. Большие компании все еще накручивают параметры, в результате пользовательский опыт ужасен, разве это не смешно?
Посмотреть ОригиналОтветить0
MainnetDelayedAgain
· 21ч назад
Согласно базе данных, эти слова были сказаны еще полгода назад. Просто тогда различные лаборатории были заняты публикацией скриншотов с результатами бенчмарков... Теперь они только начинают осознавать, что скорость и контекст - это главное, и предлагаю включить эту точку зрения в Книгу рекордов Гиннеса как задержку в открытии.
Посмотреть ОригиналОтветить0
down_only_larry
· 21ч назад
Честно говоря, даже если бенчмарк будет высоким, если задержка слишком велика, это просто мусор.
Посмотреть ОригиналОтветить0
BTCBeliefStation
· 21ч назад
на самом деле скорость и контекстное окно являются настоящими точками напряжения, те, кто конкурирует с бенчмарками, занимаются бесполезной работой
Посмотреть ОригиналОтветить0
TokenomicsDetective
· 21ч назад
честно говоря, это правда, какой смысл в высоких бенчмарках, если пользователи этого не чувствуют. На самом деле, самым критичным является скорость отклика и способность обрабатывать контекст, именно в этой области компании и соревнуются.
Посмотреть ОригиналОтветить0
GateUser-74b10196
· 21ч назад
Вы правы, но на самом деле большинство команд все еще занимаются оптимизацией параметров.
Честно? Лабораториям нужно переключиться на другие скорости. Мы находимся на этапе, когда стремление к немного более умным моделям больше не дает результата. Теперь действительно важно, насколько быстро эти системы реагируют и сколько контекста они могут обрабатывать, не задыхаясь. Подумайте об этом - в реальных приложениях никому не интересно, если ваш ИИ набрал на 2% больше в каком-то тесте, если обработка занимает вечность или он забывает, что вы сказали три запроса назад. Скорость и объем памяти - вот где сейчас находится настоящее конкурентное преимущество.