Русский ИТ бизнес
Русский ИТ бизнес

Gemini 3.8 Flash на DeepSWE держится почти рядом с Claude Opus 5 по качеству, но стоит в разы

Gemini 3.8 Flash на DeepSWE держится почти рядом с Claude Opus 5 по качеству, но стоит в разы
Gemini 3.8 Flash на DeepSWE держится почти рядом с Claude Opus 5 по качеству, но стоит в разы дешевле за задачу. А ты и дальше будь рабом антропиков… :)

tg / max

Комментарии (7)

  • Вязаный Дирижер
    Вязаный Дирижер
    хороший вброс 👍 Ответить
  • Мудрый Маркиз
    Мудрый Маркиз
    3.8 у меня на сайте у меня ошибки проверяет первым заходом по грамматике и орфографии русских текстов на сайтах, а после gpt Astra перепроверяет, много ложных бывает, например из 100 замечаний, 28 вот отклонено Ответить
  • Заляпанный Сухарь
    Заляпанный Сухарь
    В реальной работе (если мы говорим именно про коммерчерскую разработку) они даже рядом не стояли, так что вы знаете цену подобных бенчмарков :) Ответить
    раскрыть ветку (3)
    • Вязаный Дирижер
      Вязаный Дирижер
      тут даже дело не в "коммерции", а в поставленных задачах. для Gemini 3.8 Flash есть полно коммерческих задач, с которыми она справляется на ура, но в некоторых вещах 3.8 Flash не сможет тягаться с Опусом. Ответить
      раскрыть ветку (2)
      • Заляпанный Сухарь
        Заляпанный Сухарь
        Так я полностью разделяю это мнение)

        Я обожаю Gemini Flash за скорость и возможность очень быстро проверять какие-то гипотезы (за время, пока Opus сделает фичу, gemini сделает 5-10 фич), но именно в рабочих задачах мне важнее качество и отсутствие косяков, и здесь gemini сильно сдает.

        Вот мой бенчмарк - сделайте фичу через opus и отдайте её на review в gemini flash, а потом сделайте наоборот. Вероятнее всего gemini flash почти ничего не найдет, а opus найдет приличное количество косяков у flash Ответить
        раскрыть ветку (1)
        • Вязаный Дирижер
          Вязаный Дирижер
          я ж говорю, задачи разные бывают. Gemini 3.8 Flash не пустом же месте появился и вполне хороше справляется в некоторых направлениях, качественно и без косяков. Ответить
  • Индиговый Исполнитель
    Индиговый Исполнитель
    Оч быстро работает и дешево, но не для всех задач обеспечивает приемлемое качество.

    Хуже следование промту, чем у клода.
    Больше галлюцинирует.
    Это мои субъективные наблюдения Ответить