Deep Think with Confidence

No post summary.

Участники обсуждают, что описанный метод напоминает beam-search, но без прямого упоминания.
Подчёркивается: высокая производительность (DeepConf-low) достигается за счёт 512 сэмплов, что требует ресурсов уровня enterprise и не подходит для локальных моделей.
Автор блога подтверждает: текст сгенерирован LLM, затем вручную проверен; метод можно запустить и на слабом GPU через vLLM.
Пользователи требуют явной маркировки «LLM output» и сравнивают подход с понижением температуры.