Formal Reasoning [pdf]

No post summary.

Обсуждение сфокусировано на том, как использовать формальные языки как промежуточное представление между естественным языком и логическим выводом, чтобы LLM могли бы пользоваться формальными методами верификации исходя из правильности преобразований.
Участники обсуждали, что формальные языки — это модели естественных языков в лабораторных условиях, и что они могут быть использованы для верификации логических выводов.
Также было отмечено, что LLM плохо справляются с формальными языками, и что нехватка обучающих данных для обучения моделей на формальных языках.
Была выдвинута идея, что в будущем можно будет обучить модель, которая будет переводить естественный язык в формальный язык, затем использовать формальный язык для верификации логических выводов, и наконец перевести обратно на естественный язык.