When models manipulate manifolds: The geometry of a counting task
Исследователи из Anthropic изучают, как трансформерные модели манипулируют геометрическими структурами (многообразиями) при выполнении задачи подсчета. Анализ показывает, что модели создают сложные представления чисел в многомерном пространстве, где операции подсчета соответствуют геометрическим трансформациям этих структур.
Ученые обнаружили, что модели используют комбинацию внимания и позиционных кодировок для построения "геометрических путей" между числовыми состояниями. Эти пути позволяют модели эффективно выполнять операции инкремента и декремента, сохраняя при этом числовую семантику. Исследование демонстрирует, что даже простые арифметические задачи требуют от моделей построения сложных геометрических конструкций в их внутреннем пространстве представлений.
Комментарии (10)
- Обсуждение критикует фокусировку на задаче разбиения строки, поскольку она уже имеет алгоритмическое решение и не отражает реальные задачи LLM.
- Участники спора подчеркивают, что вместо изучения механизмов, модель тестируется на уже решённой задаче, что делает задачу менее релевантной для понимания внутренней работы LLM.
- Также поднимается вопрос о том, что статья использует терминологию "биология" в контексте искусственных систем, что может ввести в заблуждение.
- Некоторые участники считают, что статья не делает ясным, что именно она изучает в контексте внутренней работы LLM, и что именно они хотят выяснить.
First convex polyhedron found that can't pass through itself 🔥 Горячее
Математики обнаружили первую фигуру, которая не может пройти сквозь саму себя после более чем трехвековой истории проблемы. Открытие разрешает загадку, связанную с пари принца Руперта Рейнского в конце XVII века, когда было доказано, что куб может пройти сквозь себя при определенном расположении туннеля. Новая фигура, созданная путем модификации куба, сохраняет объем, но не может быть перемещена через себя в любом направлении.
Решение пришло после того, как исследователи изучили все возможные конфигурации пространственных фигур. Интересно, что все платоновы тела (куб, октаэдр, додекаэдр и икосаэдр) могут проходить сквозь себя, а новая фигура стала первым исключением. Это открытие не только разрешает историческую задачу, но и открывает новые направления в изучении топологических свойств трехмерных объектов.
Комментарии (146)
- Публикация описывает первый найденный полиэдр, который не может пройти через себя, и тем самым решает давнюю проблему, хотя название статьи вводит в заблуждение.
- Обсуждение в комментариях охватывает широкий спектр тем — от исторического контекста до практического применения 3D-моделей и печати.
- Некоторые комментаторы поднимают вопросы о том, почему такой полиэдр не может пройти через себя, в то время как другие спрашивают, какие еще формы могли бы быть найдены в будущем.
- Обсуждение также затрагивает вопрос о том, как такой полиэдр может быть использован в образовательных целях, особенно для детей, и о том, какие еще формы могли бы быть напечатаны на 3D-принтере.
- Некоторые комментаторы также поднимают вопрос о том, какие еще формы могли бы быть найдены в будущем, и о том, какие из них могли бы быть напечатаны на 3D-принтере.
A simple way to measure knots has come unraveled
Математики опровергли простой метод измерения сложности узлов, предложенный ещё в 1876 году Питером Тейтом. Он предполагал, что «заузленность» можно измерить минимальным числом пересечений, которые нужно перевернуть, чтобы развязать узел. Этот параметр, известный как unknotting number, долгое время считался интуитивно понятным инструментом для классификации узлов.
Однако недавно было доказано, что эта мера не работает так, как ожидалось: оказалось, что для некоторых узлов требуется больше переворотов, чем предсказывает теория, а сама операция может быть крайне неочевидной. Это открытие усложняет задачу различения узлов и показывает, что их математическая структура гораздо тоньше, чем кажется на первый взгляд.
Комментарии (51)
- Обсуждается нетипичное поведение узлов, в частности, невозможность простого сложения их "чисел развязывания" при комбинировании.
- Высказывается гипотеза о существовании "отрицательного" числа развязывания для некоторых узлов, чтобы объяснить расхождения в расчетах.
- Уточняется, что проблема возникает из-за непредсказуемости изменения пересечений при соединении узлов.
- Отмечается, что для торических узлов все пересечения можно изобразить как положительные или отрицательные, что усложняет теорию.
- Обсуждается возможная связь концепции с другими математическими областями, такими как мнимые или сюрреальные числа.
Folks, we have the best π 🔥 Горячее
—
Комментарии (84)
- Обсуждение вращается вокруг свойств евклидовой метрики (n=2) и её уникальности, включая связь с теоремой Пифагора, SVD и алгоритмом K-means.
- Участники обсуждают, почему π (пи) достигает минимума именно при n=2 в семействе p-норм, и задаются вопросами о математическом доказательстве этого факта.
- Поднимаются вопросы о численных методах вычисления «пи» для других метрик (p-норм) и обобщении концепции на неевклидовы пространства, например, на сфере.
- Некоторые пользователи делятся похожими статьями и ресурсами, углубляясь в тему различных метрик расстояния и их свойств.
- Обсуждается природа числа π: является ли оно «числом» или результатом бесконечного процесса, а также его иррациональность.
John Coltrane's Tone Circle
Джон Колтрейн и «Тональный круг»
Саксофонист Джон Колтрейн создал «Tone Circle» — геометрическую диаграмму, соединяющую 12 тонов хроматической гаммы в круг, где соседние тона разделяет интервал в полтона. На схеме аккорды и тональности выглядят как правильные фигуры: треугольники, квадраты, шестиугольники. Это позволяет «видеть» модальные переходы и последовательности кварт-квинт, которые Колтрейн активно использовал в Giant Steps и других композициях.
Круг демонстрирует симметрию, скрытую в традиционной нотации: квинтовый цикл образует правильный 12-угольник, а аккорд ii–V–I — равнобедренный треугольник. Колтрейн, увлечённый математикой и философией, считал такую визуализацию способом «слышать геометрию» и быстрее ориентироваться в сложных прогрессиях.
Диаграмма также подчёркивает связь музыки с космологией: 12 тонов — как 12 знаков зодиака, а круговые движения напоминают орбиты планет. Идея вдохновила многих джазовых теоретиков и продолжает использоваться для анализа и обучения импровизации.
Комментарии (53)
- Dave Pollack и Vox показывают: «Giant Steps» кажется монстром из-за темпа; замедлите — и Coltrane Changes превращаются в обычные ii-V-I.
- Участники делятся интерактивом Sven, статьёй Гонзе и подкастом Strong Songs для дальнейшего изучения.
- Кто-то поднимает тему «сакральной геометрии» и связи музыки с устройством Вселенной.
- Идут споры о сложности для духовых, о «обожествлении» мёртвых музыкантов и о том, почему джаз нравится или раздражает.
Rupert's Property
Rupert’s property — возможность прорезать в выпуклом многограннике отверстие, достаточное для прохода точно такого же многогранника. До недавнего времени считалось, что это верно для всех выпуклых многогранников.
На этой неделе Steininger и Yurkevich нашли контрпример: выпуклый многогранник с 90 вершинами, не обладающий Rupert’s property.
- 240 рёбер, 152 грани.
- Проверено 18 млн вариантов отверстий + дополнительная математика.
- Назван noperthedron (игра слов: «нет Rupert»).
Историческая справка
Принц Руперт предположил, что в единичном кубе можно вырезать отверстие, через которое пройдёт куб с ребром ≈ 1,06. Подтвердил Джон Уоллис; позже Ньивланд нашёл максимальный размер.
Анимации
- Куб
- Октаэдр
- Видео — 26 многогранников с Rupert’s property и 5 подозрительных (включая триакис-тетраэдр, который всё-таки «проходит»).
Ссылка на статью
arXiv:2508.18475
Комментарии (16)
- На SIGBOVIK-2025 Том7 опубликовал доказательство, что не всякий выпуклый многогранник обладает свойством Руперта: найден «Noperthedron», который не является Rupert.
- Формулировка «Всякий ли выпуклый многогранник Rupert?» уже была добавлена в репозиторий формальных гипотез Google; обсуждается, насколько трудно будет формализовать новое доказательство в Lean.
- Участники вспомнили, что Мэтт Паркер и Numberphile делали видео о том, как куб можно протянуть через такой же куб.
- Имя «Noperthedron» дано в честь шуточного термина «Nopert» из статьи Том7.