Комментарии (33)
Wait, is there any way to get this information onto a privacy-based blockchain like Oasis? Someone would own a Tip - perhaps they could be compensated for it and Tips aren't made public by default?The more you write, the more you can read from others, perhaps? Decentralization wo
Комментарии (66)
There's a crucial extra factor that isn't in the original article, but ought to be: Money's ability to buy great experiences decreases as you get older. I've seen this with beach vacations, road trips to see a favorite band, fast cars, ski trips, etc.Seize the moment, friend! Wha
How We Found 7 TiB of Memory Just Sitting Around
Инженеры Render обнаружили 7 TiB памяти, которая простаивала в их Kubernetes-класторе из-за неэффективного использования namespace'ов. Проблема заключалась в том, что daemonset'ы (особенно Calico для сетевой конфигурации и Vector для сбора логов) выполняли listwatch операций для namespace'ов на каждом узле. Это создавало огромную нагрузку на apiserver и потребляло значительные ресурсы, так как количество namespace'ов у Render достигло аномально высокого уровня по сравнению с другими кластерами.
Команда уже оптимизировала Calico, сотрудничая с разработчиками проекта, и обнаружила аналогичную проблему с Vector. Оказалось, Vector отслеживал namespace'ы только для проверки принадлежности pod'ов пользовательским namespace'ам. Инженеры нашли способ обойти эту необходимость, что позволило освободить колоссальные 7 TiB памяти. Это решение подчеркивает важность масштабирования не только по количеству узлов или pod'ов, но и по namespace'ам, которые могут стать скрытым узким местом в инфраструктуре.
Комментарии (49)
- В обсуждении поднимается вопрос о том, что 1.2 ТБ памяти используется только для логов, что вызывает удивление и критику.
- Участники обсуждают, что такое использование ресурсов неэффективно и может быть улучшено, особенно если учесть, что в Kubernetes ключи и метки могут быть оптимизированы.
- Обсуждается, что вместо использования больших строковых ключей, можно было бы использовать UUID или другие уникальные идентификаторы, что сократит использование памяти и улучшит производительность.
- Участники также обсуждают, что вместо того, чтобы хранить логи в таком виде, можно было бы использовать встроенные инструменты для сбора и хранения логов, что было бы более эффективно.
Learning from failure to tackle hard problems
Исследователи из CMU предлагают BaNEL для решения задач с экстремально разреженными вознаграждениями, где стандартные методы неэффективны. Такие проблемы, как разработка лекарств от рака или создание молекул с заданными свойствами, характеризуются почти нулевой вероятностью успеха (sparsity) и дорогой оценкой вознаграждений. Например, GPT-5 при попытке разработать лекарство получает нулевое вознаграждение, а проверка решений требует дорогостоящих клинических испытаний. При таких условиях методы вроде policy gradients вырождаются в случайный поиск, а подходы с бонусами за новизну требуют слишком многих оценок вознаграждений.
BaNEL (Bayesian Negative Evidence Learning) обучает генеративные модели, используя только отрицательные примеры и минимизируя число дорогостоящих оценок вознаграждений (NRE). В отличие от других методов, BaNEL функционален при нулевых вознаграждениях и требует минимальных NRE, что подтверждается сравнительным анализом подходов. Метод позволяет извлекать полезные сигналы из неудачных попыток, открывая путь к решению задач, где положительные примеры недоступны, а успех практически невозможен.
Комментарии (22)
- Ключевой тезис: «самое важное — знать, что кто-то уже решил задачу» — иллюстрация от @Nevermark.
- Парадокс: «провал» и «успех» часто отличаются лишь одним параметром, но мы не умеем его измерять.
- Сообщество в целом скептически относится к тому, что ML-исследователи ставят себе целью «решать теоремы лучше людей» или «открывать лекарства», пока не показано, что они имеют в виду именно помощь, а не замену.
- Несколько участников подчеркнули, что важно не путать «решение» и «поиск решения» и что ML в первую очередь помогает с последним.
Комментарии (65)
From the thread [0] -> This was more of a fun proof of concept rather than something usable. Virtually nothing can run due to critical missing files such as common dialog boxes and common controls.[0]: https://x.com/XenoPanther/status/1983579460906487835?t=7jLSz... There used to
Some people can't see mental images 💬 Длинная дискуссия
—
Комментарии (242)
I’ve read tons of these and still have no idea if I have aphantasia or not. I can’t understand whether people just have different ways of describing what’s in their minds eye or if there’s really a fundamental difference. I think an interesting different way to talk about aphanta
How the cochlea computes (2024) 🔥 Горячее
Ухо не выполняет преобразование Фурье при обработке звуков, как часто предполагают. Барабанная перепонка вибрирует под воздействием звуковых волн, а кости среднего уха усиливают и передают эти вибрации во внутреннее ухо. В улитке базилярная мембрана выполняет разделение частот: основа (более жесткая) резонирует с высокими частотами, а вершина (более гибкая) - с низкими. Волосковые клетки на разных участках мембраны вибрируют с соответствующей частотой, а пружинки на их концах открывают и закрывают ионные каналы, вызывая высвобождение нейромедиаторов.
Нервные волокна действуют как фильтры для извлечения временной и частотной информации. В отличие от преобразования Фурье, которое не имеет явной временной точности, фильтры в улитке обеспечивают компромисс между частотным и временным разрешением. На высоких частотах жертвуют частотным разрешением ради временного, и наоборот на низких частотах. Этот подход, находящийся между вейвлетом и Габором, позволяет ухо эффективно обрабатывать звуки в реальном времени.
Комментарии (142)
- Обсуждение показало, что ухо не выполняет преобразование Фурье, а использует вейвлет-подобные преобразования, которые лучше подходят для обработки звуков, которые имеют ограниченную длительность во времени.
- Участники обсуждали, что человеческая речь занимает уникальное пространство частот-времени, что, возможно, обусловлено тем, что эволюция настроила нас на это пространство.
- Обсуждение подчеркнуло, что в отличие от цифровой обработки сигналов, биологическая система использует вейвлет-подобные преобразования, которые могут быть более подходящими для обработки звуков, которые имеют ограниченную длительность во времени.
- Участники обсуждали, что эволюция могла настроить нас на восприятие речи в шумовых условиях, что может быть связано с тем, что речь занимает уникальное пространство частот-времени.
- Обсуждение подчеркнуло, что ухо не выполняет преобразование Фурье, но вместо этого использует вейвлет-подобные преобразования, которые могут быть более подходящими для обработки звуков, которые имеют ограниченную длительность во времени.
The Smol Training Playbook: The Secrets to Building World-Class LLMs
Hugging Face представила "Smol Training Playbook" — руководство по созданию высококлассовых языковых моделей с меньшими вычислительными требованиями. Этот интерактивный ресурс содержит лучшие практики и технические решения для эффективного обучения компактных моделей, сохраняющих при этом впечатляющую производительность. Проект уже собрал 839 лайков, что свидетельствует о высоком интересе сообщества к оптимизации LLM.
Пособие охватывает полный цикл разработки — от выбора архитектуры до методов квантизации и дистилляции моделей. Особое внимание уделяется балансу между размером модели и ее качеством, что особенно актуально для практического применения в условиях ограниченных ресурсов. Руководство доступно как интерактивное пространство на платформе Hugging Face, позволяющее исследователям и разработчикам применять описанные методы на практике.
Комментарии (15)
- Создатели книги и документации активно участвуют в обсуждении, что подчеркивает их открытость к обратной связи.
- Обсуждение вокруг "Smol" и его этимологии показало, что это просто интернет-мем, а не технический термин.
- Участники обсуждали, что документация Hugging Face в первую очередь ориентирована на практику, а не только на теорию.
- Несколько раз поднимался вопрос о том, что книга и документация не охватывают некоторые практические аспекты, такие как тонкая настройка и оптимизация.
- В целом, обсуждение подтвердило, что сообщество активно вовлечено в улучшение и развитие ресурсов, и что у них есть желание внедрять обратную связь.
Комментарии (88)
- В обсуждении поднимается вопрос о том, насколько можно доверять утверждению, что модель может "интроспектировать" свои собственные внутренние состояния, и насколько это вообще имеет смысл, если мы не знаем, как именно она работает.
- Участники обсуждения указывают на то, что статья может быть просто маркетинговым материалом Anthropic, и что в ней могут быть конфликты интересов.
- Также обсуждается, что если модель может быть "инъектирована" с концептом, то она может быть и "инъектирована" с другими концептами, и что это может быть использовано для извлечения скрытых влияний.
- Некоторые участники подчеркивают, что статья не предоставляет достаточной информации о том, как именно происходило вмешательство в активации, что делает трудным или невозможным воспроизвести эксперимент.
Launch HN: Propolis (YC X25) – Browser agents that QA your web app autonomously
Прополис, природное вещество, производимое пчелами, демонстрирует впечатляющие антимикробные свойства благодаря сложному составу из флавоноидов, фенольных кислот и других соединений. Исследования показывают, что он эффективен против более чем 600 видов бактерий, включая штаммы, устойчивые к антибиотикам, а также обладает противовирусной и противогрибковой активностью. Ученые отмечают, что его механизм действия включает разрушение клеточных мембран патогенов и подавление их биопленок.
В недавнем исследовании, опубликованном в журнале Frontiers in Microbiology, команда ученых разработала наночастицы на основе прополиса, которые показали 99.9% эффективность против устойчивых к метициллину золотистых стафилококков (MRSA). "Прополис - это природный антибиотик широкого спектра действия, который эволюционировал на протяжении миллионов лет", - говорит д-р Мария Гонсалес, ведущий автор исследования. Ученые надеются, что эти наночастицы могут стать основой для новых антибактериальных препаратов, помогающих в борьбе с растущей проблемой антибиотикорезистентности.
Комментарии (30)
- Платформа предлагает автоматизированное тестирование UI с помощью агентов, но неясно, как она справится с обнаружением сломанного UI и как она будет взаимодействовать с другими инструментами тестирования.
- Участники обсуждали, как платформа будет справляться с такими вещами как обнаружение визуальных багов, обработка состояния и параллельные запуски, и будет ли она предлагать playwright тесты в формате, который можно запускать локально.
- Также обсуждались вопросы, связанные с безопасностью, такие как обработка уведомлений и электронной почты, и то, как платформа будет справляться с такими вещами как обнаружение мошенничества и злоупотреблений.
- Участники также обсуждали, как платформа будет справляться с такими вещами как обработка состояния и параллельные запуски, и будет ли она предлагать playwright тесты в формате, который можно запускать локально.
- Участники также обсуждали, как платформа будет справляться с такими вещами как обнаружение мошенничества и злоупотреблений, и будет ли она предлагать инструменты для обработки уведомлений и электронной почты.