Hacker News Digest

AMD представила серверный процессор EPYC 9355P на архитектуре Zen 5 с 32 ядрами, который фокусируется не на максимальном количестве ядер, а на повышении производительности каждого из них. Чип работает на частоте до 4,4 ГГц, что выше, чем у моделей с 128 или 192 ядрами (3,7–4,1 ГГц). Для размещения ядер используются восемь кристаллов (CCD), в каждом из которых активировано только четыре из восьми физических ядер, но доступен полный объём кэша L3 — 32 МБ на CCD. Это обеспечивает высокое соотношение кэш-памяти к количеству ядер. Кроме того, каждый CCD подключён к IO-чипу через два канала GMI-Wide, что даёт 64 байта/цикл пропускной способности в каждом направлении и полностью использует возможности IO-чипа.

Система Dell PowerEdge R6715 с этим процессором и 768 ГБ DDR5-5200 демонстрирует теоретическую пропускную способность памяти около 500 ГБ/с. В режиме NPS1 запросы к памяти распределяются по всем 12 контроллерам, обеспечивая единое адресное пространство, но с несколько повышенной задержкой по сравнению с десктопными решениями, например Ryzen 9 9900X. Задержка DRAM в этом режиме немного лучше, чем у Intel Xeon 6 в конфигурации SNC3. Архитектура серверных чипов AMD, с необходимостью связывать множество компонентов через Infinity Fabric, закономерно приводит к более высокой латентности, но кэш-производительность Zen 5 в серверном и десктопном вариантах схожа, отличаясь в основном из-за разницы в тактовых частотах.

• Обсуждаются технические характеристики серверных процессоров AMD EPYC: 768 ГБ оперативной памяти DDR5-5200, 12 контроллеров памяти и высокая пропускная способность.
• Участники делятся опытом использования больших объемов RAM в качестве диска (RAM disk) для ускорения сборки проектов и запуска моделей ИИ.
• Ведутся споры о влиянии архитектуры NUMA на производительность и о том, стоит ли оптимизировать код под нее в рамках одного сокета.
• Обсуждаются возможные опечатки в спецификациях и корректность работы программы счетчика (program counter) в архитектуре EPYC.
• Сравнивается заявленная пропускная способность памяти с другими системами (например, Apple M1 Ultra) и обсуждаются перспективы её роста.

SK hynix обошла Samsung и впервые с 1992 года стала крупнейшим производителем DRAM.

Причина — бум на HBM для ИИ.

• SK hynix контролирует ~50 % рынка HBM3/3E, поставляет чипы для NVIDIA.
• Samsung отстала в HBM, теряет долю в общем DRAM.
• Объём DRAM: SK hynix — 35 %, Samsung — 34 %.

Выручка SK hynix выросла на 125 % кв/кв, Samsung — на 28 %.

• Пользователи обсуждают, как американцу купить акции SK Hynix: Interactive Brokers предлагает вторичные листинги HY9H (Германия) и HXSCL (США).
• DRAM-производители: Samsung, SK Hynix и Micron — лидеры; SK Hynix сейчас делает самые быстрые модули DDR5.
• SK Group — типичный корейский чеболь, крупный, семейный, публичные дочки (SK Hynix торгуется на KRX), но холдинг частично частный.
• Успех SK связывают с фокусом на «жёсткие» науки, лучшими выпускниками и долгосрочным капиталом.
• Побочно: 64 ГБ ОЗУ хотят сделать новым минимумом для локального запуска LLM.