Ilya Sutskever: We're moving from the age of scaling to the age of research
Илья Суцкевер объявляет переход от эры масштабирования к эре исследований: модели достигли предела пре-тренинга, где они "обобщают драматически хуже людей" из-за фундаментальной jaggedness — неравномерных способностей. SSI (Safe Superintelligence Inc.) фокусируется на "straight-shotting superintelligence": прямая разработка безопасного сверхинтеллекта через исследования, а не слепое увеличение данных/вычислений. Модель SSI будет учиться в реальном деплое, используя self-play и multi-agent сценарии для улучшения обобщения.
Люди превосходят ИИ в обобщении благодаря эмоциям как прокси value functions и интуитивному пониманию причинности. Scaling работает для предсказания токенов, но не решает alignment: Илья подчёркивает необходимость "research taste" для прорывов. SSI — "squarely an age of research company", инвестируя в безопасность AGI с нуля, чтобы избежать рисков.