AGI fantasy is a blocker to actual engineering
В статье утверждается, что вера в AGI (искусственный общий интеллект) мешает реальному инженерному подходу к разработке ИИ. Автор, вдохновившись книгой "Империя ИИ" Карен Хао, отмечает, что в OpenAI искренне верят в возможность создания AGI, который либо приведет процветание, либо уничтожит человечество. Илон Маск основал OpenAI, считая Демиса Хасабиса "злым гением", который создаст AGI первым, а Илья Суцкевер призывал сотрудников "почувствовать AGI", даже устроив ритуал сожжения деревянного идола, символизирующего "лживый и коварный" ИИ.
Эта вера, подкрепленная успехами больших языковых моделей, привела к экстремальному масштабированию, требующему огромных ресурсов: дата-центры, потребляющие сотни литров воды в секунду, работающие на загрязняющих генераторах, эксплуатирующие рабочих-аннотаторов данных. Сторонники оправдывают это расчетом ожидаемой ценности (EV) AGI, но автор считает такие аргументы несостоятельными, так как вероятности и ценности выдуманы, а реальные издержки игнорируются. Отказавшись от фантазий об AGI, мы могли бы оценивать ИИ как решение конкретных задач, а не всех проблем сразу, используя более эффективные специализированные модели.