Настоящая угроза ИИ — не массовая безработица через 18 месяцев, а постепенная деградация человеческого мышления из-за отказа от умственного напряжения. Подобно тому, как медленные приседания с отягощением наращивают больше мышц, глубокое размышление требует терпеливой работы с разрозненными идеями, чтобы сплести их во что-то новое. Однако технологии сокращают это «время под напряжением»: студенты элитных вузов уже не могут читать длинные тексты, а школьные оценки по чтению падают десятилетиями.

Ключевая проблема — не конкуренция с машинами, а то, как мы сами обесцениваем свои способности, перекладывая задачи на ИИ. Вместо страха перед будущим стоит сосредоточиться на сохранении практик глубокого мышления, иначе рискуем потерять то, что делает нас людьми — способность к сложному, медленному творчеству.

• AI усиливает существующие тенденции: одни используют его для ускорения обучения и рутины, другие становятся зависимыми и теряют навыки.
• Ключевой риск — когнитивная атрофия: чрезмерный reliance на AI ведёт к деградации навыков мышления, особенно у молодых специалистов.
• AI как инструмент: ценность зависит от подхода — слепое копирование ответов вредно, а анализ и критика AI-вывода полезны.
• Образование требует адаптации: нужны новые методы оценки (устные экзамены, проекты), чтобы избежать списывания и развивать критическое мышление.
• Социальные последствия неоднозначны: AI может усилить неравенство, повлиять на рынок труда и распространять предвзятость через свои ответы.

Карл Саган в своей книге «Мир, полный демонов: Наука — как свеча во тьме» выступает против псевдонауки и суеверий, подчеркивая важность научного мышления и скептицизма. Он предлагает читателям «набор для обнаружения чепухи» — набор инструментов для критической оценки утверждений, включая проверку доказательств, поиск независимых подтверждений и избегание логических ошибок. Знаменитая метафора «дракон в гараже» иллюстрирует, как недоказуемые заявления становятся бесполезными для рационального дискурса.

Саган также предупреждает об опасности злоупотребления наукой, например, в случаях с ложными воспоминаниями или некритичным принятием авторитетов. Книга получила широкое признание за ясность и актуальность, оставаясь руководством по защите от дезинформации и развитию здорового скептицизма в эпоху растущего невежества.

• Обсуждается влияние книги Карла Сагана «Демон, преследующий мир» на читателей и её роль в скептическом движении.
• Поднимается тема о трудности изменения ложных убеждений и мифологий у людей, несмотря на логику и научные доводы.
• Участники делятся личным опытом, как книга помогла им или, наоборот, не смогла повлиять на чьё-то магическое мышление.
• Высказываются критические замечания в адрес Сагана и его подхода к философии и теологии, а также о его стиле письма.
• Обсуждается актуальность предостережений Сагана о будущем, связанном с упадком критического мышления и ростом невежества.

У вас не было вкуса до появления ИИ

В последнее время многие призывают развивать вкус для работы с ИИ — дизайнеры, маркетологи, разработчики. Ирония в том, что эти же люди раньше не задумывались, почему их дизайны выглядят одинаково, не итерировали проекты и не проверяли, решают ли их работы реальные проблемы. Самые громкие голоса, рассуждающие о вкусе и ИИ, часто сами не демонстрировали его до появления технологий.

Что такое вкус?

В контексте ИИ под вкусом обычно понимают:

• Контекстуальную уместность: понимание, когда контент от ИИ подходит, а когда нужен человеческий подход.
• Распознавание качества: отличие полезного контента от бесполезного, требующее экспертизы в предметной области.
• Итеративное улучшение: отношение к ИИ как к стартовой точке, а не финальному результату.
• Этические границы: осознание, когда ИИ нарушает нормы authenticity, законы или этику.

Эти навыки не новы — ими всегда должно было руководствоваться качественной работе. Вопрос в том, почему о вкусе заговорили только сейчас.

Безвкусица

Многие, кто жалуется на безвкусный контент от ИИ, сами грешили тем же:

• Копировали код без понимания.
• Рассылали непроверенные резюме и письма.
• Создавали шаблонные дизайны сайтов.
• Пересказывали тренды без осмысления.

Проблема не в ИИ, а в людях, которые не развивали критическое мышление. Как в «Рататуе»: готовить может каждый, но шеф-повар — не все.

Спектр вкуса

Вкус может быть глубинным (экспертиза в одной области) или широким (понимание множества доменов). С ИИ чаще полезен широкий вкус — он позволяет быстро переключаться между контекстами, поддерживать качество и знать, когда обратиться к эксперту.

Наиболее эффективны с ИИ те, кто развил широкий вкус: они чувствуют, когда что-то не так, даже без глубоких знаний, и понимают свои ограничения. Глубинный вкус тоже важен, но именно широта помогает адаптироваться к мультидоменности ИИ.

• Обсуждение вращается вокруг субъективности понятия «вкус» и его связи с использованием ИИ, где одни видят в нём инструмент для усиления креативности, а другие — угрозу оригинальности и качеству.
• Многие участники отмечают, что ИИ не создаёт ничего принципиально нового, а лишь ускоряет производство контента, что может усугублять отсутствие вкуса, а не исправлять его.
• Поднимается вопрос о парадоксе прибыли: стремление к финансовой выгоде часто воспринимается как безвкусное, хотя именно оно движет профессиональной деятельностью.
• Критикуется некритичное принятие результатов работы ИИ как идеальных, что приводит к снижению стандартов качества и отсутствию глубокого понимания у пользователей.
• Высказывается опасение, что широкое использование ИИ может привести к homogenization вкуса и утрате культурного разнообразия, так как инструмент формирует предпочтения следующего поколения.
• Отмечается, что настоящая проблема может заключаться не в ИИ, а в изначальной склонности общества к конформизму и воспроизводству банальностей, которые ИИ лишь усиливает.
• Часть дискуссии посвящена разграничению понятий «вкус», «качество» и «мастерство», где вкус рассматривается как способность к автономному суждению, а не просто следование трендам.

Ложь «ничего не надо запоминать»

Инструменты обещают: «Поищем за вас». Цена — ваша способность думать.
Без фундаментальных знаний мозг не отфильтрует результат: не поймёт, что важно, где ошибка, как связать. Поверхностное «нашёл-скопировал» разрушает карту предмета в голове; эмоциональное участие стремится к нулю, а без эмоции мысль не заводится. Пример: ChatGPT выдал «идеальный» план тренировок. Красиво, но проверить его может только тот, кто уже сам разбирается. Запоминать и строить знания внутри себя — единственный способ использовать интернет, ИИ и заметки по-настоящему.

• Тезис автора: «Чтобы делать знательную работу, нужно помнить ВСЁ» — воспринимается как гипербола; большинство считают достаточным базовый каркас знаний и опыт.
• AI = две стратегии: (1) спрашивать у модели и не думать; (2) автоматизировать рутину (тесты, инфра), сохраняя мыслительную нагрузку для сложного.
• Память vs поиск: ключ не в полном запоминании, а в наличии «точек входа» и абстрактных схем, позволяющих быстро ориентироваться и проверять ответы.
• Опасения: злоупотребление AI снижает глубину мышления, критическое мышление и способность отличать правду от галлюцинаций модели.
• Контрдовод: человечество всегда внешне хранило знания (письмо, книги, интернет); главное — уметь использовать инструменты, не превращаясь в «машину-копир».

• Недавние записи
  Архив блога

• Одно из ключевых достижений вычислений — сжатие данных: мы уменьшаем размер, сохраняя всю информацию (без потерь), передаём и восстанавливаем исходник.

• Раньше сжатие было необходимо: носители малы, сети медленны. Сейчас это не всегда критично, но по‑прежнему полезно: эта страница почти наверняка пришла к вам в сжатом виде, что ускоряет загрузку и снижает нагрузку на сервер.

• Забавно, что в 2025 мы нередко делаем противоположное. Пример: Бобу нужен новый рабочий компьютер. Его просят написать 4 абзаца обоснования. Он просит LLM сгенерировать текст и отправляет менеджеру.

• Менеджер получает длинное письмо, копирует его в LLM и просит резюме в одном предложении: «Нужен новый компьютер, старый медленный и мешает продуктивности». Заявку одобряют.

• Я называю это «инфляцией LLM»: легко превращать короткое и простое в длинное и видимо глубокое — и обратно, длинное и «глубокое» в короткое и простое.

• Это не упрёк LLM. Но стоит задуматься, почему мы раздуваем контент: в лучшем случае поощряем туманность и трату времени; в худшем — скрываем отсутствие ясной мысли. LLM лишь обнажают масштаб. Возможно, это подтолкнёт нас к изменениям!

• 2025‑08‑06 10:50 — Более раннее

• Обновления: Mastodon, Twitter, RSS, e‑mail

• Сноски:
  И, разумеется, теория информации, но здесь важны практические эффекты.

• Комментарии

• Обсуждение вращается вокруг “инфляции текста” из‑за LLM: люди генерируют лишнюю прозу для бюрократических требований, а получатели затем используют LLM для сжатия обратно до сути.
• Многие считают проблему культурной и организационной: длинные форматы служили фильтром/сигналом усилий и «критического мышления», но с LLM этот сигнал обесценился.
• Часть участников утверждает, что инфляция текста существовала и раньше; LLM лишь ускорили процесс и обнажили масштаб пустых формальностей.
• Другие видят в этом шанс: нормализовать краткость, требовать брифы/буллеты, а при необходимости поручать LLM расширение текста на стороне читателя.
• Встречаются скепсис и критика вымышленных кейсов (например, про “4 абзаца” для покупки ПК) как нереалистичных или оправдывающих бюрократию.
• Предлагаются альтернативные метрики и взгляды: оценивать модели по способности к компрессии информации; замечается, что «формальная вежливость» и сигналы статуса в языке подпитывают многословие.
• Общий вывод: инструменты генерации/суммаризации меняют баланс доверия и сигналов в коммуникации; организациям стоит переосмыслить процессы и поощрять ясность и краткость.