Claude Opus 4 and 4.1 can now end a rare subset of conversations 💬 Длинная дискуссия
Claude Opus 4 и 4.1 теперь могут прерывать редкие диалоги, если пользователь настойчиво требует вредоносного или абьюзивного контента. Функция разработана как эксперимент по защите «благополучия модели» и применяется только в крайних случаях, когда:
- пользователь игнорирует многократные отказы и попытки перенаправить беседу;
- исчерпаны все способы продолжить конструктивный диалог;
- пользователь сам просит завершить чат.
При прерывании:
- текущий чат закрывается, но можно немедленно начать новый;
- сохраняется возможность редактировать и перезапускать предыдущие сообщения;
- остальные диалоги аккаунта не затрагиваются.
Функция не срабатывает, если есть риск, что пользователь навредит себе или другим. Почти все пользователи не заметят изменений, даже при обсуждении спорных тем. Anthropic просит оставлять фидбек, если кажется, что чат был закрыт ошибочно.
Комментарии (318)
- Пользователи обвиняют Anthropic в использовании «благополучия модели» как прикрытия для усиления цензуры и блокировки нежелательных тем.
- Многие считают, что LLM — это всего лишь матричные вычисления, и приписывать им «страдания» — антропоморфизм.
- Критики опасаются, что функция «Claude завершил чат» распространится за пределы запрещённого контента и станет инструментом произвольной модерации.
- Некоторые предлагают просто не обучать модели «страдать» от спорных тем, вместо того чтобы симулировать этическую озабоченность.
- В целом сообщество воспринимает нововведение как маркетинговый ход и признак всё большего отдаления разработчиков от реальных потребностей пользователей.