Social Cooling (2017)
Сбор и анализ больших данных приводят к непреднамеренным социальным последствиям, известным как «социальное охлаждение». Когда люди осознают, что их поведение отслеживается и оценивается через тысячи параметров — от политических взглядов до склонности к риску, — они начинают менять свои действия, чтобы избежать негативных оценок. Это вызывает самоцензуру, снижает готовность к экспериментам и открытому выражению мнений.
В долгосрочной перспективе это ведёт к конформизму, избеганию риска и усилению социальной жёсткости. Примеры включают врачей, отказывающихся лечить сложных пациентов из-за страха испортить статистику, или системы вроде китайского социального рейтинга, ограничивающие возможности людей с низкими баллами. Алгоритмы, часто основанные на biased-данных, усиливают неравенство и подавляют свободу личности.