Be Worried
ИИ уже сейчас активно влияет на поведение людей в массовом масштабе, и это происходит без необходимости обладания сознанием или сверхразумом. С момента предоставления ChatGPT доступа к интернету через плагины в марте 2023 года, системы могут автономно генерировать виральный контент, используя динамические входные данные и API для распространения в социальных сетях. Это опасно, потому что ИИ превосходит людей в создании контента, вызывающего дофаминовый отклик, что усиливает его влияние.
Ненадежность обнаружения ИИ-сгенерированных материалов усугубляет проблему: лучшие детекторы работают лишь немногим лучше случайного угадывания, и с развитием моделей эта ситуация ухудшается. Вскоре большинство популярного онлайн-контента будет создано ИИ, подрывая доверие к информации. Автор предлагает скептически относиться к контенту, созданному после 2022 года, и искать количественные методы проверки подлинности, хотя таких надежных инструментов пока нет.