Крик души Джии Толентино из журнала The New Yorker. Там много про Трампа, политику, международные отношения, помутнение рассудка от переизбытка информации и поддельной реальности, но это все прелюдия к данной концовке ее эссе:
«…Фальшивые изображения реальных людей, реальные изображения фальшивых людей; фальшивые истории о реальных вещах, реальные истории о фальшивых вещах. Фальшивые слова, как растение кудзу, проникают в научные статьи и анкеты знакомств, электронные письма и текстовые сообщения, новостные выпуски и социальные сети, списки вакансий и заявления о приеме на работу. Фальшивые сущности стоят на страже в чатах, когда мы пытаемся оспорить счет за лечение, и, как сфинксы, ждут, когда мы взломаем код, позволяющий нам поговорить с живым человеком. Слова расплываются, образы расплываются, и для нас создается разрешающая структура, отрывающая нас от реальности — сначала на мгновение, затем на день, неделю, сезон выборов, а может, и на всю жизнь.
Я никогда не пользовалась ChatGPT, что делает меня меньшинством. Четыреста миллионов человек сейчас пользуются платформой каждую неделю. Люди используют ChatGPT, несмотря на то, что на самом деле не доверяют ему: в ходе опроса около четырех из десяти человек заявили, что они практически не доверяют ChatGPT в плане предоставления им точной информации о выборах 2024 года. Да ну? Почему бы не использовать эту технологию все шире и шире? Почему бы не попросить у ChatGPT совета, не поручить ему составлять ваши текстовые сообщения, не поручить выполнение задач по проекту? Почему бы не предложить ему меню ресторана и не попросить его выбрать ваш заказ, чтобы впоследствии получить лучшее блюдо в вашей жизни? Да?
Тень, которую моя цифровая жизнь отбрасывает на окружающую среду, уже является перебором, и мне нужна веская причина — удовольствия было бы достаточно, — чтобы погружаться в технологию, которая не только ухудшает физический мир, но и является явно необязательной. Хотите посмотреть, как выглядела бы ваша собака в человеческом обличье? У вас же ведь для этого есть ваше воображение? Или уже нет? ИИ, откровенно говоря, отвратителен для меня: он превращает предвзятость в нейтральность; у него галлюцинации; он может «отравиться собственной проекцией реальности». Чем чаще люди пользуются ChatGPT, тем более одинокими и зависимыми от него они становятся. Недавнее обновление системы сделало чат-бота настолько льстивым, что, если бы пользователь сказал ему, что перестал принимать лекарства и бросил свою семью из-за того, что они передавали подозрительные радиосигналы, чат-бот ответил бы подобострастной похвалой за то, что человек мужественно добивается правды. Ранее на этой неделе Марк Цукерберг в своем подкасте предположил, что у среднестатистического человека в жизни есть всего три друга, но «есть спрос» на пятнадцать, и что ИИ мог бы помочь с этой проблемой. ChatGPT воплотит в жизнь те самые проблемы, которые он призван решить, и, таким образом, станет незаменимым инструментом, побуждающим пользователей все меньше и меньше полагаться на внутренние ресурсы и личные способности в то время, когда большинство из нас уже теряют те инструменты — нашу волю, наши инстинкты, наше чувство уверенности, — с помощью которых мы справляемся с задачей быть живыми.
Люди создают автопортреты, управляемые искусственным интеллектом, на платформах, которые затем могут оставить за собой право использовать эти изображения в рекламе. Мошенники используют фейки в видеозвонках, меняя расу, пол и голос в режиме реального времени. К тому времени, когда моим детям исполнится десять лет, создавать индивидуальное порно с участием людей по их выбору будет легко и, вероятно, бесплатно. Я ожидаю, что для них не будет шокирующим, как для меня, если чат-бот, выполняющий функции виртуальной подруги, подтолкнет кого-то из их сверстников к самоубийству. Я представляю, какие нелепые лекции я буду им читать в будущем: «Дорогие мои, гораздо приятнее смотреть на настоящую, несовершенную человеческую обнаженную натуру».
Если бы я училась в десятом классе и до полуночи до смерти скучала бы над незаконченной работой, я бы обратилась бы за помощью к технологиям. Смогу ли я убедить детей, что единственные стоящие части моего сознания — это те, которые сопротивляются стимулам Интернета или избегают их? Мои дети в том возрасте, когда ничто так не привлекает их, как возможность делать что-то без посторонней помощи. У них есть всего несколько лет, прежде чем они поймут, что взрослая жизнь в наши дни означает все больше и больше уступать место машинам.
Я подозреваю, что буду помнить — возможно, смутно — неделю в конце марта 2025 года как переломный момент. OpenAI только что представила новые инструменты для создания изображений в ChatGPT. Теперь пользователи могли превращать фотографии в иллюстрации в стиле Studio Ghibli — например, снимки со своих свадеб или со своими детьми, а затем, что неизбежно, фотографии расстрела Columbine и событий 9/11. Эта тенденция достигла своего гротескного апогея, когда официальный аккаунт Белого дома опубликовал в Твиттере иллюстрацию в стиле Studio Ghibli, на которой офицер надевает наручники на рыдающую женщину — иммигрантку без документов, осужденную по обвинению в незаконном обороте наркотиков и недавно арестованную Иммиграционной и таможенной полицией США. Этот пост был шуткой, и, возможно, удачной, потому что он максимально увеличил дистанцию между нежным, горько-сладким, глубоко человечным стилем Studio Ghibli и радостной, бесчеловечной злобой, которая является фирменным стилем Трампа. Это изображение появилось в моей ленте посреди кучи всего остального дерьма, а затем я обновила страницу. И, как и было задумано, оно исчезло…»
— https://www.newyorker.com/culture/the-weekend-essay/my-brain-finally-broke
**