Фукуяма утверждает, что переход от метафоры «компьютер как велосипед» к образу ИИ как парового двигателя знаменует опасный сдвиг в развитии человечества. Технологии, которые мы создаем, меняют не только мир вокруг нас, но и то, кем мы являемся внутри. Важно понимать разницу между инструментами, которые помогают нам становиться сильнее, и теми, которые просто делают все за нас. Что говорит?
- В 1981 году молодой Стив Джобс — бородатый, в очках, в коричневом вельветовом блейзере поверх рубашки с открытым воротом — сидел перед Apple II и объяснял, для чего, по его мнению, нужен персональный компьютер. Он пересказал статью из Scientific American об «эффективности передвижения» (locomotion efficiency) разных видов. Суть у него была такой: кондор оказался самым энергоэффективным существом; человек — где-то в нижней части списка; но человек на велосипеде оказался настолько эффективным, что «кондор слетел с графика». Джобс говорил, что мы по сути создаем велосипед XXI века — инструмент, который усиливает врожденную интеллектуальную способность человека и снимает рутину, освобождая людей для более творческой работы». Позже, в более известной формулировке (например, в выступлении 1990 года), фраза стала короче и сильнее: «Компьютер — это велосипед для нашего разума».
- Современные технологии, такие как искусственный интеллект, сравнивают уже не с велосипедом, а с паровым двигателем. Это качественный переход, начавшийся в начале 2023 года с запуском новых умных чатов. В отличие от велосипеда, паровоз не требует от вас крутить педали. Вы просто садитесь в вагон, а уголь и машина делают всю работу за вас. Это не усиление человеческих мышц или мозга, а их полная подмена механическим или цифровым процессом.
- Когда вы едете на велосипеде, вы сами совершаете путешествие, вы — активный участник процесса. Когда вы едете в поезде, вас «перемещают» из точки А в точку Б. Внешне результат один и тот же: вы оказались в нужном месте. Но внутренне разница огромна: в одном случае вы приложили волю и силы, в другом — просто пассивно ждали прибытия. Это разделение на активное действие и пассивное потребление — ключ к пониманию того, что современные технологии делают с нашей личностью.
- Существует глубокое заблуждение, что новые цифровые инструменты только добавляют нам возможностей, ничего не забирая взамен. Это опасный миф. На самом деле, когда инструмент берет на себя выполнение задачи целиком, он не «добавляет» нам сил, он забирает у нас необходимость развивать и использовать собственные навыки. Мы привыкли думать, что становимся мощнее, но на деле мы можем становиться слабее, теряя то, что делает нас компетентными людьми.
- На протяжении тысяч лет люди, например охотники в Арктике, ориентировались в пространстве, изучая формы снежных сугробов, направление ветра и поведение животных. Это требовало обучения с самого детства, когда детей отправляли на улицу просто наблюдать за небом. С появлением спутниковой навигации в середине 1990-х годов ситуация в корне изменилась. Впервые в истории человек смог успешно добираться до цели, абсолютно ничего не зная об окружающей среде и не умея в ней ориентироваться.
- Старые инструменты, такие как винтовки или снегоходы, меняли культуру охоты, делая ее более быстрой или одиночной, но они не лишали людей фундаментальных знаний о земле. Навигатор же делает эти знания ненужными. Он дает правильный ответ на вопрос «где я?», но полностью убирает необходимость понимать сам путь. В итоге человек прибывает в пункт назначения, но остается чужим для той местности, через которую он прошел.
- Когда мы полностью полагаемся на технику, мы теряем способность заметить ошибку. В метель опытный человек может увидеть, что навигатор ведет группу прямо на опасные ледяные разломы, потому что он «читает» снег и ветер, а не просто смотрит на экран. Тот, кто привык только следовать за синей точкой на карте, не сможет спастись, если техника даст сбой или покажет неверный путь,. Без понимания процесса мы становимся заложниками инструментов.
- Использование бумажной карты заставляет ваш мозг работать: вы изучаете улицы, строите маршрут, превращаете абстрактную схему в живое представление о прогулке. К моменту прибытия у вас в голове есть модель города. Навигатор же требует от вас только послушания. Вы идете туда, куда велит голос, и в итоге понятия не имеете, где на самом деле находитесь. Карта требует от вас усилий и оставляет знания, навигатор не требует ничего и оставляет пустоту в голове.
- Сегодня технологии начинают заменять нас в самых важных сферах: в письме, анализе, научном мышлении и даже в принятии врачебных решений. Мы начали делегировать машине право думать за нас. Это создает ложное чувство продуктивности: кажется, что работа делается быстрее, но человек, стоящий за этой работой, перестает понимать, как именно получен результат.
- В психологии разделяют легкость доступа к информации сейчас и прочность ее сохранения в памяти надолго. Если вам просто дают готовый ответ, он не задерживается в голове. Чтобы знания действительно «впитались», мозг должен приложить усилие, помучиться над задачей. Каждый раз, когда мы подсматриваем ответ вместо того, чтобы попытаться вспомнить его или вывести самому, мы обкрадываем себя, лишаясь возможности по-настоящему чему-то научиться.
- Обучение невозможно без трудностей. Тот, кто обходит сложности с помощью технологий, обходит и само обучение. Усилия — это не досадные издержки, которые нужно минимизировать, а необходимая ценность. Именно в процессе преодоления трудностей при решении задачи формируется глубокое понимание предмета, которое невозможно получить, если результат достался даром.
- Современный мир оценивает только «выхлоп» — количество сделанного. С этой точки зрения паровоз всегда лучше велосипеда, потому что он быстрее и везет больше. Но такая оценка не учитывает, что происходит с самим человеком. Если важен только результат, то неважно, что вы ничего не узнали и ничему не научились в процессе. Это превращает людей в пассивных пассажиров, чьи личные качества становятся неважными.
- Для опытных мастеров и охотников прибытие домой живыми, конечно, важно, но это невозможно отделить от знаний, полученных в пути. Только проходя через трудности дороги, можно по-настоящему изучить местность. Если рассматривать путь только как досадную помеху между стартом и финишем, мы теряем саму суть человеческого опыта и профессионализма.
- Когда мы перестаем крутить педали и пересаживаемся на поезд, наши мышцы атрофируются. То же самое происходит с умом. Человек, который постоянно пользуется подсказками, теряет не только знания, но и саму способность действовать самостоятельно в будущем, если вдруг помощь исчезнет. Тренировка — физическая или умственная — дает силу и выносливость, которые остаются с вами навсегда, в то время как зависимость от машины делает вас беспомощным без нее.
- В мире, где все автоматизировано, сохранение простых человеческих умений — например, способности ориентироваться без приборов — начинает казаться чем-то героическим. Это печальный знак. Когда мы соглашаемся с тем, что важна только скорость доставки результата, мы признаем, что наши собственные способности, наше тело и наш разум — это лишь случайные и необязательные детали в производственном процессе.
- Самая пугающая идея состоит в том, что мы создаем общество людей, которые движутся на огромной скорости, но абсолютно не понимают, где находятся. Это можно назвать феноменом «ложного странника». Люди, которые привыкли получать готовые ответы от машин, теряют навык «сверхтонкого суждения». Если мы не тренируем свой мозг на решение сложных задач, мы теряем способность распознавать ошибки самой машины — так называемые «галлюцинации» алгоритмов. Мы рискуем оказаться в ситуации, когда весь мир будет слепо следовать за «точкой» на экране, не осознавая, что мы давно сбились с пути и находимся в центре песчаной бури, из которой не сможем выбраться самостоятельно, если техника откажет.