Метка: Наука

Мы привыкли думать: если машина разговаривает как человек, решает сложные задачи и убедительно рассуждает, значит, однажды она сможет обрести сознание. Но умение рассуждать и пользоваться языком еще не означает, что у машины есть собственный разум или чувства. Современные нейросети умеют работать с человеческими идеями, находить связи между ними и удивлять нас своими ответами. Но мы пока не знаем, есть ли у них какой-то внутренний опыт — чувствуют ли они хоть что-нибудь. Философы пытаются понять, от чего зависит сознание, может ли оно существовать вне живого организма и как вообще проверить его наличие у машины. Но есть у ИИ и более практические риски. Пока мы обсуждаем, может ли машина обрести сознание, автономные системы становятся все сложнее, а тотальная цифровая слежка охватывает новые сферы жизни. Возможно, главная опасность — не в том, что машина научится чувствовать, а в том, что человек потеряет над ней контроль.

Миру продают фальшивую сказку о «всемогущем искусственном интеллекте», который якобы вот-вот заберет работу у всех людей, заменит науку и обретет абсолютный разум. Однако, как показывает известный физик и математик Стивен Вольфрам, современные нейросети — это лишь вероятностный поиск шаблонов, фатально бессильный перед фундаментальным законом «вычислительной несводимости». Заявления о скором появлении всесильного AGI — лишь триллионный маркетинг для инвесторов. Настоящее будущее с ИИ окажется совсем другим: оно будет строиться не на диктатуре «черных ящиков», а на жестком симбиозе точных вычислений и человеческого выбора. В мире тотальной автоматизации единственным неавтоматизируемым ресурсом остается сам человек — дирижер, определяющий смыслы, ценности и направления цивилизации.

В эволюционной логике Ричарда Докинза ИИ рассматривается как очередной этап развития принципа репликатора. ДНК не является единственно возможным носителем информации — это лишь один из видов репликаторов, то есть объектов, способных создавать собственные копии с ошибками, подпадающими под действие отбора. Этот же процесс ранее вышел за рамки биологии в человеческую культуру через мемы — единицы информации, передающиеся от мозга к мозгу и от компьютера к компьютеру. В истории Земли происходили редкие «прометеевские моменты», которые фундаментально меняли весь эволюционный процесс: возникновение самой жизни, эукариотической клетки, многоклеточности, появление нервной системы, человеческого языка, печатного станка и интернета. ИИ выступает именно таким новым «прометеевским» сдвигом, переводящим эволюцию репликаторов на принципиально иной уровень.

…Сегодня мы объявили об открытии, сделанном с помощью Claude: мы обнаружили молекулярную машину, которая, как мы предполагаем, может представлять собой новый механизм редактирования генов. Пока неясно, как именно она работает, можно ли использовать ее в биотехнологии и насколько вообще важно это открытие. Но как минимум это работа, которой я был бы горд, будучи аспирантом.

Университетская система не менялась практически тысячу лет, пережив и изобретение печатного станка, и массовую компьютеризацию. Однако развитие искусственного интеллекта впервые нанесло прямой удар по самому сердцу высшей школы — функции проверки знаний и подтверждения квалификации. В данном эссе детально разбираются 11 радикальных идей о том, как трансформируются высшие учебные заведения в новую эпоху: от полного отказа от лекций и возврата к средневековым устным экзаменам до монетизации доступа к студенческому окружению и перевода институтов на модель финансовых кооперативов.