Метка: ИИ

Как мы все уже знаем, компания Microsoft объявила о том, что она дополняет поисковую систему Bing и интернет-браузер Edge технологией, подобной ChatGPT. И генеральный директор Google Сундар Пичаи сказал, что и его компания запускает своего чат-бота Bard. В основе Bard лежит нейросетевая языковая модель LaMDA – та самая, в разумность которой в прошлом году поверил один из ее странноватых разработчиков, после чего был уволен. Китайская Baidu также скоро запустит своего ИИ-чат-бота. ОК. Это все уже скучно. Старые новости. Есть новые.

…Эксперты предупреждают, что сам ИИ станет намного лучше в разработке самого себя — искусственного интеллекта, чем человек, и будет развиваться слишком быстро, так что мы не будем понимать, что он делает. Его способность к кодированию быстро улучшается. ИИ будет анализировать наши инструменты и говорить только ту ложь, которую, как он узнает, проанализировав нас, мы не сможем распознать. Разные ИИ будут сотрудничать друг с другом, чтобы быстрее и эффективнее обойти нас…

Кто или что обладает сверхразумом, манипулирующим людьми в данный момент? Дети и собаки — очевидные ответы, для некоторых — это кошки. Секс — это тема для другого дня. Возьмем собак. Как они это делают? Они ко-эволюционировали с людьми, и они побудили людей полюбить их. Мы вкладываем в собак много ресурсов, в том числе в виде одежды, игрушек, продвинутых хирургических процедур, вкусняшек для них и делаем в них многих других инвестиций. С точки зрения распределения ресурсов, наши отношения с собаками далеки от идеальных, отчасти потому, что вы тратите на них слишком много времени и денег, а они царапают ваш диван. Но многие люди находят инвестиции оправданными, потому что получают взамен нечто другое, связанное с эмоциями.

Есть такой широко известный в узких кругах парень — Грегори Аллен. Аллен — директор проекта по управлению искусственным интеллектом (ИИ) и старший научный сотрудник программы стратегических технологий Центра стратегических и международных исследований (CSIS). До прихода в CSIS он был директором по стратегии и политике в Объединенном центре искусственного интеллекта Министерства обороны (МО) США. Много пишет и комментирует по теме ИИ и военки.

На дня в подкасте он разумно прокомментировал довольно популярное убеждение, что обилие данных в Китае для развития ИИ — это, дескать, пустяки в плане геополитического противостояния, потому что эти данные касаются в основном коммерции, социальных сетей, демографии, баз по распознаванию лиц и так далее, но все эти данные, как бы, бессмысленны, потому что у США есть другие данные — военные данные. То есть, Китай может сколько угодно говорить про свои огромные датасеты для натаскивания ИИ, но у США есть свои специфические наработанные на реальной военной практике данные, поэтому в военном ИИ Штаты будут впереди Китая. Грег частично согласен с тем, что тип данных играет роль, но считает, что рано расслабляться, и подчеркивает банальную, часто упускаемую вещь о важности нарабатываемой общей образовательной базы.

«…Баррикада пала. Такие инструменты, как ChatGPT, никуда не денутся; они будут только улучшаться, и, если не произойдет серьезного вмешательства регулирующих органов, эта конкретная форма машинного интеллекта станет неотъемлемой частью нашего общества. «Большие языковые модели не станут менее способными в ближайшие несколько лет, — говорит Итан Моллик, профессор Уортонской школы Пенсильванского университета, — Нам нужно найти способ приспособиться к этим инструментам, а не просто запретить их». На самом деле, это самая большая причина не запрещать их в классе — потому что сегодняшние студенты выйдут в мир, полный генеративных программ ИИ. Студенты должны знать, как обращаться с этими инструментами — знать их сильные и слабые стороны, их отличительные черты и «слепые пятна» — для того, чтобы работать вместе с ними…»

Песни возникают из страдания, то есть они основаны на сложной, внутренней человеческой борьбе за создание, а алгоритмы, насколько я знаю, не чувствуют. Данные не страдают. У ChatGPT нет внутреннего существа, он нигде не был, ничего не пережил, у него не было смелости выйти за пределы своих ограничений, и поэтому у него нет способности к общему трансцендентному опыту, поскольку у него нет ограничений, за пределы которых можно выйти. Меланхоличная роль ChatGPT заключается в том, что он обречен на имитацию и никогда не сможет получить подлинный человеческий опыт, независимо от того, насколько обесцененным и бессодержательным может со временем стать человеческий опыт.