Метка: ИИ

…Эксперты предупреждают, что сам ИИ станет намного лучше в разработке самого себя — искусственного интеллекта, чем человек, и будет развиваться слишком быстро, так что мы не будем понимать, что он делает. Его способность к кодированию быстро улучшается. ИИ будет анализировать наши инструменты и говорить только ту ложь, которую, как он узнает, проанализировав нас, мы не сможем распознать. Разные ИИ будут сотрудничать друг с другом, чтобы быстрее и эффективнее обойти нас…

Кто или что обладает сверхразумом, манипулирующим людьми в данный момент? Дети и собаки — очевидные ответы, для некоторых — это кошки. Секс — это тема для другого дня. Возьмем собак. Как они это делают? Они ко-эволюционировали с людьми, и они побудили людей полюбить их. Мы вкладываем в собак много ресурсов, в том числе в виде одежды, игрушек, продвинутых хирургических процедур, вкусняшек для них и делаем в них многих других инвестиций. С точки зрения распределения ресурсов, наши отношения с собаками далеки от идеальных, отчасти потому, что вы тратите на них слишком много времени и денег, а они царапают ваш диван. Но многие люди находят инвестиции оправданными, потому что получают взамен нечто другое, связанное с эмоциями.

Есть такой широко известный в узких кругах парень — Грегори Аллен. Аллен — директор проекта по управлению искусственным интеллектом (ИИ) и старший научный сотрудник программы стратегических технологий Центра стратегических и международных исследований (CSIS). До прихода в CSIS он был директором по стратегии и политике в Объединенном центре искусственного интеллекта Министерства обороны (МО) США. Много пишет и комментирует по теме ИИ и военки.

На дня в подкасте он разумно прокомментировал довольно популярное убеждение, что обилие данных в Китае для развития ИИ — это, дескать, пустяки в плане геополитического противостояния, потому что эти данные касаются в основном коммерции, социальных сетей, демографии, баз по распознаванию лиц и так далее, но все эти данные, как бы, бессмысленны, потому что у США есть другие данные — военные данные. То есть, Китай может сколько угодно говорить про свои огромные датасеты для натаскивания ИИ, но у США есть свои специфические наработанные на реальной военной практике данные, поэтому в военном ИИ Штаты будут впереди Китая. Грег частично согласен с тем, что тип данных играет роль, но считает, что рано расслабляться, и подчеркивает банальную, часто упускаемую вещь о важности нарабатываемой общей образовательной базы.

«…Баррикада пала. Такие инструменты, как ChatGPT, никуда не денутся; они будут только улучшаться, и, если не произойдет серьезного вмешательства регулирующих органов, эта конкретная форма машинного интеллекта станет неотъемлемой частью нашего общества. «Большие языковые модели не станут менее способными в ближайшие несколько лет, — говорит Итан Моллик, профессор Уортонской школы Пенсильванского университета, — Нам нужно найти способ приспособиться к этим инструментам, а не просто запретить их». На самом деле, это самая большая причина не запрещать их в классе — потому что сегодняшние студенты выйдут в мир, полный генеративных программ ИИ. Студенты должны знать, как обращаться с этими инструментами — знать их сильные и слабые стороны, их отличительные черты и «слепые пятна» — для того, чтобы работать вместе с ними…»

Песни возникают из страдания, то есть они основаны на сложной, внутренней человеческой борьбе за создание, а алгоритмы, насколько я знаю, не чувствуют. Данные не страдают. У ChatGPT нет внутреннего существа, он нигде не был, ничего не пережил, у него не было смелости выйти за пределы своих ограничений, и поэтому у него нет способности к общему трансцендентному опыту, поскольку у него нет ограничений, за пределы которых можно выйти. Меланхоличная роль ChatGPT заключается в том, что он обречен на имитацию и никогда не сможет получить подлинный человеческий опыт, независимо от того, насколько обесцененным и бессодержательным может со временем стать человеческий опыт.

Доходность фактических знаний падает, продолжая тенденцию, начавшуюся в принципе с баз данных, поисковых систем и Википедии. Уже не так выгодно быть юристом, который знает многое и у которого большое количество данных по накопленному прецедентному праву за плечами. Вместо этого навыки синтеза знаний и убеждения становятся более важными для успеха.

Так что даже если все, что у нас есть, это относительно тупой процесс, есть ли причины, по которым мы не могли бы создать что-то очень умное? И мы уже видим, что в больших языковых моделях (LLM) можно найти первые признаки обобщения. Другими словами, модели могут выполнять виды задач, для которых они никогда не были предназначены. Эти навыки появляются после того, как в эти достаточно сложные алгоритмы вбрасывается достаточное количество данных и вычислений.