Ученые из University of North Texas изучали, как искусственный интеллект принимает финансовые решения, и сравнивали его с тем, как это делают обычные люди по всему миру. Они задавали одинаковые вопросы про деньги и финансовые решения семи разным ИИ-моделям (включая ChatGPT разных версий, Gemini и другие) и сравнивали их ответы с ответами реальных людей из 53 стран.
У нас был отличный материал (Одна из самых реально горячих тем в мире сегодня ), где отмечали, что искусственный интеллект, а именно крупные языковые модели, которые, хотя и кажутся техническими и нейтральными, на самом деле несут в себе ценности и представления тех обществ, которые их создают.
И поскольку подавляющее большинство передовых моделей разрабатываются в США и странах Запада, именно западные идеи, нормы и способы мышления становятся невидимым, но крайне влиятельным культурным экспортом по всему миру. Эти модели интегрируются в повседневную жизнь на планете, в том числе в таких странах, как Китай, и они представляют собой массовую, беспрецедентную форму культурного и идеологического влияния.
Об этом же говорит исследование Atari et al., 2023, что результаты LLM наиболее точно отражают ответы населения западных, образованных, индустриализованных, богатых и демократических стран (WEIRD).
Но вот ученые из University of North Texas изучали, как искусственный интеллект принимает финансовые решения, и сравнивали его с тем, как это делают обычные люди по всему миру. Они задавали одинаковые вопросы про деньги и финансовые решения семи разным ИИ-моделям (включая ChatGPT разных версий, Gemini и другие) и сравнивали их ответы с ответами реальных людей из 53 стран.
Были интерeсные выводы.
ИИ не любит рисковать – когда нужно было выбирать между гарантированной суммой денег и лотереей, ИИ обычно выбирал то, что математически выгоднее (считал вероятности и средний выигрыш), а не демонстрировал типичные модели избегания риска или склонности к риску, наблюдаемые у многих человеческих популяций. Был нейтрален.
ИИ также переоценивает будущую полезность по сравнению с настоящей, то есть, будущие результаты считаются более ценными, чем настоящие. В стандартных экономических моделях предполагается, что люди обычно ценят вознаграждения, полученные сейчас, больше, чем те же вознаграждения, полученные в будущем, из-за нетерпения, неопределенности.
Самое же смешное, что ответы LLM больше всего похожи на ответы жителей Танзании (в первую очередь) и Кении. Значительная доля человеческой рабочей силы, используемой для обучения моделей с подкреплением и модерации контента, набирается в Африке. Танзания, как и Кения, предлагает преимущества в плане рабочей силы: владение английским языком и дешевизна. Кенийских аннотаторов нанимают менее чем за 2 доллара в час для маркировки текстов для OpenAI.
Поскольку эти восточноафриканские аннотаторы поставляют сигналы вознаграждения, которые формируют результаты LLM, вполне вероятно, что лингвистический стиль и ценностные суждения, встроенные в модели, естественным образом напоминают танзанийский (и кенийский) дискурс больше, чем дискурс других национальных групп. И исследование про финансовые решения это показало.
Специалисты из Восточной Африки напрямую направляют поведение LLM.
С чем вас всех, пользователи, и поздравляем. Танзания теперь рулит вашим уютным ИИ-миром и вашими уже не такими уж и WEIRD-ценностями и решениями.
**
Будущие сверхдержавы культуры