Метка: Киберпреступность

Готовы ли вы к вирусу, который самостоятельно выбирает цели и адаптируется к вашей защите в реальном времени? ИИ способен провести полную хакерскую операцию «под ключ» с успехом в 90%. Представьте видеозвонок с вашим финансовым директором, который просит о срочном переводе. Именно так британская фирма Arup лишилась 25 миллионов долларов — вся встреча и голоса коллег были созданы искусственным интеллектом. Хакеры научились заставлять даже защищенные модели вроде Gemini искать уязвимости в системах под видом безобидных игр. Больше не нужно быть гением программирования, чтобы парализовать работу гигантской корпорации — достаточно правильно составить запрос чат-боту. Таким образом ИИ превращает трудоемкий процесс взлома в дешевый и бесконечный конвейер. Роботы-хакеры уже ускоряют работу мошенников в десятки раз, превращая киберпреступность в масштабируемый бизнес.

В принципе, большая часть современной экономики и жизни заключается в том, что все осуществляется через некий обезличенный автоматизированный электронный обмен. У автоматизированной электронной биржи есть механизм — его функционирование, функционал того, что именно позволяет вам делать программное обеспечение этой биржи, а что нет — а также правила, условия предоставления услуг, регулирующие, как вы можете использовать этот механизм, которые более расплывчаты, чем сам механизм, и написаны мелким шрифтом, например, “не занимайтесь мошенничеством” или “ты должен быть человеком” или что-то в этом роде. Механизм гораздо более понятен и нагляден, чем правила, и в обезличенном электронном мире люди относятся к механизму как к правилам: они не верят, что какие-то иные правила существуют, потому что кажется, что правила противоречат тому, как работает сам сервис. И иногда таких людей обвиняют в мошенничестве, хотя они лишь все делали по правилам алгоритмов. Примером тому истории со Spotify и Citi Bike.

Люди не принимают лучшие решения, когда им дают больше данных, так почему же мы предполагаем, что это сделает ИИ? В реальной жизни лица, принимающие решения, оптимизируют свои действия для экономии усилий. Полная ситуационная осведомленность менее желательна, по сравнению с наличием инструментов, облегчающих командные усилия, которые ведут к принятию решения. В конце концов, о решениях часто судят по результатам, которые включают в себя немного удачи, а также правильный анализ. До того, как эти результаты будут реализованы, даже самая тщательная и выверенная стратегия, подкрепленная абсолютными лучшими данными, не может дать гарантии, и все участники знают это. По этой причине процесс принятия решения в меньшей степени связан с объективным анализом данных и в большей степени с активными переговорами между заинтересованными сторонами с различными допусками к риску и с различными собственными приоритетами. Данные используются не для понимания того, что они могут предложить, а в качестве щита для защиты заинтересованных сторон от последствий результатов принятых решений. Совершенная информация — если она вообще достижима — либо не приносит никакой пользы, либо фактически снижает качество решений, увеличивая уровень шума. Это кажется невероятным, ведь совершенная информация должна автоматически улучшать процесс принятия решений, не так ли? Но это не так, потому что дополнительная информация редко меняет организационную политику, лежащую в основе принятия решения.