Генеративный ИИ способен вызвать всплеск творчества и производительности, но ставит перед человечеством важные вопросы
Вообразите себе мир, в котором машины — это художники, авторы или даже экономисты, создающие информационные продукты, которые имитируют человеческий интеллект. Пионер в области информатики Алан Тьюринг впервые предположил возможность достижения машинами такого уровня мастерства в статье 1950 года. Благодаря ChatGPT и другим так называемым «инструментам генеративного искусственного интеллекта» предсказанная им «игра в имитацию» теперь стала реальностью. Создается впечатление, что мы попали во вселенную, некогда существовавшую только в научной фантастике. Но что же такое генеративный ИИ?
Генеративный ИИ представляет собой самое впечатляющее достижение в технологиях машинного обучения на сегодняшний день. Он знаменует собой значительный скачок в способности ИИ понимать сложные структуры данных и взаимодействовать с ними и способен вызвать всплеск творчества и производительности. Однако он также поднимает важные для человечества вопросы. Ключевые этапы инноваций определили путь к его нынешнему уровню развития.
В 1960-х годах программа под названием ELIZA поразила ученых своей способностью воспроизводить реакции, подобные человеческим. Она была простой и управлялась по установленным правилам, но она стала предшественницей известных нам теперь чат-ботов. Спустя два десятилетия появились искусственные нейронные сети. Эти сети, созданные по аналогии с человеческим мозгом, дали машинам новые навыки, такие как понимание нюансов языка и распознавание изображений. Однако ограниченность набора данных для обучения и недостаточность вычислительных мощностей сдерживали реальный прогресс. Примечательно, что эти два ресурса продолжали ежегодно увеличиваться вдвое, подготавливая почву для третьей волны ИИ в 2000-х годах: глубокого обучения.
Глубокое обучение
Благодаря таким инновациям, как Google Translate, цифровым помощникам, таким как Alexa и Siri, а также появлению беспилотных автомобилей, машины начали понимать мир и взаимодействовать с ним. Тем не менее, несмотря на весь этот прогресс, полная картина пока не складывалась. Машины могли помогать и предсказывать, но они не могли по-настоящему понимать тонкости человеческого общения, и у них плохо получалось создавать информационные продукты подобно человеку.
Затем, в 2014 году, генеративно-состязательные сети (GAN) задействовали способности двух конкурирующих нейронных сетей, чтобы непрерывно оттачивать навыки друг друга. «Генератор» создавал имитационные данные, тексты или изображения, в то время как «дискриминатор» пытался отличить реальный информационный продукт от сымитированного. Эта конкуренция двух сетей произвела революцию в том, как ИИ понимает и воспроизводит сложные структуры.
Картина окончательно сложилась в 2017 году с выходом новаторской статьи «Все, что вам нужно, — внимание». При обучении ИИ обращать внимание на значимые части вводных данных вдруг создалось впечатление, что машина начала понимать их суть. Этот генеративный ИИ создавал информационные продукты, пугающе похожие на создаваемые людьми, по крайней мере, в лабораториях.
Вместе GAN и механизмы внимания, поддерживаемые постоянно растущими объемом информации и вычислительной мощностью, создали основу для ChatGPT — самого удивительного чат-бота в истории. Он был запущен компанией OpenAI в ноябре 2022 года, а вскоре и другие крупные технологические фирмы представили собственных чат-ботов на основе генеративного ИИ.
Экономика и финансы
Разумеется, ИИ не является новой концепцией в экономике и финансах. Традиционные формы ИИ (расширенная аналитика, машинное обучение, прогнозное глубокое обучение) уже давно используются для обработки числовой информации, оценки рыночных тенденций и адаптации финансовых продуктов. Что отличает генеративный ИИ, так это его способность более глубоко анализировать и более творчески интерпретировать сложные данные. Анализируя сложные взаимосвязи между экономическими показателями или финансовыми переменными, он выдает не только прогнозы, но и альтернативные сценарии, показательные диаграммы и даже фрагменты кода, которые могут значительно изменить работу отрасли.
Переход от традиционного к генеративному ИИ открыл новую эру возможностей как в государственной, так и в частной сферах. Органы государственного управления начинают использовать эти более интеллектуальные инструменты для улучшения обслуживания граждан и преодоления нехватки рабочей силы. Центральные банки обращают на него внимание, видя в генеративном ИИ высокий потенциал к анализу огромных объемов банковских данных для уточнения экономических прогнозов и повышения эффективности мониторинга рисков, включая мошенничество.
Инвестиционные компании обращаются к генеративному ИИ для обнаружения незначительных изменений в ценах акций и настроениях участников рынка, опираясь на больший массив знаний, чтобы предлагать более творческие варианты, создавая возможности для потенциально более прибыльных инвестиционных стратегий. Между тем, страховые компании изучают возможности генеративных моделей в создании персонализированных полисов, которые более точно соответствуют индивидуальным потребностям и предпочтениям.
Генеративный ИИ развивается с головокружительной скоростью, расширяя границы возможностей ИИ в экономике и финансах и предлагая новые решения старых проблем. Некоторые люди настроены скептически. Они говорят, что, подобно стохастическому попугаю, ИИ может создавать бессмысленные и ложные факты, явление, называемое «галлюцинациями», и он на самом деле не понимает значения этих слов. Они отмечают, что знания ChatGPT ограничены последней датой обучения. Возможно. Однако как долго эти аргументы будут оставаться актуальными, учитывая умопомрачительные темпы инноваций?
Тем не менее, первоначальный ажиотаж вокруг генеративного ИИ уступил место растущим и искренним опасениям. Традиционные проблемы, связанные с ИИ, такие как усиление существующих предубеждений в данных для обучения или отсутствие прозрачности решений, вновь обрели актуальность. Возникли и новые опасения.
ИИ в качестве оружия
Одним из рисков, вызывающих особую тревогу, является примечательная способность генеративного ИИ рассказывать истории, которые тесно переплетаются с ранее существовавшими убеждениями и точками зрения людей, потенциально усиливая эхо-камеры и идеологические бункеры. Злоумышленники могут использовать эту способность не только с помощью письменного слова: в марте 2022 года было опубликовано видео, сгенерированное искусственным интеллектом, на котором якобы показано, как президент Украины Владимир Зеленский сдается российским войскам. Такие инциденты демонстрируют, как генеративный ИИ может быть использован в качестве оружия для манипулирования политикой, рынками и общественным мнением.
Будь то сфабрикованная история, сфальсифицированное изображение или синтезированное видео, творения генеративного ИИ могут быть настолько убедительными, что создают ложное ощущение реальности. Это может привести к распространению дезинформации, разжиганию паники и даже дестабилизации экономических или финансовых систем с беспрецедентной эффективностью и интенсивностью. Это не всегда может быть умышленным: машины могут непреднамеренно распространять дезинформацию в результате галлюцинаций.
Угроза, исходящая от ИИ, не ограничивается манипуляциями. Ликвидация рабочих мест является еще одной проблемой, поскольку генеративный ИИ продолжает развиваться, что потенциально приводит к автоматизации задач, которые ранее выполнялись людьми, приводя к потере множества рабочих мест и требуя стратегий трудоустройства и переподготовки.
Ранее в этом году ведущие эксперты по ИИ, включая создателя ChatGPT, подписали письмо, предупреждающее, что «снижение риска уничтожения искусственным интеллектом должно стать глобальной приоритетной задачей наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Они повторяли опасения, высказанные десятилетия назад Тьюрингом, который предупреждал, что «существует опасность того, что машины в конечном итоге возьмут под контроль нашу жизнь».
Мы стоим на перекрестке технологий и этики. Генеративный ИИ с его огромными перспективами и глубокими экзистенциальными вопросами уже нельзя повернуть вспять. Используя его преобразующую силу, нам крайне важно помнить не теряющий актуальности совет Тьюринга. Генеративный ИИ — это монументальный сдвиг, который требует неусыпного надзора, новой нормативно-правовой базы и непоколебимой приверженности этическим, прозрачным, поддающимся контролю инновациям, которые сочетаются с общечеловеческими ценностями.
ЭРВЕ ТУРП — руководитель Консультационной службы по цифровым технологиям МВФ.
Мнения, выраженные в статьях и других материалах, принадлежат авторам и не обязательно отражают политику МВФ.
