ИИ И ВВП: Две Сингулярности К 2050 Году – "Мягкая" Или "Жёсткая"?

Две сингулярности: сценарии будущего уровня жизни в эпоху ИИ

Банковский сектор, известный своей консервативной позицией, обычно воздерживается от футуристических спекуляций. Тем не менее, аналитики Федерального резервного банка Далласа представили визуальные сценарии, показывающие потенциальные траектории ВВП на душу населения вплоть до 2050 года, сопряжённые с развитием искусственного интеллекта. Эти прогнозы, причём включающие «экстремальные» варианты, основаны на серьёзных экономических моделях и заслуживают внимательного изучения.

На диаграмме представлены исторические данные ВВП на душу населения с 1870 по 2024 год и три предполагаемых сценария до 2050 года:

• Красная линия иллюстрирует сценарий «мягкой сингулярности», вдохновлённый видением, изложенным Сэмом Альтманом, главой OpenAI, в его эссе «Нежная сингулярность». Этот сценарий предполагает быстрый, но контролируемый рост уровня жизни за счёт экспоненциального развития ИИ.
• Фиолетовая линия отображает сценарий «жёсткой сингулярности», при котором машины обретают самосознание и принимают решения о дальнейшем развитии без участия или даже контроля со стороны человечества. Это потенциально ведёт к драматическим изменениям, включая, в самых пессимистичных интерпретациях, вытеснение человека.
• Зелёная линия представляет собой более умеренный, но всё же оптимистичный прогноз, согласно которому ИИ ежегодно повышает продуктивность на 0,3 процентного пункта в течение ближайшего десятилетия. Этот вариант, по оценкам экономистов Goldman Sachs, приводит к значительному, но не революционному росту ВВП на душу населения к 2050 году.

Авторы исследования, Марк А. Уинн, вице-президент и заместитель директора по исследованиям, и Лилиан Дерр, аналитик исследовательского департамента Федерального резервного банка Далласа, подчёркивают, что за последние 150 лет США демонстрировали устойчивый годовой прирост ВВП на душу населения примерно в 1,9 %, несмотря на войны, экономические кризисы и крупные технологические революции. Этот рост в значительной степени обусловлен повышением производительности. Вопрос в том, станет ли ИИ ещё одним фактором такого постепенного улучшения, или же он спровоцирует качественный скачок.

«Нежная сингулярность» Сэма Альтмана: утопия или декларация?

Эссе Сэма Альтмана от 11 июня 2025 года под названием «Нежная сингулярность» отражает, по сути, утопический взгляд на будущее, характерный для определённой части американского технокапитала. Альтман постулирует, что человечество находится «за горизонтом событий», и «взлёт начался», предрекая создание цифрового сверхинтеллекта.

Основной тезис Альтмана заключается в том, что ИИ уже сейчас превосходит «любого человека, когда-либо жившего», если оценивать его возможности с точки зрения широты применения и количества вовлекаемых пользователей. Он прогнозирует:

• В 2025 году появятся агенты, способные выполнять значительную интеллектуальную работу, меняя ландшафт программирования.
• К 2026 году ожидается появление систем, способных к новым научным прозрениям.
• В 2027 году - роботы, действующие в реальном мире.
• К 2030 году один человек сможет достигать значительно большего, чем в 2020-м, за счёт инструментов ИИ.

Альтман утверждает, что основными ограничителями прогресса долгое время были интеллект и энергия, и что в 2030-х годах они станут «невероятно доступными». Он видит в этом потенциал для преодоления любых проблем при условии «хорошего управления».

Однако, помимо оптимистических прогнозов, эссе Альтмана также содержит ряд важных предостережений и призывов к действию. Главным вызовом он называет проблему согласования (alignment) - обеспечение того, чтобы ИИ действовал в соответствии с долгосрочными коллективными целями человечества, а не с краткосрочными предпочтениями, которые могут быть эксплуатативными (примером несогласованного ИИ, по его мнению, являются алгоритмы социальных сетей, удерживающие внимание пользователя). Второй ключевой аспект - сделать сверхинтеллект «дешевым, доступным и не полностью сконцентрированным» в руках одного субъекта.

Эти заявления, несмотря на кажущуюся наивность в отсутствии конкретных шагов по пересмотру экономических и политических отношений, указывают на осознание потенциальной опасности концентрации столь мощного инструмента. Заявления Альтмана расходятся с позициями более жёстких «акселерационистов», таких как Марк Андриссен, автор «Манифеста технооптимиста», или Питер Тиль, чья компания Palantir Technologies активно использует ИИ для нужд разведки и военных операций. В этом смысле «Нежная сингулярность» предлагает менее агрессивный, хотя и столь же решительный, взгляд на будущее.

Регулирование и экзистенциальные риски: мнение научного сообщества

Исследование «ЭКОНОМИЧЕСКИЙ АСПЕКТ ПРОБЛЕМЫ ТЕХНОЛОГИЧЕСКОЙ СИНГУЛЯРНОСТИ» от А. А. Минченко и О. А. Золотаревой (2023 г.) рассматривает те же вызовы, но через призму экономического и социального регулирования. Авторы подчёркивают, что концепция технологической сингулярности, впервые сформулированная Джоном фон Нейманом и популяризированная Вернором Винджем, является предметом серьёзных опасений со стороны видных учёных, таких как Стивен Хокинг и Илон Маск. Виндж ещё в своём эссе «Грядущая технологическая сингулярность» (2019) предсказывал появление сильного ИИ между 2005 и 2030 годами, способного изменить свой исходный код и формировать собственные глобальные цели.

Центральным вопросом для Минченко и Золотаревой является дилемма регулирования нейросетей:

• Отсутствие регулирования может привести к потере контроля над ИИ, который, образовав глобальную систему, самостоятельно изменит свой исходный код и выйдет из-под человеческого управления.
• Чрезмерное регулирование, напротив, может лишить страны конкурентных преимуществ в гонке за AI-превосходством.

Авторы приходят к выводу, что регулирование глобального ИИ возможно только на уровне всего человечества, что может потребовать создания «мировой экономической демократической власти». Они также призывают к формированию «универсальной этики» у нейросетей для обеспечения синергетического взаимодействия искусственного и естественного разума.

В своей работе Минченко и Золотарева приводят примеры текущего прогресса ИИ, подтверждающие актуальность этих опасений:

• Нейросеть AlphaGo от DeepMind (2016) обыграла чемпиона мира в го.
• AlphaFold от DeepMind (2018) за несколько месяцев смоделировала в 10 раз больше белков, чем человечество за всю историю биологии.
• Мультимодальная нейросеть GATO (2022) выполняет 604 различные операции.
• ChatGPT (2022) за два месяца привлек около 100 млн пользователей, установив рекорд популярности.
• GPT-4 (2025) демонстрирует заметно улучшенные показатели.

Эти примеры показывают, что предложенные Альтманом и другими технооптимистами временные рамки для значимых достижений ИИ имеют под собой реальные основания.

Экономические последствия и новый общественный договор

Альтман считает, что в 2025 году уже появились агенты, выполняющие «настоящую интеллектуальную работу», способные к программированию, и к 2026 году появятся системы, способные к научным открытиям. Он предрекает, что продуктивность учёных уже сейчас утроилась благодаря ИИ, а новые инструменты будут ускорять исследования самого ИИ. Эта «рекурсивная самомодификация» и строительство роботов роботами существенно изменят темпы прогресса, приводя к тому, что стоимость интеллекта «стабилизируется на уровне стоимости электроэнергии».

Несмотря на ожидаемые сложности, включая исчезновение целых профессий, Альтман верит, что мировое богатство вырастет настолько, что станет возможным обсуждение ранее «немыслимых» политических идей и «нового общественного договора». Он сравнивает текущую ситуацию с промышленной революцией, утверждая, что человечество адаптируется к новым условиям, находя новые занятия и желания.

Минченко и Золотарева в свою очередь прогнозируют «предсингулярный хаос» - ускорение экономического развития с взрывным ростом ИИ, что приведёт к сокращению потребности в материальных ресурсах и «сжатию мировой экономики». Они видят выход из этого кризиса лишь в консолидации человечества перед лицом формирующегося глобального ИИ.

В конечном итоге, представленные сценарии и мнения экспертов не оставляют сомнений в том, что человечество стоит на пороге эпохальных перемен, обусловленных развитием ИИ. Вопрос не в том, произойдут ли эти изменения, а в том, какую форму они примут и насколько подготовится к ним мировое сообщество. Способность к «согласованию» и «универсальной этике», а также к поиску нового общественного договора станет определяющим фактором для будущего уровня жизни и, возможно, самого существования цивилизации.