Роботизация экономики: в 2027 или в 2047?

В последнее время у меня в блоге вышло немало обзоров по сверхоптимистичным, революционным сценариям развития ИИ. У читателя даже может сложиться впечатление, что сингулярность уже близко. Два-три года, и искусственный интеллект саморазовьётся до невиданных высот, займёт все рабочие места в экономике, победит все болезни и раздаст счастье для всех, даром.

Остаются только технические неопределенности. Например, действительно ли счастье будет раздаваться всем — или же только горстке привилегированных элит? И означает ли тотальное замещение рабочих мест, что людям станет нечего есть — или же, напротив, наступит эра всеобщей праздности и благоденствия?

Но, возможно, оптимисты несколько торопят события? Возможно, их буйная фантазия и их радикальное видение не очень стыкуются с реальностью? Ведь три года — это всего три года. Для тех изменений, что они рисуют, это очень короткий срок. Разве можно осуществить за него все эти кардинальные перемены?

Это разумные вопросы. Ведь мало придумать смелое будущее — надо еще и как-то увязать его с сегодняшним днем, со всеми его ограничениями и инерцией.

Сегодня мы познакомимся именно с таким, трезвым анализом. Его автором является Эге Эрдил. Эрдил работает в некоммерческой лаборатории ”Epoch AI”. На сегодняшний день это самая авторитетная организация по исследованию общих трендов в сфере ИИ и машинного обучения. И сам Эрдил готовил многие из работ, заработавших для ”Epoch AI” высокую репутацию.

Впрочем, свои мысли на тему реалистичных сроков достижения ИИ-сингулярности Эрдил оформил не слишком строго, в виде поста в блоге ”Epoch AI”. Всё-таки эта тема является слишком спекулятивной для основного исследовательского профиля лаборатории. Однако сам подход — анализ существующих трендов — вполне характерен для предыдущих, более «реалистичных» работ Эрдила. И является одним из самых хорошо работающих методов прогнозирования.

Главная цель прогноза Эрдила — момент, когда ИИ сможет заместить все удаленные рабочие места. Подобную формулировку многие увязывают с определением «общего ИИ». Эрдил несколько сужает такую трактовку, оставляя за скобками физический труд и сосредотачиваясь только на умственной работе. Тем не менее, даже с такими ограничениями речь идёт о действительно революционном скачке в способностях ИИ и его влиянии на экономику.

Забегая вперед, я никак не могу назвать Эге Эрдила ИИ-пессимистом. Его точку зрения скорее можно охарактеризовать как консервативную. Чем именно исследователь обосновывает свой консерватизм? Сейчас узнаем!

1. Экстраполяция трендов

1.1 Аршином общим не измерить...

Выше мы упомянули, что экстраполяция трендов является одним из самых надежных методов прогнозирования. Неудивительно, что такой сильный аргумент пытаются притянуть на свою сторону все эксперты, в том числе и ИИ-оптимисты. А там уже каждый начинает интерпретировать имеющиеся данные кто во что горазд.

Действительно, если взять, например, доклад Леопольда Ашенбреннера ”Situational Awareness: The Decade Ahead” — то он целиком и полностью обосновывает близкий приход сверхИИ имеющимися трендами. «Тренды очень мощны — и они оказывались правы», — описывает Ашенбреннер ситуацию в области машинного обучения.

Эге Эрдил возражает на это: какие именно тренды мощны? Что именно мы экстраполируем? Ашенбреннер и другие ИИ-оптимисты указывают на экспоненциальный рост размера моделей и вычислительного бюджета на их обучение. Постулируя, что достаточно увеличивать эти метрики — и искусственный интеллект превзойдёт человеческие способности.

Эрдил справедливо замечает на это: «Не существует бенчмарка, который измеряет способность ИИ-систем автоматизировать удаленную работу». Если мы пытаемся отойти от чётко измеримых параметров — то экстраполировать что-либо становится очень трудно. Оптимисты пытаются оперировать понятиями вроде «интеллекта». Но эта категория очень сложна, многогранна и поэтому до сих пор не имеет общепринятого определения — не говоря уже о достоверном способе измерения ее количества. Тем более непонятно, как конвертировать это гипотетическое количество в способность выполнять удаленную работу.

1.2 Экономика и ”Nvidia”

Если мы говорим о чётко измеримых метриках автоматизации экономических задач — то нам придётся опираться на широкие экономические показатели. В качестве такового Эрдил упоминает долю труда в (американском) ВВП. И здесь тренд говорит не о «двух годах до сверхИИ» — а о столетиях. За последние 70 лет доля труда сократилась всего на 4 процентных пункта: с 63,5% до 59,5%. Причем не очень понятно, каков здесь был вклад автоматизации — и каков вклад выноса трудоинтенсивных производств в развивающиеся страны.

Доля труда в ВВП США

Хорошо, попробуем поискать более оптимистичные тренды. Как вариант, посмотрим на выручку компании ”Nvidia”. Львиную долю которой составляют продажи ИИ-ускорителей. А компания, в свою очередь, занимает околомонопольное положение на этом рынке.

Выручка эта растёт вполне бодро:

...И мы можем рассуждать следующим образом. Если затраты бизнеса на ИИ-ускорители растут — значит, создаваемая ИИ экономическая ценность тоже должна расти. В какой-то момент времени эти затраты вырастут настолько, что станут сопоставимы с затратами бизнеса на человеческий труд работников, потенциально способных работать удаленно. Скорее всего, будет наблюдаться некоторая степень замещения: ИИ-ускорители будут замещать таких сотрудников. Вопрос: какая сумма затрат на ускорители будет сопоставима с нынешними затратами бизнеса на удаленные рабочие места?

По грубым подсчетам Эге Эрдила, сейчас такие затраты составляют 7,4 трлн. долларов в США и около 20 трлн. долларов глобально. Огромные суммы. Даже если учесть, что в рассуждениях выше много натяжек и игнорирования альтернативных вариантов, появление ИИ-экономики такого масштаба действительно было бы революционным, подрывным событием.

И тогда встаёт вопрос: как именно мы должны экстраполировать тренд выручки ”Nvidia”? Даже если мы берем отрезок самого взрывного роста, с момента «революции генеративного ИИ» — с середины 2023 года — и предполагаем экспоненциальную динамику, то на 20-триллионную отметку мы выходим только в 2031-32 году. То есть года на четыре позже, чем прогнозируют ИИ-оптимисты.

Но, во-первых, экстраполировать темп роста за неполные два года сразу на 7 лет вперед — это сомнительный приём. Во-вторых, Эрдил указывает на то, что с момента появления ChatGPT выручка Nvidia растёт скорее линейно: прибавляя в среднем 5 млрд. долларов каждый квартал. Если мы берем за основу линейную экстраполяцию, ждать сингулярности придётся даже дольше, чем если ориентироваться на долю труда в ВВП: почти тысячелетие.

Эрдил проводит аналогию с другими технологическими прорывами, где выручка после нескольких лет взрывного роста показывала резкое замедление. В частности, это интернет-компании: «После поправки на инфляцию, мы увидим в лучшим случае два удвоения в реальном выражении с 2000 года, по сравнению с десятью удвоениями, случившимися в 1990-е годы».

В качестве наиболее вероятного сценария Эрдил выбирает «золотую середину» между экспоненциальным и линейным ростом, в котором темп роста продаж ИИ-ускорителей постепенно замедляется в относительном выражении, но продолжает расти в абсолютном. Этот сценарий подразумевает, что 20-триллионной отметки продажи достигнут в конце 2040-ых годов.

2. Софтверная сингулярность

2.1 Какие обратные связи важнее?

ИИ-оптимисты могут возмутиться выкладками из предыдущего пункта. Как можно предполагать, что темп роста ИИ-экономики не будет экспоненциальным? Как можно предполагать его замедление? Напротив, он должен даже ускориться! Темп технологического прогресса ускорялся на протяжении всей истории человечества. Это одна из ключевых предпосылок в теории технологической сингулярности!

Оптимисты аргументируют свою позицию влиянием положительных обратных связей. О которых можно подробнее почитать в моём посте об экспоненте объема исследований в области ИИ. Ключевая из этих обратных связей заключается в том, что ИИ способен увеличивать производительность труда исследователей. То есть ускорять темп развития технологий. А это, в свою очередь, позволяет создать еще более сильный ИИ. Который еще больше ускорит прогресс. И так далее.

Эге Эрдил противопоставляет этой позиции свою точку зрения. По его мнению, ключевыми обратными связями — критическими обратными связями, которые будут ограничивать динамику прогресса — является широкая автоматизация (в противоположность автоматизации исключительно исследований в ИИ), накопление производственного капитала (особенно в области производства микрочипов) и общеэкономические изменения.

Эта широкая перспектива хорошо перекликается с фокусом Эрдила на масштабной автоматизации рабочих мест. На практических результатах, так сказать. Которые необязательно автоматически вытекают из создания в стенах некой лаборатории некоего самосовершенствующегося сверхИИ.

Более того, Эрдил уверен, что без широкой автоматизации экономики, без создания новой экономической реальности и совсем иных масштабов капиталовложений в вычислительную инфраструктуру, создание сверхИИ попросту невозможно. И это коренным образом отличает его прогноз от большинства прогнозов, возвещающих скорую сингулярность.

2.2 Сначала офисный планктон, а потом — академики

Итак, у нас возникает явное противоречие в сценариях развития ИИ. Эге Эрдил настаивает на том, что сначала надо автоматизировать экономику (и это не быстро) — а только потом получится сделать самосовершенствующийся ИИ. Его оппоненты, напротив, видят в качестве основного пути ускорение разработок ИИ силами ИИ, с выходом на искусственный сверхинтеллект уже в ближайшие пару лет. Добавим, что в числе оппонентов — исследователи с мировыми именами, вроде Ильи Суцкевера и Дарио Амодеи, которые прямо сейчас работают над осуществлением этого сценария.

Почему Эрдил не верит в реалистичность такого замысла? Один из аргументов состоит в том, что научные исследования — это очень сложная задача. Одна из самых сложных, которые вообще существуют для человечества. Исследователю требуется раздвигать фронтир знаний, делать то, что раньше не делал никто, познавать неведомое, превращать хаос в безусловный порядок.

Было бы несколько наивно упрощать этот процесс до нескольких абстрактных навыков, вроде написания программного кода и рассуждения о результатах экспериментов, считает Эрдил. Но ведь именно на такое упрощение и опираются сейчас сторонники быстрого прогресса в ИИ.

И если работа научного исследователя сложна, непонятно, почему она может быть автоматизирована раньше, чем более простые рабочие места. Вроде менеджера по продажам или бухгалтера. Но раз так — то автоматизация «перекладывания бумажек» должна случиться до того, как положительные обратные связи смогут разогнать темп прогресса в ИИ взрывным образом.

2.3 Дефицит ресурсов

Чтобы двигать вперед машинное обучение, нужны эмпирические результаты. Эмпирика нарабатывается в экспериментах. И чем дальше мы двигаем фронтир знаний, чем более сложной технологией пытаемся овладеть — тем более масштабные и дорогостоящие эксперименты требуется проводить.

Эта траектория согласуется с ростом стоимости экспериментов в других науках, вроде биологии и химии. И особенно в физике, где фронтирные эксперименты уже довольно давно стоят миллиарды долларов. К счастью, машинное обучение пока обходится меньшими суммами — но дефицит ресурсов уже стал гигантской проблемой для открытой, академической науки. И породил некрасивое деление на «GPU-богатых» (ведущие ИИ-лаборатории) и «GPU-бедных» (академия и стартапы помельче). Подразумевающее, что у «бедняков» нет перспектив достигнуть продвинутого ИИ.

Это поднимает вопрос: а что именно будет являться «бутылочным горлышком», ограничивающим скорость прогресса в машинном обучении? Будет ли это недостаток «мозгов», недостаток «теоретиков» — который можно устранить за счет подключения к исследованиям машинного интеллекта? Или же это будет недостаток эмпирических данных — для устранения которого нужно строить вычислительную инфраструктуру, в геометрической прогрессии? А также в целом вкладывать уйму материальных ресурсов?

Еще летом прошлого года я отмечал, что недостаток вычислительной инфраструктуры гораздо более вероятен. И главный вывод звучал так: пока способности ИИ-исследователей не превзойдут способности людей, запускать автономный процесс самосовершенствования ИИ будет нерационально. Ведь машина будет растрачивать ценный вычислительный ресурс менее эффективно, чем человек.

И у нас получается замкнутый круг. Пока машина слабее человека, она не может эффективно сама себя усовершенствовать. Но пока машина не может сама себя усовершенствовать, у нас не получается ускорения прогресса за счет положительной обратной связи. Не получается масштабировать количество ученых за счет их ИИ-аналогов. Значит, машина еще долго будет оставаться слабее человека.

Еще одно «бутылочное горлышко», на которое обращает внимание Эге Эрдил — это дефицит данных. Дефицит, который сейчас стал вполне осязаемым после довольно невыразительных результатов передовой модели GPT 4.5, которую компания ”OpenAI” попыталась построить в прежней парадигме масштабирования. Масштабировать оказалось некуда, усилия упёрлись в потолок возможностей.

Дешевые данные в виде веб-сайтов Всемирной паутины закончились. ИИ, который сможет успешно заменить человеческих работников в экономике, требует обучающих данных из этой самой реальной экономики. Из реальных рабочих процессов. А не развлекательный контент из Веба. Но эти данные обходятся существенно дороже. И доставать их сложнее. Они непубличны и представляют собой буквальные ноу-хау, коммерческие и служебные секреты.

Нет ничего невозможного — но на создание эффективной системы сбора и оборота таких данных, на развитие новой парадигмы обучения ИИ-агентов потребуется время. И, скорее всего, за 2-3 года мы с этим управиться не успеем. Это значит, что какой-то запас времени у старой, «человеческой» экономики еще остаётся.

2.4 Эффективность растёт — а затраты не падают

Одной из важных составляющих сценариев экспоненциального развития ИИ является концепция алгоритмической эффективности. Которая постулирует, что технологии машинного обучения постоянно совершенствуются и позволяют достичь большего с меньшими затратами вычислительных ресурсов.

Более того, темп прогресса в эффективности алгоритмов крайне высок и практически не имеет прецедентов в истории. По самым свежим оценкам, которые проводил сам Эге Эрдил с коллегами в начале 2024, для языковых моделей он давал удвоение эффективности каждые 8 месяцев.
Именно эта фантастическая скорость и позволяет ИИ-оптимистам строить смелые прогнозы о появлении общего ИИ в 2027 году. Причем оптимисты указывают на то, что с автоматизацией исследований силами ИИ этот темп будет всё больше увеличиваться. В полном соответствии с гипотезой о технологической сингулярности. И недавние прорывы с рассуждательными моделями о1, о3 и DeepSeek R1 хорошо укладываются в эту траекторию.

Но Эрдил пытается остудить горячие головы оптимистов. Несмотря на своё непосредственное участие в анализе этих трендов, он пишет, что наше понимание этих закономерностей остаётся неудовлетворительным.

Дело в том, что рост алгоритмической эффективности воспринимается как универсальное явление, снижающее затраты ресурсов на ИИ. Но в действительности этот рост, новые приемы методы, которые его обеспечивают, обнаруживаются в ходе тех самых эмпирических экспериментов, которые мы обсуждали в предыдущем пункте. А они вычислительно затратны сами по себе. Другими словами, для того, чтобы что-то получить — надо сначала что-то вложить.

Другой тезис Эрдила — многие приемы, повышающие эффективность, работают только на большом масштабе. Но не на малом. То есть мы не вправе ожидать, что с прошествием времени тренд алгоритмической эффективности опустит вычислительные затраты до каких-то сверхмалых величин.

Впрочем, оптимисты могут указать на расчеты самой "Epoch AI", которые показывают рост эффективности на порядки за год

Но если вычислительные затраты всё-таки становятся «бутылочным горлышком», если мы не можем дальше масштабировать эксперименты — то стоит ожидать, что темп роста алгоритмической эффективности снизится.

И мы возвращаемся к пункту 2.1. Что нужно для того, чтобы наращивать вычислительную инфраструктуру? Нужно наращивать реальную экономику и наращивать экономическую отдачу от ИИ. Как это делать? Путем замены машинами человеческих рабочих мест. Следовательно, широкомасштабная автоматизация экономики должна предшествовать появлению самосовершенствующегося ИИ, а не наоборот.

Подытоживая аргументацию, которую мы разбили на пункты 2.1-2.4, Эрдил пишет, что она не является очень сильной, «непробиваемой». Поскольку эти рассуждения подразумевают изрядную долю неопределенности. Мы до конца не понимаем механику этих процессов. Поэтому исследователь допускает небольшой, 10%-ный шанс, что алгоритмический прогресс может ускориться 10-кратно, несмотря на рост вычислительной инфраструктуры лишь в 2 раза, хотя бы на несколько месяцев. То есть условные «два года прогресса» за пару месяцев.

3. Есть ли у ИИ преимущество?

3.1 Дорого и медленно

Следующее противоречие Эге Эрдила со взглядами ИИ-оптимистов перекликается с тезисами из пункта 2.4 об алгоритмической эффективности. Но фокусируется не на темпе роста эффективности — а на ее абсолютном уровне. Другими словами, сколько ресурсов нам придётся тратить на работу одного ИИ-агента?

Здесь исследователь настроен весьма скептично. Он полагает, что ИИ на начальном этапе будет проигрывать человеку по экономической отдаче на вычисления. И не верит, что ИИ сможет выполнять трудовые задачи значительно быстрее, чем человеческий работник.

Эти два тезиса наверняка вызовут самую бурную реакцию среди ИИ-оптимистов. Которые сразу укажут на существующий опыт внедрения ИИ. Опыт настолько однозначный, что его вполне можно назвать «прописной истиной»: как только машина становится способной выполнять задачу — она быстро начинает выполнять ее гораздо дешевле и быстрее, чем человек.

Примеров можно привести массу. Взять хотя бы машинное зрение, которое сейчас стоит буквально копейки. Или рекомендательные алгоритмы — которые сверхдешево выполняют задачу, ранее имевшую запретительную стоимость для решения человеческими силами. Или совсем свежий пример — молниеносное вытеснение копирайтеров большими языковыми моделями.

Но Эге Эрдил твёрдо стоит на своей, скептической позиции. Во-первых, отмечает он, разрыв по стоимости и времени выполнения задач между человеком и машиной в последнее время снижается. В качестве подтверждения этого тезиса исследователь указывает на рассуждательные модели и агентов, которые должны сгенерировать очень большое количество слов для того, чтобы прийти к окончательному ответу или выбору действия.

Второй аргумент Эрдила касается тонкостей специализации. В теории, нам стоит ожидать, что ИИ станет на многие порядки эффективнее человека в тех задачах, в которых эволюция не оптимизировала наших предков. Исследователь напоминает нам про парадокс Моравека: интеллектуальные задачи будут даваться машинам хорошо, а вот координация равновесия и тонкая моторика рук — сложнейшие задачи для алгоритмов. А всё потому, что эволюция не в курсе, что такое шахматы — а вот умение управлять своим телом было залогом выживания homo sapiens на протяжении миллионов лет.

Но по мере того, как ИИ будет «съедать» наиболее доступные для него человеческие задачи, оставшийся список задач будет всё более «выигрышным» для человека, всё лучше заточенным под эффективное решение доставшимися нам в ходе эволюции мозгами. Преимущество ИИ перед человеком в таких задачах будет таять.

Эрдил приводит в качестве примера такую «лесенку»: арифметика — перевод языков — агентность.

Про абстрактные правила сложения и умножения эволюция знает не больше, чем про шахматы. Поэтому скромный процессор в моем смартфоне может вычислять операции с плавающей точкой в миллиарды раз быстрее, чем его хозяин.

Даже механические калькуляторы, производившиеся с середины 19 века, уже обгоняли человека в скорости арифметики...

С переводом иностранных языков уже интереснее. Это коммуникационная задача, задача преодоления коммуникационного барьера, работа с разными символическими системами. Относительно «молодая» с точки зрения эволюции — но далеко не бесполезная для популяции обезьян рода homo. Поэтому преимущество в скорости для машин здесь падает до 1000-кратного.

Наконец, агентность существует с тех самых пор, как на Земле возникли первые организмы. А было это 4 с лишком миллиарда лет назад. И всё это время эволюция занималась оптимизацией агентских свойств. Так что на этом поле ИИ будет тяжело переиграть человека. Эрдил считает, что машина не достигнет и 10-кратного преимущества в скорости.

3.2 Не тот масштаб...

Парадокс Моравека является труднопреодолимым препятствием для машин. Из-за чего, по мнению Эге Эрдила, ИИ придётся побеждать человека не «умением», а «числом». Другими словами, нам стоит ориентироваться на то, что ИИ-агенты потребуют как минимум столько же вычислительной мощности, сколько и человек. Не исключено, что и больше: системы машинного обучения по-прежнему сильно уступают людям в метрике sample efficiency, числу примеров, необходимому для усвоения новой информации.

И тогда нам остаётся подсчитать, сколько вычислительных ресурсов мы сможем предоставить ИИ-агентам в тот или иной момент будущего. Эге Эрдил выбирает 2045 год. Экстраполировав нынешний тренд стоимости вычислений, он получает, что за 1 доллар тогда можно будет купить 3*10^20 операций с плавающей точкой (флоп). Он предполагает, что на инфраструктуру будет тратиться 10 трлн. долларов в год — гигантская сумма по нынешним меркам, в 15 раз превышающая сегодняшнюю выручку полупроводниковой индустрии. Это позволит нарастить глобальные вычислительные мощности до 10^26 флоп/с к 2045.

Сколько это в сравнении с глобальной «мощностью» мозгов человеческой популяции? Точные оценки здесь вряд ли возможны, но Эрдил полагает, что машинные вычислительные ресурсы на тот момент будут в 10 раз превышать интеллектуальные ресурсы человечества. Опять же, остаются неясности в том, насколько машина будет проигрывать по эффективности человеку. Но, в целом, исследователь считает, что к тому моменту вычислительного преимущества машин хватит, чтобы стать главной силой в производстве экономических благ.

Для сравнения: в 2024 из 600 млрд. долларов выручки полупроводниковой индустрии только 100 млрд. отошли «Нвидиа». На конец 2024 общая мощность произведенных ей ИИ-ускорителей составляла 4*10^21 флоп/с. Таким образом, для масштабной роботизации экономики нам предстоит нарастить доступную вычислительную мощность почти на 4,5 порядка.

3.3 Экономическая стагнация

Критики могут указать на то, что подход Эрдила слишком упрощает ситуацию. Что нельзя сводить всё к «валовой вычислительной мощности» и пытаться как-то привести к общему знаменателю машины и людей. Что это игнорирует важные особенности машин. Например, ИИ достаточно научиться чему-то один раз — и затем этот навык распространится на все развернутые копии ИИ-агента. Другой момент — избирательная роботизация. ИИ может начать замещать профессии с самой высокой добавленной стоимостью. И оставить условных бангладешских крестьян «на потом». Это потребует гораздо меньше вычислительной инфраструктуры — а вклад в экономику будет непропорционально большим.

Эге Эрдил упоминает эти контр-аргументы, но прямо их никак не адресует. Вместо этого он сосредотачивается на существующем тренде экономической отдачи от ИИ-ускорителей. Ведь все упомянутые выше особенности ИИ-автоматизации должны работать уже сегодня. И что нам говорит сегодняшняя экономика использования ИИ?

Сейчас вычислительные ИИ-мощности составляют несколько миллионов Nvidia Н100-эквивалентов. Выручка ИИ-индустрии составляет несколько десятков миллиардов долларов в год. Поделим второе на первое — и получаем, что один ИИ-ускоритель способен заработать около 10 тыс. долларов в год. Что примерно соответствует среднему ВВП на душу мирового населения. И где здесь выигрыш в производительности на порядки, вопрошает Эрдил?

Но самый важный момент даже не в этом — а в том, что, несмотря на сильнейший рост способностей ИИ-моделей с конца 2022 (выход ChatGPT), выручка в расчете на Nvidia H100-эквивалент практически не выросла. Весь быстрый рост продаж ИИ-индустрии разменивается на столь же быстрый рост вычислительной инфраструктуры. ИИ-модели стали «умнее» — но не могут заработать больше, чем в «глупые» времена.

Эге Эрдил отмечает, что сохранение этой ситуации в обозримом будущем косвенно подтверждает даже ”OpenAI”. По-другому невозможно интерпретировать её прогноз, что до 2029 она продолжит генерировать отрицательный денежный поток. Если ИИ не в состоянии обеспечить высокую экономическую отдачу — значит, технология остаётся недостаточно подрывной, и ее потенциал для трансформации рынка труда остаётся низким.

Исследователь завершает свой анализ рассуждениями о том, что же способно переломить эту стагнацию в экономической отдаче от ИИ. Он вновь подчеркивает важность усиления инфраструктурной (а значит, и экономической) базы. Положительные обратные связи в первую очередь должны возникнуть в экономике: накопление капитала приведет к ускорению накопления капитала, накопление технологий — к ускорению накопления технологий, и всё вместе — к кратному увеличению темпов роста экономики. И вот эта база уже обеспечит как рывок машин в эффективности и производительности, так и последующее замещение рабочих мест ИИ.

Пока же этого не произошло, Эрдил вполне допускает, что экономическая отдача в расчёте на один ИИ-ускоритель может даже снизиться к концу 2020-х.

Вместо заключения

Мы рассмотрели немало скептических аргументов против скорой ИИ-трансформации экономики. Их можно обобщить тем, что Эге Эрдил не верит в сохранение нынешних темпов роста и развития ИИ, не верит в неизменность экспонент. «Деревья не растут до небес». Экспоненты рано или поздно упираются в некие пределы.

Одним из важных таких пределов Эрдил считает ресурсную экономическую базу. Чтобы осуществить революционную ИИ-трансформацию, потребуется осуществить революционный рывок в экономической базе. Это долгая, методичная и далеко не такая гламурная работа, как мечты о самосовершенствующемся искусственном сверхинтеллекте. Но реальная экономика стоит именно на таком, непарадном труде. А не на высоких мечтаниях.

Сначала ИИ требуется сорвать «низковисящие плоды» — а потом уже гнаться за «журавлем в небе». Эге Эрдил полагает, что «низковисящие плоды» будут освоены в 2040-е — когда и стоит ждать взрывных изменений на рынке человеческой занятости. До тех пор у нас есть небольшая передышка. Прогресс будет идти — но не настолько быстро, чтобы у людей не было шансов адаптироваться к изменениям.

Это взвешенная, достойная уважения точка зрения. Я не знаю, убедила ли она кого-то из читателей… Практика показывает, что большинство людей уже имеют твердую, «непробиваемую» точку зрения на перспективы ИИ, которую не пронять никакими аргументами.

Но если кому-то всё же интересны аргументы — то у меня как у ИИ-оптимиста есть желание позащищать агрессивные сроки прихода сильного ИИ от наброса критики Эге Эрдила. Чему будет посвящен следующий пост. Stay tuned, друзья!

Контр-аргументы в пользу роботизации экономики (I)

В предыдущем посте мы познакомились с мнением исследователя Эге Эрдила о том, возможна ли массовая роботизация рабочих мест уже в ближайшие 2-3 года. В отличие от многих своих коллег, Эрдил занял скептическую позицию. И выдвинул ряд аргументов в пользу того, что ИИ-трансформация экономики случится скорее в конце 2040-ых годов.

Наверняка многие воспримут этот вывод с облегчением. Потеря работы — сама по себе тяжелая ситуация. И она становится втройне тяжелее, когда вокруг тебя теряют работу десятки миллионов людей. Можно быть оптимистом в отношении технологий ИИ — но трудно спорить с тем, что такое массовое замещение рабочих мест выльется в гигантский социальный кризис. Чем дальше это событие отодвинуть в будущее — тем спокойнее на душе.

Но комфортность той или иной точки зрения никак не говорит о том, что она близка к истине. Нам стоит обращать внимание исключительно на силу аргументов. И вот здесь позиция Эге Эрдила далеко не так тверда, как хотелось бы консервативной аудитории. Давайте вновь обратимся к аргументации Эрдила и посмотрим, нет ли в ней слабых мест и ошибок. Ошибок, которые указывали бы на более близкую ИИ-революцию в экономике. Поехали!

1. Простая экстраполяция трендов не в состоянии отразить динамику распространения технологии

Почти всю свою исследовательскую карьеру Эге Эрдил занимался тем, что искал в данных тренды и пытался их количественно описать. Неудивительно, что и для прогнозирования размера ИИ-экономики он пытается просто продлить эти тренды далеко в будущее.

Мы отмечали, что экстраполяция трендов — один из самых надежных методов прогнозирования. Вдобавок он интуитивно понятен и прост: приложил линейку к графику — и получил прогноз. Проблема в том, что надежность этого метода имеет свои пределы, и «слепо» использовать его в любой ситуации не всегда оправдано. Иначе есть риск оказаться героем этого классического xkcd-комикса:

А ведь на самом деле для моделирования процесса, который пытается прогнозировать Эрдил — распространение новой технологии — необязательно высчитывать какие-то сложные процессы и уравнения. Всё придумано до нас. Речь об S-образных кривых — логистической и ее модификациях, которые очень точно описывают динамику внедрения более ранних технологий. Выглядит это примерно так:

C математической точки зрения, S-образная кривая отличается от экспоненты тем, что в ней присутствует отрицательная обратная связь. Ее сила зависит от близости к асимптоте (пределу роста). В примерах выше это число потребителей в экономике. Чем ближе доля проникновения технологии приближается к 100% потребителей — тем медленнее она будет расти.

Но верно и обратное: если большинство потребителей пока не использует технологию — особых поводов для торможения роста быть не должно. И здесь мы возвращаемся к одному из основных скептических тезисов Эге Эрдила, о замедлении роста продаж ИИ-чипов. Эрдил пишет, что нынешние темпы роста выручки компании «Нвидиа» «неустойчивы» и «должны начать замедляться уже сейчас».

При этом исследователь рассматривает в качестве потенциальных пользователей все компании с рабочими местами, которые можно перевести на удаленный формат. Глобально это рынок размером 20 трлн. долларов в год (совокупная зарплата на таких позициях). То есть сейчас ИИ-чипы составляют лишь 0,7% этого рынка. Исторический опыт говорит нам, что никакого замедления роста в такой начальной фазе не бывает. Рынок должен расти, расти и расти!

В качестве аргумента Эге Эрдил приводит динамику выручки интернет-компаний, которая замедлилась в 4 раза после 2000 года. Но в 2000 уже 52% взрослых американцев пользовались интернетом! Разумеется, при таком уровне проникновения больше нельзя удваивать объем рынка каждый год. Так что аналогия, предлагаемая Эрдилом, станет верной не раньше того момента, когда ИИ-чипы заместят хотя бы 20% рабочей силы.

2. Главное — улучшение технологии

В графике c S-образными кривыми, который вы видели немного выше, есть любопытный тезис: «потребление [новых технологий] сейчас распространяется быстрее». Вот еще более наглядная иллюстрация этого тезиса:

В чем причина? Наверняка здесь участвует множество факторов. Но в качестве ключевого я хотел бы выделить развитие самой технологии. В первую очередь качественное развитие, появление новых полезных свойств. Но также и количественное улучшение в характеристиках.

Скажем, сравним автомобиль в 1908 и 1918, и интернет в 1992 и 2002. В первом случае разница будет невелика: самой массовой моделью на протяжении десятилетия оставался Форд Т, и для потребителя наиболее заметным было снижение цены в 1,6 раза на этом промежутке. А вот в случае с интернетом... Он изменился настолько фундаментально, стал настолько богаче, разнообразнее, полезнее и удобнее для пользователя, что сравнивать эти две версии становится очень затруднительно.

Это подводит нас к важному элементу динамики распространения технологии: конкурентному преимуществу. Новая технология занимает рынок совсем не из-за своей новизны. А потому, что в глазах потребителей она выигрывает у существующей технологии по тем или иным практическим качествам.

Все потребители разные, имеют разный набор предпочтений, разное желание платить за те или иные свойства и разную степень консерватизма. Развитие технологии позволяет постепенно склонять на свою сторону всё новых и новых потребителей, которые раньше не были готовы ей пользоваться. Из этого складывается ежегодный рост доли рынка, который мы обсуждали в предыдущем пункте.

Как только новая технология становится предпочтительнее старой по большинству пунктов — наступает так называемая переломная точка (tipping point). Это точка, в которой значительная доля потребителей переходит со старой на новую технологию. На графиках c S-образными кривыми это их отрезок, самый близкий к вертикали. Как правило, он продолжается недолго. Например, в США доля пользователей интернета выросла с 14% до 59% за 7 лет.

Чем быстрее развивается технология — тем быстрее ее распространение достигает переломной точки. И тем быстрее она проходит этот переломный отрезок, тем вертикальнее будет линия роста доли рынка.

А технологии ИИ развиваются быстро. Феноменально быстро. Настолько быстро, что они продолжают опережать даже самые оптимистичные ожидания.

Переломной точкой в данном случае является общий ИИ — ИИ, который может заменить работу человека на массовых позициях, вроде менеджера по продажам, программиста, юриста или государственного клерка.

И у такого применения есть несколько особенностей, которые тоже влияют на сроки массового принятия технологии. Во-первых, ИИ-работники практически не требуют новой инфраструктуры на стороне корпораций-пользователей (в отличие от, скажем, инфраструктуры для использования технологий электричества или автомобильного транспорта). То есть не требуют от пользователей серьезных капиталовложений.

Во-вторых, корпорации сейчас платят за человеческий труд на понедельной или помесячной основе. По сути, «краткосрочно арендуют» людей. Это значит, что они могут одномоментно отказаться от их труда, одномоментно заменить их на новый метод производства. Это радикально отличает такую трансформацию от прошлых технологических революций, которые касались замены производственных активов — активов дорогостоящих и уже оплаченных фирмой в прошлом, либо отягощенных кредитами.

Таким образом, после достижения переломной точки у корпораций практически не остаётся барьеров, тормозящих массовый переход на ИИ-работников. Исторические аналогии для такой ситуации найти будет трудно.

Впрочем, трудно найти исторические аналогии не только из-за отсутствия «естественных» экономических барьеров на пути к массовой автоматизации рабочих мест. Но и из-за того, насколько универсальна технология общего ИИ, насколько широкий круг отраслей она затрагивает и насколько большим будет масштаб изменений в корпоративных практиках.

Эти широта и масштаб будут двигать темп автоматизации уже в другую сторону, более медлительную. Ведь у нас получается максимально разнообразный набор потенциальных потребителей, с максимально разнообразными требованиями к замещающимся рабочим местам и с не менее разнообразной законодательной спецификой, которая будет «искусственно» консервировать старый порядок вещей. Чем больше набор предпочтений — тем сложнее технологии охватить их все сразу, «объять необъятное».

Автоматизация всей глобальной экономики — очень сложная задача. Чего мы еще коснемся ниже по тексту.

Таким образом, у нас сталкиваются два противоположно направленных фактора. С одной стороны, у нас есть сверхбыстрое развитие ИИ — и оптимисты обещают, что оно будет ускоряться с каждым годом. С другой стороны, у нас есть один из самых трудных техно-экономических вызовов, который только можно представить — освоение машиной всего разнообразия человеческого труда.

И какие сроки автоматизации мы можем ожидать, исходя из этих вводных? Эге Эрдил даёт порядка 20 лет до точки, в которой будут замещены более половины «удаленных» работников. Срок немалый. Но и 2-3 года, которые ожидают ИИ-оптимисты — явно заниженная цифра.

Очень многое зависит от темпа прогресса в технологиях ИИ. Ведь требования к способностям человеческих работников довольно инертны и не сильно изменятся в обозримой перспективе. Вероятно, оценка Эге Эрдила несколько консервативна. Но пока я не вижу возможностей сильно сжать предложенный им срок. Если смотреть оптимистично, замещение половины «удаленных» позиций вряд ли произойдёт раньше, чем через 12-15 лет.

3. Автоматизировать миллион специальностей сложнее, чем автоматизировать одну специальность

Главный «козырь в рукаве» ИИ-оптимистов — появление самосовершенствующегося ИИ. Он должен запустить петлю положительной обратной связи: ИИ становится всё мощнее, пускает свою мощь на своё собственное развитие и в конечном итоге становится настолько всемогущественным, что автоматизация экономики с ее 7-ю миллиардами занятых людишек становится для него совершенно тривиальной задачей.

Сценарий почти безукоризненный. Если не считать экзистенциальных рисков — появления на Земле силы, многократно превосходящей способности всего объединенного человечества…

Эге Эрдил пытается крыть этот «козырь» тем, что запустить такую петлю положительной обратной связи крайне сложно. Гораздо проще, считает он, начать применять способности ИИ в других экономических областях. Автоматизировать не разработки мощного ИИ — а перекладывание бумажек и общение с коммерческими партнерами.

И вот здесь нам стоит вспомнить предыдущие тезисы. Экономика — очень комплексная штука. Рабочие места, обеспечивающие ее функционирование, крайне разнообразны по своим задачам и специфике. Многие из них можно считать уникальными.

Нельзя объять необъятное. И любая сколь-нибудь широкомасштабная автоматизация неизбежно упрется в это разнообразие, в этот огромный набор требований, реализация каждого из которых требует немалых исследовательских и инженерных усилий. Не стоит забывать и про уникальность рабочих процессов на каждом отдельно взятом предприятии. Причем формально описана лишь малая часть этих процессов. Фактические процедуры часто отличаются от формально прописанных. И далеко не всегда фирмы готовы делиться этими внутренними данными. Справедливо считая, что они составляют ноу-хау, их коммерческие секреты и конкурентное преимущество.

Что этому противопоставляют ИИ-оптимисты? Нам достаточно автоматизировать одну «специальность», одно направление, говорят они. Нам достаточно сфокусировать все наши усилия, все таланты на одной области — а не распылять ресурсы на миллионы специфических рабочих позиций. И это единственно важное направление — автоматизация исследований в области ИИ.

Исследования — это сложно? Да. Но в то же время эта цель имеет и ряд особенностей, помогающих ее достижению. Во-первых, нам не нужно подстраиваться под имеющиеся в каждой фирме бизнес-процессы. Не нужно обеспечивать «бесшовность» работы виртуального сотрудника. Вместо этого мы можем начать «с чистого листа» и, напротив, пытаться выстраивать процесс исследований вокруг неизбежных недостатков и слабых сторон машины. Гибко «затыкая дыры» исследователями-людьми.

Во-вторых, большой объем исследований продолжает публиковаться открыто. Обеспечивая машины как огромной базой уже существующих знаний, так и образцами-обучающими данными для овладения необходимыми навыками. Образно говоря, машина уже может «стоять на плечах гигантов» и у этих «гигантов» учиться. А вот масштаб имеющихся данных для обучения более тривиальным профессиям, вроде менеджера по продажам, уже далеко не такой «гигантский».

В-третьих, исследования — это «вещь в себе». Хороший эксперимент — это эксперимент, который не зависит от внешних условий и капризов внешних игроков. В то время как массовая автоматизация рабочих мест опирается на множество «если»: коммерческих (себестоимость и производительность технологии), эмоциональных (настроения бизнес-лидеров и отношение общества), политических (в том числе внешней политики), законодательных и так далее. У ученых есть исследовательская свобода. А вот в экономике всё решает баланс сил, рыночных и нерыночных.

Наконец, главное преимущество автоматизации исследований — та самая положительная обратная связь. Чем больше нам удаётся развить ИИ — тем большего он может достичь. Другими словами, это направление позволяет получить нам максимальный выигрыш на вложенные усилия. Выигрыш, который продолжит многократно приумножаться.

И если ИИ может достичь большего — то многие проблемы широкой автоматизации экономики, описанные выше, снимаются сами собой. У нас не хватает ресурсов, чтобы заинженерить уникальные нюансы каждого рабочего места? Мы делегируем эту задачу мощному ИИ! У нас мало формальных данных о рабочих процессах? Мощный ИИ будет способен обходиться меньшим количеством данным, нежели более слабые системы!

В конечном итоге, всё разнообразие рабочих специальностей успешно может быть закрыто достаточно сложным и достаточно универсальным искусственным интеллектом. Вместо этого Эге Эрдил агитирует, что «нужна рыба, а не удочка»: что вместо создания этого сложного и универсального ИИ ученые должны вручную пилить узкие решения. Миллион узких решений.

Но отдача от узкого решения будет невеликой. И на создание большого количества таких решений у нас попросту не хватит сил. Поэтому лучше направить эти силы туда, где отдача может быть поистине революционной.

4. Широкая автоматизация экономики означает более сильный дефицит вычислительных мощностей

В качестве одного из контр-аргументов против сценария автоматизации исследований ИИ Эге Эрдил называет недостаток вычислительных мощностей. Все эти масштабные поисковые эксперименты, направленные на улучшение ИИ — дорогостоящая штука с вычислительной точки зрения, рассуждает он. И чтобы поддерживать их ресурсами, нам нужно масштабировать производственную базу для микроэлектроники. А это масштабирование, в свою очередь, по цепочке потребует и массивного роста в смежных секторах экономики.

Поэтому Эрдил предлагает обеспечивать этот массивный рост за счет широкой автоматизации рабочих мест. Собственно, других вариантов не так много: дополнительно взять откуда-то людей точно невозможно.

Но эта логика имеет очевидную уязвимость: если мы пытаемся «расшить» дефицит вычислительных мощностей, это надо делать средствами, которые не очень прожорливы до этих самых вычислительных мощностей. И массовое развертывание ИИ-агентов тут вряд ли является допустимым решением. Скорее наоборот, оно создаёт огромный спрос на вычислительные мощности, который будет конкурировать со спросом от автоматизации ИИ-исследований. И вытеснять его.

Заметим, что, при прочих равных, этот тезис отдаляет массовую автоматизацию рабочих мест еще дальше в будущее. Ведь вычислительные мощности становятся еще более узким «бутылочным горлышком». Еще большим тормозом на пути к сингулярности.

Хорошо, но есть ли альтернатива этому сценарию? С точки зрения распределения ресурсов — я думаю, есть. В сценарии дефицита вычислительных мощностей самым разумным является приоритетная автоматизация рабочих мест именно в микроэлектронной отрасли. А не в целом по экономике, как это подразумевает Эге Эрдил.

Эрдил исходит из предпосылки, что первыми будут срываться «низковисящие плоды» — специальности, которые проще всего автоматизировать. Это разумная предпосылка. Но надо учитывать и последствия такой динамики.

Любой сколь-нибудь масштабный успех в автоматизации человеческих профессий породит всплеск спроса на ИИ-ускорители. На вычислительную инфраструктуру. Всплеск, который микроэлектронная отрасль удовлетворить будет не в состоянии.

Это повысит стоимость на ИИ-микрочипы. И на факторы, являющиеся «бутылочными горлышками» в расширении их производства. В первую очередь, естественно, на рабочую силу в цепочке добавленной стоимости микроэлектроники.

Это будет означать, что микроэлектроника начнет буквально «купаться в деньгах» — и будет рада платить любые деньги за технологические решения, которые позволят ей «расшить» бутылочные горлышки в производстве. То есть у нас, с одной стороны, появляется ультимативный заказчик на «виртуальных работников». С другой стороны, большой рост зарплат в микроэлектронике будет означать высокую отдачу на ИИ-разработки, замещающие персонал в ней. Это потенциально снижает коммерческие риски для разработчиков ИИ-агентов, делая микроэлектронику более привлекательной областью.

С третьей стороны, инвесторы и бизнес-лидеры будут прекрасно представлять всю важность микроэлектронного «бутылочного горлышка» для грядущей ИИ-революции. И сосредоточат крупные усилия на автоматизации микроэлектронной отрасли чисто из этих стратегических соображений, даже без привязки к сложившимся коммерческим сигналам.

В общем, решать будет рыночек — а не только технологическая доступность автоматизации той или иной специальности. И если Эге Эрдил настолько уверен в дефиците вычислительных мощностей — то рабочие места будут автоматизироваться в первую очередь в микроэлектронной отрасли.

Это позволит добиться наилучшего соотношения «вычислительные затраты»/«прирост выпуска вычислительного оборудования». Что, в свою очередь, снижает требования к масштабу инфраструктурных вложений, необходимых для поддержания автоматизации ИИ-исследований. В отличие от сценария Эге Эрдила, требующего широкой роботизации всей экономики, в нашем случае получается ограничиться лишь роботизацией критических отраслей.

5. Разрыв в скорости между машиной и человеком НЕ уменьшается

Чтобы обосновать свой пессимистический взгляд на скорость роботизации экономики, исследователь Эге Эрдил подключают теорию. В частности, известный парадокс Моравека. Он гласит, что машины могут сильно превосходить человека только в тех областях, которые не оптимизированы эволюцией за миллионы лет. А если речь идёт о такой области, как агентность, способность самостоятельно действовать в окружении и добиваться своих целей — то здесь машинам безумно тяжело угнаться за биологическими мозгами.

Но вместо того, чтобы заранее паниковать перед теоретическими предпосылками, давайте лучше посмотрим на практику. Видим ли мы в сложных задачах — и особенно в задачах, релевантных для экономики — проблемы с низкой скоростью работы машин?

Пожалуй, самый красноречивый пример — система «DeepResearch» от «OpenAI» (а также аналогичный продукт от «Гугла»). Система, напрямую покушающаяся на работу человеческих специалистов и способная создавать такие разнообразные документы, как технико-экономические обоснования, аналитические обзоры, обзоры научной литературы и так далее.

Некоторые из пользователей делятся примерными оценками времени, которые понадобилось бы человеку для составления аналогичных документов. И там, где система выдаёт отчет за несколько десятков минут, человеку требуются недели работы. Если попробовать оценить разницу в скорости более конкретно, то это порядка 300х-500х преимущество.

Игнорировать такую разницу и преждевременно «хоронить» потенциал машин было бы очень неуместно. Но именно это и делает Эге Эрдил. Более того, он почему-то утверждает, что разница в скорости между «DeepResearch» и человеком не превышает и 10х — что совершенно не соответствует действительности.

Для полноты картины взглянем на итоги свежего исследования способностей моделей, проведенного некоммерческой лабораторией METR. METR’овцы сосредоточились на задачах из области ИТ, максимально приближенных к реальным заданиям для человеческих работников. Как раз то, что нам нужно. И подсчитали стоимость их выполнения машиной и человеком. Получилось такое распределение разницы в стоимости:

Разброс весьма велик. В том числе и потому, что на этом графике отображены результаты для разных ИИ-моделей. Но для более-менее сложных заданий, на выполнение которых человеку требуется несколько десятков минут и более, медианное преимущество машин составляет 50х-100х.

Это, во-первых, опять огромная разница, которую невозможно игнорировать. Во-вторых, разрыв между человеком и машиной, по-видимому, даже немного увеличился по сравнению с аналогичным исследованием, выполненным летом 2024. Где METR насчитал 30-кратную разницу. То есть здесь тоже нет оснований говорить о негативной динамике.

В-третьих, и в-главных, график не показывает никакого тренда на то, что в более сложных и более длительных («более агентских») заданиях преимущество машины перед человеком начинает таять. Скорее оно только растёт — впрочем, здесь могут играть роль иные факторы, и лучше проявить консерватизм.

Так что практика пока никак не подтверждает взгляды Эге Эрдила. А как же эволюция и оптимизация биологических мозгов на протяжении миллионов лет? Возможно, всё дело в том, что нынешние трудовые задачи человеков не сильно перекликаются с опытом миллионов поколений обезьян. Обезьянам нужно было вовремя замечать хищников и искать труднодоступную еду. А не пилить сайтики на React.js и писать запросы к реляционным базам данных. И если человечество не собирается возвращаться обратно к первобытным порядкам — у ИИ есть шанс сильно обогнать человека в выполнении экономических задач.

6. Человеческий мозг не предназначен для выполнения профессиональных задач

Следующий аргумент является классическим для ИИ-скептиков. Он апеллирует — немножко утрируя — что заменить человека может только человек. Якобы мы с вами, представители вида homo sapiens, настолько идеально подходим для выполнения экономических задач, что любая машина, претендующая на экономические роли, просто обязана неукоснительно копировать все человеческие свойства. Как говорится, «по образу и подобию». Антропоцентризм был популярной точкой зрения задолго до появления термина «искусственный интеллект».

Самым важным пунктом в позиции сторонников «по образу и подобию» является человеческий мозг. Действительно, остальные отличия homo sapiens от его биологических родственников совсем невелики: 97% генома шимпанзе и человека совпадает. А вот в мозгах имеется разница: у человека он большой, а у шимпанзе — не очень. Поэтому, утверждают сторонники «по образу и подобию», машина должна непременно догнать и перегнать человека по количественным характеристикам мозга (у человека 86 млрд. нейронов и 150 трлн. синапсов). А там, говорят сторонники, количество моментально перейдёт в качество, и машина наконец будет удостоена чести считаться полноценной заменой в человеческих профессиях.

При этом сторонники деликатно замалчивают неудобные контр-примеры к их количественным требованиям. Например, крупные животные вроде слона и китообразных имеют в разы больше нейронов, чем человек. Но никто пока не возлагает на этих животных больших надежд в области замены работников.

Ситуация выглядит чуть лучше, если брать только подсчеты нейронов в коре головного мозга. Человеку удается даже обойти слона и некоторых китообразных. Но, опять-таки, не всех, и на качественную разницу это никак не тянет.

Возможно, дело всё-таки не в размере, а в том, как его использовать? Действительно, исследования метаболической активности человеческого мозга подтверждают эту истину. Дело в том, что потребление энергии нашим мозгом на удивление стабильно и слабо зависит от того, спит человек, отдыхает или же решает в уме сложные проблемы. По современным оценкам, напряженная умственная деятельность способна повысить интенсивность метаболизма мозга лишь на 5-8%. А ведь большая часть энергии расходуется мозгом именно на нейронную активность.

Другими словами, умственная работа не требует от человеческого мозга каких-то масштабных вычислительных затрат по сравнению с отсутствием этой самой умственной работы. Этот мысль хорошо сочетается с выводом из предыдущего пункта: эволюция миллионы лет формировала мозг приматов совсем не для абстрактных рассуждений. Вся наша интеллектуальная мощь — лишь небольшая подпрограмма, которая не сильно обременяет «хардверные мощности» внутри нашей черепной коробки. Что и позволило человечеству добиться такого ошеломляющего прогресса на фоне отсутствия значимых физиологических изменений, практически одномоментно с точки зрения темпа эволюции.

Но сторонники «по образу и подобию» не приемлют никакого принижения характеристик человеческого интеллекта. Ибо произвольно взятая подпрограмма уже не может считаться образом и подобием! Только во всей своей сакральной целостности мозг имеет право носить в себе Священный Разум!

Впрочем, скоро сакральный подход меняется на наукообразность. Потому что дальше сторонники «по образу и подобию» пытаются привести к общему знаменателю человеческий мозг и полупроводниковую микроэлектронику. Задача нетривиальная — куда нетривиальнее, чем пресловутое сравнение яблок и апельсинов. Но если философствования на тему яблок и апельсинов вряд ли кого-то заинтересуют, то натягивание биологического мозга на глобус микропроцессорных технологий выглядит достаточно внушительно. И позволяет впечатлить неподготовленного читателя познаниями как в области нейробиологии, так и в микроэлектронике.

Владение терминологией, увы, не сильно помогает задаче. «Натягивание» превращается в поиск самых удобных и самых простых аналогий, об адекватности которых сторонники «по образу и подобию» заботятся мало. Возьмем анализ, на который опирался Эге Эрдил при подсчетах мощности вычислительной инфраструктуры, требующейся для роботизации всех рабочих мест на планете. Анализ подробный и честно предупреждающий, что целью расчетов является эмуляция работы мозга, а совсем не практические требования к «хардверу» для замещения человеческих профессий.

Но это не спасает его от описанных выше грехов. Проблемы начинаются уже на этапе подсчета числа срабатываний нейронов в человеческом мозге. Эксперты дают оценки, различающиеся на 4 (!) порядка. Консенсус снижает разбег до 1 порядка. При этом консенсус игнорирует расчеты, выполненные методом оценки энергетических затрат и показывающие довольно низкий темп активации нейронов в коре головного мозга, 0,16 Гц.

Оценки числа синапсов в человеческом мозге тоже разнятся на порядок. И в итоге диапазон потенциального числа синаптических сигналов в анализе разбегается на два порядка: от 10^13 до 10^15 сигналов в секунду.

В общем, получаются упражнения в спекуляциях: по-другому подобный разбег интерпретировать трудно. Стоит ли строить на такой шаткой базе какие-то далеко идущие выводы и прогнозировать конкретные уровни требуемой вычислительной инфраструктуры? Мне это кажется сомнительным занятием.

Гораздо полезнее было бы смотреть не на «образ и подобие», а на функциональные достижения конкретных моделей. О вычислительных затратах которых мы знаем вполне достаточно. Даже нескольких примеров будет достаточно, чтобы опровергнуть предпосылку о том, что только мощь человеческого мозга способна осилить экономически востребованную работу.

Создание изображений? Потребительская видеокарта за несколько десятков секунд создаст картинку, которую человеческий профессионал-художник не сможет нарисовать и за несколько месяцев труда.

Cобрание сторонников гипотезы "по образу и подобию", в представлении генеративной нейросеточки

Вождение автомобиля? Беспилотники компании ”Waymo” вряд ли имеют на борту больше двух ИИ-видеокарт. И при этом водят машину, по статистике, в 8-12 раз безопаснее, чем средний человеческий водитель.

Подбор и найм персонала? ИИ-агент на базе небольшой языковой модели проверит поступившие резюме, проведет интервью с подходящими кандидатами и выберет лучшего из них. Стоить это будет совсем копейки, никакой гигантской вычислительной инфраструктуры не требуется.

Итак, можно добиваться большого малым. Главный момент, про который стоит помнить — это специализация. Эволюция не имела возможности как-то специализировать мозг человекообразных обезьян: геном был один на всю популяцию, наши предки жили малыми группами. Доставшийся нам в наследство «хардвер» достаточно универсален, чтобы обеспечивать выживание и в дикой саванне, и в цивилизованной цифровой экономике. Но насколько он универсален — настолько же он и неэффективен в плане задействования «вычислительных мощностей» для выполнения профессиональных задач.

В то время как алгоритмы можно специализировать и оптимизировать сколь угодно глубоко. Этот инженерный потенциал, этот потенциал для оптимизации использования вычислительных ресурсов означает, что машины могут легко превзойти человека в эффективности.

7. Экономическая отдача от актива определяется балансом спроса и предложения

Чтобы подкрепить свой скептический взгляд на перспективы ИИ, Эге Эрдил приводит следующий аргумент. Пускай с момента «революции ЧатГПТ», с декабря 2022, способности ИИ-моделей очень выросли. Но при этом выручка от ИИ-моделей, в расчете на один ускоритель Nvidia H100, за это время почти не изменилась.

Значит, делает вывод исследователь, эти ваши ИИ-модели не в состоянии приносить экономическую пользу с приемлемым уровнем вычислительных ресурсов. Чтобы появилась польза, ресурсов надо очень много. То есть никакие экономические прорывы невозможны. Более того, весь быстрый рост способностей ИИ в 2020-2025, который ИИ-оптимисты любят экстраполировать в будущее, по факту имеет незначительный эффект с точки зрения экономики. И именно этот незначительный эффект и надо экстраполировать на ближайшие годы.

Что на это стоит возразить? Любая экономическая отдача от той или иной технологии определяется балансом спроса и предложения. Спрос мы разбирали выше, в 1-ой и 2-ой части этого поста. Для динамики спроса важны конкурентные преимущества перед альтернативами (в нашем случае — человеческими работниками). Чем больше конкурентных преимуществ — тем ближе переломная точка — тем больше растёт спрос.

Там же мы упомянули, что до переломной точки ИИ еще не дошел. То есть спрос на технологию растёт небыстро (у ИИ мало конкурентных преимуществ по сравнению с человеками). Но и не совсем медленно: скорость развития технологии, скорость появления у нее новых конкурентных преимуществ по историческим меркам довольно высока.

Теперь посмотрим на сторону предложения. Мы увидим, во-первых, взрывной рост числа ИИ-компаний, предлагающих эту технологию клиентам. Во-вторых, взрывной рост финансирования этой темы как со стороны венчурной индустрии, так и со стороны ИТ-гигантов. Ни ИТ-гиганты, ни, тем более, венчур не требуют от финансируемых проектов агрессивной монетизации. Более того, они вполне готовы субсидировать убытки от таких продуктов.

В-третьих, момент «революции ЧатГПТ» практически совпал с моментом «революции ИИ с открытыми весами», то есть свободного распространения мощных ИИ-моделей. Свободное распространение подразумевает, что ИИ-компания фактически уходит от монетизации своего продукта. Центром генерации выручки становится предоставление облачных мощностей.

Красноречивым свидетельством «переизбытка» на стороне предложения является то, что почти все ведущие ИИ-компании бесплатно предоставляют базовый доступ к своим моделям.

Пока существует переизбыток предложения, пока рынок остаётся очень конкурентным — ИИ-компаниям будет сложно наращивать доход со своей вычислительной инфраструктуры. Для изменения этой ситуации нужно сначала упереться в «бутылочное горлышко» по производству ИИ-ускорителей. Это реалистичный сценарий, но всё-таки он лежит в будущем. До сих пор динамика отрасли была совершенно иной. И эта динамика никак не подтверждает тезис Эге Эрдила.

Заключение: скепсис против оптимизма

Если мы станем обобщать все эти контр-аргументы — то увидим, что многие из них опровергают чрезмерно скептические взгляды на ИИ. Они опровергают тезисы о том, что ИИ слаб, что прогресс в этой технологии тормозится, что какие-то области не скоро станут доступны для ИИ.

Потенциал развития ИИ далеко не такой ограниченный, как предполагают скептики. Многие «фундаментальные» барьеры существуют только в их воображении. Технология берет всё новые барьеры. С темпом, который опережает даже оптимистичные ожидания.

Но большой потенциал ИИ сталкивается с запредельной сложностью задачи. Человеческая экономика, глобальные потребности в трудовых ресурсах — это огромные, необъятные вызовы. Эге Эрдил практически не касается этого аспекта в своем анализе — но именно эта сложность в конечном итоге будет определять сроки автоматизации.

Автоматизировать миллион специальностей будет трудно, очень трудно. Требование догнать «мощность» мозгов человекообразных обезьян выглядит избыточным — но в любом случае потребуется наращивать объемы производства микроэлектроники на порядки. А если мы еще и вспомним про законодательные, регуляторные ограничения, которые будут искусственно тормозить замещение рабочих мест…

В общем, трудно представить, как широкая автоматизация экономики может быть развернута за 2-3 года. Моя оценка — 12-15 лет — не так уж и кардинально отличается от оценки Эге Эрдила. И это оптимистичная оценка. Которая предполагает продолжение быстрого прогресса в ИИ, благоприятное отношение властей к такой автоматизации и отсутствие социальных катаклизмов из-за массовой потери заработка.

Как-то ускорить этот сценарий может лишь «джокер» в виде создания искусственного сверхинтеллекта. На который возлагают надежды самые радикальные из ИИ-оптимистов. Исключать появление этого «джокера» нельзя. Но такой вариант является настолько революционным, несет в себе столько неопределенности, что строить какие-то прогнозы для этого случая попросту бессмысленно. Никогда еще в истории планеты Земля не существовало объекта, который мог бы совершенствовать сам себя на горизонте не в месяцы (геном микроорганизмов) и не в часы (обучение людей), а в доли секунды.

Одним из важных свойств концепции технологической сингулярности является то, что старые, привычные закономерности перестают работать. Опора на старый опыт становится невозможна. В этом плане построения ИИ-оптимистов несколько наивны: они ждут радикальных перемен, но при этом опираются на экстраполяцию старых трендов.

Если старые тренды продолжают работать — значит, сингулярность не так и близко. Значит, человечеству еще придется потрудиться. Широкая автоматизация экономики потребует много усилий — и рабочих рук.