Большие потрясения, Большая Гонка и большая наивность

Глава стартапа "Антропик" Дарио Амодеи порадовал нас уже вторым крупным эссе, посвященным ИИ-будущему. Первый материал, "Машины благодатной любви", вышел осенью 2024 и описывал огромные позитивные изменения, которые может принести ИИ. И вот сейчас подошла очередь для второго, "Юность технологии", который исследователь посвящает обзору рисков, которые несёт эта могущественная технология.

По многим из описываемых рисков я вряд ли могу добавить что-то полезное к словам Амодеи. Он рассуждает о них взвешенно и в доступной манере, рассматривая аргументы и контр-аргументы для тех или иных опасностей. А также, разумеется, возможные способы их нейтрализации, меры для предотвращения катастрофических исходов.

Несколько более спорной получилась часть, затрагивающая политику. Взгляды Амодеи не изменились со времен "Машин благодатной любви". Эти взгляды включают техноимпериализм, американскую исключительность, "добро должно быть с кулаками" и осанны священной корове демократии. Моя критика данных взглядов с тех пор тоже не изменилась, поэтому повторяться не хочется.

Давайте лучше уделим пристальное внимание экономическим рискам. Амодеи посвящает им отдельную часть эссе, озаглавленную "Механическое пианино". Название отсылает к научно-фантастическому роману Курта Воннегута, описывающему антиутопический мир, в котором большая часть рабочих мест была автоматизирована.

Дарио Амодеи предполагает, что половина офисных рабочих мест начального уровня будет уничтожена машинами уже в ближайшие 1-5 лет. Это мнение весьма радикально по меркам мэйнстримных взглядов: большинство не ожидает никаких серьезных шоков на таком коротком горизонте. А многие вообще считают, что ИИ не представляет никакой угрозы для занятости. Мол, мы уже не раз проходили через всякие технологические революции. И ни разу это не приводило к долгосрочной безработице. А если чего-то не случалось в прошлом - значит, этого не случится никогда!

Амодеи пытается опровергнуть подобные аргументы скептиков. ИИ-революция отличается от других технологических революций, утверждает он. Ключевых отличий четыре.

1. Скорость прогресса машин. Два года назад ИИ едва мог написать без ошибок несколько строчек программного кода. Сегодня опытнейшие инженеры разработки ПО могут вообще не притрагиваться к коду - вместо этого раздавая указания ИИ-агенту, который пишет всё за них. Аналогично, два года назад ИИ делал ошибки в математических задачах для учеников начальной школы. Сегодня ИИ успешно доказывает нерешенные теоремы из списка Эрдёша.

Более того, Амодеи прогнозирует, что скорость прогресса в ИИ будет только расти. Автоматизация разработки ПО стала первым шагом на пути к автоматизации научных исследований в области машинного обучения. Запускается рекурсия, положительная обратная связь, позволяющая всё более сильному ИИ всё больше влиять на скорость своего улучшения.

Даже без рекурсивного ускорения мы могли бы продлить эту аналогию в будущее. Сегодня ИИ не в состоянии выполнить простейшие задачи бухгалтера или менеджера по продажам? Через два года ИИ будет вести бухгалтерию и организовывать продажи на уровне лучших специалистов во всей индустрии!

Если прошлые технологические революции давали представителям подрываемых профессий достаточно времени на то, чтобы найти иную нишу для занятости, то нынешняя волна накроет пострадавших молниеносно. И выгрести из-под нее будет нереально: человеческие способности к адаптации не смогнут угнаться за быстрым ростом способностей машин.

2. Когнитивная широта. Под этой фразой Амодеи понимает то, что сильный ИИ сможет овладеть широким набором человеческих когнитивных навыков. Не исключено, что всеми из них.

Это означает, что под угрозой окажется очень широкий перечень рабочих мест. Возможности по абсорбированию высвобождающихся работников будут очень невелики: вытеснение будет идти почти во всех сферах экономики. "ИИ не заменяет конкретные рабоче места: вместо этого он заменяет человеческий труд как таковой", - пишет Амодеи.

3. Сегментация по когнитивным способностям. Под этим исследователь подразумевает, что прогресс ИИ идёт от менее требовательных к когнитивным способностям навыков к более требовательным. То есть речь не о замене конкретных профессиональных задач. Где достаточно было переобучаться другим задачам. Речь о том, что для людей исчезают все задачи, требующие определенный уровень интеллекта. Остаются задачи для всё более и более высоколобых интеллектуалов.

И если освоить новые профессиональные навыки можно, то "прокачать" свой интеллект человек уже не в состоянии. Выше головы не прыгнешь. Это создаёт риски появления класса "экономических отбросов", у которого нет никаких шансов на рынке труда.

4. Возможность "закрывать разрывы". Здесь Амодеи пишет, что разработчики ИИ будут целенаправленно устранять слабые места технологии, не позволяющие окончательно избавиться от человеческих работников. То есть в дополнении к широкой скорости прогресса и общему развитию когнитивных навыков, технология также будет совершенствоваться "снизу вверх", с работой над конкретными недостатками в конкретных экономических применениях.

Некоторые скептики утверждают, что нас спасёт инерция бизнес-процессов и психологии менеджмента. Это шаткий аргумент. Если коммерческие преимущества технологии останутся такими же - а сейчас ИИ обходится в 100 раз дешевле человека - инерция испарится без следа. И всегда есть стартапы, не отягощенные грузом старых порядков, которые начнут перераспределять рынки в свою пользу.

Другая популярная идея о сохранении релевантности человеческих работников - переток на позиции, где требуется физический труд. Амодеи не считает ее панацеей. Главный его контраргумент: "планета гениев в дата-центре" в состоянии ускорить прогресс в робототехнике настолько, что физические манипуляции тоже очень быстро отвоюют роботы. То есть человеческие руки будут востребованы лишь очень ограниченный период времени.

Даже если не верить в роботизацию, потенциальный масштаб шока на рынке труда выглядит колоссальным. В США 65% всего отработанного времени - это умственный труд, не требующий никакой физической активности.

Еще одна, не менее популярная идея заключается в том, что якобы некоторые человеческие профессии ценны своей "человечностью", душевностью и прочей ламповой теплотой. Машина в таких профессиях не нужна, потому что это бездушная железяка. Речь идёт о таких позициях, как врачи, юристы, педагоги и т.п.

Мы уже рассматривали этот вопрос подробно, анализируя позицию Антона Корайнека. И вывод заключался в том, что такие "человекоцентричные" предпочтения не смогут устоять под натиском ИИ. Амодеи согласен с этими мыслями.

Наконец, последняя соломинка, за которую хватаются апологеты человеческой востребованности - теория сравнительных преимуществ. Что ж, теория сравнительных преимуществ работает. Нюанс в том, как именно она работает.

Ключевым моментом является упомянутая выше предпосылка о том, что ИИ будет в 100 раз дешевле человека. С таким гигантским разрывом для реализаци сравнительных преимуществ человек должен согласиться на сопоставимое падение оплаты труда. То есть работать буквально за копейки. Увы, это совершенно нереалистичное требование.

Из всего этого Амодеи делает вывод: "Краткосрочный шок [на рынке труда] будет беспрецедентным по масштабам".

Влияние ИИ на рынок труда - относительно устоявшаяся тема в экономической теории. Гораздо интереснее ответ на сакраментальный вопрос "Что делать?". Как разрешить этот беспрецедентный по масштабам кризис, лишающий людей средств к существованию?

Амодеи ранжирует предлагаемые меры в порядке возможного эффекта: от очень скромных к... просто скромным. Впрочем, по излишней скромности я пройдусь позднее.

1. Во-первых, исследователь призывает к сбору точных и оперативных данных о вытеснении работников искусственным интеллектом. Что ж, здесь спорить трудно. Качественные данные - залог грамотных решений.

2. Во-вторых, Амодеи призывает ИИ-компании "повлиять" на своих корпоративных клиентов. Работодателей надо убеждать в том, что им нужно больше инновировать и не сокращать рабочие места. Мягко говоря, наивное пожелание. Поставщики бизнес-продуктов - например, ПО - имеют околонулевое влияние на решения своих клиентов по поводу штата их сотрудников.

3. В свою очередь, корпорации должны "заботиться" о своих сотрудниках. Амодеи агитирует за то, чтобы компании "тасовали" имеющихся работников по разным позициям. Более того, в долгосрочной перспективе Амодеи предлагает платить работникам просто за... красивые глаза. Ну серьезно, он прямым текстом пишет, что экономической отдачи от таких работников уже давно не будет, но компания им якобы что-то там должна.

Мечты, мечты, где ваша сладость... Конечно, на первый взгляд подобное "решение проблемы" выглядит красиво. Но есть одно но: экономика так не работает. Бизнес так не работает. На практике бизнес считает персонал "центром издержек". Обузой. Необходимым злом. От которого надо избавляться при первой же возможности.

Компании никому не платят деньги "просто так". Они платят деньги только в обмен на экономическую ценность. Причем конкуренция постоянно заставляет их искать пути платить как можно меньше денег за ту же самую ценность. Это капитализм. Он суров и несправедлив. Но зато он эффективен. И пока не предложена альтернативная экономическая система, как минимум не уступающая капитализму в эффективности, полагаться на "души прекрасные порывы" бизнеса - совершенно нереалистично.

4. ...Но Амодеи упрямо тянется к возвышенным идеям и прекраснодушию. Если корпорации не желают заниматься благотворительностью - значит, благотворительностью должны заняться их владельцы-миллиардеры, в частном порядке. Ведь согласитесь, что это очень "надёжное" решение - уповать на милость некоего бизнес-олигарха и смиренно ожидать, что он поделится крошками с барского стола...

5. Если вам показалось, что предыдущие решения, полагающиеся на братскую любовь капиталистических корпораций к эксплуатируемому пролетариату, не являются сколь-нибудь действенными - то вам не показалось. Понимает это и Амодеи. Поэтому в качестве последней, решительной, ультимативной меры он предлагает - шок и трепет - прогрессивное налогообложение.

Да, представьте себе: оказывается, их, капиталистов, потребуется облагать налогами. Неслыханная дерзость! Амодеи, разумеется, она не нравится: "Очевидно, что дизайн налогов сложен, и есть много причин, по которым он может пойти не так. Я не поддерживаю плохо продуманную налоговую политику". Но, поскольку Амодеи еще не совсем матёрый капиталист, и человеческая этика ему не чужда, он скрепя сердце принимает налоги как неизбежное зло, служащее высшей цели. Не оставить миллиарды людей помирать от голода.

Собственно, на этом всё. Полёт мысли Амодеи заканчивается на попытках найти механизмы для обеспечения ненужных экономике людей средствами к существованию.

Предлагаемые им механизмы, основанные на доброй воле новых хозяев жизни, крайне наивны. Идея с прогрессивным налогообложением более жизнеспособна - но всё же, на мой взгляд, недостаточно радикальна с точки зрения масштабов трансформации экономики. Где налог на богатство? Налог на вычисления? Налог на монополизацию? Плата за сбор и использование персональных данных? Амортизация прав собственности на средства производства? Наконец, мой любимый пункт: обобществление ИИ путём обязательной публикации моделей в открытом доступе?

А ведь всё это касается только сбора ресурсов. Есть еще и распределение - тема, которую Амодеи совсем игнорирует. Где базовый безусловный доход? Где общественные фонды, владеющие акциями корпораций и выплачивающие гражданам совокупные дивиденды? Где всеобщие бесплатные здравоохранение, образование, транспорт и коммуникации?

Как минимум что-то из вышеперчисленного мы увидим в ИИ-будущем. Но о том, как повысить шансы успешной реализации этих вещей, мы поговорим несколько позднее.

Пока же обратимся ко второй теме "экономического блока" эссе. Это проблема концентрации экономической мощи.

Все экономисты соглашаются с тем, что развитие ИИ ведет к усилению экономического неравенства. В пределе - до совершенно гигантских размеров. И, начиная с некоторого момента, огромное неравенство начинает быть не только экономической проблемой - но и угрожать самому функционированию общества.

Динамику концентрации богатства я в своё время разбирал здесь, опираясь на работу Эрика Бринйолфссона. Там же затрагивались негативные социальные последствия всеобщей автоматизации. Одним из важных таких последствий является угроза демократии. Той самой демократии, которую Дарио Амодеи считает сакральной ценностью - и которую, на практике, подрывает своими разработками ИИ.

Как же избежать превращения нашего общества в шаблонную антиутопию с горсткой господ-триллионеров и нищими массами? Рецепты Амодеи вновь полны наивного идеализма:

1. Во-первых, пишет он, корпорации могут сами показать высокие моральные качества и отказаться от субверсии общественно-политческой системы в пользу своих интересов. То есть надежда на то, что у корпораций спонтанно вдруг отрастет совесть.

2. Во-вторых, помимо отдельных компаний, совесть должна отрасти у всей ИИ-индустрии. Она должна отказаться от сиюминутных политических игр и от собственных выгод. И преследовать устойчивые цели. Бескорыстие должно победить жажду наживы.

3. Наконец, комбинация благотворительных действий, раскритикованных упомянутых выше, и прогрессивного налогообложения как по мановению волшебной палочки устранит все проблемы гиперконцентрации и гарантированно обеспечит гармоничный общественный порядок.

И это всё. Список получился еще более коротким и еще более слабым, чем в случае с ответом на массовую автоматизацию. В будущем, обещает Амодеи, сильный ИИ наверняка придумает еще какие-нибудь грамотные меры. Но сегодня у нас есть только человеческий разум, а он слаб. Поэтому пока и так сойдет.

Сойдет ли? Для Амодеи - вполне сойдёт. Ведь он претендует на то, чтобы стать одним из главных бенефициаров грядущей трансформации экономики. Это он будет в числе той горстки господ-новых хозяев жизни, в руки которых стечется мировое богатство, интеллектуальный капитал, политическое влияние и военное превосходство.

Но сойдут ли такие меры для нас, простых смертных?

Тут уже каждый должен решать за себя. Смотреть на веер возможных исходов. И выбирать, насколько он доверяет благодушию и филантропии новых корпоративных боссов.

И если - оглядываясь на всю предшествующую историю корпоративного капитализма - в реалистичности этого благодушия возникают сомнения, нужно чётко осознавать одну важную вещь.

У ИИ-компаний нет никакой мотивации защищать интересы людей, попавших под каток автоматизации. У ИИ-компаний нет никакой мотивации предлагать самые действенные, самые радикальные реформы налогообложения, экономического регулирования и общественно-политческих процессов.

Мы не найдем действенных "рецептов счастья" в эссе людей, которые преследуют свои, совсем иные цели.

Главная мотивация ИИ-компаний - это победа в Большой Гонке. Полное замещение человеческих работников и гиперконцентрация денег и власти являются непосредственными целями этой гонки. Это те вещи, которые разделят победителей и неудачников. Либо ты окажешься на "правильной" стороне гиперконцентрации - либо в безликой и бесправной людской массе, смиренно надеющихся на благотворительные подачки.

Есть и второстепенная мотивация, которая трезво учитывает, что людская масса может не ограничиться смиренными надеждами. Амодеи упоминает эту мотивацию в своем эссе: "Я также могу привести прагматичный аргумент для глобальных миллиардеров, что в их интересах поддерживать хорошую версию её [налоговой политики]: если они не поддержат хорошую версию, они неизбежно получат плохую версию, разработанную толпой".

Читаем этот пассаж между строк: толпа, разумеется, не разрабатывает налоговую политику. Она разрабатывает вещи попроще - вроде креативных применений для веревок и фонарных столбов.

Такой исход будет означать полный крах социальной системы. Вместо победы в Большой гонке получится проигрыш, причем обоюдный: и технологических элит, и автоматизируемых масс.

Угроза этого проигрыша несколько смягчает маниакальное стремление ИИ-компаний к гиперконцентрации. Капиталисты будут пытаться как-то балансировать между жаждой наживы и умиротворением социума.

Увы, история подсказывает, что далеко не всегда у них получается найти этот баланс...

У нас, у общества, впереди предстоит очень сложный, непредсказуемый, рискованный период. Мы не можем позволить себе пройти его, опираясь только на страхи капиталистов.

Мы не можем позволить себе исход, в котором побеждает только горстка людей - а миллиарды становятся полностью от них зависимыми.

И мы не можем позволить себе пассивно ждать, когда же победители ИИ-гонки придумают устраивающие их рецепты передела финансовых потоков и влияния.

Никто не даст нам избавленья: ни Бог, ни царь и не Дарио Амодеи. Общество должно само продумывать способы организации новых экономических реалий. Заранее. Уже сейчас. Не дожидаясь катаклизмов на рынке труда.

Продумывать способы, которые не просто не ухудшат - но улучшат положение людей, ныне занятых в наёмной работе. Способы, которые изменят приз Большой ИИ-Гонки на тот, который устроит и ИИ-компании, и широкое население. Вместо исключения из экономики и гиперконцентрации - на изобилие, доступное каждому. Способы, которые опираются не на наивные представления о доброте и великодушии, а на строгие, четкие и тщательно рассчитанные правила.

Обсуждать эти способы. Настаивать на удачных находках, которые сделают жизнь в пост-трудовом обществе более гармоничной, более устойчивой.

И не бояться бросать вызов капиталу.

Ведь его эпоха подходит к концу.

Частная собственность на средства производства теряет смысл, если ключевые средства производства окажутся сконцентрированными лишь у нескольких десятков человек. Потребительская экономика невозможна, если у потребителя исчезает источник дохода. Свобода предпринимательства бесполезна, когда всё предпринимательство берет на себя ИИ.

Победа в Большой Гонке означает приход абсолютно новой экономики.