Мы продолжаем знакомиться с публикациями о светлом ИИ-будущем. В прошлом мы уделили много внимания видению Дарио Амодеи, руководителя компании "Антропик". Но до недавнего времени его главный конкурент в гонке за ИИ, компания "OpenAI", избегала публикации столь же ярких статей.
И вот, наконец, у "OpenAI" вышел первый документ, достойный обсуждения. "Industrial Policy for the Intelligence Age: Ideas to Keep People First" - это не очень длинная, но фундаментальная программа, в которой "OpenAI" описывает, каким должно быть наше будущее в ИИ-эпоху. Описывает, на каких принципах должен строиться новый мир, чтобы технология ИИ отвечала принципам справедливости и служила всеобщему процветания. Короче, описывает, как с помощью ИИ изменить мир к лучшему.
В отличие от публикаций Дарио Амодеи, которые являются по сути футурологическими очерками и принадлежат к категории "я так вижу", "Отраслевая политика" - более формальный документ. Более зрелый. И более практический с точки зрения конкретных рекомендаций.
Содержательная часть "Отраслевой политики" разбита на два раздела. Первый - "Строя открытую экономику" - посвящен широким социально-экономическим вопросам. Второй - "Строя устойчивое общество" - вращается вокруг специфических угроз от ИИ. Поскольку ИИ-безопасность - совсем не моя стихия, я сосредоточусь главным образом на первом разделе.
Программы такого рода - это всегда призыв к общественной дискуссии. Что ж, давайте ее начнем. Какой бы конструктивный посыл ни стоял за разработкой таких документов, каждый предлагаемый шаг всё равно может содержать "подводные камни". И, помимо выгод, нести также риски. Я постараюсь рассказать о наиболее важных таких моментах для каждого из пунктов "Отраслевой политики".
1. Точка зрения работников
"Дайте работникам право голоса по поводу перехода к ИИ, чтобы сделать работу лучше и безопаснее, включая формальные пути сотрудничества с руководством..."
Первый же пункт программы, в худших традициях публичной политики, излучает пиар-дружественность и граничащий с наивностью оптимизм. В стиле "мы за всё хорошее и против всего плохого" (на всякий случай, дальше будет поадекватнее).
На словах идея наделить работников полномочиями по решению их дальнейшей судьбы выглядит красиво. Но на деле это выливается в очень хорошо описанную проблему конфликта интересов между фирмой и ее сотрудниками. И практика показывает, что такое делегирование полномочий работает очень коряво.
В нашем же случае предлагается делегировать буквально экзистенциальные решения: заменяться на ИИ и отправляться на мороз - или же продолжать "по старинке" получать стабильную зарплату. И кто тогда выберет ИИ-будущее? Никто.
При этом фирмы, не последовавшие этому совету и безжалостно оптимизировавшие свою рабочую силу, быстро получат преимущество в издержках и выгонят с рынка идеалистов-сторонников демократизации.
Поэтому, боюсь, этот пункт - нерабочий.
2. Предприниматели-пионеры ИИ
В этом пункте "OpenAI" призывает к поддержке новых предпринимателей, которые заводят своё дело после потери наёмной работы. Хорошее начинание, но почему "пионеры ИИ"? Дело в том, что предлагается возложить на ИИ "техническую деятельность", сопутствующую любому бизнесу: бухгалтерию, маркетинг, закупки и т.п. "OpenAI" предлагает создать готовые решения, позволяющие запустить бизнес сразу "из коробки", вроде шаблонов документов и сервисов, заменяющих бэк-офис.
Компания пишет, что эти "технические моменты" сейчас останавливают людей от старта собственного бизнеса. Безусловно, какой-то процент действительно отсеивается этими барьерами. Но этот процент не настолько велик. Если "OpenAI" пытается продать нам идею о том, что с автоматизацией административных моментов все люди мигом станут предпринимателями - это видение нереалистично.
Отдельный вопрос - каково будущее человеческих предпринимателей в ИИ-эпоху. Какой именно принципиально неавтоматизируемый вклад может привнести человек в управление бизнесом? Сейчас малый бизнес процветает в областях, где трудно масштабироваться. Где всё держится на конкретных людях, а не на обезличенных процессах. Но если технология начнет успешно заменять "конкретных людей" - причем задешево - ниша для человеческого предпринимательства исчезнет.
3. Право на ИИ
"Рассматривайте доступ к ИИ как основу для участия в современной экономике..."
"OpenAI" призывает обеспечить для всех надёжное и доступное использование фундаментальных моделей. В том числе на безвозмедной основе или по очень низким расценкам. Кроме того, компания ратует за образовательные программы, позволяющие использовать эти возможности в полной мере.
Очень правильная предпосылка, являющаяся необходимым условием для создания справедливого общества. Но будет ли она реализована на практике? Многие читатели уже знают мою позицию. Для того, чтобы обеспечить подлинно равный доступ к ИИ-модели, она должна распространяться открыто. Увы, и сама "OpenAI", и ее главные конкуренты совершенно не торопятся следовать декларируемым принципам.
Более того, по мере роста способностей моделей мы видим, как лаборатории закрывают к ним доступ для всех, кроме "самых избранных". Причем в числе самых избранных находятся не представители простого народа и даже не академия. А нынешние ключевые капиталистические фирмы технологического сектора США. Многие из которых претендуют на монопольное положение.
Закрытие доступа мотивируется "соображениями безопасности". Действительно, мощный ИИ в дурных руках способен натворить немало бед. Но это решение не устраняет проблему неравенства в доступе. Более того, уже в скором времени политики и силовики наконец осознают, насколько велики ставки в ИИ-гонке. И тогда подчинение ИИ "национальным интересам" - а именно, государственному аппарату - станет практически неизбежным. Крайне маловероятно, что государство решит делиться мощнейшей технологией со всеми желающими.
4. Модернизация налоговой базы
В этом пункте "OpenAI" предупреждает о фундаментальных изменениях в структуре экономики, к которым нынешняя налоговая система совершенно не подготовлена.
Компания призывает перераспределить налоговую нагрузку в сторону капитала. При этом конкретные меры упоминаются вскользь - вроде повышения ставки на доход от переоценки капитала, на прибыль или целевых налогов на автоматизацию. Для более подробной дискуссии о преимуществах и недостатках тех или иных налогов я отсылаю читателя к "Массовой автоматизации: пошаговому руководству".
При этом мне хотелось бы поспорить с одной из мер, предлагаемой "OpenAI". "Cтимулы, привязанные к оплате труда, призванные удерживать, переобучать и инвестировать в работников фирмы". К переобучению и инвестированию в работников у меня претензий нет - напротив, в условиях быстрых экономических изменений такие действия абсолютно необходимы. А вот "удержание"...
Проблема в том, что этот подход предлагает субсидировать неэффективный фактор производства. Хуже того, фактор производства, сопряженный с большими потерями времени для людей: эти 40 часов в неделю они могли бы посвятить гораздо более приятным занятиям. То есть эта субсидия бессмысленна как экономически (нет роста выпуска), так и морально (труд ради труда, "Arbeit macht frei"). Стратегически, вместо подготовки системы вэлфэра к пост-трудовому обществу, такая субсидия пытается цепляться за технологически устаревшее прошлое. Вряд ли есть смысл упорствовать и стараться "провернуть фарш назад".
5. Фонд общественного благосостояния
"Создайте Фонд общественного благосостояния, который позволит каждому гражданину - включая тех, кто не инвестировал в финансовые рынки - участвовать в экономическом росте, создаваемым ИИ".
Фонд общественного благосостояния - это национальный фонд, в котором аккумулируются акции компаний и другие активы. Доход от этих активов распределяется поровну между всеми гражданами страны. Если размер этого фонда достаточно велик - он позволяет очень элегантно решить проблему распределения доходов в ИИ-экономике. По сути, каждый гражданин автоматически причисляется к "классу мелких собственников" и получает свою долю от работы корпораций.
Но когда я обсуждал этот механизм в "Массовой автоматизации...", я указывал на главный камень преткновения в создании такого фонда. Что-то вроде "первородного греха"...
...А именно, что для создания этого фонда требуется каким-то образом отобрать у нынешних собственников огромные объемы принадлежащих им активов. Исторически, если такие крупные перераспределения собственности и случались - они сопровождались большими социальными потрясениями.
Но в данном случае инициатива "OpenAI", на первый взгляд, выглядит идеальным решением. Ключевой производительной силой, концентрирующей в своих руках львиную часть экономических доходов, в новой экономике будет ИИ. И если его владельцы, ИИ-компании, искренне верят в социалистические идеалы - то флаг им в руки! Добровольно перечислив акции в Фонд общественного благосостояния, они уже покроют значительную часть активов, требующихся для его эффективной работы.
Конечно, у некоторых возникнут основания сомневаться в искренности опубликованных предложений. В том, что Сэм Альтман - бессребренник и социалист. И в том, что перед нами не еще одна пустая декларация "мы за всё хорошее и против всего плохого".
В частности, Сэм Альтман совсем недавно провернул превращение "OpenAI" из некоммерческой организации в коммерческую. И в капитале этой организации "OpenAI Foundation" вместе с сотрудниками компании имеют только 45%. Остальное принадлежит "Майкрософт", "Софтбанк" и другим корпоративным монстрам, которых трудно причислить к пламенным социалистам.
Поэтому вопрос, начнется ли условная "революция" сверху, пока остаётся открытым.
6. Ускорение расширения энергосетей
"Создайте новые модели государственно-частного партнерства для финансирования и ускорения расширения энергетической инфраструктуры, необходимой для обеспечения ИИ энергией."
С этим пунктом всё понятно: ИИ требуется электроэнергия. Много электроэнергии. А эта отрасль всегда была под плотной опекой государства. "OpenAI" призывает субсидировать стоимость строительства генерирующих мощностей и облегчить строительство межрегиональных ЛЭП - неявный намек в сторону Китая, имеющего весомое преимущество в этих областях.
7. Дивиденд от эффективности
"Превращайте рост эффективности от ИИ в долговременное улучшение льгот для работников, когда снижается рутинная рабочая нагрузка и снижаются эксплуатационные расходы".
Здесь "OpenAI" предлагает стимулировать повышенные пенсионные отчисления, увеличенное покрытие медицинского страхования, оплату ухода за детьми и престарелыми, переход на 4-дневную рабочую неделю с сохранением зарплаты и т.п.
Главным образом эти меры требуют государственной инициативы и обязательного характера применения. В "частном порядке" капитализм такую благотворительность не одобрит.
8. Адаптивные системы социальной защиты, работающие для каждого
"OpenAI" призывает устранить барьеры для получения уже имеющихся механизмов социальной поддержки. Затем разработать метрики для отслеживания ситуации с занятостью в разных отраслях и регионах. Заранее - не дожидаясь апокалипсиса на рынке труда - необходимо определить дополнительные меры поддержки, вроде увеличенного пособия по безработице, денежных выплат, страхования от потери зарплаты и ваучеров на образовательные курсы. Затем - как только метрики скажут "началось!" - эти расширенные меры должны приниматься автоматически.
Автоматический характер ввода дополнительных мер - прекрасная идея. Предложена она потому, что в США подобные меры социальной поддержки обычно становятся объектом политических игр в парламенте, с труднопредсказуемыми исходами. Но людям нужна быстрая помощь, а не политические шоу.
Помимо этого, "тонкая настройка" мер по конкретным отраслям и регионам позволяет уменьшить фискальные риски.
9. Портативные пособия
Это предложение, специфичное для США, где некоторые социальные меры поддержки привязаны к работодателю. Из более универсальных тезисов можно отметить предоставление всех ключевых мер поддержки вне зависимости от статуса занятости их получателя. Например, то же пенсионное обеспечение.
10. Пути к работе, фокусирующейся на людях
"Расширяйте возможности в сфере ухода и взаимодействия — уход за детьми, престарелыми, образование, здравоохранение и общественные услуги — для работников, вытесненных ИИ".
Упомянутые сферы часто преподносятся как требующие "человечности" и потому относительно защищенные от натиска автоматизации. Зерно истины в этом есть. Хотя, на мой взгляд, речь именно об относительной, среднесрочной устойчивости, а не об абсолютной "броне".
Однако мне хотелось бы предостеречь от "романтизации" труда в этих сферах, от представлений, что такая работа якобы является очень приятной и воодушевляющей. Напротив, этот труд во многих случаях очень тяжел и непригляден по сравнению с каким-нибудь перекладыванием бумажек в офисе. Честно говоря, при наличии технологической возможности его хотелось бы автоматизировать в первую очередь.
В этом плане попытка стимулировать занятость в этих сферах выглядит неоднозначно. Мне кажется, здесь уместно исходить из рыночных принципов: в каком объеме здесь будет спрос на человеческую занятость - в таком объеме он пускай и удовлятворяется. Заталкивать туда людей по принципу "работа ради работы", как мы уже говорили выше, неуместно.
При этом "OpenAI" предлагает ввести особый вид пособий по уходу за членами семьи, рассматривая это как экономически ценную деятельность. Очень разумное предложение.
11. Ускоряйте научные открытия и масштабируйте выгоды
Вряд ли кто-то решится оспаривать важность науки. Нюанс в том, что под ускорением науки "OpenAI" подразумевает строительство масштабной сети лабораторий, в котором поиском научного знания будут заниматься ИИ. Впрочем, компания подчеркивает и важность более традиционных инвестиций в научную инфраструктуру, которая будет валидировать гипотезы и открытия, предлагаемые ИИ-учеными.
На этом социально-экономический блок "Отраслевой политики" завершается. Мне бы также хотелось обсудить несколько пунктов из следующего раздела документа. Они вращаются вокруг вопроса, кто и как именно будет управлять новой могучей технологией.
Корпоративное управление, ориентированное на миссию
"Передовые ИИ-компании должны внедрять структуры управления, которые включают подотчетность общественным интересам при принятии решений, такие, как корпорации общественного блага ("Public Benefit Corporations") с управлением, ориентированным на миссию".
Если ИИ способен настолько сильно влиять на все сферы жизни общества, разумно, чтобы его развитие было согласовано с интересами этого общества. "OpenAI" предлагает, что для этого будет достаточно, если разработчик ИИ юридически будет являться корпорацией общественного блага. По счастливому совпадению, именно такой корпорацией является сама "OpenAI".
Но достаточно ли будет этой меры? Глядя на динамику развития бизнеса "OpenAI", на то, какими интересами она сейчас предпочитает руководствоваться - общественными или же рыночной логикой - сложно представить, что эта юридическая форма будет гарантировать справедливость и баланс всех сторон. Искушения капитализма очень, очень велики. Он подчинял своим интересам и гораздо более сильные институты.
И поскольку важность технологии не подлежит сомнению, если она затрагивает каждого, возникает вопрос, почему мы вообще должны отдавать бразды правления в частные руки? Почему это не res publica - "вещь общественная", которая должна управляться общественными институтами? Разве общественное управление не обеспечит лучшего следования интересам публики, важность которого подчеркивает сама "OpenAI"?
Обеспечит. И это означает, что нам нужны совсем иные механизмы принятия решений в отношении ИИ, нежели традиционный корпоративный менеджмент. Но это тема уже для следующего пункта.
Механизмы для общественного участия
"Создайте структурированные способы взаимодействия с публикой, чтобы согласование управляли не только инженеры или руководители за закрытыми дверями. [...] Сделайте cогласование более демократичным..."
Более конкретные предложения из этого пункта касаются открытости и прозрачности ИИ-технологий, а также их разработки. Предполагается, что правительство лишь разработает некоторые стандарты, общего характера ("за всё хорошее и против всего плохого"), на которые будут ориентироваться разработчики. Как именно будет учитываться "воля народа" в процессе разработки - пока непонятно.
Требование открытости уже серьезно подрывает господствующие рыночные принципы высокотехнологичного бизнеса. Его сила - в монополии на алгоритмы, ноу-хау и данные. Ну а управление путём демократического волеизъявления - вообще вещь, неслыханная в корпоративном управлении. Всё это вновь ставит вопрос о том, кто именно должен возглавить разработку ИИ.
Отдельная проблема - в том, что почти все стали воспринимать развитие технологии как гонку. В том числе гонку геополитическую, с Китаем. И там, где появляется геополитика и психология игры с нулевой суммой ("либо мы - либо они"), демократические благоглупости всегда отодвигаются на третий план. Гонка требует концентрации усилий и концентрации ресурсов. А не учета огромного разнообразия мнений.
Чего-то не хватает
И в заключение - о том, о чем в "Отраслевой политике" не написано ни слова. Дыра непозволительных масштабов.
Документ же призывает "сохранять людей в приоритете"? Не доход акционеров и не победу над тоталитарным Китаем? Документ же обещает нам приход искусственного сверхинтеллекта?
Так почему он ничего не упоминает про базовый безусловный доход?
Простите, но "демократические процессы" не сделают людей сытыми. Если один из главных тезисов программы - "Широко распространить благосостояние", то базовый безусловный доход должен быть центральным, неотъемлемым ее элементом.
Впрочем, мы примерно знаем ответ на вопрос "почему". Потому что нынешняя президентская администрация не одобряет (и даже ненавидит) эти "левацкие" идеи. Потому что их еще меньше одобряют акционеры. И в целом весь современный класс мультимиллионеров, заправляющих сейчас государственной политикой.
Будущее "OpenAI" по-прежнему очень зависит от этой прослойки людей.
Поэтому компания пытается рисовать картину светлого ИИ-будущего, которая не слишком покоробит их предпочтения. Которая придаёт ИИ-революции определенный гламур: мол, грядет гигантская трансформация, но как бы всё останется почти по-старому.
Так что пока впечатления об "Отраслевой политики" остаются смешанными. Что-то вроде публикации в модном глянцевом журнале: гладко, правильными словами и с вкраплениями нативной рекламы туши для ресниц.
Надо отдать должное Дарио Амодеи. Он хотя бы пишет свои тексты для людей. А не для корпоративных спонсоров...
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Жалоба