28 декабря 2023 giovanni1313
9. Вместо заключения
В любом хобби главное — не увлекаться чрезмерно. Особенно когда хобби связано с экстраполяцией. Поскольку в этом цикле мы очень прилично налегали на экстраполирование прошлых трендов, может возникнуть вопрос: чем наши умопостроения лучше, чем экстраполяция из этого xkcd-комикса?
Шутки шутками, но, по большому счету, разница количественная, а не качественная. Экстраполяция по двум точкам — это логический предел, дальше упрощать уже некуда. Статистика говорит нам, что достоверность нашей модели зависит от количества наблюдений. Чем больше точек данных — тем точнее моделирование. Кроме того, эмпирический опыт показывает, что экстраполяция трендов даёт наилучшие результаты на временных отрезках, сопоставимых c длиной ретроспективы, либо немного меньше её.
В нашем случае мы постарались опираться на исследования с максимально широкими наборами данных и с достаточно глубокой исторической ретроспективой. Есть расхожая фраза, что для машинного обучения 2 года являются целой вечностью — настолько быстро развивается эта область знаний. Но некоторые из наших трендов имеют почтенный возраст: закону Мура больше полувека, а ускорение роста экономики вообще берет начало с доисторических времен.
Увы, не для всех экспонент такие данные существуют, и не везде просто подсчитать растущие показатели. Это касается, в частности, экспонент №№4, 6 и 7. Но даже в этих случаях речь скорее идёт о меньшей точности оценок их скорости, чем об отсутствии роста по тренду.
Еще один важный момент состоит в том, что мы не просто упражнялись в арифметике. Памятуя о том, что расти по экспоненте всегда трудно, мы постарались найти в будущем возможные препятствия и ограничения для такого роста. И их оказалось немало. Каждая такая проблема потенциально может остановить натолкнувшуюся на нее экспоненту. Речь, например, об очень скором исчерпании данных для обучения в экспоненте №2 или невозможность постоянно наращивать число ученых в области ИИ для экспоненты №5. Совсем мрачные перспективы у экспоненты №3 — закона Мура.
Отдельного упоминания заслуживают возможные проблемы в коммерциализации ИИ. Мало того, что ему придётся неявно конкурировать с человеческими способностями. Что само по себе является высокой планкой, преодоление которой необходимо для дальнейшего масштабирования ресурсов ИИ-индустрии. Но возможны и сценарии, в котором общество — популисты, нео-луддиты, интеллигенция, лишаемая рабочих мест — будет вставлять палки в колеса ИИ-революции, ограничивая и запрещая использование этой технологии.
Экспоненты тесно увязаны между собой, замыкаясь друг на друга и требуя согласованного роста. Следовательно, остановка в одной из экспонент автоматически влечет за собой торможение других. Это умножает риски для развития ИИ. Это сложная технология, и развивать ее тоже сложно. Не в последнюю очередь потому, что она оказывается зависимой от большого списка условий. Как технологического, так и экономического характера, причем в экономике эти условия будут касаться всех без исключения сфер.
Но и траектория самой экономики тоже зависит от развития ИИ. Поэтому мотивация идти всё дальше и дальше по этим экспонентам, безусловно, имеется. Имеется мотивация преодолевать эти ограничения. Некоторые способы, некоторые «обходные пути» для наиболее острых проблем мы тоже осветили в нашем обзоре.
Сработают ли эти способы? Это трудно предугадать заранее. Рост по экспоненте в прошлом не гарантирует гладкого пути в будущем. Мы указали направление развития — но когда именно мы дойдём до намеченных точек, остается открытым вопросом. Это я экстраполировать не возьмусь. Скажу лишь, что при благоприятном сценарии 2030-е обещают быть очень интересными.
Осталось лишь понять, насколько вероятен этот благоприятный сценарий. Как это сделать? Нравится это кому-то или нет, но из всех инструментов прогнозирования, придуманных по сей день человечеством, экстраполяция трендов является самым надежным. Если чрезмерно ей не увлекаться.
Поэтому ответ звучит так: да, этот сценарий является наиболее вероятным.
Возможен ли сценарий очередной ИИ-зимы на 40 лет? Да, возможен. Но нынешняя траектория развития ИИ делает его менее вероятным. Возможен ли сценарий, в котором внезапно появляется искусственный сверхинтеллект и начинает превращать планету в канцелярские скрепки? Да, возможен. Но нынешняя траектория развития ИИ тоже делает его менее вероятным.
В области максимизации скрепок пальма первенства до сих пор остаётся у Microsoft Office 97. Скорее всего, он так и останется непревзойденным
У нас есть основания полагать, что эта траектория имеет определенную инерцию. У нас есть понимание экономической мотивации, стоящей за развитием ИИ. Более того, по мере коммерческого созревания — продуктизации — ИИ эта экономическая мотивация будет усиливаться, создавая положительную обратную связь и закрепляя эту траекторию еще сильнее.
Да, пускай рост по экспоненте — сложная штука. Но пересилить эту инерцию, пересилить экономическую мотивацию крупного капитала, видимо, будет еще сложнее. Это увеличивает шанс на реализацию нашего основного сценария.
Нам надо ухватиться за этот шанс. Сценарий не обещает рая на земле — напротив, подрывные изменения в структуре экономики сулят очень непростую перестройку общественных отношений. Но это единственный реалистичный сценарий, который позволяет резко увеличить благосостояние людей и доступную им технологическую мощь.
Это не утопический сценарий. Утопии статичны. Здесь же мы столкнемся с радикальным, как минимум на порядок, ускорением изменений во всех сферах нашей жизни. Постоянных, нескончаемых изменений. Изменений, которые на заре возникновения вида homo sapiens происходили раз в сто тысяч лет. Изменений, которые в античном мире происходили каждый год. Изменений, которые сейчас происходят каждый день.
Возможно, мы попросту не сможем избежать дальнейшего ускорения. Возможно, всё это закономерно. Возможно, сингулярность близко.
И возможно, Рэй Курцвейл был прав. Время покажет. Пока же нам остаётся внимательно наблюдать за ростом по ИИ-экспонентам. И быть готовым к тому, что в будущем нас ждёт множество сюрпризов.
(C) Источник
Не является индивидуальной инвестиционной рекомендацией
При копировании ссылка обязательна Нашли ошибку: выделить и нажать Ctrl+Enter