15 ноября 2018 Живой журнал
10. Критерий Китано
Если вы думаете, что суть критерия Нильссона в полной мере отражает масштаб изменений, которые ИИ вызовет в социуме — то вы явно недооцениваете машины. Ибо это была только разминка. Давайте теперь обратимся к финальному критерию этого обзора, который выдвигает Хироаки Китано.
До сих пор мы говорили о вызовах для ИИ человеческого уровня, или даже ниже способностей взрослого человека («когнитивное десятиборье», «детский сад для общего ИИ»). Однако, постепенно расширяя рамки способностей умных машин, должны ли мы остановиться на том пределе, который никогда не преодолеть человеческому разуму? Ведь для машин этого предела принципиально не существует.
Конечно, машинам следует перешагнуть этот предел, уверен Китано. Критерий, который он предлагает, требует от машины сверхчеловеческих способностей. Такой уровень принято называть искусственным сверхинтеллектом (ИСИ). Итак, вызов для ИСИ состоит в следующем: сделать крупное научное открытие, достойное Нобелевской премии, и даже еще более прорывное.
Китано, чей академический бэкграунд помимо информатики с кибернетикой включает и системную биологию, формулирует вызов в контексте биомедицинских наук. Однако я не вижу никаких препятствий для того, чтобы распространить его идею и на другие направления научного знания. Предпосылки и аргументация, которыми он обосновывает своё предложение, являются вполне универсальными.
Ученый называет свою идею «Великим вызовом» для машин, и это обозначение, как и сама тема ИИ в науке, перекликается с тестом Фейгенбаума. Несмотря на сходство темы, разница в требованиях к машине весьма велика. Для прохождения теста Фейгенбаума ИИ должен просто демонстрировать прекрасное знание выбранной темы. Учитывая превосходство машины в «количественных» характеристиках интеллекта, владение знанием нельзя назвать чем-то экстраординарным. Но Китано нужно, чтобы машина не только пользовалась имеющимся знанием, но и сама активно его создавала, причем ценность этого созданного знания должна превосходить то, что создаётся людьми-учеными.
Возможно, пока масштабность такого достижения кажется не очень очевидной. Но я постараюсь показать, насколько грандиозные и фундаментальные изменения, затрагивающие самые основы нашего существования, оно принесет. Ведь дело совсем не в «Нобелевке», не в академическом престиже премии и не в пиар-эффекте того или иного присуждения на широкую публику...
...Дело в том, как развивалась наша цивилизация за тысячи и десятки тысяч лет до рождения Альфреда Нобеля. И как она продолжит развиваться в будущем. Тысячелетие за тысячелетием, главным двигателем нашего развития был рост накопленного знания и применение его в реальном мире. Мы получали это знание разными способами, теми, которые были доступными нам в соответствующий момент времени. Вплоть до недавнего времени все эти способы были жутко неэффективны, и прогресс цивилизации был очень и очень медленным.
Примерно пять веков назад нам удалось найти новый способ познания мира, который кардинально превосходил всё остальное по эффективности. Речь идёт о науке. Этот способ стал привлекать всё больше сторонников, завоевал широкое признание и продолжил развиваться в сторону еще более эффективного накопления знаний. Параллельно феноменальный рост показала и цивилизация — за последние пять веков человеку удалось сделать больше, чем за предшествующие 5 миллионов лет.
Благодаря науке мы обладаем гораздо более систематизированным и полным знанием о том, что нас окружает, и о будущих трендах. В том числе о состоянии дел в области самой науки. И вот здесь будущее выглядит далеко не таким безоблачным, каким оно казалось в эпоху Просвещения Рене Декарту и другим рационалистам.
Современный научный способ познания далеко не совершенен и имеет свои пределы. Один из самых важных пределов нынешних научных методов — это как раз предел способностей человеческого разума. Можно сказать, что у сегодняшних методов есть вполне четкие «хардварные» ограничения. И постепенно эти ограничения всё больше становятся «бутылочным горлышком», ограничивающим прогресс в науке.
Хироаки Китано описывает ряд таких ограничений с позиции биомедицинских наук. Первое и, пожалуй, самое серьезное — проблема информационного горизонта. Возможно, вы знакомы с понятием космологического горизонта в астрофизике. Из-за расширения Вселенной и конечности скорости света определенная часть Вселенной оказывается для нас принципиально ненаблюдаемой и недостижимой.
Взглянув на науку, мы увидим, что она тоже «расширяется». Сейчас по одному только биомедицинскому направлению в год публикуется более 1 миллиона научных работ. И это число постоянно возрастает. В свою очередь, скорость усвоения этой информации человеком-исследователем конечна и крайне мала по сравнению с этим огромным потоком.
Накопленный объем статей по биомедицинским наукам
Научные публикации — это еще не самая большая информационная проблема. Постоянно выпускаемые наборы экспериментальных данных превосходят их по размеру на порядки. Опять же, сегодня, в эпоху «больших данных», их объемы увеличиваются взрывным образом. В итоге у ученого нет абсолютно никаких возможностей ознакомиться со всем новым знанием. Он имеет крайне узкий «информационный горизонт», который не дает возможности увидеть всей научной картины целиком.
Стоит ли говорить, что подобный узкий, фрагментарный взгляд очень сильно сказывается на эффективности научного познания? Ученые пытаются хоть как-то ответить на эту проблему путем специализации. Но специализация не способна расширить информационный горизонт, она лишь пытается выжать максимум из имеющихся рамок.
Второе ограничение Китано называет «информационным разрывом». Суть в том, что научные работы пишутся на людьми на естественном языке. А наш язык и образ мыслей не являются идеальными инструментами для передачи знаний, они изначально выполняют слишком много различных функций. В итоге в научные публикации проникают неопределенность и неточность, а также может отсутствовать важная информация.
Схожие проблемы мы видим и на другом конце коммуникационной цепочки. Наше понимание научных результатов зависит от субъективной интерпретации, опирающейся главным образом на наши персональные знания или представления этих знаний, зачастую тоже далеко не точные. Всё это ведёт к искажению знания, его деградации.
Здесь же будет уместно упомянуть о когнитивных искажениях — иррациональных особенностях человеческого мышления. Избежать их проникновения в научные результаты практически невозможно.
Еще одна проблема, которую описывает Китано, может показаться специфической для медицины. Речь идет о неточности описания фенотипа конкретного организма. Это требует категоризации и использования устоявшихся представлений для обозначения, скажем, заболеваний, эффектов генетических мутаций, дефектов в развитии и т. п. Сейчас такое описание — очень субъективный процесс, а категории и признаки, которыми пользуются специалисты, довольно примитивны, поскольку должны быть понятны всему сообществу.
Такая низкая точность, размытость и субъективность — следствие того, что биология имеет дело с очень сложными системами. Человеческий разум просто не в состоянии вместить всю полноту информации, которой описывается живой организм. И, тем не менее, в случае медицины специалист должен поставить конкретный диагноз и определить конкретное лечение. Разумеется, чем более полной и точной картиной мы будем обладать, тем более эффективным будет лечение.
Схема, показывающая проблемы примитивной категоризации
Китано называет эту задачу «экстремальной классификацией». Организм — это система со сложной иерархией структуры, огромной размерностью и богатым набором состояний для каждого измерения. Под эти определения попадают далеко не только биологические организмы — многие отрасли науки также изучают сложные системы, сталкиваясь с теми же человеческими когнитивными ограничениями. На самом деле вопрос стоит очень широко: либо у нас появятся инструменты для работы с таким сложным знанием, либо это знание останется для нас попросту недоступным. А если знание недоступно — не будет и прогресса.
Наконец, сюда же относится проблема «особого мнения». Среди потока научных публикаций встречаются те, которые противоречат мейнстримным выводам. Сейчас господствующая точка зрения на тот или иной вопрос, т. е. академический консенсус, определяется условным большинством результатов и мнений. То, что ему не соответствует, в основном игнорируется. Однако противоречащий результат тоже может быть корректным — а вот академический консенсус слишком упрощен по сравнению со сложностью исследуемой системы. Чтобы обогатить картину мира такими «альтернативными» находками, опять требуется система, умеющая обрабатывать очень сложные представления.
Но все вышеперечисленные недостатки меркнут по сравнению с тем, как устроен сам базовый процесс поиска нового знания в человеческой науке. Как появляются на свет прорывные гипотезы? Интуиция, разводят руками опрошенные коллеги Китано. Озарение. Счастливая случайность. Другими словами, фундамент научной деятельности не имеет никакой системы, не имеет рациональной организации, хаотичен и, скорее всего, малоэффективен.
Я думаю, описания предыдущих проблем было достаточно, чтобы понять: человеческие интуиция и озарение — не самые надежные союзники в борьбе за знания. Есть хорошая поговорка: «искать там, где светло, а не там, где потеряли». Она удачно описывает, куда интуиция заводит научный поиск в подавляющем большинстве случаев.
Мы построили величественное и стройное здание науки, мы создали немало надежных приемов проверки и обработки знаний. Но стройка шла и продолжает идти «по кирпичику», каждый из которых был случайно найден в окрестностях любознательными учеными. Производить «кирпичики» целенаправленно люди-ученые не умеют и никогда не научатся. Китано называет такое состояние дел «кустарщиной». Нам неизвестно, где и как искать новое знание. Мы вынуждены полагаться на удачу и веру в свои силы.
Либо мы можем ответить на «хардварные» ограничения человеческого разума «апгрейдом» в виде искусственного сверхинтеллекта. Его создание — сверхсложная задача, но, по-видимому, других путей к прогрессу у нас не остаётся. Китано в общих чертах описывает масштаб трудностей. Во-первых, ИСИ должен располагать полным массивом ранее созданного научного знания. Причем это знание должно быть представлено не в виде написанных человеческим языком статей, а в формализованном, «чистом» виде.
Во-вторых ИСИ должен быть способен с высокой скоростью генерировать гипотезы и способы их проверки. Автор предполагает, что скорость создания и, соответственно, количество гипотез должны компенсировать отсутствие научной интуиции у ИСИ. То есть делает ставку на подход «brute-force». Мне же не очень нравится эта идея. Во-первых, компенсировать интуицию должно подавляющее превосходство машины в широте и глубине обработки данных. Возросшие возможности ИСИ должны рационализировать поиск идей — заменив случайность логикой, а «кустарщину» - системным целеполаганием.
Второй контраргумент возникает, когда мы переходим к шагу проверки гипотез. ИСИ должен иметь гибкую и универсальную, полностью автоматизированную систему проведения экспериментов. Но проведение эксперимента всегда сопряжено с затратами тех или иных ресурсов. Полагать, что мы располагаем бесконечными ресурсами — утопия. Даже если игнорировать экономическую сторону вопроса, у нас есть абсолютный фактор: время. Таким образом, подход «brute-force» далеко не оптимален. Тем более принимая во внимание гигантскую сложность массива научных знаний.
Далее ИСИ интерпретирует результаты экспериментов и по итогам обновляет базу знаний. Цикл можно начинать заново. На каждом из шагов ИСИ потребуется целый ряд способностей, далеко превосходящих человеческие. Можно назвать такие, как интеграция больших объёмов разносторонних данных, критический анализ массива знаний, результативная работа в условиях неполноты информации, универсальная обучаемость и многое другое.
...Когда-то вопрос о том, может ли машина мыслить, звучал очень дерзко. Сейчас нам понятно, что машина должна будет мыслить намного глубже и быстрее человека, если мы не хотим останавливаться в развитии. Нам нужна умная машина. Машина, специально созданная ради знания и для работы со знанием и потому предельно эффективная. Только она сможет убрать все барьеры на пути знания, которые связаны с ограниченностью человеческого разума.
В истории человечества было две беспрецедентных по масштабу революции. Первая — неолитическая. До нее homo sapiens был лишь одним из множества объектов большого и очень сложного явления под названием жизнь. Неолит сделал его из объекта субъектом, творцом, целенаправленно преодолевающим ресурсные ограничения имеющихся экосистем.
Вторая революция — промышленная. Во многом она была как раз детищем научного способа познания мира. Промышленная революция ознаменовала появление машин, которые преодолевали физические ограничения тела человека (и одомашненных животных).
[img]https://i1.wp.com/www.processingmagazine.com/wp-content/uploads/2016/09/Industrial-Revolution-4.jpg?fit=1131%2C326&ssl=1[/img]
Выполнение критерия Китано будет означать победу третьей революции такого же масштаба. Последней для человечества, но, возможно, не последней для нашей цивилизационной ветви. Машины преодолеют ограниченность человеческого разума. И возьмут на себя функцию дальнейшего развития цивилизации. Ведь развитие определяется накоплением всё более совершенного знания, а для более совершенного знания нужны гораздо более совершенные архитектуры, чем может предложить явление под названием жизнь.
7 миллионов лет мы, человекообразные обезьяны, были на переднем крае прогресса. Но наш отрезок дистанции подходит к концу. Мы уже вышли на финишную прямую. Совсем скоро мы передадим «эстафетную палочку» искусственному сверхинтеллекту. ИСИ сам станет субъектом прогресса. Наша же роль в прогрессе будет исчерпана.
Эту революцию многие называют технологической сингулярностью. Хотя процесс «передачи палочки» займёт некоторое время, и сингулярность случится не сразу. Возвращаясь к Нобелевской премии, на фоне настолько грандиозных событий особенности ее организации могут вызвать лишь улыбку. Учитывая неспешность, с которой раздают премии нобелевские комитеты, есть риск, что совершивший прорывное открытие ИСИ так и не успеет получить заслуженную награду до наступления сингулярности. Да и сама оценка достижений ИСИ людьми выглядит немного наивно — слишком велик разрыв в уровне познаний автора открытия и членов комитета...
Впрочем, действительно ли всё это стоит внимания? Будущая революция и технологическая сингулярность сметут и наивные схемы, и научные премии как таковые, да что там — едва ли не каждую из существующих ныне социальных конструкций, которые мы, человекообразные обезьяны, строили 7 миллионов лет. Останется ли что-то и каким будет постреволюционный мир — нам знать не дано. Этот мир находится за пределами нашего узкого горизонта событий.
Но в одном можно быть точно уверенным. У нас больше не будет поводов говорить о рамках способностей машин. Эти рамки взрывным образом раздвинутся настолько широко, что просто пропадут из вида.
И наш момент технологической сингулярности станет моментом Большого Взрыва для ИИ.
/ (C) Источник
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Отправить жалобу