9-11 сентября в Москве пройдет Форум социальных инноваций, среди гостей которого будет европейский футуролог Герд Леонгард, автор книги "Технологии против человека". О том, какое будущее ждет человека в эпоху господства цифровых платформ, почему он выступает против трансгуманизма и как общество должно регулировать технологии, Леонгард рассказал в интервью Finam.ru.
- В этом году исполняется пять лет с того дня как вы написали письмо в адрес крупных платформ, таких как Facebook и Google, предупредив их о том, что они должны занять более этическую позицию. Что изменилось с тех пор?
- Конечно, с тех пор платформы стали быстрее и мощнее. И некоторые из них стали понимать, что если они зайдут слишком далеко в своей политике, которую я называю "слишком много хорошего", то потеряют доверие пользователей. И они стали более внимательно смотреть на такие вещи как предвзятость в работе с искусственным интеллектом или нарушение работы с данными пользователей.
Много улучшений произошло в компаниях Microsoft, Apple, в определенной степени Google. И многие компании сегодня говорят, что будут уделять внимание цифровой этике, понимая, что иначе люди перестанут им доверять.
Да, мы находимся в самом начале пути, осознавая силу технологий, таких как искусственный интеллект. Если посмотреть на шкалу с делениями до 100, то мы находимся где-то на 3-4 делении. Я уверен, что компании по собственной инициативе будут более осмотрительны, и мы будем видеть больше сотрудничества государства и бизнеса в этой сфере.
Что же касается Facebook, то ее усилия на этот счет выглядят провальными. Он создает собственный виртуальный мир и хочет, чтобы мы в нем жили и работали. Facebook собирает данные всех ваших посещений страниц, где есть кнопка "лайк. Он знает всех ваших друзей и может создать о вас профиль даже более глубокий, чем налоговая служба. Это очень глубокое исследование, которое может быть использовано в самых разных целях, в том числе коррупционных и манипулятивных. Все эти профили при этом могут быть неправильными, так как вы могли пошутить, но это может привести к последствиям. Я, например, думаю, что нельзя рассматривать все фотографии на моем IPhone, чтобы понять, например, принадлежу ли я к протестному движению.
- С одной стороны, правительство защищает нас от всевластия технологий, с другой - использует возможности технологий, чтобы вмешиваться в нашу жизнь. Станет ли это вмешательство неотъемлемой частью нашего будущего?
- Плохие правительства всегда будут использовать технологии для плохих целей. Это касается и таких стран, как КНДР, и стран, как Бразилия, где у власти находятся правые популисты.
Поэтому я всегда говорю о создании такого Совета по цифровой этике, который обсуждал бы, что может быть применено, а что нет, как это происходит в ядерной сфере. Ведь подобные технологии становятся такими же мощными, как технологии в ядерной энергетике. Если сегодня вы видите, что Facebook манипулирует с данными, то через десять дней он будет владеть вашей жизнью и манипулировать вами как щенком. То, что мы наблюдаем сегодня - это детский сад по сравнению с тем, что мы увидим через 10 лет. Сейчас, когда перед нами встают проблемы безопасности, правительства по всему миру должны определиться с набором базовых прав.
- Могут ли проблемы людей и технологий обостриться в постпандемийную эпоху?
- C одной стороны COVID приучил нас к быстрой адаптации к технологиям, и мы сегодня используем технологии практически для любых целей. Даже люди, которым по 70 лет, сегодня работают с технологиями. Но во время кризиса Сovid-19, люди хотят быть уверены в том, кому они могут доверять и понимать, что тех, кому они доверяют, волнуют не только деньги.
Кроме того, ковид стал большим напоминанием, что мы не машины, а люди. Технологии стали играть более важную роль, и мы должны быть убеждены, что они работают в наших интересах. Так, например, IBM прекратила предлагать распознавание по лицу как часть своих решений, потому что такая технология, например, использовалась для преследования уйгуров в Китае. Поэтому вопрос цифровой этики становится важным для общества.
- Сейчас люди начинают уезжать из больших городов, работая удаленно. Будут ли люди создавать умные дома или наоборот стремиться к простоте ?
- Здесь все очень фрагментарно. Я сам, когда уезжаю на каникулы, не беру с собой смартфон, я беру с собой простенький телефон, потому, что я хочу защитить себя от слишком большого количества сообщений.
Но, если говорить начистоту, от всевластия технологий спастись невозможно. Конечно, это возможно, если вы очень богаты или живете в очень отдаленном уголке мира, и при этом богаты. Так что для 95% людей технология будет частью жизни, и поэтому мы должны найти хороший баланс. Люди могут быть детьми в сравнении с технологиями, а детям нужна защита, так как они не в силах принять решение.
Все это только начало: подождите, когда вас на работу заставят носить шлем виртуальной реальности, мотивируя это тем, что вы так лучше работаете. Поэтому нам придется создавать такие правила, которые бы это запрещали. Таким образом, мы должны будем защищать человечество, даже если это будет менее эффективно для бизнеса.
- Я нашел в одном из ваших интервью фразу, что через 10 лет машины будут делать немыслимые вещи, о которых мы не можем и подумать, если мы не прочертим линий.
- Ну, это как c ядерным оружием. Пока его не существовало, не было правил, потом у стран появилось ядерное оружие, и начали появляться правила. После того, как у нас появились правила, у нас исчез риск ядерного столкновения. Поэтому мы должны договорится об использовании технологий в экстремальных условиях.
У нас было соглашение по ядерному оружию, теперь у нас должно быть соглашение по искусственному интеллекту. Те же, кто не хочет стать частью этого соглашения, должны остаться за бортом. То есть можно сделать машину, которая ныряет и плавает, но нельзя сделать машину, которая притворяется человеком.
Но здесь нужен умный подход: слишком много правил разрушает бизнес, но отсутствие правил разрушит человечество. Я думаю, что мы придем к идее глобального руководства, которое будет решать все эти экзистенциальные проблемы.
- Технология роботизации очень помогает людям, но не будет ли в будущем такого, что люди, как луддиты в Великобритании, восстанут против машин?
- Да, это возможно, но, скорее, будет другое. Возможно, возникнут группы экологических террористов, которые будут бороться против компаний, загрязняющих воздух или взрывать нефтепроводы. Что же касается непосредственной войны с технологиями, то я не очень уверен, ведь технология - это дар для многих из нас. Это как наркотик. И мы не видим, что люди убивают наркодиллеров. Это происходит, но редко. Технологии - это наркотик. Это стало религией, многие верят в технологии. Но если же люди поймут, что платформы причиняют им вред, то произойдет мгновенный отток пользователей.
Взять к примеру, Facebook, люди его уже покидают, пусть и не в таких количествах. Я сам покинул Facebook в знак протеста. Я не только прекратил общаться с ними, как участник их конференций, но и как пользователь. Потому что Facebook - это машина искусственного интеллекта, занимающаяся собором данных. Четыре года назад я покинул Facebook именно из-за этого.
- Вы довольно жёстко выступали в отношении трансгуманизма (использование технологий для улучшения человека. - Finam.ru) Что больше всего вас отталкивает в этих идеях?
- Я думаю, что в ближайшие годы нас ждет конфликт между гуманистами и трансгуманистами. Пока то, что хотят трансгуманисты, невыполнимо, но, вероятно, будет возможно лет через 20.
Философия трансгуманизма в том, что, когда мы станем сверхлюдьми, мы станем более мощными, более полезными. Это такой финансовый аргумент: типа, ты полезен, когда ты сверхчеловек, однако это делает тебя машиной.
Проблема с трансгуманизмом такова, что он не всегда "белый" или "черный". Если вы в аварии потеряли обе ноги и встали на протезы, и они даже убыстряют ваш шаг, - это хорошо для вас. Но если у людей есть обычные ноги, и они их "отстёгивают", чтобы иметь ноги лучше - это неправильно.
Представьте себе, что можно достичь статуса сверхчеловека с помощью небольшой модификации гена. Все, что вам нужно для этого - 10 000 евро, и здесь мы можем говорить о сотнях тысяч людей. Если я смогу предотвратить рак, изменив один ген, то конечно, я это сделаю. Но я могу использовать эту технологию чтобы создать человека, который будет жить на Марсе и не дышать кислородом. Все это сложные решения, и кто-то должен взять на себя ответственность. Трансгуманизм говорит нам, что модернизировать человека - это хорошо, а я говорю - это не всегда хорошо.
- Вы недавно принимали участие в конференции. Россия во многом отстает от передовых стран в развитии технологий, но нельзя ли говорить о том, что такое отставание сегодня благо? Технологии сегодня становятся опасными.
- Я думаю, что к нашим услугам будут все технологии, чтобы проводить торговлю, создавать продукты питания. Технологии распространяются и становятся доступными во всех странах. Декарбонизация, использование солнечной энергии подходит всем, и это хорошо и для России. Однако нам нужно и должное управление для осуществления решений, чтоб не было так, как в Америке, где бедные люди имеют все меньше, а богатые все больше. Однако виноваты здесь не технологии, а политика. Мое беспокойство о России и других странах связано не с тем, что у вас нет инструментов, потребителей или средств, а нет должного управления для того, чтобы выигрывали все.
- Какими вы видите тренды будущего? Что изменится в мире?
- Меньше чем через 10 лет мы будем все связаны интернетом, благодаря системе 5G, и это изменит характер работы, онлайна будет больше. Это, конечно, хорошо, но это будет способствовать одиночеству. Кроме этого, мы сможем декарбонизировать весь мир, уйдя от нефтегазовой энергетики, что будет тяжело для таких стран, как Россия. Характер нашей работы очень изменится, так как машины станут умнее. Человечество при этом будет становиться более ленивым. Но нам нужно будет создавать новые рабочие места, ведь если вы работаете как робот, робот заберёт вашу работу.
http://www.finam.ru/ (C)
Не является индивидуальной инвестиционной рекомендацией
При копировании ссылка обязательна Нашли ошибку: выделить и нажать Ctrl+Enter
- В этом году исполняется пять лет с того дня как вы написали письмо в адрес крупных платформ, таких как Facebook и Google, предупредив их о том, что они должны занять более этическую позицию. Что изменилось с тех пор?
- Конечно, с тех пор платформы стали быстрее и мощнее. И некоторые из них стали понимать, что если они зайдут слишком далеко в своей политике, которую я называю "слишком много хорошего", то потеряют доверие пользователей. И они стали более внимательно смотреть на такие вещи как предвзятость в работе с искусственным интеллектом или нарушение работы с данными пользователей.
Много улучшений произошло в компаниях Microsoft, Apple, в определенной степени Google. И многие компании сегодня говорят, что будут уделять внимание цифровой этике, понимая, что иначе люди перестанут им доверять.
Да, мы находимся в самом начале пути, осознавая силу технологий, таких как искусственный интеллект. Если посмотреть на шкалу с делениями до 100, то мы находимся где-то на 3-4 делении. Я уверен, что компании по собственной инициативе будут более осмотрительны, и мы будем видеть больше сотрудничества государства и бизнеса в этой сфере.
Что же касается Facebook, то ее усилия на этот счет выглядят провальными. Он создает собственный виртуальный мир и хочет, чтобы мы в нем жили и работали. Facebook собирает данные всех ваших посещений страниц, где есть кнопка "лайк. Он знает всех ваших друзей и может создать о вас профиль даже более глубокий, чем налоговая служба. Это очень глубокое исследование, которое может быть использовано в самых разных целях, в том числе коррупционных и манипулятивных. Все эти профили при этом могут быть неправильными, так как вы могли пошутить, но это может привести к последствиям. Я, например, думаю, что нельзя рассматривать все фотографии на моем IPhone, чтобы понять, например, принадлежу ли я к протестному движению.
- С одной стороны, правительство защищает нас от всевластия технологий, с другой - использует возможности технологий, чтобы вмешиваться в нашу жизнь. Станет ли это вмешательство неотъемлемой частью нашего будущего?
- Плохие правительства всегда будут использовать технологии для плохих целей. Это касается и таких стран, как КНДР, и стран, как Бразилия, где у власти находятся правые популисты.
Поэтому я всегда говорю о создании такого Совета по цифровой этике, который обсуждал бы, что может быть применено, а что нет, как это происходит в ядерной сфере. Ведь подобные технологии становятся такими же мощными, как технологии в ядерной энергетике. Если сегодня вы видите, что Facebook манипулирует с данными, то через десять дней он будет владеть вашей жизнью и манипулировать вами как щенком. То, что мы наблюдаем сегодня - это детский сад по сравнению с тем, что мы увидим через 10 лет. Сейчас, когда перед нами встают проблемы безопасности, правительства по всему миру должны определиться с набором базовых прав.
- Могут ли проблемы людей и технологий обостриться в постпандемийную эпоху?
- C одной стороны COVID приучил нас к быстрой адаптации к технологиям, и мы сегодня используем технологии практически для любых целей. Даже люди, которым по 70 лет, сегодня работают с технологиями. Но во время кризиса Сovid-19, люди хотят быть уверены в том, кому они могут доверять и понимать, что тех, кому они доверяют, волнуют не только деньги.
Кроме того, ковид стал большим напоминанием, что мы не машины, а люди. Технологии стали играть более важную роль, и мы должны быть убеждены, что они работают в наших интересах. Так, например, IBM прекратила предлагать распознавание по лицу как часть своих решений, потому что такая технология, например, использовалась для преследования уйгуров в Китае. Поэтому вопрос цифровой этики становится важным для общества.
- Сейчас люди начинают уезжать из больших городов, работая удаленно. Будут ли люди создавать умные дома или наоборот стремиться к простоте ?
- Здесь все очень фрагментарно. Я сам, когда уезжаю на каникулы, не беру с собой смартфон, я беру с собой простенький телефон, потому, что я хочу защитить себя от слишком большого количества сообщений.
Но, если говорить начистоту, от всевластия технологий спастись невозможно. Конечно, это возможно, если вы очень богаты или живете в очень отдаленном уголке мира, и при этом богаты. Так что для 95% людей технология будет частью жизни, и поэтому мы должны найти хороший баланс. Люди могут быть детьми в сравнении с технологиями, а детям нужна защита, так как они не в силах принять решение.
Все это только начало: подождите, когда вас на работу заставят носить шлем виртуальной реальности, мотивируя это тем, что вы так лучше работаете. Поэтому нам придется создавать такие правила, которые бы это запрещали. Таким образом, мы должны будем защищать человечество, даже если это будет менее эффективно для бизнеса.
- Я нашел в одном из ваших интервью фразу, что через 10 лет машины будут делать немыслимые вещи, о которых мы не можем и подумать, если мы не прочертим линий.
- Ну, это как c ядерным оружием. Пока его не существовало, не было правил, потом у стран появилось ядерное оружие, и начали появляться правила. После того, как у нас появились правила, у нас исчез риск ядерного столкновения. Поэтому мы должны договорится об использовании технологий в экстремальных условиях.
У нас было соглашение по ядерному оружию, теперь у нас должно быть соглашение по искусственному интеллекту. Те же, кто не хочет стать частью этого соглашения, должны остаться за бортом. То есть можно сделать машину, которая ныряет и плавает, но нельзя сделать машину, которая притворяется человеком.
Но здесь нужен умный подход: слишком много правил разрушает бизнес, но отсутствие правил разрушит человечество. Я думаю, что мы придем к идее глобального руководства, которое будет решать все эти экзистенциальные проблемы.
- Технология роботизации очень помогает людям, но не будет ли в будущем такого, что люди, как луддиты в Великобритании, восстанут против машин?
- Да, это возможно, но, скорее, будет другое. Возможно, возникнут группы экологических террористов, которые будут бороться против компаний, загрязняющих воздух или взрывать нефтепроводы. Что же касается непосредственной войны с технологиями, то я не очень уверен, ведь технология - это дар для многих из нас. Это как наркотик. И мы не видим, что люди убивают наркодиллеров. Это происходит, но редко. Технологии - это наркотик. Это стало религией, многие верят в технологии. Но если же люди поймут, что платформы причиняют им вред, то произойдет мгновенный отток пользователей.
Взять к примеру, Facebook, люди его уже покидают, пусть и не в таких количествах. Я сам покинул Facebook в знак протеста. Я не только прекратил общаться с ними, как участник их конференций, но и как пользователь. Потому что Facebook - это машина искусственного интеллекта, занимающаяся собором данных. Четыре года назад я покинул Facebook именно из-за этого.
- Вы довольно жёстко выступали в отношении трансгуманизма (использование технологий для улучшения человека. - Finam.ru) Что больше всего вас отталкивает в этих идеях?
- Я думаю, что в ближайшие годы нас ждет конфликт между гуманистами и трансгуманистами. Пока то, что хотят трансгуманисты, невыполнимо, но, вероятно, будет возможно лет через 20.
Философия трансгуманизма в том, что, когда мы станем сверхлюдьми, мы станем более мощными, более полезными. Это такой финансовый аргумент: типа, ты полезен, когда ты сверхчеловек, однако это делает тебя машиной.
Проблема с трансгуманизмом такова, что он не всегда "белый" или "черный". Если вы в аварии потеряли обе ноги и встали на протезы, и они даже убыстряют ваш шаг, - это хорошо для вас. Но если у людей есть обычные ноги, и они их "отстёгивают", чтобы иметь ноги лучше - это неправильно.
Представьте себе, что можно достичь статуса сверхчеловека с помощью небольшой модификации гена. Все, что вам нужно для этого - 10 000 евро, и здесь мы можем говорить о сотнях тысяч людей. Если я смогу предотвратить рак, изменив один ген, то конечно, я это сделаю. Но я могу использовать эту технологию чтобы создать человека, который будет жить на Марсе и не дышать кислородом. Все это сложные решения, и кто-то должен взять на себя ответственность. Трансгуманизм говорит нам, что модернизировать человека - это хорошо, а я говорю - это не всегда хорошо.
- Вы недавно принимали участие в конференции. Россия во многом отстает от передовых стран в развитии технологий, но нельзя ли говорить о том, что такое отставание сегодня благо? Технологии сегодня становятся опасными.
- Я думаю, что к нашим услугам будут все технологии, чтобы проводить торговлю, создавать продукты питания. Технологии распространяются и становятся доступными во всех странах. Декарбонизация, использование солнечной энергии подходит всем, и это хорошо и для России. Однако нам нужно и должное управление для осуществления решений, чтоб не было так, как в Америке, где бедные люди имеют все меньше, а богатые все больше. Однако виноваты здесь не технологии, а политика. Мое беспокойство о России и других странах связано не с тем, что у вас нет инструментов, потребителей или средств, а нет должного управления для того, чтобы выигрывали все.
- Какими вы видите тренды будущего? Что изменится в мире?
- Меньше чем через 10 лет мы будем все связаны интернетом, благодаря системе 5G, и это изменит характер работы, онлайна будет больше. Это, конечно, хорошо, но это будет способствовать одиночеству. Кроме этого, мы сможем декарбонизировать весь мир, уйдя от нефтегазовой энергетики, что будет тяжело для таких стран, как Россия. Характер нашей работы очень изменится, так как машины станут умнее. Человечество при этом будет становиться более ленивым. Но нам нужно будет создавать новые рабочие места, ведь если вы работаете как робот, робот заберёт вашу работу.
http://www.finam.ru/ (C)
Не является индивидуальной инвестиционной рекомендацией
При копировании ссылка обязательна Нашли ошибку: выделить и нажать Ctrl+Enter