23 мая 2019 utmedia
Анализ – это способ правильно понимать окружающую действительность и что вокруг вообще происходит. Он не только про математику или статистику, он про все виды человеческой деятельности, знания базовых принципов анализа сильно помогают жить, работать и зарабатывать.
Для того, чтобы приумножать деньги, инвестируя их, необходимо принимать верные решения. Чтобы принимать верные решения, необходимо опираться на корректные данные. А корректные данные –— это, в том числе, правильно интерпретированные данные. О самых распространенных ошибках анализа применительно к интерпретации данных – в этой статье.
Возможная нерелевантность сводных показателей
Сводные данные могут совпадать по количественным и качественным показателям, но при этом совершенно не отражать сути явления. Этот эффект отлично описал в 1970-х годах статистик Френсис Анскомб, явление получило название «квартет Анскомба».
Он собрал четыре набора данных, каждый обладал несколькими совершенно идентичными параметрами, в том числе такими, как: среднее значение, дисперсия, линейная регрессия и корреляция. Когда на бумаге только цифры, то все отлично, но если посмотреть на графики, то становится понятно, что ни о каком сходстве истинного положения дел речи и быть не может.
Вывод: форма представления информации не менее важна, чем сводные показатели, без учета ее характеристик ничего хорошего из попыток анализа не получится.
Оглашают обычно успех
Вероятность того, что вы ознакомитесь с публикацией, описывающей положительный или статистически значимый результат всегда выше, чем с той, где описывается неудача, базирующаяся на тех же исходных данных. Это происходит не из-за всемирного заговора, а просто потому, что про уже достигнутые результаты гораздо интереснее писать и про них же гораздо интереснее читать. Поэтому вполне возможно, что за несколькими историями успеха, основанными на сходных стартовых комбинациях факторов, существуют десятки и десятки неудач и проигрышей, про которые вы либо не нашли информации, либо про которые просто никто ничего не написал.
Сложное — точнее, зато упрощенное — надежнее
Для понимания работы той или иной сложной системы, как правило, принято создавать математическую модель, которая описывает поведение максимального количества поддающихся обсчету элементов системы. Разумеется, чем больше переменных ваша модель представлений о чем-либо будет в себя включать, тем более детализированные и точные результаты анализа вы будете получать на выходе.
Однако опасность заключается в том, что по-настоящему сложные математические модели работают корректно только применительно к той системе, для которой были созданы. Различные системы всегда отличаются друг от друга в деталях, даже если формально они выполняют одни и те же функции. Как следствие, имеет смысл перед экстраполяцией уже модели на другую систему отказаться от излишней детализации, и сделать ее заново уже после того, как убедитесь, что базовый набор алгоритмов лег на новую структуру как родной.
К тому же, чем больше деталей, тем больше шансов на появления ошибок в структуре модели, умение соблюдать баланс между ее детализацией и ее эффективностью — немаловажный навык анализа чего угодно.
Ошибка Макнамары
Этот классический глюк анализа получил свое название в честь министра обороны США Роберта Макнамары, которые занимал этот пост в период с 1961 по 1968 годы, во время войны с Вьетнамом. Дядька был нереально упертый, судя по отзывам — умел думать одну мысль одновременно, зато так, что кони приседали. Хотя, с другой стороны — он потом Всемирный банк возглавлял 13 лет. Впрочем, возможно именно поэтому.
Короче, он оценивал положение во время войны исключительно по единственному показателю – количеству убитых врагов. Его не напрягало ни то, что в США поменялось отношение к войне, ни то, что оно поменялось у его собственных солдат, ни внутриполитическая ситуация во Вьетнаме. Чем это кончилось, — мы все знаем.
Нельзя делать выводы, основываясь только на одном или нескольких метрических параметрах, любая сложная система состоит не только из них.
Парадокс Симпсона
Нет, не Гомера Симпсона, а Эдварда Симпсона, который повторно сформулировал его в середине прошлого века. Смысл его заключается в том, что некий параметр, который является положительным у разных групп, при объединении этих групп может стать отрицательным.
Пример. Лет сорок назад один из американских университетов обвинили в дискриминации абитуриентов по половому признаку, так как женщин в него поступало меньше, чем мужчин. Неиллюзорно удивившись такому повороту событий, ибо тогда там головами были все в основном еще здоровы, сотрудники университета начали разбираться, что за фигня.
Быстро выяснилось, что по отдельным дисциплинам все обстояло как раз наоборот: женщин принимали заметно больше. А проблема заключалась в том, что женщины гораздо чаще, чем мужчины, подавали заявления на наиболее конкурентные специальности, где был мощный отсев абитуриентов безотносительно к полу, поэтому на выходе получалось, что в университет не попадало больше женщин, чем мужчин.
Вывод: собранные вместе элементы не обязательно обладают теми же свойствами, что обладали поодиночке, и зачастую начинают обладать свойствами, которыми по отдельности не обладали.
Во второй части мы расскажем еще о 6 ошибках, зная которые, проще принимать инвестиционные решения.
Анализ — это способ правильно понимать окружающую действительность, и что вокруг вообще происходит. Он не только про математику или статистику, он про все виды человеческой деятельности, знания базовых принципов анализа сильно помогают жить, работать и зарабатывать.
Для того, чтобы приумножать деньги, инвестируя их, необходимо принимать верные решения. Чтобы принимать верные решения, необходимо опираться на корректные данные. А корректные данные — это, в том числе, правильно интерпретированные данные. О самых распространенных ошибках анализа применительно к интерпретации данных – во второй части статьи.
Что нужно знать инвестору: классические ошибки анализа. Часть 1.
«Отбор спелых ягод»
Так называется распространенная ошибка, когда при анализе массива данных осознанно или неосознанно отбирается только та информация, которая совпадает с вашим собственным представлением о явлении или проблеме. Еще хуже, когда вы получаете уже отобранные данные, причем отобранные в соответствии с чужими представлениями о том, какая информация релевантна задаче, а какая нет. Необходимо все время задавать себе вопрос: «Чего я не хочу себе сказать, и что мне не сказали те люди, которые тоже в чем-то не хотят себе признаваться, не потому, что они плохие, а потому, что они люди?». Корректный анализ может быть следствием только работы с полной совокупностью данных, а не с той выборкой, которая нравится участникам процесса.
«Углубление дна»
Анализ может считаться корректным, если он является инструментом, нужным для подтверждения гипотезы, сформированной до получения результатов исследования. В противном случае всегда есть соблазн вовлекать в процесс все новые и новые пласты данных, одновременно в реальном времени изменяя, казалось бы, изначально незыблемую цель исследования. Именно поэтому в современном мире считается корректными результаты только тех клинических испытаний лекарств, предполагаемая цель которых была заявлена исследователями заранее, а не подгонялась в процессе получения все новых и новых результатов под новые показатели.
«Ошибка выживших»
Гениальной иллюстрацией этой классической ошибки является история, которая имела место быть во время Второй Мировой Войны в ВВС США. Когда инженерный состав осматривал поврежденные самолеты, сумевшие вернуться на аэродромы базирования после боя, тщательно протоколировались все повреждения, и затем тратились серьезные усилия на то, чтобы усилить защиту именно этих — поврежденных — компонентов самолетов. Интеллектуальным штабом этих работ был «Центр статистических исследований для решения военных задач», организация, в которой, на секундочку, работали такие математики, как Норберт Винер и Леонард Сэвидж. А еще там была группа ученых, которую возглавлял Абрахам Вальд, который, в конце концов, понял то, во что успешно не врубались его старшие коллеги. А именно: не надо укреплять те компоненты самолета, который вернулся на базу, несмотря на то, что они были повреждены. Надо усиливать те его места, которые на вернувшихся самолетах были совершенно целыми, просто потому, что самолеты, на которых они получали повреждения, на базу просто не возвращались.
«Эффект кобры»
Так называется ситуация, когда действия, предпринятые для получения положительного результата, дают обратный эффект.
Говорят, что такое название данный алгоритм получил по результатам чудесной истории, имевшей место быть в Британской Индии. Белые джентльмены, по мнению колониального правительства, неоправданно часто погибали от укусов кобр, в связи с чем чиновники ввели награду для коренного населения за каждую сданную дохлую змею. Однако местные, не будь дураками, быстро поняли, что разведение кобр – гораздо более эффективный способ заработать, чем забеги по неуютным джунглям без гарантии успеха. Через некоторое время правительство осознало, что здесь что-то не сработало, после чего немедленно награду отменило.
Ну, а крестьяне что? Они люди необразованные, но не живодеры, если нет выгоды, поэтому всю популяцию тщательно взращенных змей немедленно выпустили на волю, что очень хорошо повлияло на популяционную динамику королевских кобр в регионах, где базировались представители колониальной администрации. Современные представители Greenpeace остались бы очень довольны.
Смещение выборки
Ошибка, которую раз за разом до сих пор повторяют отечественные социологические агентства, представители которых (на дворе 2019 год, не забываем) производят обзвон по квартирам выбранных населенных пунктов по домашним (!) телефонам днем (!) с вопросом «Услугами какого интернет-провайдера вы пользуетесь?». Сложить 2+2 и понять, что днем в квартирах, в основном, находятся пенсионеры, а задавать этот вопрос надо в Сети и явно не в два часа дня, за последние 10 лет у них так и не вышло. А потом, порой, в интернете мы встречаем совершенно поражающие собою таблицы сводных данных, на основании которых, видимо, потом какие-то компании принимают какие-то решения. Впрочем, хочется надеяться, что в нормальных организациях где-то есть люди, отвечающие за отсев поступающих снаружи результатов тупизны.
Ложная причинность
За последние 150 лет в крупных мегаполисах перестал использоваться гужевой транспорт, а также непрерывно росла средняя температура на планете. В принципе, можно попробовать утверждать, что чем меньше лошадей, тем теплее или наоборот, — лошади не могут работать в городах, где не холодно.
Но на самом деле правильный ответ – индустриализация. Она спровоцировала оба события. Корреляция между явлениями не всегда означают, что явление является следствием другого явления, или что вообще они связаны, это может быть просто совпадение, либо же существует третий фактор, про который вы просто не знаете.
Видимая причинно-следственная связь далеко не всегда является верной основой для интерпретации событий, корректный анализ требует больше данных, чем входит в базовое определение задачи.
/ (C) Источник
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Отправить жалобу
Для того, чтобы приумножать деньги, инвестируя их, необходимо принимать верные решения. Чтобы принимать верные решения, необходимо опираться на корректные данные. А корректные данные –— это, в том числе, правильно интерпретированные данные. О самых распространенных ошибках анализа применительно к интерпретации данных – в этой статье.
Возможная нерелевантность сводных показателей
Сводные данные могут совпадать по количественным и качественным показателям, но при этом совершенно не отражать сути явления. Этот эффект отлично описал в 1970-х годах статистик Френсис Анскомб, явление получило название «квартет Анскомба».
Он собрал четыре набора данных, каждый обладал несколькими совершенно идентичными параметрами, в том числе такими, как: среднее значение, дисперсия, линейная регрессия и корреляция. Когда на бумаге только цифры, то все отлично, но если посмотреть на графики, то становится понятно, что ни о каком сходстве истинного положения дел речи и быть не может.
Вывод: форма представления информации не менее важна, чем сводные показатели, без учета ее характеристик ничего хорошего из попыток анализа не получится.
Оглашают обычно успех
Вероятность того, что вы ознакомитесь с публикацией, описывающей положительный или статистически значимый результат всегда выше, чем с той, где описывается неудача, базирующаяся на тех же исходных данных. Это происходит не из-за всемирного заговора, а просто потому, что про уже достигнутые результаты гораздо интереснее писать и про них же гораздо интереснее читать. Поэтому вполне возможно, что за несколькими историями успеха, основанными на сходных стартовых комбинациях факторов, существуют десятки и десятки неудач и проигрышей, про которые вы либо не нашли информации, либо про которые просто никто ничего не написал.
Сложное — точнее, зато упрощенное — надежнее
Для понимания работы той или иной сложной системы, как правило, принято создавать математическую модель, которая описывает поведение максимального количества поддающихся обсчету элементов системы. Разумеется, чем больше переменных ваша модель представлений о чем-либо будет в себя включать, тем более детализированные и точные результаты анализа вы будете получать на выходе.
Однако опасность заключается в том, что по-настоящему сложные математические модели работают корректно только применительно к той системе, для которой были созданы. Различные системы всегда отличаются друг от друга в деталях, даже если формально они выполняют одни и те же функции. Как следствие, имеет смысл перед экстраполяцией уже модели на другую систему отказаться от излишней детализации, и сделать ее заново уже после того, как убедитесь, что базовый набор алгоритмов лег на новую структуру как родной.
К тому же, чем больше деталей, тем больше шансов на появления ошибок в структуре модели, умение соблюдать баланс между ее детализацией и ее эффективностью — немаловажный навык анализа чего угодно.
Ошибка Макнамары
Этот классический глюк анализа получил свое название в честь министра обороны США Роберта Макнамары, которые занимал этот пост в период с 1961 по 1968 годы, во время войны с Вьетнамом. Дядька был нереально упертый, судя по отзывам — умел думать одну мысль одновременно, зато так, что кони приседали. Хотя, с другой стороны — он потом Всемирный банк возглавлял 13 лет. Впрочем, возможно именно поэтому.
Короче, он оценивал положение во время войны исключительно по единственному показателю – количеству убитых врагов. Его не напрягало ни то, что в США поменялось отношение к войне, ни то, что оно поменялось у его собственных солдат, ни внутриполитическая ситуация во Вьетнаме. Чем это кончилось, — мы все знаем.
Нельзя делать выводы, основываясь только на одном или нескольких метрических параметрах, любая сложная система состоит не только из них.
Парадокс Симпсона
Нет, не Гомера Симпсона, а Эдварда Симпсона, который повторно сформулировал его в середине прошлого века. Смысл его заключается в том, что некий параметр, который является положительным у разных групп, при объединении этих групп может стать отрицательным.
Пример. Лет сорок назад один из американских университетов обвинили в дискриминации абитуриентов по половому признаку, так как женщин в него поступало меньше, чем мужчин. Неиллюзорно удивившись такому повороту событий, ибо тогда там головами были все в основном еще здоровы, сотрудники университета начали разбираться, что за фигня.
Быстро выяснилось, что по отдельным дисциплинам все обстояло как раз наоборот: женщин принимали заметно больше. А проблема заключалась в том, что женщины гораздо чаще, чем мужчины, подавали заявления на наиболее конкурентные специальности, где был мощный отсев абитуриентов безотносительно к полу, поэтому на выходе получалось, что в университет не попадало больше женщин, чем мужчин.
Вывод: собранные вместе элементы не обязательно обладают теми же свойствами, что обладали поодиночке, и зачастую начинают обладать свойствами, которыми по отдельности не обладали.
Во второй части мы расскажем еще о 6 ошибках, зная которые, проще принимать инвестиционные решения.
Анализ — это способ правильно понимать окружающую действительность, и что вокруг вообще происходит. Он не только про математику или статистику, он про все виды человеческой деятельности, знания базовых принципов анализа сильно помогают жить, работать и зарабатывать.
Для того, чтобы приумножать деньги, инвестируя их, необходимо принимать верные решения. Чтобы принимать верные решения, необходимо опираться на корректные данные. А корректные данные — это, в том числе, правильно интерпретированные данные. О самых распространенных ошибках анализа применительно к интерпретации данных – во второй части статьи.
Что нужно знать инвестору: классические ошибки анализа. Часть 1.
«Отбор спелых ягод»
Так называется распространенная ошибка, когда при анализе массива данных осознанно или неосознанно отбирается только та информация, которая совпадает с вашим собственным представлением о явлении или проблеме. Еще хуже, когда вы получаете уже отобранные данные, причем отобранные в соответствии с чужими представлениями о том, какая информация релевантна задаче, а какая нет. Необходимо все время задавать себе вопрос: «Чего я не хочу себе сказать, и что мне не сказали те люди, которые тоже в чем-то не хотят себе признаваться, не потому, что они плохие, а потому, что они люди?». Корректный анализ может быть следствием только работы с полной совокупностью данных, а не с той выборкой, которая нравится участникам процесса.
«Углубление дна»
Анализ может считаться корректным, если он является инструментом, нужным для подтверждения гипотезы, сформированной до получения результатов исследования. В противном случае всегда есть соблазн вовлекать в процесс все новые и новые пласты данных, одновременно в реальном времени изменяя, казалось бы, изначально незыблемую цель исследования. Именно поэтому в современном мире считается корректными результаты только тех клинических испытаний лекарств, предполагаемая цель которых была заявлена исследователями заранее, а не подгонялась в процессе получения все новых и новых результатов под новые показатели.
«Ошибка выживших»
Гениальной иллюстрацией этой классической ошибки является история, которая имела место быть во время Второй Мировой Войны в ВВС США. Когда инженерный состав осматривал поврежденные самолеты, сумевшие вернуться на аэродромы базирования после боя, тщательно протоколировались все повреждения, и затем тратились серьезные усилия на то, чтобы усилить защиту именно этих — поврежденных — компонентов самолетов. Интеллектуальным штабом этих работ был «Центр статистических исследований для решения военных задач», организация, в которой, на секундочку, работали такие математики, как Норберт Винер и Леонард Сэвидж. А еще там была группа ученых, которую возглавлял Абрахам Вальд, который, в конце концов, понял то, во что успешно не врубались его старшие коллеги. А именно: не надо укреплять те компоненты самолета, который вернулся на базу, несмотря на то, что они были повреждены. Надо усиливать те его места, которые на вернувшихся самолетах были совершенно целыми, просто потому, что самолеты, на которых они получали повреждения, на базу просто не возвращались.
«Эффект кобры»
Так называется ситуация, когда действия, предпринятые для получения положительного результата, дают обратный эффект.
Говорят, что такое название данный алгоритм получил по результатам чудесной истории, имевшей место быть в Британской Индии. Белые джентльмены, по мнению колониального правительства, неоправданно часто погибали от укусов кобр, в связи с чем чиновники ввели награду для коренного населения за каждую сданную дохлую змею. Однако местные, не будь дураками, быстро поняли, что разведение кобр – гораздо более эффективный способ заработать, чем забеги по неуютным джунглям без гарантии успеха. Через некоторое время правительство осознало, что здесь что-то не сработало, после чего немедленно награду отменило.
Ну, а крестьяне что? Они люди необразованные, но не живодеры, если нет выгоды, поэтому всю популяцию тщательно взращенных змей немедленно выпустили на волю, что очень хорошо повлияло на популяционную динамику королевских кобр в регионах, где базировались представители колониальной администрации. Современные представители Greenpeace остались бы очень довольны.
Смещение выборки
Ошибка, которую раз за разом до сих пор повторяют отечественные социологические агентства, представители которых (на дворе 2019 год, не забываем) производят обзвон по квартирам выбранных населенных пунктов по домашним (!) телефонам днем (!) с вопросом «Услугами какого интернет-провайдера вы пользуетесь?». Сложить 2+2 и понять, что днем в квартирах, в основном, находятся пенсионеры, а задавать этот вопрос надо в Сети и явно не в два часа дня, за последние 10 лет у них так и не вышло. А потом, порой, в интернете мы встречаем совершенно поражающие собою таблицы сводных данных, на основании которых, видимо, потом какие-то компании принимают какие-то решения. Впрочем, хочется надеяться, что в нормальных организациях где-то есть люди, отвечающие за отсев поступающих снаружи результатов тупизны.
Ложная причинность
За последние 150 лет в крупных мегаполисах перестал использоваться гужевой транспорт, а также непрерывно росла средняя температура на планете. В принципе, можно попробовать утверждать, что чем меньше лошадей, тем теплее или наоборот, — лошади не могут работать в городах, где не холодно.
Но на самом деле правильный ответ – индустриализация. Она спровоцировала оба события. Корреляция между явлениями не всегда означают, что явление является следствием другого явления, или что вообще они связаны, это может быть просто совпадение, либо же существует третий фактор, про который вы просто не знаете.
Видимая причинно-следственная связь далеко не всегда является верной основой для интерпретации событий, корректный анализ требует больше данных, чем входит в базовое определение задачи.
/ (C) Источник
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Отправить жалобу