Вероятностная логика
Люди о произошедших событиях судят как о 100%-тно вероятных. Что могло произойти только так, как произошло, и никак иначе.
Более того. Люди не привыкли и зачастую не умеют рассуждать вероятностно. Например никто не делает выводов что мы на 20% правы, а на 80% нет. Сомневаюсь, что кто-то рассуждает тем образом, что за следующий год он 0.1% что умрет и что 99.9% нет (пример статистики средней температуры по больнице в штатах).
Так уж натренировано наше мышление, что оно принимает зачастую не вероятности, а только бинарные мнения (требование ответа на вопрос только да или нет).
Отсутствие отрицательных тестов
Если мы все время тянем шары, и они все время черные, то мы не можем определить закономерность. То есть, отсутствие события не является основанием для выводов. Только если мы увидим какие-то изменения, то тогда мы можем судить о качестве и свойствах события.
Программно: если тест всегда выдает true, и никогда не выдает false, то это возможно говорит о том, что он просто сломан.
Если мы не наблюдали событие X никогда, то не факт, что отличное событие не наблюдается вовсе.
Если мы делаем заключение, что все лебеди белые (на основании ряда наблюдений), то такое заключение не проходит проверку Поппера. Мы не можем поставить эксперимент и убедиться, что все лебеди действительно белые.
Может происходить так, что если событие всегда одинаковое или чего-то не происходит, то это усиливает уверенность в чем-то. Но от маловероятностного события не защищает. Например если человек перебежал улицу 1000 раз на красный свет и остался жив, то это может вселить уверенность в то, что перебегать можно. Но осознание риска произойдет только тогда, когда что-то произойдет.
Вершина айсберга
Когда мы берем в руки книгу, и читаем на ней отзывы, то мы видим только самые лучшие отзывы. И даже более того — самые лучшие отрывки из контекста среди отзывов. Получить хорошие отзывы легко — нужно сделать запрос на (например) 10 000 отзывов и выбрать из них лучшие отрывки (процесс аналогичен "Таинственное письмо").
Мы не видим тех научных публикаций, которые неуспешны. Мы видим только успешные. Поэтому мы не можем оценить всех обезьян на рассматриваемой области. Если результатов нет, то это потому, что за них никто не брался? Или потому, что много кто брался, но ничего не получил?
Если кто-то начал распространять некоторое лекарство, то часть больных, принимая его, могла улучшить свое состояние засчет случайных факторов, плацебо и т.п.. Соответственно, распространитель берет нескольких таких выздоровевших и говорит, что вот, мое средство их избавило. Но по сути — это вершина айсберга. Мало кто знает, скольким людям это не помогло, скольким оно добавило побочных эффектов. То есть, по сути, любая реклама как мнение человека может быть вершиной айсберга.
Информация, которая говорит, что человек успешен, может не является значимой или уместной. Может быть более важным из какого размера популяции он вышел. Все видят гугл, но мало кто знает, какая битва поисковиков была в то время (сколько поисковых машин было написано). Мы видим олимпийского чемпиона, но мало знаем о том, сколько людей тренировалось и сошло с дистанции.
