Как быстро вычислить вероятность по Байесу: шансы
Шансы · Редкость · Удивительность
O(H | E) = O(H) · P(E | H)P(E | не H)
TLDR: умножь редкость события на удивительность наблюдения без события.
Формула Байеса в каноничном виде слишком запарная. Без листочка не посчитаешь, и это мощнейшее орудие мышления непригодно для бытового использования: в общении, покере, противостоянии инфоцыганам, пропагандистам Коварного Запада.
В прошлой статье мы считали штуки на дереве. Это наглядно, но для редких событий и цепочек улик неудобно. Как же кастовать эту ИМБУ прямиком из мозга? Выкупить шансовую формулировку.
P(H | E) = P(H) · P(E | H)P(E)
Чтобы посчитать её, нужно знать P(E): как часто наблюдение бывает вообще, при любом раскладе. Оценить это на глаз тяжело, а потом ещё и делить проценты на проценты.
Освежим шансы
В быту мы часто оцениваем будущее дробью: три к одному, один к пяти. Вот это и есть настоящий математический шанс. Он обозначается буквой O (odds).
Произнося «один к двум», мы имеем в виду пропорцию удачный : неудачный исход.
1 : 2
одна удача на две неудачи, всего 3 исхода
13 ≈ 33%
3 : 1
три раза случилось, один раз нет, всего 4 исхода
34 = 75%
Математически это записывается как O(A) = P(A) : P(не A). Это равенство упростит нам жизнь через пару ходов.
Байеса проще считать шансами, чем вероятностями.
Упростим формулу
Шансы - это успех к неуспеху. Для гипотезы H при наблюдении E это P(H | E) : P(не H | E), то есть «сбудется» к «не сбудется».
Подставим классическую формулу в деление. Внизу везде перед H добавляем «не»:
P(H) · P(E | H) / P(E)P(не H) · P(E | не H) / P(E)
Сокращаем лишнее P(E). Вспоминаем, что P(H) : P(не H) - это и есть шанс O(H), и записываем готовую формулу:
O(H | E) = O(H) · P(E | H)P(E | не H)
Это шансовая формулировка теоремы Байеса.
Было справа три кирпича, и осталось три кирпича... Чем же эта формула проще? А тем, что мы выкинули самый тяжёлый кирпич P(E), который обычно тяжело считать!
Считаем Байеса в уме, быстро и легко
Давай прикинем вероятность дождя в Питере, как уже считали через круги.
O(H) - это шанс дождя в принципе. По моим ощущениям льёт раз через раз, то есть O(H) = 1 : 1.
Вторая часть выражения спрашивает: насколько реже ты видишь тучи, если дождя нет? Допустим, в 2 раза.
O(H | E) = 11 · 21 = 2 : 1
Прелесть такой формулы: ответ в шансах получаешь сразу. Сама запись уже содержит ответ дробью, её есть смысл только сократить для простоты интерпретации. Делить нужно, только если нужны проценты.
Итого мы просто прикинули вероятности, ничего не считали и получили ответ 2 к 1, или ~67%. При этом точный ответ - 60%. Расхождение 60% и 67% - ничтожная плата за возможность вычисления в уме.
Теперь пример с Кипром. По статистике дней с дождём 45 из 365, шанс ~ 1 : 7. В сухой день тучи бывают сильно реже, чем в дождливый: в 60 раз.
O(H | E) = 17 · 601 ≈ 8,6 : 1
Итого шанс дождя при тучах на Кипре 8,6 к 1, это ~90%. Почти точно попали в правильные 89%.
Питер
редкость 1 : 1, тучи без дождя в 2 раза реже
1 : 1 · 2 = 2 : 1
≈ 67%, точно 60%
Кипр
редкость 1 : 7, тучи без дождя в 60 раз реже
1 : 7 · 60 ≈ 8,6 : 1
≈ 90%, точно 89%
Частая ошибка: считать тучи среди туч AI-квиз
Удивительность сравнивает две разные группы дней: дождливые и сухие. «Из дождливых дней тучи во всех, из сухих - в половине» - это удивительность ×2.
Ошибка - взять одну группу, тучные дни, и сказать: «два тучных дня с дождём на один без». Это уже готовый ответ O(H | E), и редкость дождя в нём уже сидит. Если умножить его на O(H), редкость посчитается дважды.
В Питере ошибку не видно: редкость там 1 : 1, а умножение на неё ничего не меняет. На Кипре она сразу вылезет: 1 : 7 · 8,6 : 1 даст ~55% вместо 90%.
Проверка простая: кто стоит после «из»? Из дождливых и из сухих - удивительность. Из тучных - готовый ответ.
В штуках считать среди туч как раз правильно: там мы начали со всего года, и редкость уже вошла в счёт. Ошибка - перенести эту привычку в шансы.
Год погоды
Удивительность или готовый ответ?
Удивительность ещё надо умножить на редкость, а готовый ответ уже содержит её внутри.
Про расхождение с правильным ответом
Формула в виде шансов точно такая же точная, как и классическая. Расхождение вызвано только тем, что я вставлял в дроби упрощённые величины.
Точный расчёт по тем же числам, что и в статье про круги
Питер: дождь 200 дней из 365, тучи 330 дней, с дождём и тучами 198 дней. Сухих тучных дней 132 из 165 сухих, то есть 80%. При дожде тучи в 99% дней.
200165 · 99%80% ≈ 1,21 · 1,24 = 1,5 : 1 = 60%
Кипр: дождь 45 дней из 365, тучи 50 дней, с дождём и тучами 44,5 дня. Сухих тучных дней 5,5 из 320 сухих, то есть 1,7%.
45320 · 99%1,7% ≈ 0,14 · 58 = 8,2 : 1 ≈ 89%
Ответы совпали с каноничной формулой до процента. Мои прикидки «раз через раз» и «в 2 раза» были грубее реальности, отсюда и 67% вместо 60%.
Цель наша сейчас - научиться быстро считать вероятность по Байесу в уме. В практических ситуациях (покере, переговорах) у нас не будет времени задуматься, не будет калькулятора и не будет статистики под рукой.
Кроме того, даже найденная в интернете статистика неизбежно содержит неточности, неучтённые факторы и тонкости в формулировках, которые легко пропустить.
Грубая оценка в таких условиях много лучше интуитивного угадывания.
Примеры: текстом по формуле шансов
Зажгите благовония и помедитируйте, принимая в себя текст этой Заповеди.
O(H | E) = O(H) · P(E | H)P(E | не H)
Прочтём на русском. Выбери, что заметил:
- Я заметил: . Каков шанс, что ?
- Учту шанс в принципе:
- Прикину, во сколько раз реже я замечал бы такое, если бы :
- Перемножу и узнаю шанс:
Числа - прикидки на глаз, как и предлагает метод.
Хокку про пожар
Шанс пожара, ибо я вижу дым?
Без пожара во сколько раз реже дым?
И часто ль пожары пылают вообще?
Пожары нечасты, один раз в полгода.
Чтобы проще делить, 1 да к двумстам.
Где пожар, там дым всегда,
А из негорящих домов дымит один из полста.
Пожар предвещаю полтинник к двумстам.
Пожарный ответ 1 : 4, или 20%.
Вообще без вычислений: таблица редкости и удивительности
Если и умножать лень, хватит слов. Строка - насколько редка гипотеза. Столбец - во сколько раз реже было бы наблюдение без неё. В клетке - итоговая вероятность и пример.
| Ни о чём×1 | Намёк×3 | Улика×10 | Почти доказательство×100 | |
|---|---|---|---|---|
| Частое3 из 4 · друг опоздает | Скорее да«выхожу» | Почти наверняка«почти выхожу» | Почти наверняка«я в душе, скоро буду» | Почти наверняка«а мы во сколько договаривались?» |
| Через раз1 из 2 · в Питере дождь | Монеткапрохожий с зонтом | Скорее датучи | Почти навернякамокрый асфальт | Почти навернякапо окну стучат капли |
| Нечастое1 из 10 · попутка остановится | Маловероятномашина красная | Скорее нетводитель притормозил | Монеткаморгнул поворотником и съезжает на обочину | Почти навернякаостановился и открыл дверь |
| Редкое1 из 100 · в доме пожар | Почти исключеногде-то воет сирена | Почти исключенопахнет гарью | Маловероятнодым в подъезде | Монеткаиз окна соседей валит дым |
| Очень редкое1 из 1000 · мотор автодома умрёт сегодня | Почти исключенососед по кемпингу: «старая у тебя машина» | Почти исключеномотор стучит | Почти исключенозагорелся чек двигателя | Маловероятноиз-под капота валит пар и пахнет горелым |
| Почти никогда1 из миллиона и реже · самолёт разобьётся | Почти исключенососед крестится | Почти исключенотрясёт | Почти исключенорезкий провал, в салоне кричат | Почти исключеновыпали кислородные маски |
Столбец «ни о чём» всегда повторяет исходную редкость: это зона примет. «Выхожу» стоит там, потому что этот друг пишет «выхожу» в любом случае.
Монетка выпадает там, где удивительность ровно перебивает редкость. Очень редкое событие не вытащить ни намёком, ни уликой. А то, что почти никогда не случается, не вытаскивает даже почти доказательство: поэтому страшные наблюдения в самолёте почти всегда ложная тревога.
Выводы
Чтобы прикинуть вероятность события при наличии факта, вспомни две вещи:
- Каков шанс события в принципе?
- Во сколько раз реже было бы наблюдение без события?
Если без события наблюдение бывает чаще, шанс падает: так олл-ин снижает шанс блефа.
Перемножь:
O(H | E) = O(H) · P(E | H)P(E | не H)
Доп. материалы
- Как просто вычислить вероятность по Байесу: штуки · подготовка к этой статье
- Как просто вывести формулу Байеса · две окружности и тучи над Питером
- Ключ к спокойствию: как перестать тревожиться с помощью математики · с калькулятором спокойствия
- Bayes' rule: high-speed intro · LessWrong
- The medical test paradox, and redesigning Bayes' rule · 3Blue1Brown, про ту же шансовую форму
- Лайфхак по теореме Байеса · Аналитический джаз
Спасибо, что прочли!
Если нашли ошибку или хотите оставить комментарий, пишите мне в телеграм: t.me/art_oshk.