1.7. Формула повної імовірності. Формула Байєса

Нехай подія А може відбутись тільки разом з однією із попарно несумісних подій …,, які називаються гіпотезами (hypothesis) і утворюють повну групу . Тоді, якщо відбулась подія А, то це означає, що відбулась одна із попарно несумісних подій . Це означає: . Використавши теорему додавання, одержимо:

.

З теореми множення ймовірностей , і =1, 2, 3, …, n.

. (1.1)

Одержана формула (1.1) називається формулою повної імовірності.

Після цього нас цікавить питання про те, як зміняться ймовірності гіпотез , і= 1, 2…, n, якщо подія А відбулась. Тобто, як обчислити . Справедливі рівності: , звідки

(1.2)

Ця формула називається формулою Байєса.

Приклад. В магазин надійшли електричні лампи одного типу, виготовлені на чотирьох лампових заводах: із першого заводу – 250 штук, із другого – 525 штук, із третього – 275 штук, із четвертого – 950 штук. Імовірність того, що лампочка буде горіти більше 1500 годин, для першого заводу становить 0,15, для другого – 0,30; для третього – 0,20; для четвертого – 0,10. При розкладанні по полицях магазину лампи були перемішані. Яка ймовірність того, що куплена лампа прогорить більше 1500 годин? Якому заводу найбільш ймовірно вона належить?

Розв’язання.

Нехай А – подія, яка полягає в тому, що вибрана лампа буде горіти більше 1500 годин, а  гіпотези, що лампа виготовлена відповідно 1, 2, 3, 4 заводом. Ламп 2000 і відповідні ймовірності рівні:

; ;

; ;

.

Далі з умови задачі випливає, що ; ; ; . Тоді за формулою повної імовірності маємо:

.

За формулою Байєса:

;

;

;

;

P(A)= 1- p = q.

Отже, найбільш імовірно, що вибрана лампа, яка прогорить більше 1500 годин, належить другому заводу.

Історично склалося, що робота Байєса стала відома серед наукового суспільства лише після його смерті (1758 р.).

Перед роботою Байєса розміщено лист Прайса до Кетона від 10.ХІ.1763 р. В цьому листі Прайс пише: «Я надсилаю Вам дослід, який я знайшов серед паперів нашого померлого друга, містера Байєса, і який, на мою думку, має великі переваги і заслуговує на те, щоб бути збереженим» (Майстров Л. Е. Теория вероятности. Исторический очерк / Майстров Л. Е. – М. : Наука, 1967.  С. 104).

Робота Байєса розпочинається з формулювання загальної задачі. «Дано число разів, коли невідома подія здійснилася чи не здійснилася. Шукається шанс, що ймовірність її появи при одному єдиному досліді знаходиться між якими-небудь ступенями ймовірності, які можуть бути названі». Далі, після загального формулювання задачі, Байєс переходить до основних визначень та положень теорії імовірностей. В цій роботі Байєса міститься формулювання теореми множення ймовірностей. Ймовірність того, що настануть обидві взаємопов’язані події, є співвідношення, що отримано з множення ймовірності першої події на ймовірність появи другої події за умови, що перша настане. Це формулювання вже було сформовано Муавром. Байєс пішов далі Муавра при обчисленні ймовірності чи за ймовірностями Р(АВ) і Р(А). Саме це припущення дало основу приписувати Байєсу формули, що носять його ім’я.

Результат, що його приписують Байеєсу, вперше отримав сучасне формулювання в роботах Лапласа. В його роботі “Досвід філософії теорії ймовірності”: “Нехай деяка подія А може відбутися з однією з n несумісних подій і лише з ними. Ці події Лаплас називає причинами. Запитується, якщо відомо, що подія настала, чому дорівнює ймовірність того, що здійснилася причина?”. Ось формулювання відповіді, яку дав Лаплас: “ймовірність існування якої-небудь з цих причин дорівнює дробу, чисельник якого є ймовірність події, що слідує з цієї причини, а знаменник є сума подібних ймовірностей, що стосуються всіх причин: якщо ці різні причини, що розглядаються a priori, неоднаково ймовірні, то замість ймовірності події, що випливає з кожної причини, слід взяти добуток цієї ймовірності на ймовірність самої причини”. Легко зрозуміти, що Лаплас словесно сформулював відоме “правило Байєса”

.

Більш того, цей принцип Лапласа містить формулу повної ймовірності, якою з початку ХVIII ст. широко користувалися в своїх роботах відомі математики, які працювали в області теорії ймовірностей.

Однак Лаплас цим не задовольнився і дав формулювання власної формули повної ймовірності, але також лише словесну. Взагалі слід сказати, що Лаплас в книзі суворо дотримувався правила: у філософській книзі не виписувати математичні формули, у разі ж необхідності обмежуватися їх словесними формулюваннями. Наведемо дане Лапласом формулювання повністю.

VII принцип. Імовірність майбутньої події є сума добутків ймовірності кожної причини, виведеної зі спостережуваної події, на ймовірність того, що при існуванні цієї причини майбутня подія буде мати місце.

Після формулювання принципу Лаплас навів приклад для його ілюстрації, який був використаний одночасно і для ілюстрації принципу VI (формули Байєса). Ось цей приклад: в урні дві кулі, кожна з яких може бути тільки чорною або білою. Виймають одну з цих куль, а потім повертають в урну, щоб приступити до наступного виймання. У перших двох тиражах з'явилися білі кулі. Яка за цієї умови ймовірність того, що біла куля з'явиться і при третьому вийманні? Далі Лаплас розглянув такий приклад. Якщо віднести найдавнішу історичну епоху за п'ять тисяч років, або за 1 826213 днів назад і взяти до уваги, що сонце постійно сходило за цей проміжок часу при кожній зміні діб, то буде 1 826214 шансів проти одного за те, що воно зійде і завтра ...

Як бачимо, правила в теорії ймовірності широко застосовувалися практично, однак потребу в їх формулюванні не відчували. Паралельно при цьому вводилися і допоміжні поняття, які дозволяли глибше розуміти природу речей. В даному випадку цими поняттями є поняття несумісних і незалежних подій.

Томас Байєс (1702-1761 рр.) Англійський вчений, математик. Основні праці стосуються теорії ймовірностей. Байєс сформулював і розв’язав одну з основних задач цього розділу математики - теорему Байєса. Робота, що присвячена цій задачі, була опублікована вже після його смерті, в 1763 р.

Теорема Байєса навчить роботів приймати рішення, так в Європі було розпочато дослідницький проект BACS (Bayesian Approach to Cognitive Systems, «Байєсів підхід до створення систем, що навчаються»), повідомляє ScienceDaily. Проект фінансувався ЄС до 2010 року. В межах проекта вчені дослідили, наскільки застосовувана теорема Байєса і її наслідки для створення штучних систем, що будуть спроможні вирішувати складні задачі в реальних умовах. Теорема Байєса являє собою модель раціонального вибору в умовах неточної і/або неповної інформації. В даний час вона активно використовується, наприклад, в спам-ф і льтрах .