Главная > Обработка сигналов, моделирование > Статистическая теория обнаружения сигналов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

ПРИЛОЖЕНИЕ Б. ТЕОРИЯ ВЕРОЯТНОСТЕЙ

(а) Дискретные вероятности

Ниже дается краткое изложение понятий и правил теории вероятностей. В этой книге потребуются только наиболее, элементарные аспекты теории вероятностей. И поэтому вполне достаточны интуитивные представления о вероятности, получаемые студентами физических специальностей. Тем, кто не знаком с теорией вероятностей или желает получить более глубокое представление о ней, советуем прочесть один из учебников, перечисленных в прилагаемой литературе.

Пусть результатом измерения или наблюдения является одно из конечного числа возможных событий

События взаимно исключают друг друга. Возможно однозначно решить, которое из них является результатом опыта. С каждым событием связывается число лежащее в интервале Числа удовлетворяют условию

Они называются вероятностями событий Из-за связи с событиями эти числа подчиняются определенным правилам или аксиомам, которые являются идеализацией основанного на опыте представления, что вероятность события при большом числе независимых экспериментов есть отношение числа экспериментов, когда событие имеет место, к общему числу испытаний: общее число экспериментов или опытов), число опытов, результатом которых было Равенство обусловлено тем, что Запись

означает "вероятность событий равна

Такое вероятностное описание результатов серии экспериментов чаще всего применяется, когда детальное рассмотрение причин изучаемых явлений так сложно, что эти явления не могут быть описаны детерминистической физической теорией и результаты экспериментов не могут быть предсказаны. Говорят, что появление события в данном опыте управляется "случаем", и результаты называются "случайными". Весьма подходящей демонстрацией ситуации, к которой применима теория вероятностей, является бросание игрального кубика. Какая грань кубика окажется верхней, зависит таким сложным образом от начальных условий движения кубика при его бросании и эти начальные условия так трудно измерить точно, что результат бросания не Может быть предсказан. Лучшее, что можно сделать, это задать вероятности, с которыми выпадает каждая грань.

Пусть возможные результаты опыта или события некоторым образом распределены по классам, и пусть класс 5 содержит некоторые из этих событий, скажем Вероятность того, что результатом испытания является одно из событий этого класса 5 равна В общем виде это можно записать как

где означает, что суммирование производится для событий содержащихся в классе 5. Выражение означает вероятность того, что результатом эксперимента является одно из событий класса 5. Мы называем ее "вероятностью класса Когда результатом испытания является одно из событий класса часто говорят, что имело место сложное событие. Наоборот, называют простыми событиями.

Если опытом является бросание кубика, мы можем определить результат опыта, приняв, что есть следующее событие: "верхней гранью кубика оказывается грань, на которой находится очков", Допустим, что для всех Пусть класс 5 составляют события, в которых числа очков на верхней грани четные. Тогда Класс, в котором событий нет, имеет вероятность, равную нулю. Класс, содержащий все

возможные результаты опыта имеет вероятность, равную единице.

Если классы некоторого набора классов не перекрываются, т. е. если нет событий, принадлежащих одновременно двум классам, говорят, что они несовместимы. При этом мы напишем в качестве обобщения формулы равенство

означающее, что вероятность того, что результат опыта находится в или или равна сумме вероятностей попаданий в каждый из классов от до Это свойство иногда описывают, говоря, что вероятность является аддитивной функцией множества. Вероятность во многом подобна физической массе: масса системы частиц равна сумме масс частиц системы. Масса совокупности систем, таких, что ни одна из систем не содержит частиц, принадлежащих другой системе, равна сумме масс отдельных систем. Формула также является обобщением свойства чисел появлений событий при большом числе опытов.

Чтобы ввести понятие условной вероятности, поступим следующим образом: пусть сделано некоторое другое разделение событий на классы. Обозначим эти классы Данный класс может содержать события любых классов первого деления. Те события, которые находятся в обоих классах образуют "пересечение" этих классов, которое обозначается Пусть Это — сумма вероятностей событий находящихся одновременно в классах Согласно мы должны иметь следующую формулу:

Те классы которые не перекрываются с вообще дают нулевые члены в этой сумме. Теперь можно определить условную вероятность как вероятность того, что результат эксперимента будет принадлежать к классу

когда мы знаем, что он принадлежит к классу

Если определение не является необходимым, так как не может содержать возможного результата. Условная вероятность обладает свойством, выраженным равенством а именно

Это равенство следует из формул и

В качестве примера условной вероятности предположим, что одновременно бросаются два кубика. Пусть событие состоит в том, что на первом кубике выпадает очков и на втором, Какова вероятность, что число очков к на первом кубике нечетное, когда сумма в предположении Класс 5, определенный как набор событий для которых к содержит события Отсюда Класс содержащий все события, для которых к нечетное, состоит из где равно 1, 2, 3, 4, 5 или 6. Класс содержит только так что Поэтому, по определению, Это и является искомой условной вероятностью. Мы могли бы сказать, что число очков на первом кубике нечетно в 2/3 всех случаев бросаний, при которых сумма очков на двух кубиках оказывается равной 4.

Если условная вероятность не зависит от класса т. е. если она одна и та же для всех

и если это верно для всех классов мы говорим, что разделение на классы не зависит от разделения по классам. Это условие и формула дают

Если в приведенном выше примере является классом результатов, для которых и если класс

в котором к нечетно, класс, в котором к четно, разделения, очевидно, не являются независимыми. Пусть теперь группа состоит из результатов, в которых первый кубик показывает к очков, а что показывает второй — роли не играет. Пусть при этом класс, в котором второй кубик показывает очков, и не важно, что показывает первый. Теперь, очевидно, условие выполняется и разделения являются независимыми. Такое утверждение эквивалентно следующему высказыванию: результат бросания первого кубика не зависит от результата бросания второго и наоборот. Распространение понятия независимости на большее число разделений очевидно:

если разделения независимы. Мы можем при этом сказать, что сложные события, соответствующие классам являются "статистически независимыми".

(б) Непрерывные вероятности

Рассмотрим эксперимент, заключающийся в измерении некоторой физической величины, например напряжения в данной точке электрической цепи в данный момент времени. Результатом этого эксперимента является отсчет по некоторой шкале в интервале а Положение указателя на шкале может быть отсчитано только с определенной точностью, скажем 1% от а. Таким образом, значения х лежат в одном из интервалов Пусть событие, заключающееся в том, что х лежит в интервале Понятия предыдущего раздела могут быть применены к этому эксперименту. Событию приписывается вероятность (является ли это допустимым и как определены значения вопросы физики, а не математики). Используя формулу мы можем при этом определить вероятность соотношением

Если затем определить функцию и представить ее графически, получим кривую,

состоящую из системы ступеней, поднимающихся при возрастании Мы имеем

Обычный процесс абстрагирования, применяемый при образовании физических понятий, приводит к представлению, что описанный выше эксперимент последовательно выполняется с приборами все более широкого диапазона и большей точности, так что ступеньки кривой все уменьшаются. Таким образом, мы можем представить себе непрерывную кривую в интервале такую, что является вероятностью события "измерение физической величины таким совершенным прибором дает значение, меньшее или равное Функция никогда не убывает при росте х, причем Эта функция называется интегральным законом распределения вероятностей переменной х.

В большинстве физических ситуаций функция является дифференцируемой во всех точках, так что можно определить функцию которая называется функцией плотности вероятности х. Так как функция не возрастающая, и

Вероятность того, что х лежит в некотором конечном интервале дается формулой

Часто говорят: "вероятность того, что х лежит между равна Вероятности, определенные формулой обладают свойством аддитивности, т. е. если интервалы не содержат общих точек,

где означает, что х лежит в интервале Функция плотности вероятности аналогична непрерывному

распределению массы вдоль нити, обладающему таким же свойством аддитивности. Когда величина х описывается такой функцией плотности вероятности, ее называют "случайной переменной".

Результатов измерения может быть не одна, а две или более величин таких, как напряжения в нескольких точках одной и той же цепи в определенный момент времени или в одной и той же точке в моменты, разделенные точными интервалами. При этом можно расширить указанное выше представление для определения функции плотности совместного распределения вероятностей переменных . Например, для получаем функцию обладающую тем свойством, что вероятность того, что дается двойным интегралом

Подобное определение может быть дано и для функции совместного распределения переменных

Должно иметь место равенство

Кроме того, функция должна удовлетворять условию совместности

где функция плотности распределения вероятностей переменной х, которая была определена выше. В этой ситуации часто называют одномерной функцией плотности распределения вероятностей.

Функция плотности условного распределения может быть определена теперь по аналогии с соотношением

Будучи функцией плотности вероятности, она должна удовлетворять вследствие условию

Тем же способом можно определить функцию плотности условной вероятности совместного распределения. Например,

Соответствующие определения для других комбинаций переменных пишутся аналогичным образом.

Говорят, что переменные и статистически независимы, если не зависит от где одномерная функция плотности вероятности Это эквивалентно определению, гласящему, что переменные независимы тогда и только тогда, когда

Для независимых переменных функция совместного распределения является произведением функций распределения отдельных переменных.

Пусть случайная переменная, а некоторая функция этой переменной. Математическое ожидание, или среднее значение, функции переменной х определяется равенством

где функция плотности вероятности х. Подобным же образом для нескольких переменных

где функция совместного распределения этих переменных. Далее, можно определить условное математическое ожидание формулой

дающей условное математическое ожидание при заданном значении При этом имеем соотношение

следующее из определения функции условного распределения.

В частности, среднее значение переменной х есть математическое ожидание

момент распределения равен

Дисперсия распределения х определяется соотношением

Среднее значение аналогично центру распределения масс. Квадратный корень из дисперсии часто называют стандартным отклонением. Оно измеряет "разброс" распределения около его среднего значения. Дисперсия аналогична моменту инерции в механике.

Ковариация двух переменных определяется соотношением

Если переменные независимы, однако обратное не обязательно справедливо.

Отношение часто называют коэффициентом корреляции Оно является мерой линейной зависимости одной переменной от другой.

Важным типом функций распределения является нормальное, или гауссово, распределение, даваемое формулой

Интегральное распределение, получаемое из этой функции плотности вероятности, может быть определено формулой

в которой введены так называемые интегральные функции ошибок, определенные равенствами

Интегральные функции ошибок являются нечетными функциями х. Было опубликовано большое количество таблиц этих функций. Некоторые из них указаны в прилагаемой литературе. В этой книге мы используем интегральную

функцию ошибок в более удобной форме:

Для переменных можно определить ковариационную матрицу с элементами где ковариации определены так же, как в

Если переменные описываются гауссовой функцией совместного распределения, эта функция имеет вид

где величины являются элементами матрицы обратной ковариационной матрице Это значит, что корни систем линейных уравнений

Число этих корней равно Каждая система уравнений характеризуется своим частным значением Величина есть определитель корреляционной матрицы Подставив. в и проинтегрировав, можно показать, что ковариацией любой пары переменных, скажем действительно является сргу. Важное свойство гауссовых переменных состоит в том, что их функция плотности распределения вероятностей зависит только от их средних значений, и их ковариационной матрицы. Чтобы найти параметры функции распределения, моменты или ковариации более чем; двух переменных вычислять не нужно. Действительно, ковариации более высокого порядка могут быть выражены при помощи средних и ковариацией Например, предполагая, что все средние равны нулю, можно показать, что для всех.

переменных, имеющих гауссову функцию совместного распределения,

Другим важным свойством гауссовых переменных является то, что любая их комбинация также описывается гауссовой функцией распределения. Среднее значение этой функции

а дисперсия

В заключение отметим, что в последние годы теория вероятностей получила строгое обоснование благодаря использованию представления о вероятности как аддитивной функции, определенной на множествах или классах множеств с определенными подходящими математическими свойствами. Это было сделано в основном на базе теории меры и интегрирования, теоремы которой часто могут быть переведены на язык теории вероятности, учитывая, что вероятность можно считать некоторым видом меры. Строгое изложение теории было важно для выяснения некоторых определенных логических вопросов в связи с вероятностями, определенными для бесконечных множеств. В дополнение к этому применением интеграла Стилтьеса, который дал возможность описать дискретные и непрерывные вероятности одними и теми же формальными выражениями, было достигнуто единство теории. В этой книге мы опираемся на интуитивное представление вероятностей для возмещения недостаточной математической строгости многих доказательств, хотя и признаем важность строгого доказательства при установлении логической согласованности любой математической теории. Чтобы глубже познакомиться с фундаментальными математическими и логическими проблемами теории вероятностей, следует обратиться к книгам Колмогорова [3], Дуба [7] и Лоева [9].

ЛИТЕРАТУРА

(см. скан)

ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА

(см. скан)

<< Предыдущий параграф Следующий параграф >>
Оглавление