Главная > Теория информаци и связи > Передача информации. Статическая теория связи
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

2.2 Обзор основных определений

Рассмотрим два дискретных пространства и будем обозначать через точки пространства X и через - точки пространства . Произведение пространств определяется как пространство, такое, что одна и только одна его точка соответствует каждой паре точек х, у, одна из которых принадлежит пространству X, а другая — пространству У. Геометрическая иллюстрация изложенного дана на рис. 2.3, где произведение пространств образовано из совокупности точек плоскости каждый столбец точек этой совокупности соответствует некоторой точке пространства X, а каждая строка точек соответствует некоторой точке пространства У. Другими словами, точки пространств могут рассматриваться как координаты точек пространства

Ансамбль X порождается заданием на пространстве X распределения вероятностей приписывающего вероятность

каждой точке пространства. Ансамбль или любой другой ансамбль может быть порожден подобным же образом. Так, ансамбль порождается заданием совместного распределения вероятностей на произведении пространств

Рис. 2.3. Геометрическая иллюстрация произведения пространств XV.

Распределение вероятностей выражается через следующим образом:

где суммирование производится по всему пространству X или У, как это указано в формулах. Условные распределения вероятностей определяются как

Едва ли необходимо добавлять, что сумма вероятностей, приписанных всем точкам любого ансамбля, должна равняться единице. В частности, для произведения ансамблей мы имеем

Приведенные выше соотношения можно интерпретировать в терминах рис. 2.3 следующим образом. Вероятность есть сумма вероятностей приписанных точкам столбца, соответствующего Аналогично вероятность есть сумма вероятностей приписанных точкам строки, соответствующей Распределения вероятностей часто называют «одномерными» [в отличие от «двумерных» вероятностей Р(х, у)]. Условная вероятность равна вероятности приписанной точке деленной на сумму вероятностей, приписанных точкам строки, соответствующей на если только Точно так же условная вероятность равна деленному на сумму вероятностей, приписанных точкам столбца, соответствующего на если только Таким образом, в двумерном ансамбле условную вероятность точки можно мыслить как относительную вероятность этой точки по отношению ко всей строке или всему столбцу, к которым она принадлежит.

Подобным же образом можно определить произведение большего числа пространств и связанных с ним вероятностей. Например, рассмотрим третье дискретное пространство с точками и произведение пространств в котором каждая точка изображает некоторую тройку точек Это произведение пространств можно представить как трехмерную совокупность точек, упорядоченную вдоль линий, параллельных осям х, таким образом, что точка, изображающая тройку расположена на пересечении трех плоскостей Тогда, если мы зададим в этом произведении трех пространств распределение вероятностей то по определению имеем

Так, например, равно сумме вероятностей, приписанных точкам, расположенным на прямой, параллельной оси z, образованной пересечением плоскостей Теперь должно быть ясно, что

есть сумма вероятностей, приписанных точкам плоскости Аналогичные выражения могут быть выписаны для

Условное распределение вероятностей определяется как отношение

Таким образом, равно вероятности, приписанной точке деленной на сумму вероятностей, приписанных точкам на линии пересечения плоскостей Подобным же образом определяются другие условные распределения вероятностей.

Если условное распределение вероятностей не зависит от пары задающей условие, т. е. если

для всех точек произведения пространств то говорят, что ансамбль X статистически не зависит от произведения ансамблей . В этом случае

С другой стороны, в этом случае

так что ансамбль также не зависит от ансамбля Другими словами, два ансамбля взаимно независимы. Обобщение этого определения статистической независимости на другие случаи очевидно. Следует, однако, отметить тот факт, что из статистической независимости ансамбля X от ансамбля У и от ансамбля не следует еще статистическая независимость ансамбля X от произведения ансамблей Иначе говоря, из пары соотношений

не следует обязательно, что

<< Предыдущий параграф Следующий параграф >>
Оглавление