Главная > Теория информаци и связи > Передача информации. Статическая теория связи
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

5.8. Частотно-ограниченный канал с аддитивным, белым гауссовским шумом

В этом разделе мы вычислим пропускную способность непрерывного канала с непрерывным временем, аддитивным белым

гауссовским шумом, в предположении, что входной сигнал является частотно-ограниченной временной функцией со средней мощностью, не превосходящей некоторой заданной величины Многие каналы, представляющие практический интерес, могут быть адекватно представлены такой математической моделью.

Ансамбль временных функций называют гауссовским и стационарным, если совместная плотность распределения вероятностей значений этих временных функций в-любое конечное число моментов времени будет гауссовской и независимой от выбора начала отсчета времени. Этот ансамбль называют далее белым, если его спектральная плотность не зависит от частоты. Тепловой шум, имеющийся во всех физических каналах связи, математически можно описать с помощью гауссовского ансамбля временных функций и во многих случаях он может рассматриваться как белый.

Белый гауссовский шум обладает свойством, имеющим для нас кардинальное значение. Для того чтобы подчеркнуть это свойство, мы сформулируем его в виде теоремы. Оно будет выведено в следующем разделе.

Теорема. Пусть -элемент белого гауссовского ансамбля. Рассмотрим его разложение на временном интервале в ряд ортонормальных функций

где временные функции удовлетворяют условиям (5.114). Тогда коэффициенты статистически независимы и их плотности распределений вероятностей гауссовские с нулевыми средними и дисперсиями, равными где средняя мощность в произвольной полосе частот ширины герц.

Рассмотрим канал с непрерывным временем, события на входе которого описываются для любого временного интервала временными функциями со спектром, ограниченным заданной полосой Соответствующие выходные события представляются временными функциями которые связаны с соотношением

где -элемент белого гауссовского ансамбля со средней мощностью в заданной полосе, равной Такой канал будем называть частотно-ограниченным каналом с белым аддитивным гауссовским шумом.

Три временные функции можно выразить на заданном временном интервале рядами Фурье. Коэффициенты ряда для задаются формулами (5.120) и (5.121). Аналогичными выражениями задаются коэффициенты рядов для соответственно. Из равенства (5.143) следует, что эти коэффициенты связаны соотношением

Требование ограниченности спектра полосой частот ширины означает, в соответствии со свойствами частотно-ограниченных временных функций (см. предыдущий раздел), что только коэффициентов могут отличаться от нуля, а именно коэффициенты, соответствующие частотам, не выходящим за пределы заданной полосы. С другой стороны, поскольку является белым гауссовским шумом, коэффициенты статистически независимы. Поэтому только коэффициентов соответствующих отличным от нуля коэффициентам содержат информацию о временной функции на входе канала. Другими словами, обозначая через произведение ансамблей коэффициентов которые могут отличаться от нуля, а через произведение ансамблей соответствующих коэффициентов получим, что среднее количество информации, содержащейся в относительно равно

Пусть векторы в -мерном пространстве, декартовыми координатами которых являются коэффициенты Фурье функций соответствующие частотам в заданной полосе. Координаты этих трех векторов удобно перенумеровать числами от 1 до подставляя вместо целые принимающие значения из интервала На основании формулы (5.144) имеем

Далее, обозначая через плотность распределения вероятностей величины и, а через — плотность распределения вероятностей для получим для условной плотности распределения вероятностей

и для плотности распределения вероятностей

где дифференциальный элемент объема пространства значений вектора и. Теперь можно записать среднюю взаимную информацию между временными функциями на входе и выходе в виде

где

V — пространство значений вектора пространство значений вектора соответствующие дифференциальные элементы объема.

Теорема. Если распределение вероятностей входного сигнала удовлетворяет требованию, чтобы среднее по ансамблю временных средних для не превосходило некоторой величины т. е. чтобы

то пропускная способность частотно-ограниченного канала с аддитивным белым гауссовским шумом равна

где ширина заданной полосы частот в герцах, средняя в этой полосе мощность шума.

Доказательство. Пропускная способность канала определяется как

т. е. как максимальное значение средней взаимной информации в секунду, вычисленное по всем значениям и всем плотностям распределения вероятностей удовлетворяющим соотношению (5.151). Это максимальное значение можно определить следующим образом.

Рассматриваемая задача весьма сходна с задачей, рассматривавшейся в разд. 5.6 в связи с постоянными каналами с дискретным временем и аддитивным гауссовским шумом. Для любого значения каждый из векторов представляет

собой непрерывных, случайных величин связанных соотношением (5.144), в котором заменяется на Случайные величины статистически независимы и имеют гауссовское распределение с нулевым средним и дисперсией, равной Следовательно, на основании теоремы, содержащей формулу (5.84), получаем

где знак равенства имеет место тогда и только тогда, когда случайные величины статистически независимы. Кроме того, из равенства (5.150) получаем

где — энтропия какой-либо одной из случайных величин а по теореме, содержащей выражение (5.95)

где среднеквадратичное значение Знак равенства в формуле (5.156) имеет место тогда и только тогда, когда гауссовская величина с нулевым средним и, следовательно, с дисперсией, равной С другой стороны, знак равенства в выражениях (5.154) и (5.155) будет иметь место при таком выборе при котором компоненты вектора и будут статистически независимыми и каждая из них будет иметь гауссовское распределение с нулевым средним. В этом случае компоненты вектора также будут статистически независимыми и гауссовскими с нулевым средним. Тогда соответствующая средняя взаимная информация равна

Мы заметим, далее, что среднеквадратичные значения связаны соотношением

Кроме того, поскольку статистически независимы, то

и мы получаем, с помощью соотношения (5.151), что

Теперь, как хорошо известно, при этих условиях

где знак равенства имеет место, когда все равны и в выражении (5.160) стоит знак равенства. Наконец, подставляя правую часть неравенства (5.161) вместо произведения в равенство (5.157), получаем

Последнее выражение является максимальным значением, принимаемым средней взаимной информацией при ограничениях, накладываемых условием (5.151). Разделив это выражение на получим величину, независящую от которая, следовательно, равна пропускной способности канала в секунду. Ч. Т. Д.

Выражение (5.162) для пропускной способности канала хорошо знакомо инженерам связи с 1948 г., когда оно впервые было введено независимо Винером и К. Шенноном. Из-за его принципиальной, а также математической простоты оно использовалось широко и время от времени ошибочно. Следует помнить, что это выражение дает пропускную способность канала только тогда, когда шум гауссовский и белый, а средняя мощность входного сигнала не может превосходить 5. Прежде всего оно представляет собой максимальное значение взаимной информации в секунду между сигналами на входе и выходе канала, а не информационное содержание сигнала со средней мощностью, равной 5, смешанного с шумом со средней мощностью, равной Оказывается [2], однако, что если сообщения на выходе источника информации — гауссовские со средней мощностью, равной и спектральной плотностью, постоянной внутри полосы частот ширины и равной нулю вне ее, и если они должны быть воспроизведены с максимумом

среднеквадратичной ошибки, равным то скорость создания информации задается правой частью соотношения (5.152).

Пропускная способность, выражаемая формулой (5.152), зависит от ширины полосы и от отношения — допустимой средней мощности входного сигнала средней мощности шума в заданной полосе частот. Зависимость пропускной способности от при данных показана на рис. 5.6.

Рис. 5.6. Пропускная способность канала с аддитивным белым гауссовским шумом как функция ширины полосы.

Для очень малых значений значение С растет очень быстро с ростом но асимптотически стремится к величине когда стремится к бесконечности. Эту величину легко можно вычислить, заметив, что

Имеем

Эта величина есть пропускная способность канала при условии, что на частотный спектр входного сигнала не накладываются никакие ограничения.

Выражение (5.164) допускает весьма интересную физическую интерпретацию. Наша возможность измерять любые физические величины всегда ограничивается наличием теплового шума. Этот шум имеет гауссовское распределение, и его спектральная

плотность постоянна, по крайней мере в области частот, представляющих интерес для целей связи. Эта спектральная плотность равна

где джоуль/градус — постоянная Больцмана, а абсолютная температура рассматриваемой системы (если система не однородна по температуре, то это некоторая определенная надлежащим образом эффективная температура). Тогда из равенства (5.164) следует, что энергия сигнала, принятого по некоторому физическому каналу, должна быть не меньше джоулей на каждую натуральную единицу информации, которую этот сигнал способен доставить. Другими словами, требуется по меньшей мере джоулей принятой энергии, чтобы успешно передать одну натуральную единицу информации.

Если входная временная функция имеет спектр, ограниченный полосой то выражение (5.152) можно также вывести, используя разложение (5.131). Можно показать, что при таком представлении входного сигнала рассматриваемый канал с непрерывным временем сводится к непрерывному постоянному каналу с дискретным временем и гауссовским аддитивным шумом, т. е. к канйлу типа, рассмотренного в разд. 5.6. Событиями на входе канала с дискретным временем являются значения, принимаемые временной функцией в последовательные моменты времени, отстоящие друг от друга на секунд. Соответствующими выходными событиями являются значения, которые принимает в эти же моменты выходная временная функция после прохождения через идеальный фильтр нижних частот с шириной полосы пропускания Таким образом, каждое выходное событие есть сумма соответствующего входного события и значения шума, принимаемого им в тот же момент времени после прохождения через тот же идеальный фильтр нижних частот. Последняя величина имеет гауссовское распределение с нулевым средним и дисперсией Пропускная способность на событие такого канала с дискретным временем определяется по формуле (5.102), где 5 — среднеквадратичное значение событий на входе, среднеквадратичное значение шума. Умножая эту пропускную способность на т. е. на число событий в секунду, получим пропускную способность в секунду, выражаемую формулой (5.152).

Когда временная функция на входе имеет спектр, ограниченный полосой частот то с помощью разложений (5.135), (5.136) и (5.137) канал с непрерывным временем сводится к двум идентичным независимым каналам с

дискретным временем с входными событиями, равными значениям, принимаемым двумя модулированными квадратурными временными функциями в моменты, отстоящие друг от друга на секунд. Пропускная способность на событие каждого из этих каналов снова задается равенством (5.102). После умножения этого значения на на число событий в секунду на входе каждого канала, получаем пропускную способность в секунду каждого из каналов, составляющую половину величины, задаваемой формулой (5.152).

Это другое доказательство формулы (5.152) несколько проще доказательства, основанного на представлении рассматриваемых временных функций рядами Фурье. Формулировка, использующая ряды Фурье, имеет, однако, то преимущество, что является введением в вопросы, изучаемые в этой книге далее, и по этой причине она обсуждалась здесь с большими подробностями.

<< Предыдущий параграф Следующий параграф >>
Оглавление