7.3. ÏÎÌÅÕÎÓÑÒÎÉ×ÈÂÎÅ (ÊÀÍÀËÜÍÎÅ) ÊÎÄÈÐÎÂÀÍÈÅ
Åñëè ýêîíîìíîå êîäèðîâàíèå ñîêðàùàåò èçáûòî÷íîñòü èñòî÷íèêà ñîîáùåíèé, òî ïîìåõîóñòîé÷èâîå êîäèðîâàíèå, íàïðîòèâ, ñîñòîèò â öåëåíàïðàâëåííîì ââåäåíèè èçáûòî÷íîñòè äëÿ òîãî, ÷òîáû ïîÿâèëàñü âîçìîæíîñòü îáíàðóæèâàòü è(èëè) èñïðàâëÿòü îøèáêè, âîçíèêàþùèå ïðè ïåðåäà÷å ïî êàíàëó ñâÿçè.
 äàëüíåéøåì áóäåì ðàññìàòðèâàòü òîëüêî ÷èñòî êàíàëüíîå (ïîìåõîóñòîé÷èâîå) êîäèðîâàíèå, õîòÿ îáùèé ïîäõîä òàêæå âîçìîæåí è, áîëåå òîãî, äà¸ò âåñüìà çíà÷èòåëüíûé ýôôåêò, îñîáåííî ïðè ïåðåäà÷å ïðåîáðàçîâàííûõ ê äèñêðåòíîìó âèäó íåïðåðûâíûõ ñèãíàëîâ (ñì. ãë. 8).
Ïåðåõîäèì ê èçëîæåíèþ îáøåé òåîðèè áëîêîâûõ êîäîâ. Áóäåì íàçûâàòü êàíàëüíûì (ïîìåõîóñòîé÷èâûì) áëîêîâûì êîäîì Ê ëþáîå ìíîæåñòâî èç
ðàçëè÷íûõ ïîñëåäîâàòåëüíîñòåé (êîìáèíàöèé, ñëîâ)
äëèíû
êàæäàÿ ïîçèöèÿ êîòîðûõ ìîæåò ïðèíèìàòü ëþáîå èç
çíà÷åíèé âõîäíîãî àëôàâèòà X, åñëè
Òàêîé êîä íàçûâàþò òàêæå èçáûòî÷íûì. Ïðè âûïîëíåíèè ðàâåíñòâà
êîä íàçûâàåòñÿ ïðèìèòèâíûì. Áóäåì íàçûâàòü ñêîðîñòüþ êîäà âåëè÷èíó
Î÷åâèäíî, èçáûòî÷íûå êîäû èìåþò
à äëÿ ïðèìèòèâíîãî êîäà
Òåîðåìà êîäèðîâàíèÿ Øåííîíà, äîêàçàííàÿ â ïðåäûäóùåé ãëàâå, óòâåðæäàåò, ÷òî ñóùåñòâóåò òàêàÿ ïîñëåäîâàòåëüíîñòü áëîêîâûõ èçáûòî÷íûõ êîäîâ ñ ôèêñèðîâàííîé ñêîðîñòüþ
ãäå Ñ — ïðîïóñêíàÿ ñïîñîáíîñòü äèñêðåòíîãî êàíàëà ñâÿçè, ÷òî ïðè íåîãðàíè÷åííîì óâåëè÷åíèè äëèí ýòèõ áëîêîâ
âåðîÿòíîñòü îøèáêè ïîñëå îïòèìàëüíîãî äåêîäèðîâàíèÿ â çàäàííîì êàíàëå áóäåò ñòðåìèòüñÿ ê íóëþ. Îäíàêî â äàííîé ãëàâå ìû èìååì äåëî ñ íåàñèìïòîòè÷åñêèì ñëó÷àåì, ò.å. ñ êîäàìè ôèêñèðîâàííîé äëèíû
è ïîýòîìó âîçíèêàåò ðÿä íîâûõ ïðîáëåì, êîòîðûå èìåþò âàæíîå ïðàêòè÷åñêîå çíà÷åíèå:
1. Âûðàçèòü âåðîÿòíîñòü îøèáêè ïðè èñïîëüçîâàíèè íàèëó÷øåãî êîäà è îïòèìàëüíîãî äåêîäèðîâàíèÿ êàê ôóíêöèþ äëèíû êîäîâîãî áëîêà
ñêîðîñòè êîäà
è ðàñïðåäåëåíèÿ âåðîÿòíîñòåé îøèáîê, îïðåäåëÿåìûõ êàíàëîì ñâÿçè.
2. Íàéòè îïòèìàëüíûé àëãîðèòì äåêîäèðîâàíèÿ ñ èñïðàâëåíèåì èëè îáíàðóæåíèåì îøèáîê äëÿ çàäàííîãî êîäà è êàíàëà.
3. Íàéòè ìåòîä âûáîðà íàèëó÷øåãî êîäà ïðè îïòèìàëüíîì äåêîäèðîâàíèè â çàäàííîì êàíàòå.
4. Ðàçðàáîòàòü ïðàêòè÷åñêè ðåàëèçóåìûå àïãîðèòìû êîäèðîâàíèÿ è äåêîäèðîâàíèÿ.
Äî ñèõ ïîð ðå÷ü øëà òîëüêî î áëîêîâûõ êîäàõ, äëÿ êîòîðûõ ïåðåäàâàåìàÿ ïî êàíàëó ñâÿçè ïîñëåäîâàòåëüíîñòü ñèìâîëîâ ìîæåò áûòü ðàçäåëåíà íà îäèíàêîâûå îòðåçêè (áëîêè), ôîðìèðóåìûå êîäèðóþùèì óñòðîéñòâîì íåçàâèñèìî äðóã îò äðóãà. Òàêîé ñïîñîá ÿâëÿåòñÿ íå åäèíñòâåííî âîçìîæíûì. Ïîýòîìó âî âòîðîé ÷àñòè ýòîé ãëàâû áóäóò îïèñàíû òàê íàçûâàåìûå íåïðåðûâíûå (ñâ¸ðòî÷íûå) êîäû.  êîíöå ïåðâîé ÷àñòè, ïîñâÿù¸ííîé èñêëþ÷èòåëüíî áëîêîâûì êîäàì, áóäåò ïîÿñíåíî, ïî÷åìó è êîãäà èìåííî íåïðåðûâíûå êîäû ìîãóò èìåòü îïðåäåë¸ííûå ïðåèìóùåñòâà ïåðåä áëîêîâûìè.