Kvantování dat. Kvantování signálů, její účel a typy. Kvantování podle úrovně

Kvantování(angl. quantization) - v informatice rozdělení rozsahu hodnot spojité nebo diskrétní veličiny do konečného počtu intervalů. Existuje také vektorová kvantizace – dělení prostoru možné hodnoty vektorové množství do konečného počtu oblastí. Nejjednodušší formou kvantování je dělit celočíselnou hodnotu přirozené číslo, nazývaný kvantizační koeficient.

Jednoduše řečeno, kvantování je zaokrouhlování diskrétních hodnot signálu na nejbližší celá čísla ze sady pevných úrovní, na které je rozdělen celý rozsah změn signálu, počet těchto úrovní je konečný a nazýváme je kvantovací úrovně.

Nezaměňujte kvantování se vzorkováním (a v souladu s tím ani krok kvantování se vzorkovací frekvencí). Při vzorkování je časově proměnná veličina (signál) vzorkována na specifikované frekvenci (vzorkovací frekvence), takže vzorkování rozloží signál na jeho časovou složku. Kvantování vede signál k dané hodnoty, to znamená, že rozdělí signál podle úrovně. Signál, na který bylo aplikováno vzorkování a kvantování, se nazývá digitální.

Kvantování se často používá při zpracování signálu, včetně komprese zvuku a obrazu.

Při digitalizaci signálu se úroveň kvantizace také nazývá vzorkovací hloubka nebo bitová hloubka. Hloubka vzorkování se měří v bitech a týká se počtu bitů, které vyjadřují amplitudu signálu. Čím větší je hloubka vzorkování, tím více se digitální signál shoduje s analogovým signálem. V případě rovnoměrného kvantování se hloubka vzorkování také nazývá dynamický rozsah a měří se v decibelech (1 bit ≈ 6 dB).

Kvantovací krok je určen bitovou kapacitou ADC.

Typy kvantování.

Jednotná (lineární) kvantizace - rozdělení rozsahu hodnot do segmentů stejnou délku. Lze si to představit jako dělení původní hodnoty konstantní hodnotu(kvantizační krok) a odebíráním celočíselné části z kvocientu je kvantizační charakteristika v tomto případě lineární (obr. 1 a)):

Obrázek 1. Kvantizační charakteristiky: a) lineární; b) nelineární

Nelineární kvantování – kvantování s proměnným krokem. Umožňuje vám poskytnout poměrně velký dynamický rozsah při redukci Kapacita ADC. V tomto případě má kvantizační charakteristika tvar křivky blízké logaritmickému tvaru. Při kvantování malých signálů je kvantovací krok malý a přesnost přenosu signálu je poměrně vysoká. Při větších hodnotách signálu se krok kvantování zvyšuje, což vede ke zvýšení chyby. Ale protože signál má v tomto případě dost velkou váhu, lze kvantizační šum efektivně maskovat.

Převodníky s nelineární kvantizační charakteristikou poskytují snížení bitové hloubky a v důsledku toho snížení digitální bitové rychlosti, ale mohou být zdrojem nežádoucího zkreslení. Slabé signály v přítomnosti signálu s velkou amplitudou mohou být v důsledku velké chyby kvantizace potlačeny v horním subpásmu.

Kvantování úrovně je reprezentace hodnot vzorků digitálními signály. Pro binární kvantování je rozsah napětí signálu od Umin do Umax rozdělen do 2n intervalů. Velikost výsledného intervalu (kvantizační krok):

Každému intervalu je přiřazeno n - číslic binární kód- číslo intervalu, zapsané jako binární číslo. Každému vzorku signálu je přiřazen kód pro interval, do kterého spadá hodnota napětí tohoto vzorku. Analogový signál je tedy reprezentován posloupností binárních čísel odpovídajících velikosti signálu v určitých okamžicích, tj. digitální signál. Navíc každý binární číslo je reprezentována posloupností impulsů vysoké (1) a nízké (0) úrovně.

Počet kvantizačních úrovní n a počet binárních bitů ADC určují dynamický rozsah převodu. Dynamický rozsah(v dB) z počtu bitů ADC nebo DAC je určeno výrazem:

kde n je počet binárních číslic.

Rýže. Kvantování signálu podle úrovně:

a – s konstantním kvantizačním krokem; b – chyby kvantizace; c – kvantování s proměnným krokem

Ordinační osa ukazuje hodnotu předem zvoleného kvantizačního kroku q a čáry jsou nakresleny rovnoběžně s časovou osou, indikující úrovně kvantizace. Přechod z jedné úrovně do druhé nastává, když je funkční hodnota uprostřed kvantizačního intervalu. Přechod z jedné úrovně do druhé nastává, když je funkční hodnota uprostřed kvantovacího intervalu, protože v tomto okamžiku je absolutní kvantizační chyba ∆ k.u. se ukazuje jako největší. Pokud je totiž hodnota funkce uprostřed mezi dvěma úrovněmi (body a, b, c...), vzniká nejistota, protože funkce je od obou úrovní stejně vzdálená. Pokud se tedy například hodnota funkce v bodě b objeví o nekonečně malou hodnotu, pak je vhodné tuto novou hodnotu přiřadit úrovni 3. Naopak hodnota funkce je o něco menší než hodnota v bodě PROTI, bude nahrazena úrovní 2. Na základě výše uvedeného je kvantizační proces prováděn následovně: kvantizační interval je rozdělen na polovinu a tečkovaný vodorovné čáry dokud se neprotnou s kvantovanou funkcí. Průsečíky jsou označeny písmeny ( A, b, C, d atd.), v nich se hodnota funkce přenáší nejméně přesně, dochází ke kvantizační chybě ∆ k.u., rovná se rozdílu mezi hodnotou funkce λ( t) a nejbližší úroveň. Protože funkce je přenášena nejméně přesně v bodě, který se nachází mezi dvěma kvantovacími úrovněmi a je od nich oddělen polovinou kvantizačního intervalu q/2, pak je maximální chyba kvantování úrovně určena jako

(2.1)

Tady + q/2 - maximální kladná chyba kvantizace, například z bodu PROTI do úrovně 2 a - q/2 – maximální záporná chyba kvantizace, např. z bodu PROTI do úrovně 3. Chyby kvantifikace jsou uvedeny na Obr. b), na kterém jsou na časové ose vyneseny segmenty kvantizačních úrovní protínané funkcí.

Takže funkce mezi body k A A protíná úroveň 2. Tato úroveň je vynesena na ose t(obr. d.b) a nakreslí se segment funkce k-a. Umístění zapnuto a-b Funkce sice neprotíná žádnou z úrovní, ale protože prochází blíže k úrovni 1, je segment této úrovně vykreslen na časové ose. V tomto rozmezí od bodu A do té míry b chyba se počítá od úrovně 1 a bude pouze kladná. V jiných oblastech je chyba, pozitivní i negativní.

V důsledku kvantování funkce ( t), vytvořené podle určitého pravidla, byla v bodech vybrána řada diskrétních hodnot této funkce abeceda atd. Výběr bodů ukončí vlastní kvantovací proces. Je-li třeba si představit úplný tvar funkce, která funkci nahradila ( t), postupujte následovně. Přes tečky abeceda atd. nakreslete vertikální segmenty (dokud se neprotnou s úrovněmi), které jsou následně spojeny horizontálními segmenty, tvořícími stupňovitou kvantovanou funkci Z Obr. d), a) z toho vyplývá, že kvantovaná skoková funkce jakoby obchází spojitou funkci na obou stranách (nahoře i dole), což nám umožňuje uvažovat kvantování jako výsledek polohy na interferenční funkci ∆(t) , což se nazývá šum nebo kvantizační interference.

Jak vyplývá z Obr. a), počet kvantizačních úrovní N na jednotku další číslo interval N – 1.

Pokud je zpráva omezena na rozsah od do , pak

.

Když máme

Pokud jde o přesnost převodu (kvantizace), obvykle se uvádí ve formě hodnoty redukované relativní chyby (v %), která se z definice rovná . U výše popsané kvantizační metody (obr. b) nemůže chyba překročit q/2, tzn. Při výpočtu je třeba vzít v úvahu (2-1). Tedy za předpokladu, že (toho je dosaženo vhodným uspořádáním souřadnicových os) získáme

(2-4)

a krok kvantování pro danou chybu kvantování je roven

(2-5)

Příklad 2-1. Předpokládejme, že je nutné kvantovat spojitou funkci, od nuly do 100 V, s přesností . Podle (2-5) q= 2V. Z (2-3) určíme, že je zapotřebí 51 kvantizačních úrovní.

Nahrazení skutečné hodnoty funkce její nejbližší hodnotou vytváří kvantizační chybu, která může nabývat jakékoli hodnoty z – q/2 až + q/2 (obr. b). Když dost velké číslo kvantizační úrovně N rozdělení kvantizační chyby v rozmezí od – q/2 až + q/2 bude stejnoměrné bez ohledu na distribuční zákon samotné funkce. Střední kvadratická hodnota kvantizační chyby podle úrovně

tj. několikrát menší než maximální chyba.

Nerovnoměrné kvantování podle úrovně. Některé funkce, které se mají kvantovat, se mění tak, že je vhodné je kvantovat proměnným kvantovacím krokem. d) ukazuje nelineární závislost proudu já od napětí U. Pokud je při měření nutné získat jednotnou stupnici napětí, musí být odečet proudu proveden s proměnným krokem q, snižující ji s rostoucí amplitudou. Mohou existovat další možnosti pro změnu kroku kvantizace. Pokud tedy například potřebujete získat více přesné hodnoty v jakékoli části kvantované funkce, pak v tomto rozsahu by měl být kvantizační krok redukován.

Na obnovení funkce kvantované úrovní. Kvantování podle úrovně se provádí pro následné kódování, tzn. Každá úroveň kvantované funkce je přenášena v kódu.

Na přijímací straně je kombinace kódů vstupujících do dekodéru převedena na proud nebo napětí, které se používají pro zamýšlený účel (vychýlení šipky zařízení, změna hodnot digitálních indikátorů atd.). Přijatá kvantovaná funkce ve své původní (spojité) podobě se obvykle při příjmu neobnoví, i když to lze provést lineární nebo složitější interpolací. Nejjednodušší kroková interpolace funkce byla provedena, když jsme spojili vertikální segmenty s horizontálními segmenty, čímž vznikla funkce (obr. a).

Kvantování času (vzorkování)

Pokud je spojitá funkce nahrazena jejími jednotlivými hodnotami v určitých okamžicích, pak se tento proces nazývá kvantování času nebo odběr vzorků. Na Obr. a) je ukázáno, že horizontální časová osa je rozdělena na intervaly vzdálené od sebe stejným kvantovacím intervalem.

Dále nakreslete svislé čáry, dokud se neprotnou s kvantovanou funkcí v bodech 1, 2, 3, ..., 9 a určete hodnoty funkce počínaje To znamená, že v intervalu T spojitá funkce nebude přenášena jako nekonečná řada hodnot, ale v v tomto případě s pouhými deseti hodnotami. Nalezením bodů, které určují hodnotu spojité funkce v diskrétních okamžicích v čase, jako při kvantování úrovní, vlastní proces časové kvantizace končí.

V případě, že chtějí obnovit kvantovanou funkci, provádějí některý z typů interpolace např. po krocích. V tomto případě se vodorovné čáry kreslí z bodů 0, 1, 2, ..., 9, dokud se neprotnou s svislé čáry, tj. řádky 0-1", 1-2" atd. Dále se spojí body 1"-1, 2"-2, 3"-3 atd. a získá se přerušená kvantovaná funkce "( t).

Je zřejmé, že diskrétnější hodnoty se přenášejí v průběhu času T, tj. jak menší krok kvantování t, tím přesněji bude funkce obnovena při příjmu. Není to však nutné malá hodnota t zvyšuje pole naměřených hodnot a vyžaduje více paměti pro jejich uložení. Zároveň s nadměrným velký krok kvantování, nebude reprodukovaná funkce příliš přesná a bude značně zkreslená.

Rýže. Časová kvantizace zprávy:

a – kvantizační metoda a obnova funkcí krokovou interpolací; b – chyby kvantizace; c – obnovení funkce lineární interpolací

Krok kvantování lze určit z Kotelnikovovy věty, jehož význam je následující: jakákoli spojitá funkce, jejíž frekvenční spektrum je omezeno frekvencí F max, může být zcela obnovena z jejích diskrétních hodnot odebraných v časových intervalech

Praktická aplikace této věty má však řadu omezení. Všechny zprávy přenášené v telemechanice jsou tedy časově omezené. Obvykle se jedná o obrazové nebo rádiové impulsy délky τ, které mají podle (1-14) a (1-22) nekonečné spektrum. Proto existují značné potíže při výběru hodnoty F max in (2-7) pro časově omezené funkce. Pokud tedy například vysíláte sinusové napětí o frekvenci 50 Hz po nekonečně dlouhou dobu, pak podle (2-7) pro obnovení jeho tvaru při příjmu stačí vyslat pouze dva impulsy za periodu, odpovídající hodnoty amplitudy: jedna - pozitivní půlvlna, druhá - negativní. pokud je například v konečném časovém úseku aplikováno sinusové napětí, pak pro obnovení tvaru tohoto rádiového pulsu nejsou zapotřebí dva, ale mnohem více pulsů, i když není možné přesně určit jejich počet, protože frekvenční spektrum rádiových pulsů je nekonečné.

prakticky lze přijmout Kotelnikovovu větu s další novela:

(2-8)

kde η je koeficient závislý na přesnosti reprodukce funkce a metodě interpolace: pro lineární η l = 0,75/a pro stupňovité η st = (3-5)η l (δ – relativní chyba v %)

Existuje další přístup k určení kroku kvantování na základě zadané hodnoty chyby. například na Obr. b) hodnoty absolutních chyb vznikajících při kvantování jsou vykresleny ve formě obrazců blízkých trojúhelníkům; Tato čísla jsou podobná aktuálním na obr. A). na Obr. b) je ukázáno, že daná hodnota absolutní chyby ∆ 3 v jednom úseku nárůstu funkce λ( t) je dosaženo za dobu ∆ t, na druhé straně pro ∆ t 2 a na některých se ukáže, že je menší než zadaná hodnota (například v sekci 1` - 2`). Závisí na rychlosti nárůstu funkce λ=dλ/d t. Je zřejmé, že je třeba zvolit kvantovací krok, který tomu odpovídá maximální rychlost zvyšující se funkce. Takže z Obr. a) z toho vyplývá, že pokud došlo k přepětí funkce (tečkovaná čára) na úseku křivky 5-6, pak zvolený kvantizační krok t ukázalo se, že je příliš velké a toto přepětí by nebylo obnoveno (mělo se udělat krok ).

Velikost absolutní chyby je na Obr. b). Zde, stejně jako u kvantování úrovně, by výpočty měly brát v úvahu buď , nebo , tzn. v průměru /2. To znamená, že = 100/2. Dosadíme-li hodnotu odtud do (2-9) a hodnotu z (2-11), dostaneme

Vzorec je odvozen s přihlédnutím k obnově funkce pomocí postupné interpolace.

Příklad 2-2. Najděte ∆ t při kvantování sinusové frekvence napětí F = 50 Hz. Chyby při rekonstrukci δ = 1 %. Podle (2-7) ∆ t= 1/2*50*10-3 = 10 mm, tzn. v ideálním případě může být každá půlvlna sinusoidy přenášena pouze s jednou hodnotou [perioda τ= 1/(50*10 -3)=20 mm]. η l.i. =0,75/ 0,75/ = 7,5, pak pro krokovou interpolaci η st =25 a ∆ t st = 1/25*2*50*10-3 =0,4 ms. Stejný výsledek je získán z (2-11). Pro danou přesnost rekonstrukce by tedy každý půlcyklus sinusoidy měl mít jednu hodnotu, přibližně 25 pro krokovou interpolaci a 7,5 pro lineární interpolaci.

Časově kvantovanou funkci na přijímací straně můžete obnovit pomocí kroku resp lineární interpolace nebo pomocí Kotelnikovovy metody. Nejčastěji se používá kroková interpolace a nejvzácněji se používá Kotelnikovova filtrace. Kroková interpolace na Obr. a) se provádí pomocí paměťových zařízení, která ukládají hodnoty, dokud se neobjeví další hodnota

Chyba z postupné interpolace je znázorněna na Obr. b). Chyba interpolace je navíc chápána jako rozdíl mezi okamžitými hodnotami rekonstruovaných a původních symbolů, odebraných ve stejných časových bodech. Maximální chyba se vyskytuje v bodech 1", 2", ..., 9". V bodech 1, 2, 3, ..., 9 je chyba nula. B obecný případ střední kvadratická hodnota této chyby je určena:

Kde n– počet měření.

Při rekonstrukci kvantované funkce podle Kotelnikova potřebujete znát všechny diskrétní body, předchozí i následující, nebo v každém případě pro praktické provedení před a po intervalu, ve kterém dochází k interpolaci, musí být známo několik bodů. Znalost následných bodů je možná pouze v systémech, které umožňují zpoždění v přenosu informace. Většina telemechanických systémů pracuje v reálném čase a neumožňují zpoždění. V takových systémech je nutné použít postupnou interpolaci, protože pro lineární je potřeba znát alespoň jeden bod předem, což opět vyžaduje zpoždění. Pokud je totiž například v tuto chvíli známá hodnota funkce t 4 (obr. a), t 4), pak při postupné interpolaci předem víme, že přes ∆t bude hodnota funkce stejná (t. 5`). Jak to bude s lineární interpolací přes interval ∆ t, není známo: buď se hodnota zvyšuje (v. 5) nebo snižuje (v. 5 2).

Někdy se obnova časově kvantované funkce s krokem vypočítaným podle Kotelnikovovy věty provádí pomocí dolnopropustného filtru, který vybírá konstantní složku a nízkofrekvenční složky odpovídající spektru přenášené funkce. Chyby však vznikají v důsledku skutečnosti, že amplitudově-frekvenční odezva skutečného filtru se liší od odezvy ideálního filtru. Obnova pomocí filtru má smysl, pokud je spektrum přenášené funkce dostatečně soustředěno v nulové oblasti podél frekvenční osy. K implementaci amplitudově-pulzní modulace se často používá časové kvantování.

Vzorkování– přechod od spojitého signálu k blízkému (v určitém smyslu) diskrétnímu signálu, popsanému nespojitou funkcí času. Příklad diskrétní signál– sekvence krátkých pulzů s proměnlivou amplitudou (poslední v tomto případě působí jako informativní parametr).

Zpracování a přenos diskrétní informace má řadu výhod oproti informacím podávaným v nepřetržité formě. Diskrétní signály jsou méně náchylné ke zkreslení během přenosu a ukládání, jsou snadno převedeny na binární digitální kód a zpracovány pomocí digitálních výpočetních zařízení.

Proces vzorkování se obvykle skládá ze dvou fází: vzorkování podle času a vzorkování (kvantizace) podle úrovně.

Vzorkování analogový signálčasem– proces vytváření vzorku analogového signálu v časech, které jsou násobky periody vzorkovací sekvence ∆t.

Vzorkovací sekvence – periodická sekvencečasové vzorky, definující diskrétní časovou mřížku.

Perioda vzorkování ∆t– časový interval mezi dvěma po sobě jdoucími vzorky analogového signálu (krok časového vzorkování).

Při výběru časové vzorkovací frekvence můžete použít V.A. teorém. Kotelnikov.

Ukázková věta(Kotelnikovův teorém) – věta, která určuje volbu vzorkovací periody ∆t analogového signálu podle jeho spektrálních charakteristik.

Podle teorému každý nepřetržitý signál s omezeným frekvenční spektrum, je zcela určen svými diskrétními hodnotami v referenčních okamžicích vzdálených od sebe časovými intervaly ∆ t= l/(2 F max), kde F max – maximální frekvence ve spektru signálu. Jinak časové vzorkování nezahrnuje žádnou ztrátu informace, pokud je vzorkovací frekvence F discr = 1/∆ t dvojnásobek specifikované horní frekvence signálu F max.

Podle Kotelnikovovy věty není potřeba přenášet nekonečnou množinu všech hodnot spojitého signálu X(t), stačí vysílat pouze ty jeho hodnoty (obr. 3.52), které jsou od sebe odděleny ve vzdálenosti ∆ t= l/(2 Fmax). Pro obnovení signálu X(t) na vstup ideálního filtru nízké frekvence, mající frekvenční pásmo od 0 do F msx, je nutné odeslat sekvenci úzkých pulzů s amplitudou odpovídající diskrétním vzorkům signálu X(t i) občas t i = i ∆t.

Rýže. 3.52. Diskrétní vzorky signálu

Protože vzorkovací teorém (Kotelnikovův teorém) byl formulován pro signál s omezeným spektrem a reálné signály mají neomezenou spektrální hustotu, pak při výpočtu ∆ t =1/(2F max) použijte přibližnou hodnotu F max (například šířka aktivního spektra určená kritériem amplitudy, kritériem 90% energetického obsahu nebo průměrného výkonu signálu). Navíc ideální dolnopropustný filtr potřebný k obnovení signálu v souladu s teorémem je fyzikálně nerealizovatelný, jelikož požadavky na něj (ideálně obdélníkový tvar amplitudově-frekvenční odezvy, absence fázového posunu v uvažovaném frekvenčním pásmu od 0 až F max) se ukáží jako rozporuplné a lze je provést pouze s určitou chybou. Vezmeme-li v úvahu výše uvedené, časová vzorkovací frekvence se obvykle považuje za 1,5–2,5krát větší hodnotu vypočítané pomocí Kotelnikovovy věty.

Existují i ​​jiné způsoby, jak vybrat vzorkovací frekvenci signálu (s přihlédnutím k době korelace přenášená zpráva, hodnota největší nebo standardní odchylky procesu). Takže v souladu s kritériem N.A. Zheleznov, která se provádí pro náhodné signály s konečnou dobou trvání T s a neomezeným frekvenčním spektrem se doporučuje provést vzorkovací krok ∆ t, rovný maximálnímu intervalu korelace signálu φ0. Předpokládá se, že parametr φ0 charakterizuje takové časové období, ve kterém individuální hodnoty náhodný proces lze považovat za statisticky závislé (korelované), s φ0 T S. Původní spojitý signál je tedy nahrazen soupravou N=T s/φ0 nekorelovaných vzorků (pulzů) následujících s frekvencí F diskr=1/∆ t= φ0. V tomto případě obnovení signálu X(t) se provádí pomocí lineárního predikčního filtru se střední čtvercovou chybou, která se co nejméně liší od nuly v časovém intervalu rovném korelačnímu intervalu φ0.

Vezmeme-li plně v úvahu vlastnosti reálných signálů (konečná doba trvání, neomezené spektrum), železnovské kritérium přesto postupuje od předpokladu rovnosti k nule korelační funkce signál NA x(φ) mimo interval [-φ0; φ0], která se v praxi provádí s určitou chybou.

V případech, kdy je toho více detailní informace o zákonu změn signálu lze volbu vzorkovací frekvence provést na základě dovolené chyby v aproximaci funkce X(t) v každém intervalu vzorkování. Na Obr. 3.53 uvádí příklad po částech lineární aproximace, když sousedí vzorky funkce X(t), pořízené v diskrétních okamžicích t já a t i+1 jsou spojeny přímými segmenty.

Rýže. 3.53. Po částech lineární aproximace

Uvažované metody rovnoměrného odběru vzorků (s ∆ t=const) může někdy vést k nadbytečným hodnotám, které nemají významný dopad na proces rekonstrukce původní zpráva. Například pokud funkce X(t) se v určitém poměrně dlouhém časovém intervalu mění jen málo T o, pak se odpovídající diskrétní vzorky signálu od sebe prakticky neliší, a proto není potřeba používat všechny specifikované vzorky k ukládání nebo přenosu informací po komunikační lince. Snížení redundantních informací je možné na základě adaptivních (nejednotných) vzorkovacích metod, které zajišťují výběr intervalu ∆ t mezi sousedními vzorky s přihlédnutím ke skutečné změně charakteristik signálu (zejména rychlosti změny).

Vzorkování signálu podle úrovně– proces mapování nekonečné množiny hodnot analogového signálu na určitou konečnou množinu (určenou počtem kvantizačních úrovní).

Výrazná vlastnost Vzorkování úrovní je náhradou za spojitou škálu úrovní signálu X(t) diskrétní měřítko X já ( i = 1, 2, ..., m), kde různé významy signály se od sebe liší alespoň nějakou pevnou (nebo zvolenou během kvantování) hodnotou ∆ t, nazývaný kvantizační krok.

Krok kvantifikace– hodnota rovna intervalu mezi dvěma sousedními kvantovacími úrovněmi (definováno pouze pro případ jednotné kvantizace).

Potřeba kvantování je způsobena skutečností, že digitální výpočetní zařízení mohou pracovat pouze s čísly, která mají konečný počet číslic. Kvantování je tedy zaokrouhlení přenášených hodnot s danou přesností. S rovnoměrnou kvantizací (∆ X=const) počet povolených diskrétních úrovní x je

m = (X max – X min)/∆ X,

Kde X max a X min – horní a dolní mez variačního rozsahu signálu.

Chyba kvantifikace je veličina definovaná jako ξ( X) = X – X di, kde X– zakódovaná diskrétní hodnota, X di – vzorkovaný signál.

Kvantovací šum – náhodná funkcečas, definovaný jako závislost chyby kvantizace na čase.

Jak menší hodnotu ∆X, tím menší je výsledná chyba. Pokud je v důsledku kvantizace některá z hodnot signálu X(t), spadající do intervalu ( X di - ∆ X/2; X di + X di X/2), zaokrouhleno na X d, pak výsledná chyba ξ( X) nepřekročí polovinu kvantovacího kroku, tzn. max|ξ( X)|=0,5∆X. V praxi je kvantizační krok ∆ X jsou vybírány na základě úrovně rušení přítomného v té či oné formě během měření, přenosu a zpracování skutečných signálů.

Pokud je funkce X(t) je předem neznámý a kvantizační krok ∆ X poměrně malý v porovnání s rozsahem variací signálu ( X max – X min), pak je obvyklé uvažovat kvantizační chybu ξ( X) náhodná veličina, která se řídí zákonem o rovnoměrném rozdělení. Poté, jak je znázorněno na Obr. 3,54, hustota pravděpodobnosti F 1(ξ) pro náhodnou veličinu ξ nabývá hodnoty 1/(∆ X) v intervalu (-∆ X/2; +∆X/2) a je rovna nule mimo tento interval.

Rýže. 3.54. Zákon rovnoměrného rozdělení kvantizační chyby

Při ∆ X=konst. relativní kvantizační chyba ∆ X=ξ( X)/X výrazně závisí na aktuální hodnotě signálu X(t). V tomto ohledu, pokud je nutné zpracovávat a přenášet signály, které se mění v široký rozsah, často se používá nerovnoměrné (nelineární) kvantování, kdy krok ∆ X brát malé na signály nízká úroveň a zvyšuje se s rostoucími odpovídajícími hodnotami signálu (například ∆ X zvolte proporcionální k logaritmu hodnoty | X(t)|). Volba kroku ∆ X i = X di – X di-1 se také provádí s přihlédnutím k hustotě distribuce náhodného signálu (pro pravděpodobnější hodnoty signálu se kvantovací krok volí menší, pro méně pravděpodobné hodnoty – větší). Tímto způsobem je možné zajistit vysoká přesnost konverze s omezeným (ne příliš velkým) počtem povolených diskrétních úrovní signálu X(t).

Proces převodu diskrétního signálu na digitální se nazývá informační kódování a mnoho různých kombinací kódů získaných toto pravidlo kódování, - kód . Důležitou charakteristikou kódu je základ (nebo význam) kódu, tzn. počet možných hodnot, které mohou prvky kombinace kódu nabývat. Předpokládejme, že chcete přenášet signál, jehož úroveň se pohybuje od 0 do 10 V. Pokud je krok kvantování dat 10 mV, pak každý vzorek signálu lze považovat za jeden z 1000 možné zprávy. Chcete-li předat tyto informace, můžete navrhnout různé cesty:

– porovnejte každou zprávu určitou úroveň napětí, zatímco základ kódu m= 1000 a délka kombinace kódu (slova) trvá minimální hodnota n=1;

– můžete použít binární (binární) reprezentaci amplitudy signálu s m= 2, ale pak je vyžadována kombinace délek n= 10 (210=1024, takže některé kombinace se zde nepoužívají).

MINISTERSTVO ŠKOLSTVÍ A VĚDY UKRAJINY

NÁRODNÍ TECHNICKÁ UNIVERZITA "KhPI"

Ústav výpočetní techniky a programování

z kurzu „Teorie informací a kódování“

"Kvantování signálu"

Úvod

Přenos diskrétních signálů přes komunikační kanály je pohodlnější a spolehlivější než přenos spojitých signálů, protože diskrétní signály mají lepší odolnost proti šumu, usnadňují organizaci vícekanálové komunikace, navíc lze diskrétní signály přímo zpracovávat pomocí počítače .

Kvantování (vzorkování) - proces převodu spojitého signálu na diskrétní. Používají se následující typy kvantování: čas; podle amplitudy (hladiny); kombinovaný; speciální typy kvantování.

1. Kvantování času

S časovou kvantizací funkce x(t) spojitý argument je převeden na funkci diskrétní argument- mřížková funkce představující množinu hodnot spojité funkce v diskrétních okamžicích.

Rýže. 1. Kvantování času

Krok kvantifikace -časový interval mezi dvěma pevnými body v čase

Kvantovací frekvence F k = 1/t musí být takové, aby na základě hodnot mřížkové funkce x(t i ) bylo možné s danou přesností obnovit původní spojitou funkci. Obnovená funkce x(t) nazývané reprodukce. S časovou kvantizací vyvstává úkol volby kvantovací frekvence a lze použít různá kritéria. Nejčastěji se diskretizace provádí na základě Kotelnikovovy věty.

Formulace Kotelnikovovy věty: Funkce x(t) splňující Dirichletovy podmínky (ohraničené, po částech spojité a mající konečný počet extrémů), lze docela přesně obnovit z jeho vzorků odebraných v časovém intervalu t = 1/2f C =/ C, kde je horní frekvence spektra funkce a je kruhová frekvence.

Funkční hodnoty x(t) kdykoliv t je určen Kotelnikovovou sérií:

kde jsou vzorky (hodnoty) funkce x(t) v diskrétních časech t = nt; - počítací funkce, která představuje SBF.

Chcete-li dokázat větu, zvažte Fourierovy vzorce

, , (2)

kde je komplexní frekvenční spektrum funkce x(t).

V dosahu [- C , ; + C ], signál x(t) může být reprezentován Fourierovým integrálem přes jeho frekvenční spektrum

. (3)

Komplexní spektrum lze zobrazit pomocí Fourierovy řady

. (4)

Kde jsou expanzní koeficienty stejné

. (5)

Dosazením (5) do (4) a poté výsledného výrazu do (3) dostaneme

Kotelnikov série pro x(t) s omezeným spektrem v konečném intervalu T může být zastoupeno:

, (6)

Kde B = T/t= 2fT- signální základna.

Uvažujme funkci vzorků signálu

. (7)

Tato funkce je rovna 1 v Z = 0, tj. a 0 v, kde

Funkce počítání sinz/z představuje odezvu ideální dolní propusti na jeden impuls.

Pokud umístíte filtr na přijímací stranu a propustíte jím kvantovaný signál představující sekvenci pulzů, jejichž amplitudy jsou úměrné vzorkům spojité funkce s frekvencí .

Pokud se tyto výstupní signály filtru sečtou, získáme reprodukční funkci.

Rýže. 2. Funkce počítání

Nevýhody kvantování pomocí Kotelnikovovy metody:

1. Věta je formulována pro signály s omezeným spektrem a neomezeným časem - v praxi je naopak spektrum neomezené a časově omezené. Spektrum lze omezit průchodem signálu přes dolní nebo pásmovou propust.

2. Při vysílání pulzních signálů je krok kvantování zvolen pro nejstrmější úseky, protože kvantování je jednotné, kanál bude přetížen a bude mít vysokou redundanci. Je obtížné implementovat obvod obnovy signálu, protože je potřeba mnoho sčítaček.

Existují další principy vzorkování: Železnovovo kritérium, které využívá nerovnoměrné kvantování, přičemž krok kvantování je zvolen v závislosti na korelaci mezi hodnotami signálu; Temnikovovo kritérium, které také používá nejednotné kvantování, přičemž signál není kvantován, zatímco derivace je konstantní.

2. Kvantování podle úrovně

Při kvantování podle úrovně (amplitudy) existuje nekonečný počet možných hodnot spojitého signálu x(t) je nahrazeno konečnou množinou diskrétních hodnot x* (t).

V důsledku kvantování vzniká skoková funkce (obr. 3).

Lze použít dvě metody kvantování, kdy je okamžitá hodnota spojité funkce nahrazena menší diskrétní hodnotou nebo nejbližší.

x(t), x*(t) x(t), x*(t)

Obr.6.3. Kvantování podle úrovně

Rozlišuje se rovnoměrné kvantování, při kterém se mění rozsah x(t) z X min před X max rozpadá se na Núrovně s krokem zvaným kvantizační krok

Při nerovnoměrném kvantování není krok konstantní. Když jsou skutečné okamžité hodnoty funkce nahrazeny diskrétními, objeví se metodologické chyby, nazývané kvantizační šum (kvantizační chyba podle úrovně). Tato chyba je náhodná a pro její vyhodnocení je nutné použít statické charakteristiky

V tomto případě musí být spínací bod zvolen tak, aby tyto charakteristiky byly minimální.

Rýže. 4. Chyby kvantifikace

Distribuční hustota s velkým počtem kvantizačních úrovní se řídí zákonem stejné hustoty pravděpodobnosti a má tvar znázorněný na obr. 4 a je určen vztahem:

V závislosti na použité kvantizační metodě má hustota pravděpodobnosti a statistické charakteristiky chyb tvar:

Matematické očekávání chyb

(11)

Chybový rozptyl

Střední kvadratická chyba

.

Pokud je v důsledku kvantování podle úrovně na výstupu hodnota signálu v binárním kódu s cenou nejméně významného bitu rovnou kvantizačnímu kroku, pak bude počet binárních bitů a kvantizační úrovně roven:

; ,

kde přidání 1 odpovídá účtování první úrovně.

3. Kombinovaná kvantizace

Při kombinované kvantizaci je signál kvantován v čase a navíc v hodinových bodech je kvantován v úrovni.

Rýže. 5. Kombinovaná kvantizace

Při kombinované kvantizaci je amplituda pulsu rovna nejbližší hodnotě úrovně a chyba kvantizace je rovna

pak se matematické očekávání chyby rovná

a střední kvadratická chyba v důsledku kvantování úrovně klesá se zvyšující se frekvencí kvantování

.

Nevýhodou kombinované kvantizace je složitost implementace dešifrovacích zařízení. V tomto případě se místo kombinované kvantizace nejčastěji používá pulzní kódová modulace.

Příklad 1 V měřící zařízení vzdálenost mezi značkami stupnice je konstantní a stejná x = a. Při zaokrouhlování odečtené hodnoty na nejbližší celý dílek nepřesáhne chyba v absolutní hodnotě polovinu vzdálenosti mezi dílky stupnice.

Najděte hustotu rozdělení pravděpodobnosti, matematické očekávání a zaokrouhlovací rozptyl.

Řešení: Chybu zaokrouhlení lze považovat za náhodnou veličinu X, přičemž se stejnou pravděpodobností přebírají jakékoli hodnoty v rozmezí -x/2 před x/2. V důsledku toho je hustota pravděpodobnosti na tomto intervalu konstantní a rovna nule za těmito limity (10).

Matematické očekávání je:

Rozptyl zaokrouhlovací chyby je:

.

Střední kvadratická chyba je:

Bibliografie

A.V. Vlasenko, V.I. Klyuchko - Teorie informací a signálů. Tutorial/ Krasnodar: Nakladatelství KubSTU, 2003.- 97 s.

Baskakov S.I. Radiotechnické obvody a signály: Učebnice. pro vysoké školy pro speciální účely "Radiové inženýrství".

- M.: Vyšší. škola, 2000.

Grinchenko A.G. Teorie informace a kódování: Učebnice. příspěvek. – Charkov: KhPU, 2000. Kupriyanov M.S., Matyushkin B.D. - Digitální zpracování

signály: procesory, algoritmy, návrhové nástroje. - Petrohrad: Politechnika, 1999.

Siebert W.M. Obvody, signály, systémy: Ve 2 částech / Přel. z angličtiny - M.: Mir, 1988.

Teorie přenosu signálu: Učebnice pro vysoké školy / A.G. Zyuko, D.D. Klovský Fair K. Wireless digitální komunikace

. Metody modulace a rozprostřeného spektra. Za. z angličtiny - M.: Rádio a komunikace, 2000. Hemming R.V. Digitální filtry

: Per. z angličtiny / Ed. DOPOLEDNE. Trakhtman. - M.: Sov. rádio, 1980.

Nalézt

Kvantování

1.4. Vzorkování a kvantifikace Jak již bylo uvedeno dříve, popsat různé informační objekty Jsou používány různé funkce

čas. Tyto zahrnují: t 1. Spojitá funkce spojitého argumentu

(obr. 1.7). Funkce může nabývat libovolnou hodnotu z nekonečné množiny hodnot umístěných v konečném intervalu(x min, x max) , ale pouze v pevně stanovených, předem stanovených časech, tk.

k=0,1,2,...,n t 3. Diskrétní funkce spojitého argumentu

(obr. 1.9). t Hodnoty, které argument může nabývat x(t) a funkce , tvoří konečné diskrétní řady vyplňující odpovídající intervaly A Funkce může nabývat libovolnou hodnotu z nekonečné množiny hodnot umístěných v konečném intervalu.

(t 0, t n)

K provedení tohoto přechodu se na spojité funkci spojitého argumentu provádějí transformace zvané časové kvantování nebo vzorkování a kvantování úrovně. Aby se v budoucnu předešlo zmatkům, vzorkování budeme chápat kvantování podle času a kvantování podle úrovně budeme jednoduše nazývat kvantování.

1.4.1. Vzorkování

Diskretizace spočívá v nahrazení funkce, která je ve svém argumentu spojitá, funkcí diskrétního argumentu. Výsledkem je, že spojitá funkce je zobrazena konečným počtem jejích okamžitých hodnot získaných v určitých (stejných nebo nestejných) časových intervalech. Dt.

Diskretizace je tedy v podstatě rozkladem spojité funkce na množinu jejích základních elementárních funkcí. Chcete-li vyřešit tento problém, výše uvedené zobecněná Fourierova transformace.

Příkladem ortogonální báze, kromě dříve diskutovaných harmonických funkcí, jsou Kotelnikovovy počítací funkce. Přítomnost různých bází v různých oblastech (frekvence a čas) ukazuje na možnost různých spektrálních reprezentací procesů.

U kteréhokoli z nich však vyvstává otázka možnosti libovolně přesné obnovy okamžitých hodnot procesu na základě referenčních nebo vzorových hodnot odebraných v určitých intervalech. Diskretizace musí být provedena tak, aby z referenčních hodnot nebo expanzních koeficientů bylo možné získat reprodukční funkci, která odráží původní funkci s danou přesností.

Rekonstrukce spojité funkce z konečného počtu jejích hodnot v konečném časovém intervalu T=(t 0, t n) vede k chybě v závislosti na počtu převzatých hodnot této funkce na tomto intervalu, tzn. na vzorkovací frekvenci a na zvolené metodě obnovy (interpolaci).

Při diskretizaci se tedy musí rozhodnout, jak často má být funkce vzorkována, tzn. jaký by měl být krok vzorkování Dt nebo vzorkovací frekvence f=1/Dt.

Při nízké Dt počet vzorků za interval T bude toho více, přesnost reprodukce bude vyšší, ale také se zvýší množství informací, které je třeba uložit, přenést a zpracovat. S velkým Dt podle toho naopak.

Optimální diskretizace je taková, která zajistí obnovení původní funkce s danou přesností při minimálním počtu vzorků. V tomto případě jsou všechny vzorky nezbytné pro obnovení původní funkce. V případě neoptimálních odběrů se kromě zásadních vyrábějí i vzorky nadbytečné. Tyto vzorky nejsou potřeba k obnovení původní funkce s danou přesností. Přítomnost nadbytečných informací je při jejich přenosu, zpracování a ukládání nežádoucí, protože vyžaduje velké zdroje. Eliminaci této redundance lze provést v procesu diskretizace, a proto lze diskretizaci považovat nejen za operaci přeměny souvislé zprávy na diskrétní, ale také za jednu z metod odstranění redundance.

Metody odběru a rekonstrukce spojité funkce klasifikovány podle následujících hlavních charakteristik:

a) pravidelnost čtení,

b) kritéria pro posouzení přesnosti odběru vzorků a rekonstrukce,

c) typ základní funkce.

Pravidelnost čtení do značné míry určuje míru eliminace redundance a složitost odběrových a rekonstrukčních zařízení. V souladu s tímto znakem lze rozlišit rovnoměrné a nerovnoměrné vzorkování. Diskretizace je prý jednotná, pokud Dt = konst v celém intervalu T. Velikost Dt je vybrána na základě apriorních informací o povaze diskretizované funkce. Jednotné vzorkování se používá poměrně široce kvůli jednoduchosti algoritmů a vybavení pro jeho implementaci. Při jeho použití je však možná značná redundance odečtů.

Diskretizace je prý nejednotná, jestliže Dt = var. Existují dva typy nejednotného vzorkování: adaptivní a softwarové.

Na adaptivní metody vzorkování Dt se mění v závislosti na aktuální změně hodnot diskretizované funkce. Se softwarovým vzorkováním Dt změny v souladu s programem sestaveným předem na základě apriorních informací o chování diskretizované funkce.

Tak jako kritéria pro posuzování přesnosti odběru vzorků a rekonstrukce Nejčastěji se používají tato kritéria:

a) největší odchylka,

b) odmocnina,

c) pravděpodobnostní,

d) integrální.

Všechna tato kritéria nabízejí způsob hodnocení odchylky reprodukované funkce od originálu (tj. vzorkovací chyba) v každém vzorkovacím intervalu. Pokud je zadána maximální hodnota chyby vzorkování, pak tato kritéria umožňují vybrat hodnotu intervalu vzorkování Dt, která zajišťuje požadovanou přesnost reprodukce.

Existují dva způsoby, jak reprodukovat původní signál: extrapolační přehrávání a interpolační přehrávání. Vzorkovací metody s extrapolací reprodukční funkce nevyžadují zpoždění signálu v rámci vzorkovacího intervalu, tzn. lze použít v systémech pracujících v reálném čase. Interpolační vzorkování vyžaduje zpoždění signálu o interpolační interval.

Výběr systému základní funkce je dána na jedné straně požadovanou přesností rekonstrukce, na straně druhé požadavky na omezení složitosti přístrojů a odběrových a restaurátorských programů. Požadavek na snadné nalezení expanzních koeficientů primárně splňují mocninné algebraické polynomy. Použití funkcí jako základních ortogonálních systémů se v některých případech ukazuje jako vhodné, protože pro takový systém jsou expanzní koeficienty poměrně snadno vypočítatelné a jejich výpočet zahrnuje operaci integrace signálu, což má pozitivní vliv na odolnost proti šumu. vzorkovacího algoritmu. Úkol optimální volba konkrétní úzké třídy bázových funkcí lze řešit pouze tehdy, pokud existují významné apriorní informace o povaze diskretizované funkce. Pokud je tedy například známo, že signály jsou periodické, pak by hledání bázových funkcí mělo být zaměřeno na třídu harmonických funkcí.

Skutečnost, že časová funkce představující spojitou zprávu nebo signál je libovolná a náhodná, znamená, že může mít časové změny libovolné rychlosti - od nejpomalejší po nekonečně rychlou. náhlé změny. To zase znamená, že taková funkce má nekonečné spektrum. Skutečné zprávy mají spektrum, jehož převážná část energie je soustředěna v omezeném frekvenčním pásmu. To je způsobeno skutečností, že zařízení, která generují a převádějí zprávy a signály, mají omezenou šířku pásma. Funkce, které popisují takové skutečné procesy, se nazývají funkce s omezené nebo konečné spektrum.

Pro takové funkce byl formulován a osvědčen Kotelnikovova věta, jehož podstatou je, že funkce Svatý) s konečným spektrem lze z jeho vzorků přesně rekonstruovat s(kDt) odebíráno v intervalech Dt = 1/2f palce, Kde f v- horní frekvence funkčního spektra. To se provádí pomocí rozšíření funkce v řadě Kotelnikov .

Funkce , tvořící Kotelnikovův základ, se nazývají referenční funkce. Liší se od sebe pouze posunem po časové ose (obr. 1.11) o intervaly, které jsou násobky Dt.

Vlastnosti vzorkovací funkce:

1) ve chvílích času t=kDt, Kde k- libovolné celé číslo, j k dosáhne svého cíle maximální hodnota rovný jedné;

2) ve chvílích času t=nDt, Kde n- libovolné celé číslo a n¹k, j k=0;

3) vzorkovací funkce jsou ortogonální v nekonečně velkém časovém intervalu.

Kotelnikovův teorém je zobecněn na náhodné procesy. V tomto případě je to formulováno takto: „Pro náhodný proces X(t) s konečným spektrem Kotelnikovovy řady , Kde X(kDt)- průřezy procesu X(t) odebíráno v intervalech Dt, konverguje ve středním čtvercovém smyslu k procesu X(t)».

Zásadní význam Kotelnikovovy věty spočívá v tom, že nám za prvé umožňuje nahradit studium spojitých procesů jednodušším úkolem studia diskrétních procesů. Za druhé umožňuje vedle frekvenční reprezentace procesů (expanze do harmonické Fourierovy řady, spektrální funkce) použít i časovou reprezentaci - expanzi do časové řady.

Je užitečné porovnat typ vzorkovací funkce a hodnotu získanou z Kotelnikovovy věty Dt s výsledky zohlednění parametrů kvazibílého šumu. Z tohoto srovnání můžeme usoudit, že vzorkovací krok Dt by neměl být větší než korelační interval t to diskretizovaný proces.

Aplikace této věty však naráží na určité potíže. Přísně vzato, funkce s omezeným spektrem není časově omezená (nikoli konečná) a naopak konečná funkce času má spektrum neomezené.

V praxi se často musíme vypořádat se zprávami a signály konečného trvání, jejichž energie nebo síla je téměř zcela soustředěna v časovém intervalu od T 1 před T 2 a ve frekvenčním pásmu DF = f v - f n. Slovo „téměř“ ospravedlňuje aplikaci Kotelnikovovy věty na tyto objekty a umožňuje nám je reprezentovat nikoli jako nekonečnou řadu, ale jako konečný součet. Přirozeně taková reprezentace již není přesná a je provedena s určitou chybou.

Budeme předpokládat, že veškerá energie signálu je obsažena ve frekvenčním pásmu až f v a všechny vzorky mimo interval ( T1, T2) se rovnají nule. Pak .

Omezení členů řady na konečné číslo vede k chybě, absolutní hodnota která se rovná a relativní , kde je jmenovatel plná síla signál x(t), a čitatel je část jeho výkonu, která se vyřadí při zavedení časového limitu a limitu spektra.

Velmi užitečný a jednodušší vzorec pro stanovení přijatelné velikosti kroku vzorkování Dt za danou chybu Dt pro stacionární náhodný proces X(t) je vzorec , kde je hodnota procesního korelačního koeficientu X(t) s argumentem Dt. Z tohoto vzorce pro danou chybu d d můžete získat výraz pro přípustnou velikost kroku vzorkování , kde je inverzní funkce korelačního koeficientu procesu X(t).

I přes přítomnost naznačené chyby je výhodou takové transformace přechod z nekonečněrozměrného prostoru do konečnorozměrného prostoru signálů, tzn. signály, konečné jak ve spektru, tak v čase. Dimenze tohoto prostoru je určena počtem prvků součtu členů řady, který je roven nebo .

Tato hodnota B = 2DFT volal signální základna. Fyzicky udává počet vzorků potřebných k popisu signálu

Shrneme-li, co bylo řečeno o diskretizaci, můžeme dojít k závěru:

1. Zobrazení procesu ve formě expanze přes ortonormální bázi se nazývá zobecněná Fourierova transformace. Energie signálu je rovna součtu energií všech prvků zobecněné Fourierovy řady. Rozložení signálu podle ortonormálního základu zajišťuje minimální chybu aproximace.

2. Kotelnikovova série je speciální případ zobecněné Fourierovy řady. Základní funkce v tomto případě jsou počítací funkce vzájemně posunuté v čase o intervaly, které jsou násobky 1/2f palce. Koeficienty řady Kotelnikov jsou vzorky rozkladného procesu odebrané ve stejných časových intervalech Dt = 1/2f palce. Pokud spektrum procesu neobsahuje složky s frekvencemi vyššími f v, pak Kotelnikovova řada poskytuje přesné znázornění procesu ve středním čtvercovém smyslu.

1.4.2. Kvantování

Po diskretizaci implementace kontinuálního procesu (zprávy) může být reprezentován množinou vzorků, z nichž každý může mít, obecně řečeno, nekonečný počet hodnot. Skuteční příjemci zpráv mají konečné rozlišení, tzn. velmi malý, ale ne nulový interval, v rámci kterého vše různé významy hodnoty jsou vnímány jako totožné. Výše uvedené ukazuje účelnost kvantování. Kvantování funkce je v podstatě zobrazení nepřetržitá sada jeho možné hodnoty do konečné podmnožiny jeho hodnot, z nichž každá je reprezentována jako jedna z předem určených diskrétních úrovní tzv. kvantizační úrovně.

Pod kvantizační krok rozdíl je pochopen Dx = x m-x m-1 hodnoty sousedních kvantizačních úrovní. Počet úrovní kvantizace n o jeden více než je počet kvantizačních intervalů n-1. Pokud je kvantovaná funkce X omezeno na rozsah od xmin před xmax, Že n-1= (x max - x min)/ Dx.

Při kvantování obvykle skutečná hodnota funkce X je identifikováno nebo nahrazeno hodnotou x i, odpovídající nejbližší kvantizační úrovni.

Přirozeně, že nahrazení skutečných hodnot hodnotami kvantizačních úrovní vede k chybě e=x i-x, nazvaný chyba resp kvantizační šum.

Obvykle se předpokládá, že při jednotné kvantizaci, kdy Dx=konst,kvantizační šum – náhodná hodnota se zákonem o rovnoměrném rozdělení v rámci kvantovacího kroku. Maximální chyba kvantování nepřesáhne polovinu kvantovacího kroku Dx/2. Střední kvadratická kvantizační chyba je rovna druhé odmocnině rozptylu rovnoměrného rozdělení, tzn. Ö3krát menší než maximální chyba.

Kvantizační chyba se tedy snižuje se snižujícím se kvantizačním krokem Dx. S klesajícím krokem se však zvyšuje počet kvantizačních úrovní a následně se také zvyšuje bitová hloubka čísel potřebných pro jejich reprezentaci. Navíc, když se kvantizační krok sníží, jeho hodnota se může ukázat jako srovnatelná s úrovní interference. Takže k volbě velikosti kroku kvantování je třeba přistupovat ze stejných pozic jako k volbě kroku vzorkování, tzn. Vybrat optimální krok kvantování z hlediska zajištění minima kvantizačních úrovní a dané hodnoty kvantizační chyby.

Uvažovaná kvantizace byla provedena s konstantním krokem Dx=konst, Výsledkem je, že kvantovaná funkce sestávala z kroků stejné velikosti. Některé funkce, které se mají kvantovat, se mění tak, že je vhodné je kvantovat s různými přírůstky úrovní, tzn. s proměnným kvantizačním krokem Dx=var. Pokud je tedy například nutné získat přesnější hodnoty v jakékoli části kvantované funkce, pak by se v tomto rozsahu měl kvantizační krok snížit.

Po provedení operací vzorkování a kvantování je tedy souvislá zpráva reprezentována konečnou sekvencí vzorků, jejichž hodnota může být pouze docela určité hodnoty, odpovídající úrovním kvantizace. Pokud ke každé kvantizační úrovni přiřadíme číslo, pak spojitá zpráva jako výsledek operací vzorkování a kvantování bude posloupností čísel z konečného intervalu, tzn. budou prezentovány v digitální podobě.