Teorie informace

Základní pojmy teorie zavedené ve čtyřicátých letech dvacátého století, Shannon. teorie informace - věda o procesu přenosu, ukládání a načítání dat v přírodních, technických a společenských systémů. V mnoha aplikacích vědních oborů, jako jsou počítačové vědy, lingvistiky, kryptografii, teorie řízení, zpracování obrazu, genetika, psychologie, ekonomie, organizace výrobních postupů se používají tuto vědu.

V moderních podmínkách s informační teorie velmi pevně spojených s teorie kódování, popisuje nejběžnější problémy shody mezi signálem a hlášením, a teorie zpracování signálu, ve kterém je kvantizace studoval a signály obnovu a spektrální a korelační analýza těchto látek.

informační teorie se domnívá, že základní koncept „informace“ z větší části kvantitativně, bez zohlednění její hodnoty a někdy nesmyslná. V rámci tohoto přístupu bude stránky textu obsahují přibližně stejné množství dat určených řadou znaků a symbolů, a nezáleží na tom, že přísně vzato, tam je vytištěna, i když je to naprosto nesmyslné a chaotická množina některých symbolů.

Tento přístup je odůvodněn, avšak pouze pro simulaci komunikačních systémů, protože mají přesně předávat informace o komunikačních kanálů, které mohou být jakákoli sada znaků a symbolů. Pak, když je třeba vzít v úvahu hodnotu a význam dat, kvantitativní přístup je nepřijatelný. Tyto okolnosti způsobit značné omezení oblasti možného uplatnění této teorie.

Základy teorie informace zahrnuje posouzení různých otázek, včetně přímo souvisí se vysílání a příjem dat. Hlavní komunikační systém, který je považován v učení je následující. Teorie informace a kódování Domnívá se, že se jedná o zdroj zpráv, což je slovo či sousloví písemných některých písmen abecedy. Zdrojem zprávy může být text na jakékoli fyzické či umělého jazyka, lidského jazyka, databáze a některých matematických modelů, vytváří sled písmen. Snímač převádí zprávy na signál, odpovídající fyzické povaze komunikačního kanálu - médium pro přenos signálu. Během průchodu, jako je rušeno, která zavádějí narušení v hodnotě informačních parametrů. Přijímač obnoví původní zprávu z přijímaného signálu zkresleného. Vzkaz v redukované podobě přichází na místo určení - určité osoby nebo technického zařízení.

zdroj zpráva je statistické povahy, tj. vzhled každé zprávy je určován určitou pravděpodobností. Shannonovo informace se domnívá, že v případě, že pravděpodobnost zprávy je stejný s jednotou, to znamená, že jeho vzhled významně a nejistoty nevěří, že nenese žádnou informaci.

Jedním z důležitých problémů teorie informace považuje za koordinaci vlastnostmi komunikačního kanálu a informaci o zdroji zpráv. Šířka pásma je určena jednotky 1 bit za sekundu.

Jeden problém s komunikačními systémy zásah do požadované signálové cesty. Shannon, bohužel, nám nedává specifické metody pro řešení ty. Nejjednodušší metoda odstranění, která se mnohokrát opakuje zpráv nejsou příliš účinné, protože to trvá déle, náklady na přenos informací. Mnohem vyšší účinnost umožňuje použití kódů, které umožňují odhalit a opravit chyby v přenosu dat.