Teorija informacija
Je disciplina koja izučava matematička svojstva informacije u smislu mjerenja njihove količine, određivanja sposobnosti komunikacijskog sustava za njihov prijenos.
Teorija informacije proučava:
Pojam informacije
Prijenos i pohranjivanje informacije
Svojstva komunikacijskog kanala
Kodiranje i kompresiju informacija
Iskoristivost prijenosnog sustava
Sigurnost
Poruka
Informacija nije materijalnog karaktera ali se u kom. kanalu materijalizira preko simbola i signala
Signal je fizički nositelj poruke
Simbol je tvar koja nosi informaciju
Semantika je značenje koje informacija ima za primaoca
Sintaksa
je dio gramatike koji izučava rečenicu te njene dijelove.
Informacija sadržana u redosljedu i međusobnoj vezi simbola zove se sintaktička informacija.
Kodiranje
Kodiranje je postupak u kojem se svakoj elementarnoj poruci dodjeljuju odrežene kodne zamjene
Kod je pravilo po kojem se svakom elementarnom znaku dodjeljuje odrežena kombinacija druge abecede.
Koder informacija pretvara informaciju u simbole
Koder signala pretvara simbole u signal prihvatljiv kom. kanalu.
Dekoder signalaprima ikrivljeni signal iz kom. kanala te ga restaurira u informaciju
Dekore informacija pretvara informaciju u oblik razumljiv pdredipštu.
Entropija
Vlastita informacija
Količina inforamcija koju sam o sebi nosi neki događaj.
Prosječna količina informacije
Prosječna količina skupa događaja
Razvitku teorije su doprinjeli Shannon i Weaver.
Shannon je uveo "bit" kao mjernu jedinicu za količinu informacija.
Sadržaj informacije
Količina informacije u nekoj poruci
Srednji sadržaj informacije: mjera koja kazuje koliko prosječno informacije sadrži sveki pojedini simbol poruke.
Komunikacijski sustav
Osnovni zadatak je efektivni prijenos informacija od pošiljeoca do primaoca
Problemi u kom. procesu
Tehnički problemi
Semantički problemi
Priblem relevantnosti i djelotvornosti.
Jednosmjerni komunikacijski sustav se sastoji od
Izvora informacije
Diskretan izvor: sastavljen u obliku pojedinačnih znakova ili simbola
Ako izvor generira uzastopne simbole poruke tako da su ti elementarni simboli međusobno neovisni događaji zovemo izvor bez memorije.
Ako izvor pamti generirane simbole poruke i na usnovu njig generira nove onda se to zove izvor s memorijom ili Markovljev izvor.
Kontinuirani izvor: izražava se vremenskim funkcijama koje poprimaju neprekinuti skup vrijednosti.
Diskretni izvor informacija je izvor koji proizvodi konačan broj poruka uz pomoć elementarnih slova abecede.
Kodera informacije
Kodera signala
Prijenosnog sustava na kji utječu smetnje
Dekodera signala
Dekadera informacije
Odredišta
Prijenosni sustav
Zadatak mu je efektivni prijenos signala.
Dijelimo na
Žičani
Bakrena parica
Koaksijalni kabel
Optičko vlakno
Bežični