Információelmélet (2008/2009)

Entrópia és tulajdonságai
Feltételes entrópia és tulajdonságai
Kölcsönös információ és tulajdonságai
Egyértelmû dekódolhatóság, prefix kód
Jensen-egyenlõtlenség
McMillan-egyenlõtlenség
Kraft-egyenlõtlenség
Üzenet változó szóhosszúságú kódolása
Shannon-Fano-kód
Huffman-kód
Lempel-Ziv algoritmusok
Forrásentrópia
Stacionárius forrás változó szóhosszúságú kódolása
Markov-forrás
Egyenletes kvantáló négyzetes hibája
Egyenletes kvantáló entrópiája
Lloyd--Max-algoritmus
Kompanderes kvantálás
Vektorkvantálás
Prediktív kvantálás (DPCM, DM)
Lineáris becslés
Transzformációs kódolás
Bayes-döntés
Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén
Emlékezetnélküli csatorna
Csatornakapacitás
Fano-egyenlõtlenség
Csatornakódolási tétel megfordítása
Csatornakódolási tétel (bizonyításvázlat)