Tantárgy azonosító adatok
1. A tárgy címe Bevezetés az információelméletbe
2. A tárgy angol címe Introduction to Information Theory
3. Heti óraszámok (ea + gy + lab) és a félévvégi követelmény típusa 2 + 0 + 0 v Kredit 3
4. Ajánlott/kötelező előtanulmányi rend
vagy Tantárgy kód 1 Rövid cím 1 Tantárgy kód 2 Rövid cím 2 Tantárgy kód 3 Rövid cím 3
4.1
4.2
4.3
5. Kizáró tantárgyak
6. A tantárgy felelős tanszéke Analízis Tanszék
7. A tantárgy felelős oktatója Dr. Farkas Lóránt Ernő beosztása adjunktus
Akkreditációs adatok
8. Akkreditációra benyújtás időpontja 2017.08.15. Akkreditációs bizottság döntési időpontja 2017.08.31.
Tematika
9. A tantárgy az alábbi témakörök ismeretére épít
Valószínűségszámítás
10. A tantárgy szerepe a képzés céljának megvalósításában (szak, kötelező, kötelezően választható, szabadon választható)
szabadon választható
11. A tárgy részletes tematikája

Az információelmélet abból az alapvető tényből fejlődött ki, hogy az információt mérni lehet. Az entrópiával a kölcsönös információval és I-divergenciával lehet alsó és felső becslést adni sok mérnökileg is releváns problémára. A kurzus során vázoljuk az információ technológia alapvető mérnöki problémáinak matematikai modelljeit, foglalkozunk: forrás kódolással (adattömörítés változó és állandó hosszúságú kódszavakkal) és csatorna kódolással (ahol zajos csatornán kell az adatokat megbízhatóan továbbítani). Tételeinkhez felhasználjuk a tipikus sorozatok elméletét, és a típusok módszerét is, mely módszerek a modern statisztikában is egyre nagyobb teret nyernek. Bebizonyítjuk a Lempel–Ziv-algoritmus aszimptotikus optimalitását, és a polár kódok elméletével is megismerkedünk.(A polár kódok az 5G szabványba is bekerültek). A kurzus végén bepillantunk néhány az Információelméletben manapság divatos témába is.(Network Coding, Caching, Information Secrecy).

12. Követelmények, az osztályzat (aláírás) kialakításának módja
szorgalmi
időszakban
Házi feladat és/vagy kiselőadás, amelyek teljesítésével megajánlott jegy is szerezhető. vizsga-
időszakban
vizsga
13. Pótlási lehetőségek
TVSZ szerint
14. Konzultációs lehetőségek
Hallgatókkal egyeztetve
15. Jegyzet, tankönyv, felhasználható irodalom
Thomas M. Cover, Joy A. Thomas:Elements of Information Theory Wiley 2006
Imre Csiszár, János Körner:Information Theory Cambridge University Press 2011
Paul C. Shields:The Ergodic Theory of Discrete Sample Path AMS 1996
16. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka mennyisége órákban (a teljes szemeszterre számítva)
16.1 Kontakt óra
28
16.2 Félévközi felkészülés órákra
0
16.3 Felkészülés zárthelyire
0
16.4 Zárthelyik megírása
0
16.5 Házi feladat elkészítése
30
16.6 Kijelölt írásos tananyag elsajátítása (beszámoló)
16
16.7 Egyéb elfoglaltság
0
16.8 Vizsgafelkészülés
16
16.9 Összesen
90
17. Ellenőrző adat Kredit * 30
90
A tárgy tematikáját kidolgozta
18. Név beosztás Munkahely (tanszék, kutatóintézet, stb.)
Dr. Farkas Lóránt Ernő
adjunktus
Analízis Tanszék
A tanszékvezető
19. Neve aláírása
Dr. Horváth Miklós