DERS ADI

: Bilgi Teorisine Giriş

DERECE PROGRAMLARI

Ders Bilgileri

Ders Kodu	Ders Adı	Ders Türü	D	U	L	AKTS
İST 3121	Bilgi Teorisine Giriş	SEÇMELİ	3	0	0	5

Dersi Veren Birim

İstatistik

Dersin Düzeyi

Lisans

Ders Koordinatörü

PROF. DR. ÖZLEM EGE ORUÇ

Dersi Alan Birimler

İstatistik
İstatistik (İ.Ö)

Dersin Amacı

Dersin Öğrenme Kazanımları

1	Entropi yi tanımlama
2	Bileşik, koşullu ve göreli entropi ile karşılıklı bilgiyi elde etme
3	Zincir kuralını anlama
4	Jensen eşitsizliği ve sonuçları ile Fano eşitsizliğini tanımlama
5	Kodlama teoremi ve algoritmasını anlama
6	Diferansiyel entropi ve maksimum entropiyi hesaplayabilme
7	Bilgi teorisinin istatistikte nasıl kullanıldığını anlama

Dersin Öğretim Türü

Örgün Öğretim

Dersin Önkoşulu/Önkoşulları

Yok

Ders İçin Önerilen Diğer Hususlar

Yok

Ders İçeriği

Hafta	Konular	Açıklama
1	Olasılığın temel elemanları
2	Entropy
3	Bileşik Entropy ve Koşullu Entropy
4	Göreli Entropy ve Karşılıklı Entropy
5	Entropy, Göreli Entropy ve Karşılıklı Bilgi için Zincir Kuralları
6	Jensen Eşitsizliği ve Sonuçları
7	Fano Eşitsizliği
8	Kod Örnekleri
9	Kod Örnekleri Devam
10	Kaynak Kodu Teoremi
11	Kaynak Kodu Algoritmaları
12	Diferansiyel Entropi
13	Bilgi Teorisinin İstatistikte Kullanımı
14	Maksimum Entropi

Ders İçin Önerilen Kaynaklar

İlan Edilecektir.

Öğrenme ve Öğretme Yöntemleri

Ders anlatımı, sunum, ödev, problem çözme

Değerlendirme Yöntemleri

SIRA NO	KISA KOD	UZUN ADI	FORMUL
1	VZ	Vize
2	OD	Ödev
3	FN	Final
4	BNS	BNS	VZ * 0.40 + OD * 0.10 + FN * 0.50
5	BUT	Bütünleme Notu
6	BBN	Bütünleme Sonu Başarı Notu	VZ * 0.40 + OD * 0.10 + BUT * 0.50

Değerlendirme Yöntemlerine İliskin Aciklamalar

Yok

Değerlendirme Kriteri

İlan Edilecektir.

Dersin Öğretim Dili

İngilizce

Derse İlişkin Politika ve Kurallar

İlan Edilecektir.

Dersin Öğretim Üyesi İletişim Bilgileri

İlan Edilecektir.

Ders Öğretim Üyesi Görüşme Gün ve Saatleri

İlan Edilecektir.

Staj Durumu

YOK

İş Yükü Hesaplaması

Etkinlikler	Sayısı	Süresi (saat)	Toplam İş Yükü (saat)
Ders Anlatımı	13	3	39
Haftalık Ders öncesi/sonrası hazırlıklar	12	1	12
Vize Sınavına Hazırlık	1	24	24
Final Sınavına Hazırlık	1	32	32
Ödev Hazırlama	1	5	5
Final Sınavı	1	2	2
Vize Sınavı	1	2	2
TOPLAM İŞ YÜKÜ (saat)			116

Program ve Öğrenme Kazanımları İlişkisi

PK/ÖK	PK.1	PK.2	PK.3	PK.4	PK.5	PK.6	PK.7	PK.8	PK.9	PK.10	PK.11	PK.12	PK.13	PK.14
ÖK.1	5		5							4		3	3
ÖK.2	5		5							4		3	3
ÖK.3	5		5							4		3	3
ÖK.4	5		5							4		3	3
ÖK.5	5		5							4		3	3
ÖK.6	5		5							4		3	3
ÖK.7	5		5							4		3	3