DERS ADI

: Bilgi Teorisine Giriş

Ders Bilgileri

Ders Kodu Ders Adı Ders Türü D U L AKTS
İST 3121 Bilgi Teorisine Giriş SEÇMELİ 3 0 0 5

Dersi Veren Birim

İstatistik

Dersin Düzeyi

Lisans

Ders Koordinatörü

PROF. DR. ÖZLEM EGE ORUÇ

Dersi Alan Birimler

İstatistik
İstatistik (İ.Ö)

Dersin Amacı

Bu dersin amacı, öğrencilere bilgi teorisinin temel kavramlarını, veri/bilgi sıkıştırma, iletim ve depolamada önemini teorik ve uygulamalı olarak tanıtmaktır.

Dersin Öğrenme Kazanımları

1   Entropi yi tanımlama
2   Bileşik, koşullu ve göreli entropi ile karşılıklı bilgiyi elde etme
3   Zincir kuralını anlama
4   Jensen eşitsizliği ve sonuçları ile Fano eşitsizliğini tanımlama
5   Kodlama teoremi ve algoritmasını anlama
6   Diferansiyel entropi ve maksimum entropiyi hesaplayabilme
7   Bilgi teorisinin istatistikte nasıl kullanıldığını anlama

Dersin Öğretim Türü

Örgün Öğretim

Dersin Önkoşulu/Önkoşulları

Yok

Ders İçin Önerilen Diğer Hususlar

Yok

Ders İçeriği

Hafta Konular Açıklama
1 Olasılığın temel elemanları
2 Entropy
3 Bileşik Entropy ve Koşullu Entropy
4 Göreli Entropy ve Karşılıklı Entropy
5 Entropy, Göreli Entropy ve Karşılıklı Bilgi için Zincir Kuralları
6 Jensen Eşitsizliği ve Sonuçları
7 Fano Eşitsizliği
8 Kod Örnekleri
9 Kod Örnekleri Devam
10 Kaynak Kodu Teoremi
11 Kaynak Kodu Algoritmaları
12 Diferansiyel Entropi
13 Bilgi Teorisinin İstatistikte Kullanımı
14 Maksimum Entropi

Ders İçin Önerilen Kaynaklar

Ana kaynak:
T. Cover, J.Thomas, Elements of Information Theory, Wiley, 2006
Yardımcı kaynaklar:
R. W. Yeung. A First Course in Information Theory. Springer, New York, 2002

Öğrenme ve Öğretme Yöntemleri

Ders anlatımı, sunum, ödev, problem çözme

Değerlendirme Yöntemleri

SIRA NO KISA KOD UZUN ADI FORMUL
1 VZ Vize
2 OD Ödev
3 FN Final
4 BNS BNS VZ * 0.40 + OD * 0.10 + FN * 0.50
5 BUT Bütünleme Notu
6 BBN Bütünleme Sonu Başarı Notu VZ * 0.40 + OD * 0.10 + BUT * 0.50


Değerlendirme Yöntemlerine İliskin Aciklamalar

Yok

Değerlendirme Kriteri

Sınavlar ve ödevin değerlendirilmesi

Dersin Öğretim Dili

İngilizce

Derse İlişkin Politika ve Kurallar

Dönem boyunca derslerin %70'ine devam etme sorumluluğu öğrenciye aittir. Ders saatine ve ödev teslimi ile ilgili belirtilen zamana uyulmalıdır. Derslerde ve sınavlarda meydana gelebilecek etik-dışı davranışlar konusunda ilgili yönetmelik çerçevesinde hareket edilecektir. D.E.Ü. Fen Fakültesi öğretim ve sınav uygulama esasları yönetmeliğini http://web.deu.edu.tr/fen adresinden temin edebilirsiniz.

Dersin Öğretim Üyesi İletişim Bilgileri

DEU Fen Fakültesi İstatistik Bölümü
e-posta: ozlem.ege@deu.edu.tr
Tel: 0232 301 85 58

Ders Öğretim Üyesi Görüşme Gün ve Saatleri

İlan Edilecektir.

Staj Durumu

YOK

İş Yükü Hesaplaması

Etkinlikler Sayısı Süresi (saat) Toplam İş Yükü (saat)
Ders Anlatımı 13 3 39
Haftalık Ders öncesi/sonrası hazırlıklar 12 1 12
Vize Sınavına Hazırlık 1 24 24
Final Sınavına Hazırlık 1 32 32
Ödev Hazırlama 1 5 5
Final Sınavı 1 2 2
Vize Sınavı 1 2 2
TOPLAM İŞ YÜKÜ (saat) 116

Program ve Öğrenme Kazanımları İlişkisi

PK/ÖKPK.1PK.2PK.3PK.4PK.5PK.6PK.7PK.8PK.9PK.10PK.11PK.12PK.13PK.14
ÖK.155433
ÖK.255433
ÖK.355433
ÖK.455433
ÖK.555433
ÖK.655433
ÖK.755433