Uczenie maszynowe - naiwny Bayes i drzewa decyzyjne

Zagadnienia:

• samodzielne przeliczenie wartości entropii dla kilku sytuacji zdarzeń losowych
• prawo Bayes'a — przeliczenie kilku wymyślonych przypadków
• klasyfikator Bayesowski — założenie o niezależności (wartości) atrybutów, prawdopodobieństwo przynależności do klasy
• drzewa decyzyjne — zasada konstrukcji (divide-and-conquer — „dziel i rządź”), ocena węzłów (info-gain — sposób obliczania)
• różnica między Info.gain oraz Info.gain.ratio
• pruning w C4

Materiały:

• piątkowe wykłady
• odnośniki na dole tej strony
• slajdy do Weki — archiwum zip (rozdział 3: 5-7, rozdział 4: 13-46, rozdział 6: 4-25, 68-75)
• Zagadnienia klasyfikacji (Ważniak) (drzewa decyzyjne, klasyfikatory pamięciowe — Bayesowskie i k-NN)
• dla chętnych — opis klasyfikatora

Plan zajęć — klasyfikatory:

• pamięciowe
  • naiwny klasyfikator bayesowski
• drzewa decyzyjne
  • J48
  • ID3

Pliki dla Weki

*pogoda

Sprawozdanie

• Część I
• Część II
• Źródła (*.tex)