Banyak teori yang menyediakan referensi algoritma ID3. Tapi kadang kita masih sulit memahami bagaimana cara perhitungannya. Saya pernah melakukan penelitian seperti ini, jadi saya akan berikan contoh sederhananya.
Untuk tahapan pembentukan pohon, berikut adalah diagram alurnya.
1. Memasukkan data training, syarat yang paling penting dari pembentukan adalah ini. Jadi pola keputusan dari data training yang akan menjadi acuan dalam pembentukan pohon.
2. Melakukan perhitungan Entropy dan Information Gain, ini adalah tahap yang digunakan untuk menemukan simpul akar yang bisa diiterasikan sampai pohon berhenti terbentuk.
3.Setelah pohon sudah dibentuk, dibuatlah sebuah rule yang akan menjadi aturan dalam pohon.
Ini adalah file excel yang pernah saya buat untuk melakukan perhitungan ini. Semoga membantu, Selamat Belajar dan Tahu banyak.
File Excel: Download
mau tanya pak, nilai 1.645 atau nilai z pada pruning dari mana ya..
BalasHapus