Search for content and authors
 

Zastosowanie metody boosting w indukcji reguł

Mariusz Kubus 

Politechnika Opolska (PO), Mikołajczyka 5, Opole 45-271, Poland

Abstract

Ze względu na możliwość analizy danych niemetrycznych, dużym powodzeniem wśród metod dyskryminacji cieszą się algorytmy indukcji reguł. Klasyczny już schemat indukcji reguł separuj-i-zwyciężaj (separate-and-conquer) został zaproponowany po raz pierwszy przez Michalskiego [1969]. Za pomocą przeszukiwania heurystycznego przestrzeni opisów klas znajdywana jest reguła maksymalizująca funkcję kryterium. Opisane przez nią obiekty usuwane są ze zbioru uczącego, po czym generowana jest następna reguła. Cohen i Singer [1999], w algorytmie SLIPPER, zaproponowali nieco inne podejście. Do indukcji reguł zaadoptowali metodę boosting [Schapire i Singer 1998]. Zamiast usuwać ze zbioru uczącego opisane przez regułę obiekty, nadawane są im wagi, co wpływa na generowanie następnej reguły.

Celem referatu jest zbadanie algorytmu SLIPPER. Zbadane będą: wpływ liczby iteracji na dokładność klasyfikacji oraz różne sposoby rozwiązania problemu wielu klas. Uzyskane wyniki zostaną porównane z dobrze znanym algorytmem drzew klasyfikacyjnych CART.

Literatura

Cohen W.W.(1995), Fast effective rule induction. In Prieditis A., Russell S. (Eds.), Proceedings of the 12th International Conference on Machine Learning.

Cohen W.W., Singer Y. (1999), A Simple, Fast, and Effective Rule Learner. In Proceedings of Annual Conference of American Association for Artificial Intelligence (pp.335-342).

Michalski R.S. (1969), On the quasi-minimal solution of the covering problem. In Proceedings of the 5th International Symposium on Information Processing (FCIP-69), Vol. A3 (Switching Circuits), p.125-128 Bled, Yugoslavia.

Schapire R.E., Singer Y. (1998), Improved boosting algorithms using confidence-rated predictions. In Proceedings of the Eleventh Annual Conference on Computational Learning Theory, 80-91.

 

Legal notice
  • Legal notice:
 

Presentation: Oral at XVI KONFERENCJA NAUKOWA SEKCJI KLASYFIKACJI I ANALIZY DANYCH PTS, Sympozjum A, by Mariusz Kubus
See On-line Journal of XVI KONFERENCJA NAUKOWA SEKCJI KLASYFIKACJI I ANALIZY DANYCH PTS

Submitted: 2007-04-13 20:47
Revised:   2009-06-07 00:44