Jak nie zabłądzić w lesie … losowym?

Drzewo decyzyjne to jeden z ciekawszych i użytecznych algorytmów uczenia maszynowego. Jest bardzo intuicyjny i łatwy w interpretacji. Jednakże jego głównym mankamentem jest to, że nie daje dobrych wyników. Drzewo decyzyjne jest też bardzo czułe na małe zmiany w zbiorze treningowym. Często również nie wykorzystuje całości informacji zawartej w poszczególnych kolumnach. Fajnie byłoby gdyby udało … Czytaj dalej Jak nie zabłądzić w lesie … losowym?

Tuning hiperparametrów na przykładzie drzewa decyzyjnego

Fontanna

W jednym z poprzednich artykułów pokazałem, na czym polega proces budowy drzewa decyzyjnego. Pokazałem również, nad jakimi hiperparametrami warto się pochylić przy budowie takiego drzewa. W tym artykule chciałem pokazać jak ugryźć proces wyboru wartości hiperparametrów w sposób praktyczny. Zbiór danych Aby móc przeprowadzić to ćwiczenie przydałby nam się jakiś zbiór danych. Do tego celu … Czytaj dalej Tuning hiperparametrów na przykładzie drzewa decyzyjnego

Drzewo decyzyjne a hiperparametry

Bonsai

We wpisie o drzewach decyzyjnych poznaliśmy ich ideę oraz sposób budowania. Ale czy to już wszystko, co musimy wiedzieć o drzewach decyzyjnych? Nie, celowo pominąłem tam jeden element, który zasługuje na osobny wpis. Tym elementem jest, a raczej są, hiperparametry. Hiper... co? Hiperparametry to takie specjalne parametry. W programowaniu przyjęło się, że parametry to zmienne … Czytaj dalej Drzewo decyzyjne a hiperparametry

Jak wyhodować drzewo … decyzyjne?

Drzewo i most

Drzewo decyzyjne (ang. decision tree) to bardzo prosty algorytm używany w uczeniu nadzorowanym. Jest na tyle prosty (jak sam zobaczysz), że często jest pierwszym algorytmem używanym jako przykład w uczeniu maszynowym. W tym artykule chciałbym wytłumaczyć jego strukturę oraz pokazać jak możemy użyć drzewa decyzyjnego przy pomocy modułu Scikit-Learn. Koncepcją, która stoi za drzewem decyzyjnym, … Czytaj dalej Jak wyhodować drzewo … decyzyjne?