Achive with GRIT

1 분 소요

[혼공머신]3-1 -추가학습(분류와 회귀문제에 모두 사용할 수 있는 머신러닝 모델)

1. 결정 트리 (Decision Trees)

결정 트리는 데이터의 특성과 타깃 변수 간의 관계를 모델링하기 위해 트리 구조를 사용하는 알고리즘입니다.

  • 분류(Decision Tree Classifier): 각 노드에서 특정 특성의 값에 따라 데이터를 분할하여 최종적으로 클래스 레이블을 예측합니다.
  • 회귀(Decision Tree Regressor): 각 노드에서 특정 특성의 값에 따라 데이터를 분할하여 최종적으로 타깃 값의 평균을 예측합니다.

예제 코드

from sklearn.tree import DecisionTreeClassifier, DecisionTreeRegressor

# 분류
clf = DecisionTreeClassifier()
clf.fit(train_input, train_target)
clf_pred = clf.predict(test_input)

# 회귀
reg = DecisionTreeRegressor()
reg.fit(train_input, train_target)
reg_pred = reg.predict(test_input)

2. 랜덤 포레스트 (Random Forest)

랜덤 포레스트는 다수의 결정 트리를 사용하여 예측을 수행하는 앙상블 기법입니다.

  • 분류(Random Forest Classifier): 여러 결정 트리를 생성하고 각 트리의 예측 결과를 투표하여 최종 클래스를 결정합니다.
  • 회귀(Random Forest Regressor): 여러 결정 트리를 생성하고 각 트리의 예측 값을 평균하여 최종 값을 결정합니다.

예제 코드

from sklearn.ensemble import RandomForestClassifier, RandomForestRegressor

# 분류
clf = RandomForestClassifier()
clf.fit(train_input, train_target)
clf_pred = clf.predict(test_input)

# 회귀
reg = RandomForestRegressor()
reg.fit(train_input, train_target)
reg_pred = reg.predict(test_input)

3. 서포트 벡터 머신 (Support Vector Machines, SVM)

SVM은 데이터 포인트를 고차원 공간으로 매핑하여 분류 또는 회귀를 수행하는 강력한 기법입니다.

  • 분류(Support Vector Classifier, SVC): 데이터 포인트를 고차원 공간으로 매핑하고, 클래스 간의 최대 마진을 분리하는 초평면을 찾습니다.
  • 회귀(Support Vector Regressor, SVR): 데이터 포인트를 고차원 공간으로 매핑하고, 결정 경계 내의 포인트를 예측하는 회귀 모델을 생성합니다.

예제 코드

from sklearn.svm import SVC, SVR

# 분류
clf = SVC()
clf.fit(train_input, train_target)
clf_pred = clf.predict(test_input)

# 회귀
reg = SVR()
reg.fit(train_input, train_target)
reg_pred = reg.predict(test_input)

4. 인공 신경망 (Artificial Neural Networks, ANN)

신경망은 여러 계층을 통해 데이터의 특징을 학습하고 예측을 수행하는 모델입니다.

  • 분류(Neural Network Classifier): 다층 퍼셉트론(MLP) 구조를 사용하여 클래스 레이블을 예측합니다.
  • 회귀(Neural Network Regressor): 다층 퍼셉트론(MLP) 구조를 사용하여 연속적인 값을 예측합니다.

예제 코드

from sklearn.neural_network import MLPClassifier, MLPRegressor

# 분류
clf = MLPClassifier()
clf.fit(train_input, train_target)
clf_pred = clf.predict(test_input)

# 회귀
reg = MLPRegressor()
reg.fit(train_input, train_target)
reg_pred = reg.predict(test_input)

요약

위에 언급한 모델들은 모두 분류와 회귀 두 가지 문제를 해결할 수 있는 강력한 도구입니다. 이들은 데이터의 특성과 목표에 따라 유연하게 사용할 수 있으며, scikit-learn 라이브러리를 통해 쉽게 구현할 수 있습니다. 모델 선택은 데이터의 특성과 문제의 요구 사항에 따라 달라질 수 있으므로, 여러 모델을 시도해보고 최적의 성능을 제공하는 모델을 선택하는 것이 좋습니다.

댓글남기기

참고