결정 트리 학습
결정 트리 학습은 입력 특성에 대한 조건 분기를 순차 구성하여 예측 결과를 결정하는 트리를 학습한다 지도학습·분류·회귀 분야에서 이 문제를 해결하기 위한 계산 모델을 제공하며, 실제 구현에서는 상태를 표현하는 방법과 단계별 조건을 정의해야 한다. 알고리즘의 목표, 최적성 또는 오차의 보...
| 분류 | 알고리즘 · 지도학습·분류·회귀 |
|---|---|
| 해결 문제 | 입력 특성에 대한 조건 분기를 순차 구성하여 예측 결과를 결정하는 트리를 학습한다 |
| 핵심 절차 | 훈련 데이터의 특성 분할 후보에서 정보 이득이나 지니 불순도 감소가 큰 기준을 선택하고 하위 집합에 재귀 적용한다 |
| 연산·성능 | 분할 후보 평가와 트리 깊이에 의존하며 예측 비용은 경로 길이 O(depth) |
| 사용 전제 | 특성의 분할 방식·불순도 기준과 과적합 방지 조건을 정해야 한다 |
| 참고 자료 | 관련 기술 문서 |
| 관련 기술 | 알고리즘, 계산 복잡도 |
결정 트리 학습은 입력 특성에 대한 조건 분기를 순차 구성하여 예측 결과를 결정하는 트리를 학습한다 지도학습·분류·회귀 분야에서 이 문제를 해결하기 위한 계산 모델을 제공하며, 실제 구현에서는 상태를 표현하는 방법과 단계별 조건을 정의해야 한다. 알고리즘의 목표, 최적성 또는 오차의 보장 여부는 사용하는 계산 모델에 따라 해석한다.[1]
동작 방식은 훈련 데이터의 특성 분할 후보에서 정보 이득이나 지니 불순도 감소가 큰 기준을 선택하고 하위 집합에 재귀 적용한다. 충분히 작은 잎 또는 중단 기준에 도달하면 출력 값을 정한다. 각 처리 단계에서 상태·값·데이터 구조의 의미가 유지되도록 구현하고, 알고리즘의 종료 또는 수렴을 판정하는 조건을 함께 둔다.
복잡도 및 실행 조건은 분할 후보 평가와 트리 깊이에 의존하며 예측 비용은 경로 길이 O(depth) 올바른 활용에는 특성의 분할 방식·불순도 기준과 과적합 방지 조건을 정해야 한다 입력의 크기, 데이터 분포와 처리 환경이 달라질 때 성능 또는 결과가 어떻게 달라지는지도 중요한 평가 대상이다.
구체적인 적용을 보면 표 형태 데이터의 분류·회귀에 사용하며 가지치기·최대 깊이 제한으로 일반화 성능을 조절한다. Random Forest와 boosting은 트리들을 결합한다. 다른 방법과 비교할 때 계산 비용, 결과의 정확성, 입력 전제 및 구현 복잡성에 따라 적절한 기법을 선택하게 된다. 원래 모델의 전제가 성립하는지를 확인하면 실용적인 코드 구현과 이론 분석을 연결할 수 있다.[2]