복잡한 문제를 간단한 문제들로 이루어진 계층 구조형태로 나누기 위한 기술
그래프에서와 달리, 트리에서는 모든 노드가 들어오는 에지(incoming edge)를 오직 하나만 가지도록 제한된다. 각 내부 노드에서 나가는 에지(outgoing edge)의 개수는 제한이 없으나, 주로 두 개의 나가는 에지를 갖는 것으로 가정한다. 결정 트리는 말그대로 결정을 내리기 위해 사용하는 트리로, 복잡한 문제를 간단한 문제들로 이루어진 계층 구조형태로 나누기 위한 기술이다. 간단한 문제에 대해서는 매개변수(예: 모든 노드의 테스트 매개변수, 종단 노드에서 매개변수 등)를 사용자가 직접 설정할 수 있지만, 보다 복잡한 문제의 경우 학습 데이터로부터 트리 구조와 매개변수를 자동으로 학습한다. 하나의 일반적인 데이터 포인트를 다음과 같이 벡터 로 정의한다.
결정트리의 목적이 뭐야
랜덤 포레스트