TreeNet^® 회귀 분석를 통한 모형 적합 및 주요 예측 변수 검색에 대한 하이퍼파라미터 조정 방법 및 공식

두 개 이상의 하이퍼파라미터에 대한 값을 지정하는 경우 평가 표의 모형은 하이퍼파라미터의 전체 조합을 평가하는지 여부에 따라 달라집니다.

• 완전한 모호 조합 평가을(를) 선택하는 경우, 알고리즘은 하이퍼파라미터의 모든 조합을 평가합니다. 이 옵션은 일반적으로 계산하는 데 시간이 더 오래 걸립니다.
• 그렇지 않으면 알고리즘은 이 순서로 하이퍼파라미터를 평가합니다.
  1. 학습 속도
  2. 하위 표본 부분
  3. 개별 트리 복잡성 모호
  예를 들어 알고리즘이 다음과 같은 하이퍼파라미터를 수신한다고 가정합니다.

  • 학습률: 0.001, 0.01, 0.1
  • 하위 표본 부분: 0.4, 0.5, 0.7
  • 최대 단말 노드 수 4, 6

  1. 알고리즘은 하위 표본 비율을 0.4로 설정하고 단말 노드의 최대 수를 4로 설정합니다. 그런 다음 알고리즘은 학습 속도를 최소에서 최대로 평가합니다. 0.001, 0.01, 0.1.
  2. 알고리즘이 0.01을 최상의 학습 속도로 식별한다고 가정합니다. 그런 다음 알고리즘은 학습 속도를 0.01로 설정하고 단말 노드의 최대 수를 4로 설정합니다. 그런 다음 알고리즘은 0.4, 0.5 및 0.72의 하위 표본 비율을 평가합니다.
  3. 알고리즘이 0.5를 가장 적합한 하위 표본 비율로 식별한다고 가정합니다. 그런 다음 알고리즘은 학습 속도를 0.01로 설정하여 하위 표본 비율을 0.5로 설정합니다. 그런 다음 알고리즘은 최대 노드 수를 4와 6으로 평가합니다.
  4. 알고리즘이 6을 가장 최대 단말 노드 수로 식별한다고 가정합니다. 그런 다음 Minitab은 학습 속도 = 0.01, 하위 표본 비율 0.5 및 단말 노드 6의 최대 수와 모형에 대한 평가 표 및 결과를 생성합니다.

이 예에서는 파라미터 조합의 전체 집합을 평가하지 않는 분석은 평가 표에 8개의 모형을 포함합니다. 모든 파라미터 조합의 분석에는 3 × 3 × 2 = 18개의 조합이 있으며 계산하는 데 시간이 더 오래 걸립니다.

개별 모형의 정확도 기준 계산에 대한 자세한 내용은 TreeNet® 회귀 분석를 통한 모형 적합 및 주요 예측 변수 검색에 대한 모형 요약의 방법 및 공식로 이동합니다.