Métodos e fórmulas para sintonizar hiperparâmetros em Ajuste de modelo e Descubrir preditores-chave com Regressão TreeNet^®

Se você especificar valores para mais de um hiperparâmetro, então os modelos na tabela de avaliação dependem se você avalia as combinações completas dos hiperparâmetros.

• Se você selecionar Avaliar combinações completas de parâmetros, então o algoritmo avaliará cada combinação dos hiperparâmetros. Essa opção geralmente leva mais tempo para ser calculada.
• Caso contrário, o algoritmo avalia os hiperparâmetros nesta ordem:
  1. Taxa de aprendizado
  2. Fração da subamostra
  3. Parâmetro de complexidade individual da árvore
  Por exemplo, suponha que o algoritmo receba os seguintes hiperparâmetros:

  • Taxas de aprendizado: 0,001, 0,01, 0,1
  • Frações da subamostra: 0,4, 0,5, 0,7
  • Números máximos de nós terminais: 4, 6

  1. O algoritmo define a proporção de subamostras como 0,4 e o número máximo de nós terminais como 4. Em seguida, o algoritmo avalia as taxas de aprendizagem da menor para a maior: 0,001, 0,01, 0,1.
  2. Suponha que o algoritmo identifique 0,01 como a melhor taxa de aprendizado. Em seguida, o algoritmo definirá a taxa de aprendizagem como 0,01 e o número máximo de nós terminais como 4. Em seguida, o algoritmo avaliará as proporções de subamostras de 0,4, 0,5 e 0,7.
  3. Suponha que o algoritmo identifique 0,5 como a melhor proporção de subamostra. Em seguida, o algoritmo definirá a taxa de aprendizagem como 0,01, a proporção de subamostra como 0,5. Em seguida, o algoritmo avaliará os números máximos de nós de 4 e 6.
  4. Suponha que o algoritmo identifique 6 como o melhor número máximo de nós terminais. Em seguida, o Minitab produzirá a tabela de avaliação e os resultados para o modelo com taxa de aprendizagem = 0,01, proporção de subamostras de 0,5 e número máximo de nós terminais de 6.

Nesse exemplo, a análise que não avalia o conjunto completo de combinações de parâmetros inclui 8 modelos na tabela de avaliação. Uma análise de todas as combinações de parâmetros tem 3 × 3 × 2 = 18 combinações e leva mais tempo para ser calculada.

Para obter detalhes sobre o cálculo dos critérios de precisão para um modelo individual, vá para Métodos e fórmulas para o sumário do modelo em Ajuste de modelo e Descubrir preditores-chave com Regressão TreeNet®.