Compreendendo algoritmos e valores iniciais na regressão não-linear

Tanto a regressão linear quanto a não linear minimizam a soma dos quadrados do erro residual (SSE) para estimar os parâmetros. No entanto, elas usam abordagens muito diferentes. Para regressão linear, o Minitab extrai matematicamente a soma de quadrados do erro residual mínima por meio da resolução de equações. Depois de escolher o modelo, não há mais opções. Se você ajustar o mesmo modelo aos mesmos dados, obterá os mesmos resultados.

No entanto, para a regressão não linear, não há solução direta para minimizar a soma dos quadrados do erro residual. Assim, um algoritmo iterativo estima parâmetros ajustando sistematicamente as estimativas dos parâmetros para reduzir a soma dos quadrados do erro residual. Depois de decidir sobre o modelo, você deve escolher o algoritmo e fornecer o valor inicial para cada parâmetro. O algoritmo utiliza estes valores iniciais para calcular a soma inicial de quadrados do erro residual.

Para cada iteração, o algoritmo ajusta as estimativas de parâmetros de uma forma que ele prevê que deve reduzir a soma dos quadrados do erro residual em comparação com a iteração anterior. Algoritmos diferentes usam abordagens diferentes para determinar os ajustes de cada iteração. As iterações continuam até que o algoritmo convirja na soma dos quadrados do erro residual mínima, um problema impeça a iteração seguinte ou o Minitab obtenha o número máximo de iterações. Se o algoritmo não conseguir convergir, você pode tentar diferentes valores iniciais e/ou o outro algoritmo.

Para algumas funções de expectativa e conjuntos de dados, os valores iniciais podem afetar significativamente os resultados. Determinados valores iniciais podem levar à falha na convergência ou convergência para uma soma de quadrados do mínimo de erro residual local, em vez de global. Às vezes, pode ser necessário muito esforço para desenvolver bons valores iniciais.