Les régressions linéaire et non linéaire réduisent la somme des carrés de l'erreur résiduelle (SCE) afin d'estimer les paramètres. Toutefois, elles utilisent des méthodes très différentes. Pour la régression linéaire, Minitab calcule mathématiquement la somme minimale des carrés de l'erreur résiduelle en résolvant des équations. Après avoir choisi un modèle, aucun autre choix n'est disponible. Si vous ajustez le même modèle aux mêmes données, vous obtenez des résultats identiques.
En revanche, pour la régression non linéaire, aucune solution directe ne permet de réduire la somme des carrés de l'erreur résiduelle. C'est pourquoi un algorithme itératif calcule les paramètres en ajustant systématiquement les estimations de paramètres de sorte à réduire la somme des carrés de l'erreur résiduelle. Après avoir choisi le modèle, vous choisissez l'algorithme et indiquez la valeur de début de chaque paramètre. L'algorithme utilise ces valeurs de début pour calculer la somme initiale des carrés de l'erreur résiduelle.
Pour chaque itération, l'algorithme ajuste les estimations de paramètres de sorte à prévoir la réduction de la valeur SCE par rapport à l'itération précédente. Des algorithmes différents utilisent des méthodes différentes afin de déterminer les ajustements pour chaque itération. Les itérations se poursuivent jusqu'à ce que l'algorithme converge vers la plus petite somme des carrés de l'erreur résiduelle, qu'un problème empêche l'itération suivante ou que Minitab atteigne le nombre maximal d'itérations. Si l'algorithme ne peut pas converger, vous pouvez essayer d'utiliser des valeurs de début différentes et/ou l'autre algorithme.
Dans certaines fonctions de prévision et ensembles de données, les valeurs de début peuvent affecter les résultats de façon significative. Certaines valeurs de début peuvent entraîner l'échec de la convergence ou la convergence vers une somme des carrés de l'erreur résiduelle minimale locale, plutôt que globale. Parfois, la définition de valeurs de début adaptées peut requérir des efforts considérables.