非線形回帰の方法と開始値

方法表のすべての統計量の定義と解釈について解説します。

アルゴリズム

非線形回帰では、直接に誤差平方和(SSE)を最小化する方法がありません。そのため非線形回帰では、反復アルゴリズムを使用して、SSEが低減するようにパラメータ推定値を系統だてて調整することでパラメータを推定します。各反復では、アルゴリズムは前の反復と比較してSSEが低減するようにパラメータ推定値を調整します。アルゴリズムが異なれば、反復ごとに調整を決定する手法も異なります。反復は、アルゴリズムが最小SSEで収束するか、反復が妨げられるような問題が発生するか、または反復の最大数に到達するまで続行されます。

解釈

アルゴリズム情報を使用して、意図したとおりに分析を実行されたかをを検証します。使用したアルゴリズムで収束しない場合は、他のアルゴリズムを試したり、他の開始条件を変更したりすることができます。

最大反復

反復の最大数は、解に収束しなかった場合に反復アルゴリズムが停止する点です。非線形回帰では、反復アルゴリズムを使用して、誤差平方和(SSE)を減らします。各反復では、アルゴリズムは前の反復と比較してSSEが低減するようにパラメータ推定値を調整します。反復は、アルゴリズムが最小SSEで収束するか、反復が妨げられるような問題が発生するか、または反復の最大数に到達するまで続行されます。

解釈

最大反復の情報を使用して、意図したとおりに分析が実行されているかを検証します。使用したアルゴリズムで収束しない場合は、反復数を増加させたり、他の開始条件を変更したりできます。

許容範囲

許容範囲は、1つのステップと次のステップの誤差の変化がどれだけ小さいかを設定して、反復アルゴリズムが1つの解に収束することを宣言します。デフォルトでは、相対オフセットが1.0e-5である場合、収束が宣言されます。これにより確実に、現在のパラメータのベクトルが最小二乗点から信頼領域ディスクの半径の0.001%未満だという事実から推論に実質的な影響を受けることがなくなります。

値が小さくなるほど、パラメータ推定値は正確になりますが、反復を追加する必要があります。通常、デフォルト値が適切です。

パラメータの開始値

パラメータ表の開始値には、パラメータごとに指定した値が表示されます。非線形回帰では、導関数アルゴリズムを使用して、誤差平方和(SSE)を減らします。アルゴリズムは、この表の値と等しくなるようにパラメータの値を設定することで開始します。各反復では、アルゴリズムは前の反復と比較してSSEが低減するようにパラメータの値を調整します。

解釈

開始値を使用して、意図した通りに分析を実行できたか検証します。使用したアルゴリズムで収束しない場合は、他の開始値を試したり、他の開始条件を変更したりすることができます。

モデルとデータセットによっては、開始値が結果に大きく影響する場合があります。ある開始値では収束しなかったり、収束する場合も全体のSSE最小ではなく一部のSSE最小に収束したりする可能性があります。適切な開始値を見出すために相当な作業が必要になる場合もあります。