비선형 회귀 분석 이해

이 항목의 내용

비선형 회귀 분석의 정의
비선형 회귀 분석 및 선형 회귀 분석의 비교

비선형 회귀 분석의 정의

비선형 회귀 분석은 계량형 반응 변수와 하나 이상의 예측 변수 사이의 비선형 관계를 설명하는 방정식을 생성하고 새 관측치를 예측합니다. 선형 모수를 사용하여 관계를 적절히 모형화할 수 없을 때는 범용 최소 제곱법 대신 비선형 회귀 분석을 사용하십시오. 모형의 각 항이 가법적이고 항에 곱하는 모수가 하나뿐일 경우에는 모수가 선형입니다.

비선형 회귀 분석 및 선형 회귀 분석의 비교

비선형 회귀 분석을 기본적으로 이해하기 위해 비선형 회귀 분석과 선형 회귀 분석의 유사성과 차이를 이해하는 것이 중요합니다.

유사성

두 가지 분석은 모두 다음과 같은 점에서 유사합니다.

하나의 반응 변수와 하나 이상의 예측 변수 사이의 관계를 수학적으로 설명합니다.
곡선 형태의 관계를 모형화할 수 있습니다.
잔차 오차의 제곱합(SSE)을 최소화합니다.
잔차 그림을 사용하여 확인할 수 있는 동일한 가정을 가집니다.

차이

선형 및 비선형 회귀 분석 사이에는 모형에서 사용 가능한 함수의 형태에 기본적인 차이가 있고 이러한 차이가 분석 이름에 반영되어 나타납니다. 특히, 선형 회귀 분석에는 선형 모수가 필요하며 비선형 회귀 분석에는 필요하지 않습니다. 선형 모수를 사용하여 관계를 적절히 모형화할 수 없을 경우에는 선형 회귀 분석 대신 비선형 회귀 분석을 사용하십시오.

선형 회귀 함수는 모수가 선형이어야 하므로, 방정식이 한 가지 기본 형태를 취할 수 있습니다. 모형의 각 항이 가법적이고 항에 곱하는 모수가 하나뿐일 경우에는 모수가 선형입니다.

반응 변수 = 상수 + 모수 * 예측 변수 + ... + 모수 * 예측 변수

또는 y = β_o + β₁X₁ + β₂X₂ + ... + β_kX_k

그러나 비선형 방정식은 여러 가지 형태를 취할 수 있습니다. 사실상 사용 가능한 형태가 무한하기 때문에 Minitab에서 비선형 회귀 분석을 수행하기 위해 사용할 기대 함수를 사용자가 지정해야 합니다. 다음 예는 변동성을 예시하며 θ는 모수를 가리킵니다.

y = θ^X(볼록 2, 모수 1개, 예측 변수 1개)
y = θ₁ * X₁ / ( θ₂ + X₁ )(Michaelis-Menten 방정식, 모수 2개, 예측 변수 1개)
y = θ₁ - θ₂ * ( ln ( X₁ + θ₃ ) - ln ( X₂ ))(Nernst 방정식, 모수 3개, 예측 변수 2개)

반응 곡선의 형상이나 시스템의 물리적 및 화학적 속성 움직임에 대한 사전 지식을 바탕으로 기대 함수를 선택할 수 있습니다. 잠재적인 비선형 형상으로는 오목, 볼록, 지수 성장 또는 감소, S자형 및 점근 곡선이 있습니다. 사전 지식의 요구 사항과 비선형 회귀 분석 가정을 모두 만족하는 함수를 지정해야 합니다.

여러 가지 기대 함수를 아주 유연하게 지정할 수 있지만 데이터에 맞는 최적의 적합을 제공하는 함수를 찾기 위해서는 상당한 노력이 필요합니다. 경우에 따라 추가 연구, 주제 영역에 대한 지식, 시행착오 분석이 필요합니다. 또한 비선형 회귀 분석의 경우 선형 회귀 분석에 비해 각 예측 변수가 반응에 미치는 효과를 직관적으로 파악하기 어려울 수 있습니다.

비선형 회귀 분석에서는 선형 회귀 분석과 다른 절차를 사용하여 잔차 오차의 제곱합(SSE)을 최소화합니다.