부분 최소 제곱법에 대한 방법

Minitab에서는 Herman Wold¹가 개발한 비선형 반복 부분 최소 제곱(NIPALS) 알고리즘을 사용하여 조건이 잘못된 데이터와 관련된 문제를 해결합니다. PLS는 예측 변수와 반응 변수 간 공분산을 기준으로 상관 관계가 없는 성분을 추출하여 예측 변수의 수를 줄입니다. PLS는 주 성분 회귀 분석 및 릿지 회귀 분석과 유사하지만 계산 방법이 다릅니다.

PLS 알고리즘은 각 계량형 모형이 추가 성분을 하나씩 포함하는 일련의 모형을 생성합니다. 성분은 표준화 x 및 y 행렬부터 시작하여 한 번에 하나씩 계산됩니다. 이후 성분은 x 및 y 잔차 행렬로부터 계산되며, 최대 성분 수에 도달하거나 x-잔차가 영행렬이 되면 계산 반복을 중지합니다. 성분 수가 예측 변수의 수와 같으면 PLS 모형이 최소 제곱 회귀 모형과 같습니다. 예측 오차를 최소화하는 성분의 수를 확인하는 데는 교차 검증이 사용됩니다.

PLS는 예측 변수와 반응값 분해를 모두 동시에 수행합니다. Minitab은 성분 수를 확인하고 적재를 계산한 후 각 예측 변수에 대해 회귀 계수를 계산합니다. PLS와 NIPALS에 대한 자세한 내용은 다음을 참조하십시오. ²³⁴.

모형에 적절한 수의 성분이 포함되어 있는지 쉽게 확인할 수 있도록 잠재적 모형의 예측 능력을 계산합니다. 데이터에 반응 변수가 여러 개인 경우 Minitab은 모든 반응 변수에 대한 성분을 동시에 검증합니다.

교차 검증 절차

Minitab은 가능한 각 모형에 대해 다음과 같은 작업을 수행합니다.

1. 사용하는 교차 검증 방법에 따라 관측치 한 개 또는 관측치 그룹을 제외합니다.
2. 관측치 한 개 또는 관측치 그룹이 제외된 모형을 재계산합니다.
3. 재계산된 모형을 사용하여 제외된 관측치/관측치 그룹의 반응값이나 교차 검증된 적합치를 예측하고 교차 검증된 잔차 값을 계산합니다.
4. 모든 관측치가 제외되고 적합될 때까지 1 - 3단계를 반복합니다.
5. 예측 제곱합(PRESS)과 예측 R² 값을 계산합니다.

Minitab은 각 모형에 대해 1 - 5단계를 수행한 후 예측 R²이 가장 크고 PRESS가 가장 작게 생성되는 성분 수를 가진 모형을 선택합니다. 반응 변수가 여러 개인 경우 Minitab은 예측 R²의 평균이 가장 크고 PRESS의 평균이 가장 작은 모형을 선택합니다.