순서형 로지스틱 회귀 분석 방법 및 공식

Minitab은 로짓(기본값), 노밋 및 곰핏이라는 세 가지 연결 함수를 제공합니다. 연결 함수는 광범위한 종류의 순서형 반응 모형을 적합시키기 위해 사용할 수 있습니다. 로짓은 표준 누적 로지스틱 분포 함수의 역함수입니다. 프로핏이라고도 하는 노밋 함수는 표준 누적 분포 함수의 역함수입니다. 보 로그-로그라고도 하는 곰핏 함수는 Gompertz 분포 함수의 역함수입니다.

공식

g(χ_k) = θ_k +x'β, k = 1, ..., K-1

연결 함수는 분포 함수의 역함수입니다. 연결 함수와 해당되는 분포는 아래와 같이 요약됩니다.

표기법

데이터 집합의 단일 요인/공변량 값 집합에 대해 설명합니다. Minitab에서는 각 요인/공변량 패턴에 대한 사건 확률, 잔차 및 기타 진단 측도를 계산합니다.

예를 들어 데이터 집합에 성별 및 인종 요인과 나이 공변량이 포함되어 있는 경우, 이런 예측 변수의 조합에는 피실험자 수만큼 많은 공분산 패턴이 포함될 수 있습니다. 데이터 집합에 각각 2개 수준에서 코드화된 인종과 성별 요인만 포함되어 있는 경우, 가능한 요인/공변량 패턴은 4개뿐입니다. 데이터를 빈도나 성공, 시행 또는 실패 횟수로 입력할 경우 각 행에 요인/공변량 패턴이 하나씩 포함됩니다.

사건 확률은 k = 1, 2, ..., K인 경우 π_k입니다.

공식

표기법

반응값이 가능한 각 k에 대해 k 이하로 떨어질 확률입니다. k번째 누적 확률은 다음과 같습니다.

공식

P(yk) = p₁ + ... + p_k,k = 1, ... , K

누적 확률은 반응값의 순서를 나타냅니다. 반응값 범주가 k개인 모형의 경우:

P(y 1) <P(y 2) … P(yK) = 1

확률의 합이 1이므로 마지막 범주에 대해서는 확률을 계산하지 않습니다. 첫 K - 1개 누적 확률의 로짓은 다음과 같습니다.

Minitab에서는 예측 변수의 벡터 x에 k 범주 이하 반응값의 로그 확률에 x가 미치는 영향을 설명하는 모수 β가 있는 비례 확률 모형을 사용합니다. Minitab은 x가 모든 K – 1 범주에 미치는 영향이 같다고 가정하므로, 각 예측 변수에 대해 계수를 1개만 계산합니다. 예측 변수에 대한 계수는 고정된 k에 대해 예측 변수가 한 수준에 있는 경우 반응값 로짓의 변동 추정치를 기준 수준과 비교하여 나타냅니다.

Minitab은 각 K – 1 범주에 대해 상수를 추정합니다. 누적 확률 모형을 사용하여 각 범주에 대해 추정되는 확률을 계산하려면 모수 추정치를 사용합니다.

공식

추정 계수는 최대 우도 추정과 동등한 반복 재가중 최소 제곱법을 사용하여 계산합니다.^1,2

참고 문헌

Z는 예측 변수가 반응과 유의한 연관이 있는지 확인하기 위해 사용합니다. Z의 절대값이 클수록 관계가 유의함을 나타냅니다. p-값은 정규 분포에서 Z가 어디에 위치하는지 나타냅니다.

공식

Z = β_i / 표준 오차

상수 공식은 다음과 같습니다.

Z = θ_k / 표준 오차

표본이 작은 경우, 우도 비율 검정이 더 신뢰할 수 있는 유의도 검정일 수 있습니다.

귀무 가설을 기각하거나 받아들이는 가설 검정에서 사용됩니다. p-값은 귀무 가설이 참인 경우 최소한 실제로 계산된 값만큼 극단적인 검정 통계량을 얻을 확률입니다. 일반적으로 사용되는 p-값에 대한 컷오프 값은 0.05입니다. 예를 들어, 검정 통계량의 계산된 p-값이 0.05보다 작으면 귀무 가설을 기각합니다.

Minitab에서는 순서형 로지스틱 회귀 분석에 비례 확률 모형을 사용합니다. 각 예측 변수에 대해 모수 하나와 승산비 하나만 계산합니다. 승산비는 누적 확률과 누적 확률의 보를 사용합니다. 2개 수준 x₁과 x₂가 있는 예측 변수의 경우 누적 승산비는 다음과 같습니다.

공식

공식

β_i 에 대한 큰 표본 신뢰 구간은 다음과 같습니다.

β _i + Z_{α /2}*(표준 오차)

확률 비율의 신뢰 구간을 구하려면 신뢰 구간의 하한 및 상한을 멱승하십시오. 구간은 예측 변수의 모든 단위 변동에 대해 확률이 하락할 수 있는 범위를 정합니다.

표기법

식은 개별 확률 밀도 함수로부터 도출되며, β의 최적 값을 산출하기 위해 극대화됩니다. 로그 우도는 표본 크기에 좌우되므로 단독으로 측도로 사용할 수 없지만, 두 모형을 비교하기 위해 사용할 수 있습니다.

순서형 로지스틱 회귀 분석의 경우, 각각 k개의 범주를 포함하는 n개의 독립적인 다항 벡터가 있습니다. 이런 관측치는 y₁, ..., y_n로 표시되며, 여기서 y_i = (y_i1, ..., y_ik)이고 Σ_jy_ij = m_i는 각 i에 대해 고정되어 있습니다. i번째 관측치 y_i에서 로그 우도에 대한 기여는 다음과 같습니다.

공식

L(π_i ; y_i) = Σ_ky_ik log π_ik

총 로그 우도는 n개 관측치의 기여를 각각 합한 값입니다.

L(π ; y) = Σ_i L(π_i; y_i)

표기법

p + K – 1 차원을 포함하는 사각 행렬. 각 계수의 분산은 대각 셀에 있고 각 계수 쌍의 공분산은 해당 대각 외 셀에 있습니다. 분산은 계수 제곱의 표준 오차입니다.

분산-공분산 행렬은 점근적이며, 정보 역행렬의 마지막 반복으로부터 얻습니다.

표기법

일치 및 불일치 쌍은 모형이 데이터를 얼마나 잘 예측하는지 나타냅니다. 일치 쌍이 많을수록 모형의 예측 능력이 더 우수합니다.

일치, 불일치 및 같은 값 쌍 표는 반응 값이 서로 다른 관측치의 모든 가능한 쌍을 구성하여 계산합니다. 반응 값이 1, 2, 3이라고 가정합니다. Minitab에서는 반응 값이 1인 모든 관측치를 반응 값이 2와 3인 모든 관측치와 짝지은 다음 반응 값이 2인 모든 관측치를 반응 값이 1과 3인 모든 관측치와 짝짓습니다. 쌍의 총 수는 반응 값이 1인 관측치 수 곱하기 반응 값이 2인 관측치 수 더하기 반응 값이 1인 관측치 수 곱하기 반응 값이 3인 관측치 수 더하기 반응 값이 2인 관측치 수 곱하기 반응 값이 3인 관측치 수입니다.

Minitab은 쌍이 일치 또는 불일치 쌍인지 확인하기 위해 각 관측치의 누적 예측 확률을 계산하고 해당 값을 각 관측치 쌍에 대해 비교합니다.

일치

가장 낮은 반응 값(위 예에서는 1)을 포함하는 쌍의 경우, 가장 낮은 반응 값까지의 누적 확률이 반응 값이 가장 작은 관측치보다 반응 값이 가장 높은 관측치보다 더 크면 일치 쌍입니다. 반응 값이 가장 높은 쌍(위 예에서는 반응 값이 2와 3인 쌍)의 경우 반응 값이 2인 관측치보다 반응 값이 3인 관측치에서 2까지의 누적 확률이 더 크면 일치 쌍입니다.

불일치

가장 낮은 반응 값(위 예에서는 1)을 포함하는 쌍의 경우, 가장 낮은 반응 값까지의 누적 확률이 반응 값이 더 큰 관측치보다 반응 값이 더 낮은 관측치보다 더 크면 불일치 쌍입니다. 반응 값이 가장 높은 쌍(위 예에서는 반응 값이 2와 3인 쌍)의 경우, 2까지의 누적 확률이 반응 값이 3인 관측치보다 반응 값이 2인 관측치에서 더 크면 불일치 쌍입니다.

같은 값

관측치들이 같은 누적 확률을 갖는 경우 같은 값을 갖는 쌍이라고 합니다.

공식

Minitab은 일치, 불일치 및 같은 값 쌍 표를 사용하여 다음 요약 측도를 계산합니다.

표기법