가중최소제곱법 예제

이 가중치가 가장 작은 제곱 맞춤의 요약은 다음과 같습니다: 손실 함수의 첫 번째 부분(즉, (OBS-PRED)**2)는 표준 최소 제곱을 지정합니다. 그러나 각 경우에 대해 손실은 제곱 입찰가 크기의 역으로 가중치가 가중됩니다(즉, (1/bid_size**2)를 곱함). 이 메서드는 반복적으로 가중치가 다시 지정된 최소 제곱에 사용됩니다. (OLS에서 볼 수 있듯이) 사각형의 잔여 합을 최소화하는 대신: 가중치가 있는 최소 제곱은 OLS의 확장으로 처리되지만 기술적으로는 다른 방법입니다: OLS는 가중치가 가장 작은 제곱의 특별한 경우입니다. OLS를 사용하면 모든 가중치가 1과 같습니다. 따라서 WSS 수식을 해결하는 것은 OLS 수식을 해결하는 것과 유사합니다. 당신은 실제로 비록 손으로이 문제를 해결 가능성이 있어, 대부분의 괜찮은 통계 소프트웨어 패키지는 이러한 내장 있을 것 이다. 중요한 점은 미니탭의 ANOVA가 가중 SS의 관점에서 이루어질 것이라는 점입니다. 가중치가 있는 최소 제곱 분석을 수행할 때 가중치가 있는 케이스의 SS 값이 가중치가 없는 케이스의 SS 값과 얼마나 다른지 주의해야 합니다. 이 예제에서 가중치를 알 수 있었습니다.

가중치가 알려진 다른 상황이 있습니다: 이러한 방법 중 하나를 사용하여 가중치를 추정한 후 (w_i), 가중치가 있는 최소 제곱 회귀 모델을 추정할 때 이러한 가중치를 사용합니다. 다음 섹션에서이 방법의 몇 가지 예를 고려 합니다. 단위 가중치(W = I, ID 행렬)를 사용하는 경우 실험 오류가 상관관계가 없고 모두 같음이 암시됩니다: M = σ2I는 관측값의 우선 순위 분산입니다. 어쨌든, σ2는 감소 된 카이 제곱 θ 2 {표시 스타일 chi _{nu }{2}} : 대부분의 회귀 모델은 최소 제곱 방법을 통해 추정 될 수있다, 즉, 추정 절차에서 손실 함수로 사용하여 제곱 편차의 합 예측된 값에서 관찰된 값입니다. 그러나 소개 개요에서 설명한 대로 제곱 잔차의 가중치가 순서대로 정렬될 수 있는 경우가 있습니다. 가중치가 가장 작은 제곱의 경우, 변화하는 분산을 모델링하는 데 사용되는 가중치를 고려하기 때문에 학생화된 잔차를 사용하여 모델의 적정성을 평가하는 것이 중요합니다. 일반적인 잔차는 이 작업을 수행하지 않으며 해석에 사용된 가중치에 관계없이 동일한 비상수 분산 패턴을 유지합니다. WLS는 각 데이터 포인트에 대한 중량 추정치가 무엇인지 아는 드문 경우에만 사용할 수 있습니다. 이종에 대한 문제가 있는 경우 차이 분산 추정기를 사용하여 OLS를 실행하는 것이 훨씬 일반적입니다. 예를 들어, 화이트(1980)는 S2(X`X)-1을 X`DX로 대체하는 것을 제안합니다.

이것은 X`ΩX에 대한 일관된 추정기입니다: White의 일관된 추정기는 이종계를 필요로 하지 않지만 매우 효율적인 전략은 아닙니다. 그러나 데이터에 대한 가중치를 모르는 경우 최선의 선택일 수 있습니다. White의 일관된 추정기를 구현하는 방법에 대한 전체 설명을 원한다면 여기에서 White의 원래 1908 용지를 무료로 읽을 수 있습니다. 절편 및 경사 매개변수에 대한 대략적인 표준 오차는 각각 .965 및 .404입니다. 표준 최소 제곱 손실 함수(또는 다중 회귀 모듈을 통해)로 이러한 데이터를 다시 분석하면 각각 3.252 및 .5285의 표준 오차를 얻을 수 있습니다. 따라서 가중치가 적용된 최소 제곱 추정에 기반한 매개 변수 추정이 보다 안정적이라는 결론을 내릴 수 있습니다(무작위 샘플링 변동에 대한 적은 대상). 가중 평균의 개념은 함수로 확장 될 수있다. [7] 가중 된 함수의 가중 평균은 가중 차동 및 적분 미적 분만 시스템에서 중요한 역할을합니다. [8] 가중치 가중 최소 제곱은 다른 방법에 비해 몇 가지 장점이 있습니다: 부트스트래핑 방법으로 다음이 평균의 표준 오차의 제곱에 대한 정확한 추정(일반적인 경우):[1] 관측은 외부 소스에서 알려지지 않은 다음 주어진 관측에서 가중치를 추정 할 수 있습니다.

Die Kommentarfunktion ist geschlossen.