مدل‌های خطا در متغیرها

در آمار، مدل‌های خطا در متغیرها یا مدل‌های خطای اندازه‌گیری، مدل‌های رگرسیونی هستند که خطاهای اندازه‌گیری را در متغیرهای مستقل می‌توانند محاسبه کنند. در مقابل، مدل‌های رگرسیون معیار فرض می‌کنند که آن رگرسیورها دقیقاً اندازه‌گیری شده‌اند یا بدون خطا مشاهده شده‌اند. به این ترتیب، این مدل‌ها تنها خطاهای موجود در متغیرهای وابسته یا پاسخ‌ها را در نظر می‌گیرند.^{[نیازمند منبع]}

در مواردی که برخی از رگرسیون‌ها با خطا اندازه‌گیری شده‌اند، تخمین بر پایه فرض استاندارد منجر به تخمین‌های متناقض می‌شود، به این معنی که تخمین پارامترها حتی در نمونه‌های بسیار بزرگ به مقادیر واقعی تمایل ندارند. برای رگرسیون خطی ساده، این اثر یک ضریب دست کم برآورد است، که به عنوان سوگیری تضعیف شناخته می‌شود. در مدل‌های غیر خطی، جهت بایاس احتمالاً پیچیده‌تر است.^[۱][۲][۳]

مثال انگیزشی

یک مدل رگرسیون خطی ساده را در نظر بگیرید:

${\displaystyle y_{t}=\alpha +\beta x_{t}^{*}+\varepsilon _{t}\,,\quad t=1,\ldots ,T,}$

جایی که ${\displaystyle x_{t}^{*}}$ نشان دهنده واپسگرای واقعی اما مشاهده نشده‌است. به جای این مقدار را با یک خطا مشاهده می‌کنیم:

${\displaystyle x_{t}=x_{t}^{*}+\eta _{t}\,}$

جایی که خطای اندازه‌گیری ${\displaystyle \eta _{t}}$ مستقل از مقدار واقعی فرض می‌شود ${\displaystyle x_{t}^{*}}$ .

اگر ${\displaystyle y_{t}}$ به سادگی بر روی ${\displaystyle x_{t}}$ پسرفت کند، سپس برآورد کننده ضریب شیب برابر است با:

${\displaystyle {\hat {\beta }}_{x}={\frac {{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}-{\bar {x}})(y_{t}-{\bar {y}})}{{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}-{\bar {x}})^{2}}}\,,}$

که به عنوان حجم نمونه همگرا می‌شود ${\displaystyle T}$ بدون محدودیت افزایش پیدا می‌کند:

${\displaystyle {\hat {\beta }}_{x}\xrightarrow {p} {\frac {\operatorname {Cov} [\,x_{t},y_{t}\,]}{\operatorname {Var} [\,x_{t}\,]}}={\frac {\beta \sigma _{x^{*}}^{2}}{\sigma _{x^{*}}^{2}+\sigma _{\eta }^{2}}}={\frac {\beta }{1+\sigma _{\eta }^{2}/\sigma _{x^{*}}^{2}}}\,.}$

این در تضاد با اثر «واقعی» است ${\displaystyle \beta }$ ، با استفاده از ${\displaystyle x_{t}^{*}}$ ,:

${\displaystyle {\hat {\beta }}={\frac {{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}^{*}-{\bar {x}})(y_{t}-{\bar {y}})}{{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}^{*}-{\bar {x}})^{2}}}\,,}$

واریانس‌ها غیر منفی هستند، به طوری که در حد برآورد شده‌است ${\displaystyle {\hat {\beta }}_{x}}$ کوچکتر از ${\displaystyle {\hat {\beta }}}$ ، اثری که آماردانان آن را تضعیف یا رقیق شدن رگرسیون می‌نامند.^[۴] بنابراین برآوردگر حداقل مربعات ساده ${\displaystyle {\hat {\beta }}_{x}}$ یک برآوردگر ناسازگار برای ${\displaystyle \beta }$ . با این حال، ${\displaystyle {\hat {\beta }}_{x}}$ تخمین‌گر ثابت پارامتر مورد نیاز برای بهترین پیش‌بینی‌کننده خطی است ${\displaystyle y}$ با توجه به مشاهده شده ${\displaystyle x_{t}}$ : در برخی از برنامه‌ها ممکن است این چیزی باشد که مورد نیاز است، نه برآورد ضریب رگرسیون «واقعی» ${\displaystyle \beta }$ ، اگرچه فرض می‌شود که واریانس خطاها در تخمین و پیش‌بینی یکسان است. این به‌طور مستقیم از نتیجه ای که بلافاصله در بالا نقل شد و این واقعیت که ضریب رگرسیون مربوط به ${\displaystyle y_{t}}$ به واقعی مشاهده شده‌است ${\displaystyle x_{t}}$ s، در یک رگرسیون خطی ساده، توسط فرمول زیر داده می‌شود:

${\displaystyle \beta _{x}={\frac {\operatorname {Cov} [\,x_{t},y_{t}\,]}{\operatorname {Var} [\,x_{t}\,]}}.}$

این ضریب است، به جای ${\displaystyle \beta }$ ، که برای ساختن یک پیش‌بینی کننده مورد نیاز است ${\displaystyle y}$ بر اساس مشاهده شده ${\displaystyle x}$ که در معرض نویز است.

می توان استدلال کرد که تقریباً تمام مجموعه داده های موجود حاوی خطاهایی با ماهیت و بزرگی متفاوت هستند، به طوری که سوگیری تضعیف بسیار مکرر است (اگرچه در رگرسیون چند متغیره جهت سوگیری مبهم است ^[۵] ). جری هاسمن این را قانون آهنین اقتصاد سنجی می داند: "میزان تخمین معمولاً کمتر از حد انتظار است." ^[۶]

مشخصات

---

معمولاً مدل‌های خطای اندازه‌گیری با استفاده از رویکرد متغیرهای پنهان توصیف می‌شوند. اگر ${\displaystyle y}$ متغیر پاسخ است و ${\displaystyle x}$ مقادیر مشاهده شده از رگرسیون ها، پس فرض می شود که برخی از متغیرهای پنهان وجود دارد ${\displaystyle y^{*}}$ و ${\displaystyle x^{*}}$ که از رابطه عملکردی "واقعی" مدل پیروی می کنند ${\displaystyle g(\cdot )}$ ، و به نوعی که کمیت های مشاهده شده مشاهدات پر سر و صدا آنها باشد:

${\displaystyle {\begin{cases}y^{*}=g(x^{*}\!,w\,|\,\theta ),\\y=y^{*}+\varepsilon ,\\x=x^{*}+\eta ,\end{cases}}}$

جایی که ${\displaystyle \theta }$ پارامتر مدل است و ${\displaystyle w}$ آن دسته از رگرسیون هایی هستند که فرض می شود بدون خطا هستند (به عنوان مثال زمانی که رگرسیون خطی حاوی یک برس است، رگرسیونی که با ثابت مطابقت دارد قطعاً "خطای اندازه گیری" ندارد). بسته به مشخصات، این رگرسیون های بدون خطا ممکن است به طور سوا بررسی شوند یا نشوند. در مورد دوم به سادگی فرض می شود که ورودی های متناظر در ماتریس واریانس از ${\displaystyle \eta }$ 'ها صفر هستند.

متغیرها ${\displaystyle y}$ ، ${\displaystyle x}$ ، ${\displaystyle w}$ همه مشاهده می شوند ، به این معنی که آمارگیر دارای مجموعه ای از داده ها است ${\displaystyle n}$ واحدهای آماری ${\displaystyle \left\{y_{i},x_{i},w_{i}\right\}_{i=1,\dots ,n}}$ که فرآیند تولید داده شرح داده شده در بالا را دنبال می کنند. متغیرهای پنهان ${\displaystyle x^{*}}$ ، ${\displaystyle y^{*}}$ ، ${\displaystyle \varepsilon }$ ، و ${\displaystyle \eta }$ با این حال رعایت نمی شوند.

این مشخصات تمام مدل‌های خطا در متغیرهای موجود را در بر نمی‌گیرد. به عنوان مثال در برخی از آنها عملکرد ${\displaystyle g(\cdot )}$ ممکن است ناپارامتریک یا نیمه پارامتریک باشد. سایر رویکردها رابطه بین ${\displaystyle y^{*}}$ و ${\displaystyle x^{*}}$ به عنوان توزیعی به جای عملکردی، یعنی آنها این را فرض می کنند ${\displaystyle y^{*}}$ مشروط بر ${\displaystyle x^{*}}$ از توزیع خاصی (معمولاً پارامتریک) پیروی می کند.

منابع

1. Griliches, Zvi; Ringstad, Vidar (1970). "Errors-in-the-variables bias in nonlinear contexts". Econometrica. 38 (2): 368–370. doi:10.2307/1913020. JSTOR 1913020.
2. Chesher, Andrew (1991). "The effect of measurement error". Biometrika. 78 (3): 451–462. doi:10.1093/biomet/78.3.451. JSTOR 2337015.
3. Carroll, Raymond J.; Ruppert, David; Stefanski, Leonard A.; Crainiceanu, Ciprian (2006). Measurement Error in Nonlinear Models: A Modern Perspective (Second ed.). ISBN 978-1-58488-633-4.
4. Greene, William H. (2003). Econometric Analysis (5th ed.). New Jersey: Prentice Hall. Chapter 5.6.1. ISBN 978-0-13-066189-0.
5. {{cite book}}: Empty citation (help)
6. Hausman, Jerry A. (2001). "Mismeasured variables in econometric analysis: problems from the right and problems from the left". Journal of Economic Perspectives. 15 (4): 57–67 [p. 58]. doi:10.1257/jep.15.4.57. JSTOR 2696516.