المجلة الدولية للعلوم والتقنية

International Science and Technology Journal

ISSN: 2519-9854 (Online)

ISSN: 2519-9846 (Print)

DOI: www.doi.org/10.62341/ISTJ

مجلة علمية محكّمة تهتم بنشر البحوث والدراسات في مجال العلوم التطبيقية، تصدر دورياً تحت إشراف نخبة من الأساتذة

A comparison between the method of least squares and ridge regression in the Presence of Multicollinearity in regression analysis

الملخص
تبحث هذه الدراسة في استخدام مقدرات بإضافة مقدار ثابت كبديل لمقدرات المربعات الصغرى في وجود العلاقة الخطية المتعددة في تحليل الانحدار. حيث تمت مناقشة خصائص المقدرات المضافة اليها المقدر الثابت وطرق اختيار معامله المتحيز وذلك باستخدام طريقة المحاكاة لإجراء مقارنة بين طرق المقدرات المضافة اليها المقدر الثابت وطريقة المربعات الصغرى ووفقا لنتائج هذه الدراسة وجدنا أن طريقة المقدرات المضافة اليها المقدر الثابت أفضل من طريقة المربعات الصغرى عند وجود العلاقة الخطية المتعددة وذلك من خلال استقرار النقطة المضافة.
Abstract
This study investigates the problem of using ordinarily least squares (OLS) estimators in the presence of multicollinearity in regression analysis. As an alternative of OLS is ridge regression, which it is believed to be superior to least-squares regression in the presence of multicollinearity. Properties of ridge regression estimators and Methods of selecting biased ridge regression Parameter are discussed. We use data simulation to make comparison between Methods of ridge regression and (OLS) Method. According to a results of this study, we found Method of ridge regression are better than OLS Method when the Multicollinearity is exist. Our results have shown that the system stabilizes in a region of k