International Science and Technology Journal
Published by
Under supervision of
Open Access Journal
ISSN: 2519-9854 (Online)
ISSN: 2519-9846 (Print)
A peer-reviewed and open access journal concerned with publishing researches and studies in the field of applied sciences and engineering
A comparison between the method of least squares and ridge regression in the Presence of Multicollinearity in regression analysis
| Researcher(s): | |
|---|
| Institution: | The Higher Institute of science and Technology- Souq Aljuma/University Alhadera |
|---|
| Field: | العلوم العامة: الرياضيات و الاحصاء و الفيزياء |
|---|
| Published in: | 23rd volume - October 2020 |
|---|
الملخص
تبحث هذه الدراسة في استخدام مقدرات بإضافة مقدار ثابت كبديل لمقدرات المربعات الصغرى في وجود العلاقة الخطية المتعددة في تحليل الانحدار. حيث تمت مناقشة خصائص المقدرات المضافة اليها المقدر الثابت وطرق اختيار معامله المتحيز وذلك باستخدام طريقة المحاكاة لإجراء مقارنة بين طرق المقدرات المضافة اليها المقدر الثابت وطريقة المربعات الصغرى ووفقا لنتائج هذه الدراسة وجدنا أن طريقة المقدرات المضافة اليها المقدر الثابت أفضل من طريقة المربعات الصغرى عند وجود العلاقة الخطية المتعددة وذلك من خلال استقرار النقطة المضافة.
Abstract
This study investigates the problem of using ordinarily least squares (OLS) estimators in the presence of multicollinearity in regression analysis. As an alternative of OLS is ridge regression, which it is believed to be superior to least-squares regression in the presence of multicollinearity. Properties of ridge regression estimators and Methods of selecting biased ridge regression Parameter are discussed. We use data simulation to make comparison between Methods of ridge regression and (OLS) Method. According to a results of this study, we found Method of ridge regression are better than OLS Method when the Multicollinearity is exist. Our results have shown that the system stabilizes in a region of k