Afrika Statistika

Bayesian method for solving the problem of multicollinearity in regression

Adepoju Abosede Adedayo and Oluwadare Olatunde Ojo

Full-text: Access denied (no subscription detected)

We're sorry, but we are unable to provide you with the full text of this article because we are not able to identify you as a subscriber. If you have a personal subscription to this journal, then please login. If you are already logged in, then you may need to update your profile to register your subscription. Read more about accessing full-text

Abstract

The popular method of estimation in regression, Ordinary Least Squares (OLS) often displays inefficiency especially with large variances and wide confidence intervals thereby making precise estimate difficult when there is strong multicollinearity. Bayesian method of estimation is expected to improve the efficiency of estimated regression model when there is relevant prior information and belief of situation being modelled is available. This study however provided an alternative approach to OLS when there is almost perfect multicollinearity while its performance were compared with the aid of simulation approach to OLS estimator. Results of the simulation study indicate that with respect to Mean Squared Error (MSE) criterion and other criteria, the proposed method perform better than OLS.

Résumé

La méthode d'estimation par régression populaire, la méthode des moindres carrés ordinaires (MCO), est souvent peu efficace, en particulier lorsque les variances sont grandes et que les intervalles de confiance sont larges, ce qui rend difficile une estimation précise lorsque la multicolinéarité est forte. La méthode d'estimation bayésienne devrait améliorer l'efficacité du modèle de régression estimé lorsqu'il existe des informations préalables pertinentes et lorsque l'on est convaincu de la situation à modéliser. Cette étude a toutefois fourni une approche alternative à la méthode des moindres carrés ordinaires lorsqu'il y a une multicolinéarité presque parfaite, tandis que ses performances ont été comparées à l'aide de l'approche de simulation de l'estimateur MCO. Les résultats de l'étude de simulation indiquent qu'en ce qui concerne le critère d'erreur quadratique moyenne (MSE) et d'autres critères, la méthode proposée donne de meilleurs résultats que la méthode MCO.

Article information

Source
Afr. Stat., Volume 13, Number 3 (2018), 1823-1834.

Dates
First available in Project Euclid: 12 December 2018

Permanent link to this document
https://projecteuclid.org/euclid.as/1544583717

Digital Object Identifier
doi:10.16929/as/1823.135

Mathematical Reviews number (MathSciNet)
MR3887185

Zentralblatt MATH identifier
07003218

Subjects
Primary: 62F15: Bayesian inference 62GO5 62H10: Distribution of statistics

Keywords
Multicollinearity Regression Standard Error Simulation

Citation

Adedayo, Adepoju Abosede; Ojo, Oluwadare Olatunde. Bayesian method for solving the problem of multicollinearity in regression. Afr. Stat. 13 (2018), no. 3, 1823--1834. doi:10.16929/as/1823.135. https://projecteuclid.org/euclid.as/1544583717


Export citation