Use of Ridge and principal component regression analysis methods in multicollinearity

Ridge ve temel bileşenler regresyon analiz yöntemleri, çok değişkenli regresyon verilerini analiz etmek için kullanılan istatistik analiz yöntemleridir. Çoklu bağlantı ortaya çıktığında en küçük kareler tahminleri sapmasız olmasına karşın tahminlerin varyansları büyük olduğundan gerçek değerlerinden oldukça uzakta olabilmektedirler. Bir derece yanlı regresyon tahminlerine izin vermek suretiyle ridge ve temel bileşenler regresyon standart hataları indirgenir. Dolayısıyla çoklu bağlantı durumu mevcut olduğunda en küçük kareler metoduna alternatif olarak ridge ve temel bileşenler regresyon metotları kullanılabilir. Bu araştırmada farklı yaşlara sahip 91 adet sazan balığından elde edilen çeşitli vücut ölçüleri kullanılarak karkas ağırlığını tahminleyen bir modelin geliştirilmesi amaçlanmıştır. Vücut ölçüleri arasında çoklu bağlantı durumu ortaya çıkmasından dolayı en küçük kareler regresyonuna alternatif olan ridge ve temel bileşenler regresyon analiz yöntemleri uygulanmış ve aynı veri seti için bu üç metot karşılaştırılmıştır. Karşılaştırma kriteri olarak belirleme katsayısı (R2), hata kareler ortalamasının karekökü (S), hata kareler ortalaması ve modellerin varyasyon katsayısı kullanılmıştır. Bu kriterlere göre, en iyi uyumu sırasıyla en küçük kareler (R20.905, S19.587), ridge (R20.898, S20.2563) ve temel bileşenler regresyon (R20,878 S22.127) metotlarının verdiği gözlenmiştir. Sonuç olarak, çoklu doğrusal bağlantı durumunda en küçük kareler metodu kullanmak yerine Ridge ve temel bileşenler regresyon yöntemlerinin kullanılmasının daha doğru olabileceği kanaatine varılmıştır.Ridge and principal component regression analysis methods are statistical analysis techniques that are used to analyze multiple regression data. In the case of Multicollinearity, although Least Squares estimates are unbiased, variances of these estimates are larger and these variances can be farther than real values. With adding a degree of bias to regression estimates, standard errors of Ridge and principal component regression are reduced. Therefore, in the event of Multicollinearity, Ridge and principal component regression methods can be used as an alternative to Least Squares method. This investigation aimed to fit a model in order to estimate carcass weight from various body measurements of 91 cyprinus fish with different ages. As Multicollinearity problems among body measurements were determined, Ridge and principal component regression methods as an alternative to Least Squares method were applied for available data, performances of these three methods for the data were compared with each other. In order to compare effectiveness of these methods, Coefficient of Determination (R2), Root of Mean Square Error (RMSE), Mean Square Error (MSE), and Coefficient of Variation as comparison criteria were used. According to these criteria, the best fit orders were observed in least squares (R20.905, S19.587), Ridge (R20.898, S20.2563) and principal component regression (R20,878 S22.127), respectively. As a result, it was concluded that, use of Ridge and principal component regression analysis methods could be truer instead of least squares method under Multicollinerity proble