Basit Doğrusal Regresyon Modeli

Regresyon analizi kısaca, aralarında neden-sonuç ilişkisi bulunan iki veya daha çok sayıda değişken arasındaki matematiksel ilişkileri ortaya koyan yöntemdir. İktisadi teoriler de bir neden sonuç ilişkisi bağlamında ortaya konulur.

Regresyon analizi, temel olarak bir değişkenin başka değişkenler tarafından açıklandığı varsayımına dayanır. Burada bir değişken, aralarında neden-sonuç ilişkisi bulunan diğer değişkenler ile birlikte matematiksel olarak modellenir ve bu modele regresyon modeli adı verilir.

Y=β₀ + β₁X + u 

Eşitlik de iki değişken arasındaki ilişkinin fonksiyonel formu gösterilmektedir. Bu değişkenler Y ve X değişkenlerdir. Burada Y açıklanan veya bağımlı değişken olarak adlandırılırken X değişkeni açıklayıcı veya bağımsız değişken olarak isimlendirilmektedir. Öte yandan u stokastik (olasılıklı) hata terimini, β₀ sabit katsayısı β₁ ise Y ve X değişkeni arasındaki ilişkinin yönünü ve büyüklüğünü gösteren katsayısı temsil etmektedir. 

Bağımlı değişken kısaca bağımsız değişkenlere bağlı olarak değişen yani bağımsız değişkenler tarafından açıklanan değişkendir. Bağımsız değişken ise bağımlı değişkeni açıklayan değişkendir ve değişimi herhangi bir değişkene bağlı değildir.

Bir bağımlı ve bir bağımsız değişkenden oluşan regresyon modellerine basit regresyon modeli denir.

Bir bağımlı ve birden çok bağımsız değişkenden oluşan regresyon modeline çoklu regresyon modelleri adı verilmektedir.

Basit regresyon modeli bir bağımlı ve bir bağımsız değişkenin oluşturduğu regresyon modelidir. Bu tür modellerde bağımlı değişkendeki değişim yalnızca bir bağımsız değişken tarafından açıklanır. Bu iki değişken arasındaki ilişkinin doğrusal olması durumunda ise modele basit doğrusal regresyon modeli adı verilir.

Y_i = β₀ + β₁ X_i + u_i 

Eşitlik de β₀ modeldeki sabiti temsil etmektedir. Sabit terim matematiksel olarak X’in sıfır olduğu durumda Y’nin alacağı değerdir. β₁ ise bağımsız değişken katsayısıdır ve bağımsız değişkendeki değişimin bağımlı değişken üzerindeki etkisini gösterir.

Çünkü iktisadi değişkenler de genellikle çok sayıda faktörün etkisinde kalır ve iktisadi değişkenlerdeki değişimleri tek bir bağımsız değişkenle açıklamaya çalışmak çoğu zaman yetersiz kalır.

C_i = C₀ + cY_i + u_i   şeklinde ifade edilir.

Bu ilişki kesin değildir çünkü tahmini yapılan modelde her zaman bir hata payı söz konusudur. Tahmin edilen değerle gerçek değer arasındaki değeri gösteren bu hata payı ise regresyon modelinde hata terimi şeklinde modele dahil edilmektedir.

• Hata teriminin ortalaması sıfırdır
• Hata teriminin varyansı sabittir
• Hata terimleri arasında ilişki yoktur
• Hata terimi (u_i) ile açıklayıcı değişkenler (X_i) arasında ilişki yoktur.
• Hata terimi normal dağılıma sahiptir

Normallik varsayımı, modelde hata terimlerinin normal dağılım sergilediğini ifade eder. Burada bağımsız değişkenin alacağı her bir değer için oluşturulan hata terimlerinin her birinin ayrı ayrı normal dağılım sergilemesi gerekmektedir.

Otokorelasyon sorununun göz ardı edilmesi durumunda ulaşılacak sonuçlar da sağlıklı olmayacaktır. Bu durumda R^₂ değeri olması gerekenin üzerinde çıkacak, t ve F test sonuçları da güvenilir olmayacaktır.

Regresyon analizi, anakütleyi temsil eden bir örneklem yardımıyla tahmincilerin belirlenmesi temeline dayanır.

Küçük örneklem için tahmincinin taşıması gereken özellikler sapmasızlık, en küçük varyans, en küçük ortalama hata karesi, etkinlik, doğrusal en iyi sapmasızlık ve yeterlilik ölçütleridir.

Büyük örneklem özelliklerine asimtotik özellikler denir.

Bunlar sırasıyla, asimtotik sapmasızlık, tutarlılık ve asimtotik etkinliktir.

Ekonometrik analizlerde sıklıkla başvurulan yöntem En Küçük Kareler Yöntemi’dir

En küçük kareler yöntemi temel olarak, ortalamadan sapmaların kareleri toplamını minimum yapan β₀ ve β₁ katsayılarının belirlenmesine dayanır. EKK yöntemiyle değişkenler arasındaki ortalama ilişkiler belirlenir ve bu ilişkinin gerçeğe en yakın şekilde tahmin edildiği varsayılır. Burada ana kütleden rassal olarak seçilen bir örneklemden elde edilen veriler kullanılarak gerçek durumu en iyi temsil eden β₀ ve β₁ katsayılarının tahmin edilmesi amaçlanır.