Modelul de regresie

OBIECTIVE: introducerea studentilor in sfera si notiunile specifice

modelului de regresie,

PREZENTARE SINTETICA:

Specificarea unui model de regresie

Un studiu econometric incepe cu o serie de presupuneri teoretice despre anumite aspecte ale economiei.

Investigatiile 636c25g empirice furnizeaza estimatori pentru parametri necunoscuti ai modelului.

Keynes:            C=f(x)

Suma cheltuita pentru consum depinde de:

marimea venitului pe de o parte

alte obiective in functie de circumstante (de exemplu investitiile)

alte nevoi subiective

Legea psihologica fundamentala: "o persoana este dispusa de regula si in medie sa isi creasca consumul pe masura cresterii venitului dar nu in aceeasi masura"

un nivel absolut mai mare al venitului va tinde de regula sa mareasca diferenta intre venit si consum:

Presupunerea cea mai simpla: C=a bX, 0<b<1 este o relatie determinista neadecvata.

In model trebuie inclus si factorul aleator:

C=f(X,e

Modelul cel mai simplu:

C=a bX+e

Modelul general ce trebuie estimat are forma:

y_i =a bx_i + e_i, i=1,n

unde:    - x_i este nestochastic (situatie experimentala)

- analistul alege valorile regresiei x_i si apoi observa y_i

Valoarea parametrului b arata modificarea proportionala a variabilei efect (Y) la modificarea cu o unitate a variabilei cauza (X).

Valoarea parametrului a arata punctul in care linia intercepteaza (taie) axa OY

e_i reprezinta componenta reziduala (eroarea aleatoare) pentru fiecare unitate, adica partea din valoarea variabilei Y care nu poate fi masurata prin relatia sistematica existenta cu variabila X.

Modelul liniar unifactorial y=1+0,5x

Modelul probabilistic contine:

a) componenta deterministica, adica partea din valoarea lui Y_i care poate fi determinata cunoscand valoarea X_i (a + bX_i = Y_i')

b) componenta reziduala care nu poate fi determinata cunoscand valoarea individuala Xi (ei)

Atunci,

Y_i = a + bX_i + e_i

Y_i = componenta predictibila (detrministica) + eroarea aleatoare

Y_i = Y_i' + e_i

Daca datele disponibile provin dintr-un esantion avem la dispozitie n perechi de observatii (x₁, y₁), (x₂,y₂), (x_n, y_n), pe care le vom folosi pentru estimarea parametrilor ecuatiei de regresie liniara simpla, a si b

Modelul de regresie liniara in esantion este   y_i = a + bx_i + e_i

cu componenta predictibila:

a si b sunt estimatorii punctului de interceptie (a) si pantei liniei drepte (b), obtinuti pe esantion

e_i este valoarea reziduala (pentru unitatea i) in esantion:

e_i = y_i - (a + bx_i)

Abaterea e_i de la linia de regresie

Ipotezele modelului de regresie liniara

Pentru a obtine proprietatile dorite ale estimatorilor regresiei, se fac, de obicei, cinci presupuneri (ipoteze) standard pentru modelul din populatia ge­nerala:

Ipotezele ce trebuie verificate:

Forma functionala: y_i =a bx_i + e_i, i=1,n

Normalitatea erorilor: e_i N(0,s

Media zero a erorilor: μ(e_i i

Homoscedasticitatea: σ²e_i s constanta i

Non autocorelarea erorilor: Cov(e_i e_j i¹j

Necorelarea intre regresor si erori: Cov(x_i,e_j i si j

Ipoteza 1: Forma functionala

a.       y=a+bx

a.       y=a+bz, z=e^x

b.      y=a+br, r=1/x

c.       y=a+bq, q=ln(x)

Fig. - Modele ce pot fi linearizate

Sau y=Ax^b Þ ln(y)=a bln(x)

Forma generala: f(y_i)= a bg(x_i)+e_i

Contra exemplu: nu poate fi transformat in model liniar.

Erorile

Ipoteza de linearitate a modelului include si aditivitatea erorilor.

Forma modelului:

y = a bx + e,

De exemplu modelul se transforma prin logaritmare in modelul liniar: ln(y)=ln(A)+bln(x)+e

Insa modelul nu mai poate fi transformat in model liniar.

Daca ipoteza de linearitate este verificata, variabila dependenta observata este suma a doua elemente:

- un termen nestochastic: a bx

- o variabila aleatoare

Ipoteza 2: normalitatea erorilor

Se presupune ca variabila aleatoare e_i este normal distribuita :

Distributia de probabilitate pentru e_i

Ipoteza 3: media erorilor este zero: μ(e_i i

Este naturala atata timp cat e este vazuta ca suma efectelor individuale, cu semne diferite.

Daca media erorilor este diferita de zero, ea poate fi considerata ca o parte sistematica a regresiei:

e m Þ a bx + e a m bx + (e m

media erorilor este acum nula.

Aceasta presupunere indica faptul ca media valorilor Y, conditionat de X, m (Y/X = X_i) = a bX_i, adica nu exista variabile omise asociate cu regresia in populatie.

Ipoteza 4 (de homoscedasticitate): Var(e_i s constanta i

Dispersia re­ziduurilor in populatie este constanta peste toate valorile X_i

a) constanta b) constanta

Dispersia reziduurilor a) constanta; b) constanta

Discutie:

Profiturile firmelor mari vor varia mult mai mult ca profiturile firmelor mici.

variatia cheltuielilor gospodariilor in functie de venit sau de marimea lor poate fi diferita.

Ipoteza 5: Non autocorelarea erorilor: μ(e_ie_j i¹j

Aceasta ipoteza nu implica faptul ca y_i si y_j sunt necorelate, ci faptul ca deviatiile observatiilor de la valorile lor asteptate sunt necorelate.

Variabilele aleatoare e_i sunt statistic independente una de alta, adica = 0, pentru i ¹ j. Acest lucru inseamna ca eroarea asociata cu o valoare a variabilei Y nu are nici un efect asupra erorilor asociate cu alte valori ale lui Y;

nu exista deci corelatie intre reziduuri;

OBSERVATIE: De asemenea este convenabil a considera ca erorile sunt independente si normal distribuite cu medie zero si variatie constanta pentru obtinerea de rezultate statistice exacte.

Estimarea parametrilor modelului de regresie clasic

Parametrii necunoscuti ai reactiei stochastice sunt cei ce trebuie estimati:

y_i =a bx_i + e_i, i=1,n

Modelul estimat va fi scris:

Eroarea asociata unui punct i este:

e_i = y_i - a bx_i

Pentru orice valori estimate a si b, erorile estimate vor fi:

e_i = y_i - a - bx_i

Pentru estimarea parametrilor a si b pe baza datelor observate, un criteriu natural este cel de maximizare a potrivirii modelului cu datele observate, deci de minimizare a erorilor observate:

Conditiile de ordin 1 de minimizare a functiei sunt:

Þ

Ramane de verificat daca este verificata conditia de ordin 2, adica solutia gasita este un punct de minim. Matricea derivatelor partiale de ordin doi trebuie sa fie pozitiv definita:

Deci matricea este pozitiv definita.

Modelul de regresie clasic

Evaluarea validitatii modelului de regresie clasic

Estimatorii a (interceptia) si b (panta) ai parametrilor a si b sunt dati de :

Se observa ca obtinem din ecuatia:       

impartind prin n :

si, inlocuind in ecuatia : 

pe x_i cu deviatia obtinem:

Cum primul termen situat in partea stanga a ecuatiei este egal cu zero, rezulta:

si in final:

Estimatorul a (interceptia) poate lua valori negative sau pozitive.

Estimatorul b (panta liniei drepte) numit si coeficient de regresie are intotdeauna semnul indica­torului s_xy,

s_xy  este covarianta intre x si y.