01/16/14 1 tham số giải thích của mô hình biến nội suy biến ngoại suy biến ngẫu nhiên E(ε) Var(ε) tham số ẩn của mô hình ikikiii xxxy εββββ +++++= ˆ ˆˆˆ 33221 mô hình hồi quy tuyến tính bội 01/16/14 2 Mô hình hồi qui tổng thể Mô hình hồi qui mẫu Theo dạng thông thường Theo dạng ma trận Dạng kỳ vọng Dạng ngẫu nhiên Mô hình hồi qui bội  Thế nào là mô hình hồi qui bội? Mô hình hồi qui bội là mô hình trong đó biến phụ thuộc phụ thuộc vào ít nhất hai biến giải thích.  Dạng mô hình 01/16/14 3 mô hình hồi quy tuyến tính bội Dạng biểu thức đầu tiên của mô hình : y : biến mà giá trị quan sát là y t ∀i, i = 1, ,n, x ki : biến mà giá trị quan sát là x it β 1 , β 2 , . . .,β κ là những tham số chưa biết tham số chưa biết ε i : sai số Mục tiêu : ước lượng những tham số Mục tiêu : ước lượng những tham số β 1 , β 2 , . . .,β κ với i = 1, ,n ikikiii xxxy εββββ +++++= ˆ ˆˆˆ 33221 01/16/14 4 n,1iXX)XY(E kiki221i =∀β++β+β=  Hay n,1i uXXY ikiki221i =∀+β++β+β=  Hay được biểu diễn một cách tường minh như sau        +β++β+β= +β++β+β= +β++β+β= nknkn221n 22kk22212 11kk21211 uXXY uXXY uXXY     Giả sử ta có n quan sát và mỗi quan sát gồm k trị số (Y i ,X 2i X ki ) Mô hình hồi qui tổng thể theo dạng thông thường niXXXYE kikii ,1)( 221 =∀+++= βββ  niXXY ikikii ,1 221 =∀++++= εβββ         ++++= ++++= ++++= nknknn kk kk XXY XXY XXY εβββ εβββ εβββ     221 2222212 1121211 01/16/14 5 Ví dụ : Investment = β 1 + β 2 . GNP + β 3 . CPI + β 4 Rate+ ε 01/16/14 6 mô hình hồi quy tuyến tính bội Dạng biểu thức thứ hai của mô hình : Biểu thức ma trận                     =                     =                     =                     = n i k i knnn kiii k k n i xxx xxx xxx xxx X y y y y Y ε ε ε ε ε β β β β β ; ; 1 1 1 1 ; 2 1 2 1 32 32 23222 13121 2 1 ( ) ( ) ( ) ( ) 1,1,,1, nkkn X n Y εβ += 01/16/14 7 Ví dụ : Y = X = β = β 1 β 2 β 3 β 4 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 01/16/14 8 ! ! Có thể nói những vec tơ và ma trận của mô hình là những biến. Về nguyên tắc chung, X pt = 1, ∀t, t=1, ,T. biến X k là hằng số. ước lượng tham số ước lượng tham số β β 1 1 , , β β 2 2 ,… ,… β β k k có thể được thực hiện bằng phương pháp BPBN có thể được thực hiện bằng phương pháp BPBN Mô hình hồi quy tuyến tính bội 01/16/14 9 Nguyên tắc hình học của phương pháp bình phương tối thiểu x 1 x 2 y y i β 1 x 1i + β 2 x 2i Sum e 2 Nhỏ nhất Nhỏ nhất có thể có thể PYTHAGORE PYTHAGORE Mô hình hồi quy tuyến tính bội 01/16/14 10 giả thiết của mô hình [H1] : X 1 ,…X k là những biến được đo chính xác, có nghiã là quan sát không sai số. [H2] : ∀t, t=1, ,T, ε τ là một biến ngẫu nhiên là kỳ vọng toán học E(ε) = 0 và phương sai Var(ε) = σ 2 (ε) [H3] : ∀i, ∀i ’, i¹i ’, ε ι và ε ι’ là những biến ngẫu nhiên độc lập về xác suất [H4] : ∀i, ε ι tuân theo quy luật phân phối chuẩn, Sai số tuân theo N(0, σ 2 ) [H6] : đầu tiên ta không có tý thông tin nào về những tham số β 1 , β 2 ,…, β κ Mô hình hồi quy tuyến tính bội [H5]1/n(X’X)->M ở đây M là ma trận không suy biến [...]... 11.289098 MAE= 8.200200 DurbWat= 1.917 01/16/14 20 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 3 ước lượng σ 2(ε ) ˆ ˆ Y = Xa Từ ước lượng a, ta có thể tính được ước lượng Y : Sai số có thể được ước lượng bởi : ( e = I −X (X ' X ) ˆ e = Y −Y = Xβ + e − Xβ n 2 i =1 i ∑e ( ) 1 ˆ σ (ε ) = Từ đó có thể ước lượng được: n −k 2 01/16/14 n 2 i =1 i ∑e 21 ) X'ε  n 2 E  ∑e  = σ 2 ( e ) ' ( n...    = e' I − X ( X ' X ) X ' e −1 −1 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 4 ˆ Æåïc læåüng Ω βˆ ước lượng có thể bởi ước lượng σ2(ε) và bởi công thức Ω βˆ = σ 2 ( ε )( X ' X ) −1 ˆ ˆ = σ 2 ( X ' X ) −1 ˆε Ωβ ước lượng không chệch của ma trận hiệp phương sai 01/16/14 22 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 5 Quy luật phân phối xác suất Theo giả thiết [H4], ta... hình hồi quy tuyến tính bội ước lượng những tham số Phương pháp bình phương tối thiểu y Tìm giá trị những tham số để có S nhỏ nhất: yi n εi Min∑ et2 = Mine' e = Min( Y − Xβ ) ( Y − Xβ ) = MinS ' t =1 x2 β 1x1i+ β 2x2i x1 01/16/14 18 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 2 Kết quả của phương pháp bình phương tối thiểu ˆ = ( X ' X ) −1 X ' Y ⇒β Ước lượng bằng phương pháp bình phương... phương pháp bình phương tối thiểu : Người ta chứng minh : Ω βˆ = σ ε ( X ' X ) 2 −1 có phương sai nhỏ nhât : đó là ước lượng BLUE (Best Linear Unbiased Estimator) là một đó là ước lượng hội tụ của β nhưng σ 2(ε ) là chưa biết 01/16/14 19 Ví dụ : Mô hình hồi quy tuyến tính bội ước lượng những tham số Model fitting results for: EXECO.Investment -Independent variable...      β   k ( ˆ β i ~ N β i , σ βˆ Ơí đây Mii là thành phần ở vị trí thứ I ở đường chéo chính của ma trận ˆ βi − β 01/16/14 ˆ σ βˆ i = t *β i 23 Ω βˆ i i ) Mô hình hồi quy tuyến tính bội ước lượng những tham số - 6 Luật phân phối đã biết Tính Khoảng tin cậy Khoảng tin cậy đối với β i [βˆ − t * i α /2 ˆ ˆ ˆ σ βˆ ; β i + t *α / 2 σ βˆ i i ] Khoảng tin cậy đối với σ 2(ε) ( n − k ) (n − k) σ... /( n − k ) ( ) Xem trong bảng phân phối Fisher của Fα tương ứng với mức α So sánh F* và Fa F* < Fα F* ≥ Fα 01/16/14 (H0) được chấp nhận (H0) bị bác bỏ 30 mô hình hồi quy tuyến tính bội dự báo - 1 vì dữ liệu những giá trị, được giả sử đã biết, những biến ngoại suy đối với một giá trị θ t người ta có thể dự đoán giá trị tương ứng X? Soit : biến ngẫu nhiên dùng để dự đoán la valeur X ă θ sai số dự báo là: . chưa biết tham số chưa biết ε i : sai số Mục tiêu : ước lượng những tham số Mục tiêu : ước lượng những tham số β 1 , β 2 , . . .,β κ với i = 1, ,n ikikiii xxxy εββββ +++++= ˆ . nguyên tắc chung, X pt = 1, ∀t, t=1, ,T. biến X k là hằng số. ước lượng tham số ước lượng tham số β β 1 1 , , β β 2 2 ,… ,… β β k k có thể được thực