Chẩn đoán hồi quy: Tự tương quan

Nhớ lại rằng một trong những giả định của mô hình hồi quy tuyến tính cổ điển là các hạng nhiễu, ut, không tương quan – nghĩa là, hạng nhiễu tại thời điểm t không tương quan với hạng nhiễ

Chương 6 Chẩn đoán hồi quy: Tự tương quan

(Gujarati: Econometrics by example, 2011)1

Người dịch và diễn giải: Phùng Thanh Bình

http://vnp.edu.vn/

C

Một vấn đề phổ biến trong phân tích hồi quy liên quan đến chuỗi thời gian là hiện tượng

tự tương quan Nhớ lại rằng một trong những giả định của mô hình hồi quy tuyến tính

cổ điển là các hạng nhiễu, ut, không tương quan – nghĩa là, hạng nhiễu tại thời điểm t không tương quan với hạng nhiễu tại thời điểm (t - 1) hoặc bất kỳ hạng nhiễu nào trong quá khứ Nếu các hạng nhiễu tương quan sẽ dẫn đến các hậu quả sau đây2:

1 Các ước lượng OLS vẫn không chệch và vẫn nhất quán

2 Chúng (tức các ước lượng OLS) vẫn theo phân phối chuẩn trong các mẫu lớn

3 Nhưng chúng không còn hiệu quả nữa Nghĩa là, chúng không còn BLUE nữa (ước lượng tuyến tính không chệch tốt nhất) Trong hầu hết các trường hợp, các sai

số chuẩn OLS bị ước lượng thấp (underestimated), nghĩa là các giá trị t ước ượng

bị thổi phồng (tức cao hơn bình thường), điều này nhìn bề ngoài có vẽ như một

hệ số có ý nghĩa thống kê hơn là nó thực sự có thể [Diễn giải: Dễ bác bỏ giả thuyết H0, mặc dù H0 có thể là giả thuyết đúng]

4 Kết quả là, như trong trường hợp phương sai thay đổi, thủ tục kiểm định giả thuyết trở nên đáng nghi, vì các sai số chuẩn ước lượng có thể không tin cậy, thậm chí tiệm cận (tức là trong các mẫu lớn) Vì vậy, các kiểm định t và F có thể không có hiệu lực

Như trong trường hợp phương sai thay đổi, chúng ta cần tìm hiểu xem liệu tự tương quan có tồn tại trong một trường hợp cụ thể nào đó hay không và có hành động chỉnh sửa hoặc tìm kiếm các thủ tục ước lượng thay thế khác sao cho có được các ước lượng tuyến tính không chệch tốt nhất Trước khi thực hiện điều này, chúng ta hãy xem xét một ví dụ cụ thể

ngữ ‘thực’ nghĩa là đã được điều chỉnh lạm phát3 Table 6.1 có thể được tìm thấy trên trang web của cuốn sách

Bây giờ hãy xem xét mô hình hồi quy sau đây:

Lưu ý rằng chúng ta dùng chỉ số dưới là t (thay vì i) để chỉ ra rằng chúng ta đang xử lý

dữ liệu chuỗi thời gian Cũng lưu ý rằng ln là logarít tự nhiên

Để đơn giản hóa việc giải thích, chúng ta sẽ gọi phương trình (6.1) là hàm tiêu dùng Các biến giải thích trong phương trình này là các biến được sử dụng phổ biến trong hàm tiêu dùng, mặc dù có thể có các biến đổi trong lựa chọn các biến DPI, tài sản, và lãi suất Tham khảo bất kỳ giáo trình kinh tế vĩ mô nào để tìm hiểu lý thuyết kinh tế nền tảng của hàm tiêu dùng

Lưu ý rằng chúng ta cho các biến C, DPI, và W ở dạng log, nhưng R ở dạng tuyến tính bởi vì một số lãi suất thực có giá trị âm Các hệ số B2 và B3 lần lượt là các hệ số co giãn của chi tiêu cho tiêu dùng theo thu nhập khả dụng và tài sản, và B4 là hệ số bán co giãn theo lãi suất thực (nhớ lại là thảo luận của chúng ta về các dạng hàm của mô hình hồi quy ở chương 3)4 Theo tiên nghiệm, chúng ta kỳ vọng các hệ số co giãn theo thu nhập

và tài sản có dấu dương và hệ số bán co giãn theo lãi suất mang dấu âm

Kết quả hồi quy

Kết quả ước lượng mô hình hồi quy được trình bày trong Bảng 6.2

3 Dữ liệu được thu thập từ nhiều nguồn khác nhau của chính phủ, như Phòng công thương, Ngân hàng dự trữ liên bang và Báo cáo kinh tế cho tổng thống

4 Trong phân tích hàm tiêu dùng, chúng ta thường sử dụng các dạng log hoặc bán log, vì các hệ số có thể được giải thích như các hệ số co giãn hoặc hệ số bán con giãn

co giãn theo lãi suất cho chúng ta biết rằng nếu lãi suất tăng thêm một điểm phần trăm (không phải 1%), thì chi tiêu cho tiêu dùng trung bình giảm xuống khoảng 0.25%, khi giữ nguyên các biến khác không đổi

R2 cao và các thống kê khác trong bảng kết quả trên có thể cho thấy rằng mô hình hồi quy rất phù hợp, mặc dù chúng ta nên thận trọng với một giá trị R2 gần như bằng 1 Điều này bởi vì khả năng hồi quy giả mạo (spurious regression) xảy ra khi cả biến phụ thuộc và các biến giải thích tăng qua thời gian [Diễn giải: Khi các biến trong mô hình là các chuỗi không dừng thì hồi quy có thể cho kết quả R2 cao, t cao, nhưng R2 > DW] Nhưng chúng ta sẽ thảo luận chủ đề này chi tiết hơn ở chương về kinh tế lượng chuỗi thời gian (chương 13 của cuốn sách này)

Vì chúng ta đang xử lý dữ liệu chuỗi thời gian, có ta phải dè chừng hiện tượng tự tương quan (hoặc tương quan chuỗi) Nếu có tự tương quan trong hạng nhiễu, thì các sai số chuẩn ước lượng, và tự bản thân nó, các giá trị t ước lượng sẽ bị nghi ngờ Vì thế, trước khi chúng ta chấp nhận các kết quả được trình bày trong bảng trên, chúng ta cần kiểm tra xem có sự hiện diện của hiện tượng tự tương quan hay không

6.2 Các kiểm định tự tương quan

Mặc dù có nhiều kiểm định tự tương quan, nhưng ở đây chúng ta sẽ chỉ thảo luận một vài cách, cụ thể là phương pháp đồ thị (graphical method), kiểm định Durbin-Watson,

và kiểm định Breusch-Godfrey (BG)5

Phương pháp đồ thị

Khi đánh giá các kết quả hồi quy thì một cách thực hành tốt là luôn luôn phải vẽ đồ thị phần dư từ mô hình được ước lượng để nhận diện ra các manh mối về sự khả năng vi phạm một hoặc nhiều hơn một trong số các giả định OLS Như một tác giả lưu ý: “Bất

kỳ ai cố gắng phân tích một chuỗi thời gian mà không vẽ đồ thị là đang tìm đến rắc rối”6

Ví dụ, trong thảo luận của chúng ta về phương sai thay đổi, chúng ta vẽ đồ thị phần dư bình phương theo giá trị ước lượng của biến phụ thuộc để tìm ra một dạng nào đó trong các phần dư này, điều này có thể gợi ý loại chuyển hóa mà bạn có thể thực hiện đối với

mô hình gốc để trong mô hình được chuyển hóa chúng ta không gặp vấn đề phương sai thay đổi

5 Để tìm hiểu các phương pháp khác dùng để phát hiện tự tương, xem Gujarati/Porter, Chương 12, trang 429-40

6 Chris Chatfield, The Analysis of Time Series: An Introduction, 6th edn, Chapman and Hall, 2004, p.6

Vì tự tương quan là sự tương quan giữa các hạng nhiễu, ut, nên một phương pháp đơn giản tình thế để kiểm định tự tương quan đơn giản là vẽ các giá trị của ut theo thời gian Không may, chúng ta không thể quan sát các ut một cách trực tiếp Thứ mà chúng ta có thể quan sát là các đại diện của chúng, tức các et, tức phần dư mà chúng ta có thể quan sát sau khi ước lượng mô hình hồi quy

Mặc dù các et không hoàn toàn giống các ut, nhưng các et là các ước lượng nhất quán

của các ut, theo nghĩa là khi cỡ mẫu tăng, thì các et hội tụ về các giá trị thực, tức các ut, của chúng Mẫu của chúng ta với 54 quan sát thì về mặt kỹ thuật không phải là lớn, nhưng chúng bao quát dữ liệu cả giai đoạn sau chiến tranh thế giới lần thư hai Thậm chí nếu chúng ta mở rộng cỡ mẫu đến cuối năm 2009, thì chúng ta sẽ chỉ có thêm có 9 quan sát Vì thế, chúng ta không thể làm nhiều về cỡ mẫu của chúng ta

Bằng cách vẽ dữ liệu các et theo thời gian, chúng ta có thể có một ấn tượng trực giác về khả năng tồi tại vấn đề tự tương quan Thực hiện như thế, chúng ta có được Hình 6.1 Hình 6.1: Phần dư (nhân với 100) và phần dư chuẩn hóa

Hình này cho thấy rằng phần dư S1 thu được từ hồi quy (6.1) và phần dư chuẩn hóa, S2, tức đơn giản là lấy S1 chia cho sai số chuẩn của hồi quy [Diễn giải: Tức là căn bậc hai của RSS / bậc tự do] Để tương đồng về quy mô, chúng ta nhân S1 với 100

[Diễn giải: Cách tạo S1 và S2 trên Eviews:]

ls lnconsump c lndpi lnwealth interest

scalar se_reg=0.011934

genr S2=resid/se_reg

genr S1=resid*100

plot s1 s2

Các đồ thị S1 và S2 cho thấy một dạng chuyển động lên – xuống, điều này cho chúng ta biết rằng các phần dư có tương quan với nhau Điều này có thể được thấy rõ hơn nếu chúng ta vẽ đồ thị phần dư tại thời điểm t the phần phần dư tại thời điểm (t - 1), như trong Hình 6.2

Hình 6.2: Phần dư hiện hành và phần dư trễ một giai đoạn

[Diễn giải: Để vẽ được Hình 6.2 trên Eviews, chúng ta thực hiện như sau: Chọn Quick\Graph …, nhập tên biến, ví dụ resid và resid(-1), và chọn tiếp như bảng dưới đây:]

Đường hồi quy trong Hình 6.2 cho thấy rõ ràng rằng các phần dư có mối tương quan dương với nhau

[Diễn giải: Cách vẽ Hình 6.1 trên Stata]:

Ngay sau khi hồi quy với Stata

predict s1, resid

gen s1_100=100*s1

label var s1_100 "Residuals"

predict s2, rstandard

twoway (line s1_100 time) (line s2 time)

[Diễn giải: Dạng đồ thị phần dư và nhận dạng loại tự tương quan]

Tự tương quan dương:

Tự tương quan âm:

Không có tự tương quan:

Kiểm định d Durbin-Watson7

Kiểm định nổi tiếng nhất và thường được sử dụng nhất để phát hiện tương quan chuỗi được phát triển bởi hai nhà thống kê Durbin và Watson, và được biết rộng rãi với tên gọi là thống kê d Durbin-Watson Thống kê d Durbin-Watson được định nghĩa như sau:

7 Để biết thêm chi tiết, xem Gujarati/Porter, Chương 12

8 Để biết chi tiết, xem Gujarati/Porter, Chương 12, trang 435 – 6

Trước khi chúng ta tìm hiểu thống kê d được sử dụng như thế nào, điều quan trọng cần nhớ là các giả định cơ bản của thống kê d Các giả định này là:

1 Mô hình hồi quy có hệ số cắt9

2 Các biến giải thích là cố định trong lấy mẫu lặp đi lặp lại

3 Các hạng nhiễu, ut, theo cơ chế tự hồi quy bậc một [AR(1), first-order autoregressive scheme]:

Trong đó,  (rho) là hệ số tự tương quan (coefficient of autocorrelation) [Diễn giải: Ước lượng của hệ số này chính là AC bậc 1 trong giản đồ tự tương quan của Eviews], nằm trong khoảng -1 <  < 1 Nó được gọi là AR bậc một bởi vì chỉ liên quan đến hạng nhiễu hiện tại và hạng nhiễu trễ một giai đoạn vt là hạng nhiễu ngẫu nhiên

4 Hạng nhiễu ut theo phân phối chuẩn

5 Các biến giải thích không bao gồm các giá trị trễ của biến phụ thuộc, Yt, nghĩa là, các biến giải thích không bao gồm các biến Yt-1, Yt-2, Yt-3, và các số hạng trễ khác của Y

Như bạn có thể thấy, các giả định này có thể khá hạn chế trong thực tế

Phân phối xác suất chính xác của d thì khó để suy ra bởi vì nó phụ thuộc vào một cách phức tạp về các giá trị được nhận của các biến giải thích Và vì các giá trị mà các biến giải thích nhận được có tính đặc thì của mẫu, nên không có cách duy nhất để suy ra phân phối mẫu của d

Tuy nhiên, dựa trên cỡ mẫu và số lượng các biến giải thích, Durbin và Watson có thể

thiết lập hai giá trị tới hạn (critical values) của thống kê d, gọi là dL và dU, gọi là giới hạn dưới và giới hạn trên Vì thế, nếu giá trị d tính toán nằm dưới giới hạn dưới, hoặc trên giới hạn trên, hoặc nằm giữa hai giá trị giới hạn, thì một quyết định có thể được thực hiện về sự tồn tại hiện tượng tự tương quan hay không

Quy tắc quyết định như sau:

1 Nếu d < dL, có thể có bằng chứng về tự tương quan dương

2 Nếu d > dU, có thể có bằng chứng tự tương quan âm

3 Nếu dL < d < dU, không có kết luận xác định về tự tương quan dương

9 Nếu không có hệ số cắt, Farebrother đã điều chỉnh kiểm định d để tính đến trường hợp này Để biết thêm chi tiết, xem Gujarati/Porter, trang 434

4 Nếu dU < d < 4 – dL, không có bằng chứng về tự tương quan dương hoặc âm

5 Nếu 4 – dU < d < 4 – dL, không có kết luận xác định về tự tương quan âm

6 Nếu 4 - dL < d < 4, có thể có bằng chứng về tự tương quan âm

Như đã lưu ý, giá trị d nằm giữa 0 và 4 Càng gần về 0, càng có bằng chứng về tự tương quan dương; và càng gần về 4, càng có bằng chứng về tự tương quan âm Nếu d khoảng bằng 2, không có bằng chứng về tự tương quan âm hoặc dương bậc một

[Diễn giải: Chúng ta có thể minh họa bằng sơ đồ sau đây:]

Durbin và Watson chuẩn bị các bảng về các giới hạn dưới và giới hạn trên của thống kê

d cho một số quan sát được chọn (tối đa đến 200) và số biến giải thích (tối đa đến 10)

và cho các mức ý nghĩa 5% và 1%

Trở lại với hàm tiêu dùng của chúng ta, chúng ta có n = 54, X (số biến giải thích) = 3 Các giá trị phê phán ở mức ý nghĩa 5% cho kết hợp này (sử dụng n = 55): (1,4552, 1.681) Vì giá trị d Durbin-Watson tính toán là khoảng 1.28, giá trị này nằm dưới giới hạn dưới, nên chúng ta kết luận rằng có thể có tự tương quan dương trong hạng nhiễu

Giá trị d phê phán ở mức ý nghĩa 1% là (1.284, 1.506) Giá trị tính toán d hơi thấp hơn giới hạn dưới, một lần nữa cho thấy rằng hồi quy của chúng ta có thể bị hiện tượng tự tương quan dương bậc một

[Diễn giải: Cách kiểm định d Durbin-Watson trên Stata, … dùng giá trị xác suất, khỏi cần tra bảng]:

[

Lưu ý: burbinalt chính là thống kê Durbin h, sẽ được thảo luận ở phần sau

Kiểm định Breusch – Godfrey (BG) về tự tương quan10

Để tránh vài tính chất hạn chế của kiểm định d, Breusch và Godfrey đã phát triển một kiểm định tự tương quan mang tính tổng quát hơn, kiểm định này cho phép: (1) Các giá trị trễ của biến phụ thuộc được đưa vào mô hình như các biến giải thích, (2) Cơ chế tự tương quan bậc cao hơn, chẳng hạn AR(2) và AR(3), và (3) Các số hạng trung bình di động (MA) của hạng nhiễu, như ut-1, ut-2, …11

Để minh họa kiểm định BG, giả sử trong phương trình (6.1), hạng nhiễu theo cấu trúc như sau:

Trong đó, vt là hạng nhiễu theo các giả định cổ điển thông thường

Phương trình (6.4) là một cấu trúc tự hồi quy AR(p) trong đó hạng nhiễu hiện tại phụ thuộc vào các hạng nhiễu trước đó cho tới độ trễ p Giá trị chính xác của p thường là một quá trì thử và sai [Diễn giải: Thường dựa vào các tiêu chí AIC hoặc SIC để xác định

độ trễ tối ưu, hoặc dựa vào giản đồ tự tương quan (xem bài giảng về chuỗi dừng)], mặc

dù trong hầu hết các chuỗi thời gian kinh tế bạn không phải chọn một giá trị p cao Giả thuyết H0 như sau:

Nghĩa là, không có tương quan chuỗi ở bất kỳ độ trễ nào

10 Để biết chi tiết, xem Gujarati/Porter, trang 438 – 40

11 Ví dụ, một cơ chế AR(2) nghĩa là hồi quy giá trị hạng nhiễu hiện tại của một biến theo các độ trễ một và hai giai đoạn của nó Trong khi, một cơ chế MA(1) là hồi quy theo hạng nhiễu hiện tại và giá trị giai đoạn trước đó của hạng nhiễu Cơ chế MA được thảo luận chi tiết hơn ở Chương 16

Trong thực tế, chúng ta chỉ quan sát các phần dư et, đó là các ước lượng của ut Vì thế, kiểm định BG được thực hiện theo các bước sau đây:

1 Ước lượng phương trình (6.1) theo OLS và thu phần dư et

2 Hồi quy et theo các biến giải thích trong mô hình (6.1) và p hạng nhiễu tự hồi quy như trong phương trình (6.4), nghĩa là chạy hồi quy sau đây:

và thu được R2 từ hồi quy phụ này

3 Nếu cỡ mẫu lớn (về mặt kỹ thuật, là vô cùng), thì BG cho thấy rằng:

Nghĩa là, trong mẫu lớn, (n - p) nhân với R2 theo phân phối Chi bình phương với

p trong (6.6) khác 0 một cách có ý nghĩa thống kê Nói cách khác, chúng ta có một hình thức tự tương quan nào đó Hầu hết các phần mềm thống kê hiện nay đều có trình bày giá trị xác suất p của giá trị Chi bình phương ước lượng, nên chúng ta không cần chọn mức ý nghĩa một cách tùy tiện

Tương tự, nếu giá trị F tính toán lớn hơn giá trị F phê phán tại một mức ý nghĩa cho trước, chúng ta cũng có thể bác bỏ giả thuyết H0 cho rằng không có tự tương quan Thay

vì chọn mức ý nghĩa, chúng ta có thể dựa vào giá trị xác suất p của thống kê F ước lượng

và bác bỏ giả thuyết H0 nếu giá trị p này thấp

Hai kiểm định này cho các kết quả tương tự, điều này không có gì ngạc nhiên vì chúng

ta biết rằng có mối quan hệ giữa thống kê F và Chi bình phương12

Trước khi minh họa kiểm định, các tính chất sau đây của kiểm định BG mà ta cần phải lưu ý:

1 Kiểm định đòi hỏi rằng phương sai của hạng nhiễu ut, khi cho trước các giá trị của các biến giải thích và các số hạng trễ của hạng nhiễu, là đồng nhất Nếu điều này không xảy ra, chúng ta sẽ phải sử dụng phương sai điều chỉnh phương sai thay đổi, chẳng hạn như sai số chuẩn mạnh theo thủ tục của White

12 Mối quan hệ này như sau: Đối với bậc tự do ở mẫu số lớn, thì bậc tự do ở tử số nhân với giá trị F xấp xỉ bằng giá trị Chi bình phương với số bậc tự do của tử số, trong đó m và n lần lượt là các bậc tự do của mẫu và tử số

2 Một vấn đề thực tế khi áp dụng kiểm định BG là việc lựa chọn số số hạng trễ của hạng nhiễu, p, trong phương trình (6.4) Giá trị p có thể phụ thuộc vào loại chuỗi thời gian Đối với dữ liệu theo tháng, chúng ta có thể đưa vào 11 biến trễ của hạng nhiễu, đối với dữ liệu theo quý, chúng ta có thể đưa vào 3 biến trễ của hạng nhiễu, và đối với dữ liệu theo năm, một độ trễ của hạng nhiễu có thể đủ Dĩ nhiên, chúng ta có thể chọn số độ trễ theo cách thử và sai và chọ giá trị p dựa vào các tiêu chi AIC và SIC (xem chương 2) Giá trị các tiêu chí này càng nhỏ, thì mô hình càng tốt

Quay lại ví dụ về hàm tiêu dùng của chúng ta, các kết quả hồi quy (6.6) như sau: Để minh họa, chúng ta chỉ đưa vào một biến trễ của phần dư trong hồi quy này bởi vì chúng

ta có dữ liệu theo năm Kết quả được trình bày trong Bảng 6.3

Như các kết quả này cho thấy, có bằng chứng mạnh về tự tương quan bậc một, vì cả các giá trị F và Chi bình phương đều có ý nghĩa cao bởi vì các giá trị xác suất p rất thấp Bảng 6.3: Kiểm định BG về tự tương quan của hàm tiêu dùng

Chúng ta cũng ước lượng mô hình bao gồm 2 và 3 độ trễ của hạng nhiễu Tiêu chí AIC cho các giá trị lần lượt là -6.01, -6.0, -5.96 cho một, hai và 3 độ trễ của hạng nhiễu trong phương trình (6.6) Mặc dù không có khác biệt đáng kể trong các giá trị này, trên cơ sở thông tin AIC, nhưng chúng ta chọn mô hình với giá trị âm lớn nhất, ở đây là -6.01, vì thế chúng ta có thể biện minh cho việc sử dụng một biến trễ của hạng nhiễu trong phương trình (6.6) là phù hợp13 Cũng vậy, các hệ số của các hạng trễ thứ hai và thứ 3 cũng không có ý nghĩa thống kê

13 Lưu ý rằng -5.96 lớn hơn -6.00, và số này lớn hơn -6.01

[Diễn giải: Kểm điện BG trên Eviews và Stata:]

6.3 Các biến pháp khắc phục

Nếu chúng ta thấy có tự tương quan trong một áp dụng thực tế, chúng ta cần để ý điều này, vì tùy vào mức độ nghiêm trọng của nó mà chúng ta có rút ra những kết luận sai lầm bởi vì các sai số chuẩn OLS thông thường có thể bị chệch nghiêm trọng Bây giờ, vấn

đề mà chúng ta đối mặt là chúng ta không biết cấu trúc tương quan của các hạng nhiễu

ut như thế nào, vì chúng không thể quan sát một cách trực tiếp