Luận văn thạc sĩ phân tích số liệu của một số công trình xây dựng bằng thống kê toán học (1)

Sau đó là một vài ví dụ về mô hình tuyến tính tổng quát như mô hìnhhồi quy tuyến tính, mô hình so sánh hai mẫu bằng phép kiểm định t, mô hìnhANOVA một nhân tố… Tiếp theo là phương trình

ĐẠI HỌC QUỐC GIA HÀ NỘITRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

ĐẶNG THỊ PHƯƠNG MAI

PHÂN TÍCH SỐ LIỆU CỦA MỘT SỐ CÔNG TRÌNH XÂY DỰNG

BẰNG THỐNG KÊ TOÁN HỌC

LUẬN VĂN THẠC SĨChuyên ngành: Lý thuyết xác suất và thống kê toán học

Hà Nội - 2012

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

ĐẶNG THỊ PHƯƠNG MAI

PHÂN TÍCH SỐ LIỆU CỦA MỘT SỐ CÔNG TRÌNH XÂY DỰNG

BẰNG THỐNG KÊ TOÁN HỌC

LUẬN VĂN THẠC SĨChuyên ngành: Lý thuyết xác suất và thống kê toán học

Mã số:60 46 15

Người hướng dẫn khoa học: PGS TS Hồ Đăng Phúc

Hà Nội - 2012

MỤC LỤC

Trang

Lời cảm ơn………

Lời mở đầu 1

Chương 1 Mô hình tuyến tính tổng quát 2

1.1 Giới thiệu mô hình tuyến tính tổng quát 2

1.1.1.Mục đích của hồi quy bội 2

1.1.2.Những tính toán để giải phương trình hồi quy bội 3

1.1.3.Mở rộng của mô hình hồi quy bội thành mô hình tuyến tính tổng quát 6

1.2 Một số ví dụ về mô hình tuyến tính tổng quát 9

1.2.1.Lập phương trình dạng ma trận 11

1.2.2.Ước lượng tham số 12

1.2.3.Quan điểm hình học… 16

1.3 Mô hình tuyến tính tổng quát đa biến 18

1.3.1.Ước lượng bình phương bé nhất cho mô hình tuyến tính tổng quát… 18

1.3.2 Tính chất của ma trận sai số 20

1.3.3.Tính chất của ma trận hệ số hồi quy 21

1.3.4.Tổng các bình phương và tích chéo ứng với giả thuyết và ứng với sai số 21

1.3.5.Thống kê kiểm định giả thuyết tuyến tính tổng quát đa biến… 22

1.4 Phân phối phần dư trong mô hình tuyến tính tổng quát 24

1.4.1.Phần dư đơn biến… 29

1.4.2.Phân phối đồng thời của phần dư đơn biến… 33

1.4.3.Phân phối đồng thời của phần dư đa biến… 35

1.4.4.Phân phối đồng thời cho trường hợp đặc biệt của phần dư đa biến… 40

Chương 2 Phân tích số liệu kiểm toán của một số công trình xây dựng 43

2.1 Mô tả số liệu 43

2.1.1.Địa điểm thi công… 44

2.1.2.Loại công trình phân theo đặc tính kỹ thuật… 47

2.1.3.Loại công trình phân theo chức năng sử dụng… 48

2.1.4.Cỡ công trình 51

2.2 Phân tích mức ảnh hưởng của các nhân tố đến tỷ lệ sai phạm 54

2.2.1.Phân tích phương sai cho 4 nhân tố 54

2.2.2.Mô hình hồi quy tuyến tính tổng quát 55

Kết luận và kiến nghị 61

Tài liệu tham khảo 62

LỜI CẢM ƠN

Lời cảm ơn chân thành và sâu sắc nhất của tôi xin dành tặng cho PGS TS HồĐăng Phúc Chính nhờ sự hướng dẫn tận tình của thầy mà tôi mới thực hiện và hoànthành được luận văn này Bên cạnh đó, tôi xin gửi lời cảm ơn chân thành tới BanGiám đốc cùng các nhân viên phòng Kiểm toán đầu tư xây dựng của công ty Hợpdanh kiểm toán Việt Nam (CPA Việt Nam) vì đã cung cấp cho tôi những số liệuchính xác, có giá trị thống kê của các công trình xây dựng mà công ty đã thực hiệnkiểm toán Nhờ những số liệu này mà tôi đã thực hiện được phần phân tích ởchương 2 của luận văn Tôi cũng xin chân thành cảm ơn Ban Chủ nhiệm khoa, cácgiảng viên trong Khoa Toán – Cơ – Tin học và các học viên của lớp Cao học Toán

2007 – 2009 trường Đại học Khoa học Tự nhiên, Đại học Quốc gia Hà Nội đã độngviên, khuyến khích, chia sẻ kinh nghiệm, kiến thức và hướng dẫn tôi trong suốt quátrình học tập vừa qua

Trong quá trình làm luận văn chắc chắn không thể tránh khỏi những thiếu sót, tôirất mong nhận được sự chỉ bảo tận tình của các thầy cô và bạn bè đồng nghiệp

LỜI MỞ ĐẦU

Mô hình tuyến tính tổng quát đã được nhiều nhà khoa học nghiên cứu và ứngdụng trong nhiều lĩnh vực khoa học và đời sống khác nhau Trong luận văn này, tôitrình bày các cơ sở lý thuyết của mô hình tuyến tính tổng quát và ứng dụng của nótrong việc phân tích các kết quả kiểm toán của một số công trình xây dựng Luậnvăn được chia thành 2 chương

Chương đầu tiên là những giới thiệu về mô hình tuyến tính tổng quát Trongchương này, tôi đưa ra sự mở rộng của mô hình hồi quy bội thành mô hình tuyếntính tổng quát Sau đó là một vài ví dụ về mô hình tuyến tính tổng quát như mô hìnhhồi quy tuyến tính, mô hình so sánh hai mẫu bằng phép kiểm định t, mô hìnhANOVA một nhân tố… Tiếp theo là phương trình của mô hình tuyến tính đa biến vàcác tính chất của ước lượng tổng bình phương bé nhất, tính chất của ma trận sai số,tính chất của ma trận hệ số hồi quy,… Phần cuối của chương 1 là nội dung trình bày

về phân phối phần dư trong mô hình tuyến tính tổng quát Trong đó, chúng ta xemxét các định nghĩa, định lí của phần dư đơn biến, phân phối đồng thời của phần dưđơn biến, phân phối đồng thời của phần dư đa biến và phân phối đồng thời chotrường hợp đặc biệt của phần dư đơn biến

Chương thứ hai giới thiệu kết quả ứng dụng mô hình tuyến tính tổng quát vàoviệc nghiên cứu số liệu kiểm toán của 129 công trình xây dựng đã được công tyCPA Việt Nam thực hiện công tác kiểm toán trong thời gian gần đây Chương nàytìm hiểu, xem xét các yếu tố của công trình như địa điểm, đặc điểm, chức năng sửdụng và cỡ công trình ảnh hưởng như thế nào đối với khả năng xảy ra sai sót trongcông tác quyết toán tài chính đối với mỗi công trình Thông qua việc áp dụng môhình tuyến tính tổng quát, chương này chỉ ra trong các yếu tố trên thì yếu tố nào tácđộng một cách có ý nghĩa lên tỷ lệ sai phạm của các các công trình khi quyết toán(so với kiểm toán) Từ đó có thể rút ra được một số kết luận có ý nghĩa thực tế

CHƯƠNG 1: MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT

1.1 GIỚI THIỆU MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT

Mô hình tuyến tính tổng quát có thể xem là mở rộng của hồi quy tuyến tính bội.Hiểu rõ về mô hình hồi quy bội là bước chuẩn bị để tìm hiểu về mô hình tuyến tínhtổng quát Vì vậy chúng ta sẽ xem xét mục đích của hồi quy bội, các thuật toán tínhtoán được sử dụng để giải quyết vấn đề hồi quy và làm thế nào để mở rộng mô hìnhhồi quy bội thành mô hình tuyến tính tổng quát

1.1.1 Mục đích của hồi quy bội

Mục đích chung của hồi quy bội là định lượng mối quan hệ giữa một vài biếnđộc lập (còn gọi là biến dự báo) và một biến phụ thuộc (biến đáp ứng) Ví dụ, mộtđại lý bất động sản có thể dựa trên kích thước của mỗi căn nhà, số lượng phòng ngủ,thu nhập trung bình trong khu phố tương ứng theo số liệu điều tra dân số để đánhgiá chủ quan về giá bán của căn nhà Sau khi thông tin này được tổng hợp lại nó sẽcho ta biết xem liệu yếu tố nào liên quan và ảnh hưởng như thế nào đến mức giá màmột ngôi nhà được bán Ví dụ, người ta có thể thấy rằng số lượng phòng ngủ có vaitrò dự báo tốt hơn về giá mà một ngôi nhà bán tại một khu phố cụ thể so với yếu tố

”nhà đẹp” (đánh giá chủ quan)

Các nhà quản lý nhân sự thường sử dụng phương pháp hồi quy bội để xác địnhmức lương thích hợp cho nhân viên được tuyển dụng Họ có thể xác định một sốyếu tố như "khả năng đáp ứng" (KNDU) hoặc “số người cần giám sát" (No_GS) làmột trong những đóng góp vào giá trị của công việc Các nhà phân tích thường tiếnhành một cuộc khảo sát lương so sánh giữa các công ty trên thị trường, ghi mứclương và những đặc điểm tương ứng (ví dụ, mức độ công việc) cho các vị trí khácnhau Thông tin này có thể được sử dụng trong một phân tích hồi quy bội để xâydựng một phương trình hồi quy có dạng:

Mức lương = 0,5 * KNDU + 0.8 * No_GS

Khi phương trình hồi quy đã được xác định, các nhà phân tích bây giờ có thể dễdàng xây dựng một biểu đồ của mức lương dự kiến (dự đoán) và tiền lương thực tếcủa những người đang đương chức trong công ty của họ Vì vậy, các nhà phân tích

có thể xác định các vị trí đã trả lương thấp (dưới đường hồi quy) hoặc trả quá nhiều(ở trên đường hồi quy), hoặc trả lương công bằng

Trong xã hội và khoa học tự nhiên, phương pháp hồi quy bội được sử dụng rấtrộng rãi trong nghiên cứu Nói chung, hồi quy bội cho phép các nhà nghiên cứu đặt

ra câu hỏi (và hy vọng câu trả lời) về những vấn đề tổng quát "dự báo tốt nhất về …

là gì" Ví dụ, các nhà nghiên cứu giáo dục có thể muốn tìm hiểu các yếu tố dự đoántốt nhất về kết quả học tập ở trường trung học là gì Xã hội học có thể muốn tìm ranhiều chỉ số xã hội dự đoán tốt nhất về việc nhóm người nhập cư mới có thích ứng

và được hoà nhập vào xã hội hay không,

1.1.2 Những tính toán để giải phương trình hồi quy bội

Không gian con một chiều trong không gian hai chiều là một đường thẳng đượcđịnh nghĩa bởi phương trình

Y  0  1 X Theo phương trình này, biến Y có thể

được biểu diễn như một hàm của hằng số (0) và tích của hệ số (1) với biến X.

quy Ví dụ, điểm trung bình các môn học của học sinh được dự đoán bằng công thức

1 + 0,02 * IQ Vì vậy, khi biết rằng một học sinh có chỉ số IQ là 130, chúng ta sẽ dự

đoán rằng điểm trung bình các môn học của học sinh đó sẽ là 3,6

Trong trường hợp hồi quy bội, khi có nhiều biến dự báo, không gian con hồi quythường không được hình dung trong một không gian hai chiều, nhưng tính toán làmột sự mở rộng trực tiếp của các tính toán trong trường hợp dự báo đơn biến Ví dụ,

nếu ngoài các yếu tố IQ chúng ta có thêm vài yếu tố để dự đoán (ví dụ: Động lực, ý

thức kỷ luật), chúng ta có thể xây dựng một phương trình tuyến tính có chứa tất cảcác biến đó Nói chung, các phương pháp hồi quy bội sẽ ước lượng một phươngtrình tuyến tính có dạng:

Y  0  1 X1  2 X 2   k X k

với k là số các yếu tố dự báo Lưu ý rằng trong phương trình này, các hệ số hồi quy

sau khi kiểm soát tác động của tất cả các biến độc lập khác Loại tương quan nàycũng được gọi là tương quan riêng phần Ví dụ sau sẽ làm rõ vấn đề này

Bình thường người ta có thể thấy sự tương quan có ý nghĩa giữa chiều dài tóc vàchiều cao con người (người thấp có mái tóc dài hơn) Tuy nhiên, nếu chúng ta thêmbiến Giới tính vào phương trình hồi quy bội, sự tương quan này sẽ biến mất Điềunày là do tính trung bình thì phụ nữ có mái tóc dài hơn nhưng cũng thấp hơn so vớinam giới Như vậy, sau khi chúng ta loại bỏ sự khác biệt giới tính bằng cách đưabiến giới tính vào phương trình, mối quan hệ giữa chiều dài tóc và chiều cao biếnmất bởi vì chiều dài tóc không có tác động đặc biệt nào cho các dự báo chiều cao.Nói một cách khác, sau khi kiểm soát biến giới tính, sự tương quan giữa chiều dàitóc và chiều cao là không có ý nghĩa

Không gian con hồi quy (một đường thẳng trong hồi quy đơn, một phẳng hoặckhông gian con có số chiều cao hơn trong hồi quy bội) là dự đoán tốt nhất của biến

phụ thuộc Y, được đưa ra bởi các biến độc lập X Tuy nhiên, thực tế là rất hiếm khi chúng ta hoàn toàn dự đoán được chính xác giá trị của Y và thường có sự sai lệch

giữa những điểm quan sát được so với không gian con hồi quy thích hợp Độ lệchcủa một điểm cụ thể từ điểm tương ứng gần nhất trên không gian con hồi quy dựđoán (dự đoán giá trị của nó) được gọi là phần dư Vì mục tiêu của các phương pháphồi quy tuyến tính là đưa ra một không gian con là một hàm tuyến tính của các biến

X nhằm quan sát biến Y càng gần càng tốt, các giá trị dư cho những điểm quan sát

có thể được sử dụng để đưa ra một tiêu chuẩn "phù hợp nhất" Cụ thể, trong bài toánhồi quy, không gian con được tính sao cho tổng các bình phương độ lệch của cácđiểm quan sát được so với không gian con đó là nhỏ nhất Như vậy, phương phápchung gọi là ước lượng bình phương bé nhất

Các tính toán thực tế liên quan đến việc giải quyết các bài toán hồi quy có thể

được biểu diễn gọn gàng và tiện lợi bằng cách sử dụng ma trận Giả sử rằng n giá trị

thể đại diện tương ứng cho các quan sát thứ i của biến Y, các quan sát thứ i của các biến X, và giá trị phần dư chưa biết Tập hợp những số hạng này đưa vào ma trận, ta

trong đó  là một vector cột của các hệ số cần ước lượng, bao gồm hệ số chặn và k

hệ số hồi quy chưa biết Vì mục tiêu của hồi quy bội là tổng bình phương độ lệch nhỏ nhất nên hệ số hồi quy cần tìm thoả mãn phương trình chuẩn tắc

X ' X  X 'Y Khi các biến X là độc lập tuyến tính thì phương trình trên có một nghiệm duy nhất Khi nhân cả hai vế của phương trình với nghịch đảo của X'X ta được

 X ' X 1 X ' X    X ' X 1 X 'Y

Kết quả này đưa ra lời giải cho phương trình hồi quy trong đó chỉ có 2 ma trận X

và Y với 3 phép toán cơ bản của ma trận là: (1) chuyển vị ma trận bao gồm việc đổi

chỗ các phần tử của hàng và của cột trong một ma trận, (2) phép nhân ma trận,

X11 L L X1

trong đó bao gồm việc tìm tổng các tích của các phần tử cho mỗi tổ hợp hàng và cộtcủa hai hoặc nhiều ma trận, và (3) nghịch đảo ma trận, trong đó bao gồm việc tìm

ma trận có tính chất giống với số nghịch đảo, nghĩa là ma trận thỏa mãn

A1AA  A cho một ma trận A.

Tuy nhiên mô hình hồi quy bội còn có những hạn chế cần chú ý là (1) nó được

sử dụng để phân tích duy nhất một biến phụ thuộc, (2) nó không thể cung cấp một

lời giải cho các hệ số hồi quy khi các biến X là không độc lập tuyến tính và do đó nghịch đảo của X'X không tồn tại Khi khắc phục những hạn chế này thì mô hình

hồi quy bội được chuyển thành mô hình tuyến tính tổng quát

1.1.3 Mở rộng của mô hình hồi quy bội thành mô hình tuyến tính tổng quát

Một trong những điểm mà mô hình tuyến tính tổng quát khác với mô hình hồi

quy bội là số lượng của các biến phụ thuộc có thể được phân tích Véc tơ Y của n quan sát của một biến Y duy nhất có thể được thay thế bằng một ma trận Y gồm

n

biến Y duy nhất có thể được thay thế bởi ma trận B của hệ số hồi quy, với một véc tơ của hệ số B cho mỗi biến trong số m biến phụ thuộc Những thay thế đó cho phép

mô hình được gọi là mô hình hồi quy đa biến, nhưng cần nhấn mạnh rằng các côngthức ma trận của mô hình hồi quy bội và đa biến là giống hệt nhau, ngoại trừ số

lượng các cột trong ma trận Y và B Phương pháp giải các hệ số B cũng giống nhau,

đó là, tập m các hệ số hồi quy khác nhau được xác định riêng rẽ cho m biến phụ

thuộc khác nhau trong mô hình hồi quy đa biến

Mô hình tuyến tính tổng quát tiến một bước vượt lên trên mô hình hồi quy đabiến bằng cách chấp nhận các phép biến đổi tuyến tính hoặc tổ hợp tuyến tính củanhiều biến phụ thuộc Sự mở rộng này mang lại cho mô hình tuyến tính tổng quátnhiều lợi thế quan trọng hơn mô hình hồi quy bội và mô hình hồi quy đa biến Mộtlợi thế đầu tiên là các kiểm định đa biến có thể được áp dụng trên một tập nhiều

biến phụ thuộc có liên quan Các phép kiểm định riêng rẽ về ý nghĩa của các biếnphụ thuộc liên quan là không độc lập với nhau và có thể không thích hợp Các phépkiểm định đa biến của các tổ hợp tuyến tính độc lập của các biến phụ thuộc có thểgiúp thấy rõ những tổ hợp nào của các biến độc lập liên quan đến các biến dự báo,

tổ hợp nào không liên quan Một lợi thế khác là khả năng phân tích ảnh hưởng củacác nhân tố được đo lặp lại Các thiết kế phép đo lặp lại hoặc các thiết kế nội đốitượng thường được phân tích bằng cách sử dụng kỹ thuật phân tích phương saiANOVA Các tổ hợp tuyến tính của các biến đáp ứng phản ánh hiệu quả của phép

đo lặp (biến độc lập được đo dưới những điều kiện khác nhau) có thể được thiết kế

và kiểm định ý nghĩa bằng cách tiếp cận đơn biến hoặc đa biến để phân tích cácphép đo lặp trong mô hình tuyến tính tổng quát

Một điều quan trọng thứ hai mà mô hình tuyến tính tổng quát khác với mô hìnhhồi quy bội là nó có thể cung cấp một lời giải cho các phương trình chuẩn tắc khi

các biến X không độc lập tuyến tính và nghịch đảo của X'X không tồn tại Sự dư thừa của các biến X có thể là không thực chất (ví dụ, có thể xảy ra hai biến dự báo

hoàn toàn tương quan trong một tập dữ liệu nhỏ), là ngẫu nhiên (ví dụ, hai bản saocủa cùng một biến có thể vô tình được sử dụng trong một phân tích) hoặc có chủđịnh (ví dụ, biến chỉ thị với các giá trị đối nhau có thể được sử dụng trong phân tích,như khi cả hai biến dự báo Nam và Nữ được sử dụng trong việc thể hiện giới tính).Tìm nghịch đảo chính quy của một ma trận có hạng không đầy đủ cũng giống nhưviệc tìm nghịch đảo của số 0 trong số học thông thường Không có nghịch đảo bởi

vì không được phép chia cho số 0 Vấn đề này được giải quyết trong mô hình tuyến

tính tổng quát bằng cách sử dụng một nghịch đảo suy rộng của ma trận X'X trong việc giải các phương trình chuẩn tắc Một nghịch đảo suy rộng cho một ma trận A là

AA A  A

Ma trận nghịch đảo suy rộng là không duy nhất và chỉ duy nhất khi ma trận A có

hạng đầy đủ Khi đó, nó chính là ma trận nghịch đảo chính quy Ma trận nghịch đảo

suy rộng của một ma trận có hạng không đầy đủ có thể được tính bằng cách đơngiản bằng cách thay các phần tử 0 vào các hàng và cột dư của ma trận Giả sử rằng

có một ma trận X'X với r-cột độc lập tuyến tính (với r là hạng của X’X) thì ta phân

chia như sau

X ' X   A11 A12 ˘

 A A ˙

 21 22 ˚

nghịch đảo tổng quát của X'X là

Tuy nhiên trong thực tế, một nghịch đảo tổng quát đặc biệt của X'X để tìm một

lời giải cho các phương trình chuẩn tắc thường được tính bằng cách sử dụng toán tửquét Nghịch đảo suy rộng này, được gọi là nghịch đảo g2, có hai tính chất quantrọng Một là việc gán các phần tử 0 trong các hàng và các cột dư là không cần thiết

Hai là sự phân vùng hoặc sắp xếp lại các cột của X'X là không cần thiết, vì vậy ma

trận có thể tự nghịch đảo “tại chỗ”

Có vô số nghịch đảo tổng quát của một ma trận X'X không có hạng đầy đủ, do đó

có vô số nghiệm của các phương trình chuẩn tắc Điều này có thể gây ra sự khó hiểu

về bản chất của mối quan hệ của các biến dự báo và biến phụ thuộc, bởi vì các hệ sốhồi quy có thể thay đổi tùy thuộc vào nghịch đảo suy rộng cụ thể được chọn để giảicác phương trình chuẩn tắc Tuy nhiên, điều đó không đáng ngại vì tính chất bấtbiến quan trọng của nhiều kết quả có thể thu được bằng cách sử dụng mô hình tuyếntính tổng quát

Sau đây là một ví dụ đơn giản để minh họa các tính chất bất biến quan trọngnhất của việc sử dụng nghịch đảo suy rộng trong mô hình tuyến tính tổng quát Nếu

cả hai biến dự báo Nam và Nữ với giá trị đối nhau được sử dụng trong một phântích giới tính, tùy vào từng trường hợp mà biến dự báo được coi là phần dư thừa (ví

dụ, biến Nam có thể được coi là phần dư thừa với biến Nữ, hoặc ngược lại) Bất kỳbiến dự báo nào được coi là phần dư thừa, bất kỳ nghịch đảo suy rộng tương ứngnào được sử dụng trong việc giải các phương trình chuẩn tắc, và bất kỳ kết quảphương trình hồi quy nào được sử dụng để tính toán các giá trị dự đoán về các biếnphụ thuộc, các giá trị dự đoán và các phần dư tương ứng cho nam và nữ sẽ khôngthay đổi Trong việc sử dụng mô hình tuyến tính tổng quát, người ta phải nhớ rằngviệc tìm kiếm một nghiệm cụ thể của các phương trình chuẩn tắc chỉ là một bướctrung gian để xác định giá trị đáp ứng của các biến phụ thuộc

Không giống như mô hình hồi quy bội thường được áp dụng cho trường hợp các

biến X liên tục, mô hình tuyến tính tổng quát hay sử dụng để phân tích cho một mô

hình phân tích phương sai ANOVA hoặc MANOVA với các biến dự báo rời rạc hoặcvới cả hai loại biến dự báo rời rạc và liên tục, cũng như mô hình hồi quy bội hay đabiến với các biến dự báo liên tục Ví dụ, giới tính rõ ràng là một biến độc lập rời rạc

Có hai phương pháp cơ bản mà giới tính có thể được mã hoá thành một hay nhiềubiến dự báo và được phân tích bằng cách sử dụng mô hình tuyến tính tổng quát

1.2 MỘT SỐ VÍ DỤ VỀ MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT

Giả thiết rằng chúng ta sẽ tiến hành một thí nghiệm trong đó chúng ta sẽ quan

đạc mà không có sai số), với k = 1,…,K là chỉ số của các biến độc lập (hay biến giải

thích) Các biến độc lập có thể là các hiệp biến liên tục hoặc rời rạc, các hàm củacác hiệp biến, hoặc chúng có thể là các biến hình thức chỉ thị các mức độ của mộtnhân tố thực nghiệm

Một mô hình tuyến tính tổng quát biểu diễn các biến đáp ứng Y j theo các số hạng

của một tổ hợp tuyến tính của các biến độc lập cộng với phần sai số,

Yj  x j1  1   x jk  k   x jK  K   j

(1.1)

a Mô hình hồi quy tuyến tính.

Một ví dụ đơn giản là hồi quy tuyến tính trong đó chỉ một biến độc lập liên tục

thường được viết như sau

Yj    x j    j

Trong đó các tham số chưa biết là µ, một hằng số trong mô hình, hệ số hồi quy β

và sai số

iid

 :  0, 2 Biểu thức này có thể được viết lại theo dạng mô hình tuyến

Yj  x j1  x j 2 2   j

b Mô hình so sánh hai mẫu bằng phép kiểm định t.

Mô hình so sánh hai mẫu là một trường hợp đặc biệt của một mô hình tuyến tính

: 

0,



j

nhiên, phép so sánh Y : iid  ,2, với q = 1, 2, và đánh giá giả thuyết H: µ = µ

1 2

qj q

Chỉ số j đánh số các điểm dữ liệu trong cả hai nhóm Phương pháp biểu diễn mô

hình thống kê theo quy chuẩn như sau

Phương trình (1.2) có dạng của phương trình (1.1) sau khi đánh số lại cho qj Ở

và 0 khi q = 2 Tương tự như vậy

0

xqj 2 

1

nếu q = 1 nếu q = 2.

trong đó Y là vector cột của các quan sát, ε là vector cột của các số hạng sai số, β là

vector cột của các tham số

   ,,  ,,  T Ma trận X có cấp J x K, với

quan sát, và một cột (biến giải thích) cho mỗi tham số của mô hình Điểm quantrọng về ma trận thiết kế đó là nó là một mô tả gần hoàn chỉnh mô hình với phần dưcủa mô hình là các số hạng sai số

1.2.2 Ước lượng tham số

Khi một thực nghiệm đã được hoàn tất, chúng ta có các quan sát của các biến

mô hình tuyến tính tổng quát (với ε = 0) không thể giải được vì số lượng K các tham

số thường được chọn nhỏ hơn số lượng J của các quan sát Do đó một số phương

pháp ước lượng tham số đòi hỏi dữ liệu “thích hợp nhất” cần phải được sử dụng.Điều này đạt được bằng cách sử dụng phương pháp bình phương bé nhất thôngthường

đó đo đạc mức độ phù hợp của mô hình với các ước lượng đó của các tham số Cácước lượng bình phương bé nhất là các ước lượng tham số làm nhỏ nhất tổng bìnhphương các phần dư, với dạng đầy đủ là

toán X có hạng đầy đủ, thì các ước lượng bình phương bé nhất sẽ là

µ   X T X 1

(1.3)

a.

Các mô hình không có lời giải duy nhất

Nếu X có các cột phụ thuộc tuyến tính, nó sẽ là ma trận có hạng không đầy đủ,

gọi là tham số hóa dư thừa: có vô hạn các tập hợp tham số mô tả cùng một mô hình

2

Tương ứng, sẽ có vô hạn các ước lượng bình phương bé nhất

Yqj    q   qj

mô hình là không xác định cho đến mức của một hằng số cộng giữa biểu thức hằng

ˆ

nào Ở đây có một bậc vô định trong mô

hình, điều đó làm cho ma trận tính toán có hạng Q nhỏ hơn số các tham số (số các cột của ma trận X) Nếu vector dữ liệu Y có các quan sát được sắp xếp theo nhóm, khi đó trong trường hợp 3 nhóm (Q = 3), ma trận tính toán và các vector tham số là:

Rõ ràng rằng ma trận này có hạng không đầy đủ: cột đầu tiên là tổng của các cộtkhác Do đó trong mô hình này, người ta không thể kiểm tra trong mô hình này tác

động của một hay nhiều nhóm Tuy nhiên lưu ý rằng việc cộng vào hằng số µ

không tác động đến các hiệu số tương đối giữa các cặp của các tác động nhóm Do

đó các hiệu số trong các tác động nhóm được ước lược duy nhất mà không cần xétđến tập cụ thể của các ước lượng tham số được sử dụng Nói cách khác, thậm chínếu mô hình là tham số hóa dư thừa, vẫn có các tổ hợp tuyến tính có ích của cáctham số (chính là các hiệu số giữa các cặp của các tác động nhóm)

c.

Ràng buộc nghịch đảo suy rộng

Trong mô hình với tham số không xác định duy nhất, một tập các ước lượngbình phương bé nhất có thể được xác định bằng việc đưa vào các ràng buộc đối với

cần chú ý rằng các ước lượng thực sự thu nhận được phụ thuộc vào ràng buộc cụ thểhoặc phụ thuộc vào phương pháp lấy nghịch đảo suy rộng được lựa chọn

Có một số ràng buộc cụ thể dựa trên việc loại bỏ các cột từ ma trận tính toán.Trong ví dụ ANOVA một nhân tố, người ta có thể loại bỏ biểu thức hằng số để xâydựng một ma trận tính toán có các cột là độc lập tuyến tính Với các tính toán phứctạp hơn, dạng của ma trận tính toán có thể thay đổi rất nhiều làm cho mô hình banđầu trở nên khó nhận biết

Một cách khác là phương pháp lấy nghịch đảo suy rộng ma trận có thể được sử

Điều đó cho các ước lượng tham số bình phương bé nhất với tổng các bình phương

phương pháp này cho các ước lượng tham số

µ q  Y q  µ Chúng ta sử dụng Y q để ký kiệu giá trị trung bình của Y trong quan sát chỉ số j, chính là trung bình của dữ liệu trong nhóm q.

Sử dụng nghịch đảo suy rộng trong ước lượng tham số ở các mô hình với tham

số không xác định duy nhất là một giải pháp thường được sử dụng Như đã đượcgiới thiệu ở trên, phương pháp này vẫn không cho phép kiểm tra các tổ hợp tuyếntính của các tác động mà có một số lượng vô hạn các ước lượng tham số Chú ý

rằng ràng buộc giả nghịch đảo cho ta giữ nguyên tất cả các cột của ma trận X.

1.2.3 Quan điểm hình học

Đối với một số người, quan điểm hình học cung cấp một cảm nhận trực quancho phương pháp phân tích

Vector của các giá trị quan sát Y định nghĩa một điểm đơn trong không gian

 ˜

là một tổ hợp tuyến tính của các cột của ma

Chiều của không gian con là rank(X) Nhắc lại rằng không gian được xây dựng nên

từ các cột của X là một tập các điểm Xc với mọi c thuộc không gian

tương ứng với điểm trong không

gian xây dựng bởi các cột của X mà gần nhất với dữ liệu Y Đường vuông góc từ Y

vào không gian X giao với không gian đó tại điểm

tại sao không có các ước lượng bình phương bé nhất duy nhất nếu không gian X có hạng không đầy đủ; khi đó bất kỳ điểm nào trong không gian X có thể nhận được bằng các tổ hợp tuyến tính vô hạn các cột của X, chính là nghiệm tồn tại trên một

siêu mặt và không phải là một điểm

Nếu X có hạng đầy đủ, khi đó định nghĩa ma trận của phép chiếu là

P  X  X T X 1 X T Khi

và

trận vào không gian trực giao với không gian X.

Sau đây là một ví dụ có liên quan mật thiết, xem xét một hồi quy tuyến tính chỉ

với ba quan sát Dữ liệu được quan sát là y   y , y , y T định nghĩa một điểm

hai chiều trong

Hình 1.1

X X

1.3 MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT ĐA BIẾN

Mô hình tuyến tính tổng quát đa biến là sự mở rộng của các trường hợp đơn

biến Thay vì có một biến phụ thuộc trong một cột của vectơ y, chúng ta có một tập

p biến phụ thuộc trong một số cột của ma trận Y Do đó mô hình này là

 ˙



y

Ta thấy rằng số lượng các cột của ma trận B phù hợp với số lượng các cột của

ma trận Y Mô hình có thể trình bày lại như sau

với mỗi cột Y đưa vào một phương trình hồi quy với các cột tương ứng của B coi

như là các vector hệ số Ta có thể diễn tả mô hình một cách ngắn gọn nhất bằngcách sử dụng

Yµ  XB

Tiếp theo, chúng ta định nghĩa sai số của ma trận dự đoán cấp n x p là ε với

1.3.1 Ước lượng bình phương bé nhất cho mô hình tuyến tính tổng quát

Làm thế nào để ước lượng được các giá trị chưa biết trong ma trận B? Khi sai số

ε của Y chỉ là một vectơ, ta có thể chọn hàm mục tiêu là  ' Mặt khác ma trận  '

không là một đại lượng vô hướng mà là một tổng bình phương và tích chéo của ma

trận cấp p x p Trong trường hợp này ta sẽ làm vết của

tương đương với Tr(BY’X).

Chúng ta có thể viết lại phương trình trên một cách đơn giản là

Mỗi cột của

Bµ j  ( X ' X )1

X ' y j

1.3.2 Các tính chất của ma trận sai số

Để nói về sự phân phối của ma trận sai số ε, chúng ta sẽ phải sắp xếp lại nó một

chút bằng cách sử dụng toán tử Vec(.) được định nghĩa như sau:

Chúng ta giả sử, trong một mô hình đa biến tương tự đối với các giả thiết Gauss

Markov rằng phân phối của ma trận ε cỡ n x p là

Các ma trận hiệp phương sai cho Vec(ε) là ma trận cấp np x np Ma trận hiệp

phương sai đó có một cấu trúc đặc biệt Nó gợi nhớ tới cấu trúc trong trường hợp

với các ma trận  trên đường chéo, còn các ma trận ngoài đường chéo đều bằng 0.

1.3.3 Tính chất của ma trận hệ số hồi quy

Bây giờ ta sẽ xem xét kỳ vọng và phương sai của ước lượng trong phương trình(1.5) Nhưng trước tiên, ta cần xem xét một số các tính chất của kỳ vọng và phươngsai Các kỳ vọng sẽ là đơn giản, vì

Ta thấy q hàng của A kiểm định giả thuyết liên quan đến k biến độc lập Do vậy,

A là một ma trận cấp q x k với q ≤ k Đồng thời r cột của M kiểm tra giả thuyết về p

biến phụ thuộc, nên M là ma trận cấp p x r với r ≤ p.

1.3.4 Tổng các bình phương và tích chéo ứng với giả thuyết và ứng với sai số

Trong mô hình tuyến tính đơn biến, tổng bình phương ứng với giả thuyết là mộtđại lượng vô hướng tương ứng với biến phụ thuộc duy nhất Phương trình sau đây

đưa đến tổng bình phương và tích chéo của ma trận ứng với giả thuyết được thể hiện trong phương trình (1.6).

Kết quả là ma trận cấp r x r với r là số cột của M và C, hay nói cách khác là số

lượng các biến phụ thuộc được biến đổi trong giả thuyết trong phương trình (1.6)

Tổng bình phương và tích chéo ứng với sai số cũng là một ma trận cấp r x r,

E  M ' Y 'Y  Y ' X ( X ' X )1 X 'Y ˘˚ M

Trong trường hợp đơn biến, chúng ta gọi F là tỷ lệ giữa tổng bình phương ứng với

giả thuyết và tổng bình phương ứng với sai số Đó chính là tỷ số giữa độ biến động

ứng với giả thuyết và độ biến động do yếu tố ngẫu nhiên gây ra F được tính như

1.3.5 Thống kê kiểm định giả thuyết tuyến tính tổng quát đa biến

E1H   I  x  0

Nói chung, s = Min (q, r), có nghĩa là số lượng các giá trị riêng được xác định

H  E 1 là

H  H  E 1   I ˘ x  0

với

Trong đó, i tương tự như tỷ lệ F, là giá trị riêng của E 1H Trong khi i là tương

tự như bình phương tương quan đa biến, là giá trị riêng của

trong đó, như ở phần trước, q là số hàng hoặc hạng của A, r là số cột hoặc hạng của

M, nhưng có thêm một số tham số khác Cụ thể là có giá trị

Tr E H   i

u  rq 4 2 ,

với n là kích thước mẫu, k là số cột của X Bậc tự do của F’ là r • q và ct – 2u Xấp

xỉ là chính xác nếu s = Min (r, q) ≤ 2, tức là hạng của

trận cấp q x p của tham số chưa biết được gọi là hệ số hồi quy, X có hạng a  q ;

,

Y : Nn x p  XB, In   , với  là một ma trận xác

định dương cấp p x p đã biết,  > 0 Do đó ước lượng hợp lý cực đại của XB và  là

±XB  X B˜  X ( X T X )  X T Y  XX Y

và

n

1

n x p

X B˜

n ˜ : W (n   ,

) Cuối cùng, chúng ta ký hiệu

ˆXB  X B˜ và

tương ứng cho ước lượng không chệch của

XB và 

p

là ma trận ngẫu nhiên có hạng đầy đủ phân phối chuẩn, hơn nữa