Xấp xỉ ngẫu nhiên và một số ứng dụng

1.2 Xấp xỉ ngẫu nhiên cho trường hợp một chiều1.2.1 Thuật toán Robbins - Monro Trong mục này chúng ta sẽ giải quyết bài toán tìm nghiệm của một phương trìnhhàm hồi quy cho trường hợp một

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

LUẬN VĂN THẠC SĨ KHOA HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC:

TS NGUYỄN HỮU TIẾN

Hà Nội – Năm 2011

Lời nói đầu 1

Chương 1 Xấp xỉ ngẫu nhiên cho trường hợp một chiều 6

1.1 Khái niệm mở đầu 6

1.2 Xấp xỉ ngẫu nhiên cho trường hợp một chiều 7

1.2.1 Thuật toán Robbins-Monro 7

1.2.2 Thuật toán Kiefer-Wolfowitz 14

1.2.3 Thuật toán Dvozetky 15

Chương 2 Xấp xỉ ngẫu nhiên cho trường hợp nhiều chiều 21 2.1 Thuật toán Robbins-Monro trong không gian n-chiều 21

2.1.1 Nội dung thuật toán 21

2.1.2 Đánh giá cận trên của sai số trung bình bình phương 22

2.2 Thuật toán Dvozetky trong không gian n-chiều 28

Chương 3 Một số ứng dụng của xấp xỉ ngẫu nhiên 30 3.1 Ứng dụng của xấp xỉ ngẫu nhiên trong ước lượng có định hướng quyết định 30

3.2 Ứng dụng của xấp xỉ ngẫu nhiên vào ước lượng tham số 34

3.3 Ứng dụng của xấp xỉ ngẫu nhiên vào ước lượng hàm phân biệt 37

3.4 Ứng dụng của xấp xỉ ngẫu nhiên trong các hàm thế 41

3.5.1 Xấp xỉ tuyến tính 433.5.2 Ước lượng và xấp xỉ cho hàm mật độ trộn chuẩn 45

Xấp xỉ ngẫu nhiên cho trường hợp một chiều

Giả sử µ(x) là một hàm số có nghiệm duy nhất là x = θ nhưng dạng giải tíchcủa hàm số này chưa biết Tuy nhiên với mỗi giá trị x, giả sử tồn tại một biếnngẫu nhiên ξ (x) có hàm mật độ xác suất f (ξ |x) sao cho:

Hàm µ(x) như thế được gọi là hàm hồi quy.

Việc tìm nghiệm hoặc tìm giá trị lớn nhất, nhỏ nhất của hàm hồi quy khi dạng

giải tích của hàm này chưa biết sẽ là đối tượng nghiên cứu của phương pháp xấp

xỉ ngẫu nhiên

Trong luận văn ta sẽ sử dụng kí hiệu x; x1; x2; cho các tham biến, ω;t cho cácyếu tố ngẫu nhiên đã được quan sát và ξ cho ước lượng không chệch của µ(x)hay Eξ = µ(x) Để đơn giản ta quy ước sẽ sử dụng ξ thay cho ξ (x, ω) và ξnthay cho ξ (xn, ω)

1.2 Xấp xỉ ngẫu nhiên cho trường hợp một chiều

1.2.1 Thuật toán Robbins - Monro

Trong mục này chúng ta sẽ giải quyết bài toán tìm nghiệm của một phương trìnhhàm hồi quy cho trường hợp một chiều Không mất tính tổng quát ta có thể giảthiết là chỉ cần tìm thuật toán xác định nghiệm của phương trình sau:

Thật vậy, nếu phải tìm nghiệm của phương trình dạng

b

trong đó α là một hằng số thực cho trước

Khi đó, ta đặt µ(x) :=bµ (x) − α thì lời giải cho bài toán (1.3) sẽ có thể xác định

từ thuật toán giải bài toán (1.2)

Bây giờ ta xét việc giải phương trình hồi quy (1.2) và có nhận xét là nếu hàm hồiquy µ(x) đã cho trước thì nghiệm của phương trình (1.2) sẽ được xác định bởicác thuật toán đã xét ở giải tích số chẳng hạn bởi phương pháp lặp Newton Vấn

đề đặt ra ở đây là hàm hồi quy µ(x) chưa biết nên để tìm nghiệm của phươngtrình hồi quy (1.2), ta cần giả thiết thêm là ứng với mỗi giá trị xác định x = xn

ta thu được một quan sát không chệch cho µ(xn) là ξn với ∀n ∈ N Khi đó, thuậttoán tìm nghiệm xấp xỉ cho phương trình hồi quy (1.2) được Robbins - Monro

Định lý 1.2.1 Giả sử các điều kiện sau thỏa mãn:

• x1 là một biến ngẫu nhiên tùy ý sao cho E[x21] < ∞ và dãy biến ngẫu nhiên

x1; x2; ; xn; là các biến ngẫu nhiên độc lập cùng phân phối được xác định từ thuật toán Robbins - Monro (1.4) trong đó ξn là quan sát không chệch về hàm hồi quy µ(x) tại x = xn hay E(ξn) = µ(xn).

• {an} là một dãy số hiệu chỉnh được chọn trước sao cho

• Tồn tại các hằng số dương 0 < M1 ≤ M2 < ∞ sao cho hàm hồi quy µ(x) thỏa mãn

Khi đó thuật toán Robbins - Monro (1.4) sẽ hội tụ theo trung bình bình phương

về nghiệm θ của phương trình hồi quy (1.2) hay lim

n→∞E|xn− θ |2= 0Trước khi chứng minh định lý, ta có một số các nhận xét sau đây về các giảthiết hội tụ của định lý:

Nhận xét 1 Ta cần chú ý như sau:

• Giả thiết (1.6) cho ta biết hàm µ(x) phải nằm giữa hai đường thẳng có hệ sốgóc dương là M1 và M2 tương ứng Hai đường thẳng này cắt nhau tại x = θ

và điều này đảm bảo cho sự tồn tại nghiệm θ của phương trình (1.2)

• Giả thiết (1.7) có nghĩa là quan sát không chệch của hàm hồi quy có phươngsai hữu hạn

• Giả thiết (1.5) về dãy hiệu chỉnh {an} được hiểu như sau: do tính ngẫu nhiêncủa các quan sát ξn nên hệ số hiệu chỉnh an phải tiến đến 0 khi n tiến ra vôcùng nếu không thì thuật toán sẽ giao động quanh θ và không bao giờ hội

tụ về giá trị θ này Mặt khác sự hội tụ về 0 của an cần duy trì ở mức khôngquá nhanh nhằm loại trừ khả năng giá trị xấp xỉ xn quẩn quanh nghiệm θchứ không tiến dần về nghiệm này Thật vậy, do thuật toán (1.4) sử dụngước lượng không chệch của hàm hồi quy là ξn thay cho giá trị đúng của nó

là µ(xn) nên thuật toán (1.4) cần đảm bảo rằng quan sát ξn được sử dụngnhiều lần để ảnh hưởng của nó loại trừ khả năng trên và điều này sẽ đượcbảo đảm nếu dãy hiệu chỉnh {an} hội tụ về 0 không quá nhanh Giả thiết(1.5) chính là nhằm bảo đảm cho hai điều kiện trên thỏa mãn

• Việc định nghĩa hàm hồi quy như (1.1) đã nói lên rằng các hàm mật độ

f(ξn|xn) có cấu trúc hàm giống nhau cho tất cả các n vì vậy, giả thiết vềtính độc lập cùng phân phối của các x1; x2; ; xn; sẽ bảo đảm cho điềukiện nêu trên thỏa mãn

• Cuối cùng, ta lưu ý rằng giả thiết độc lập cùng phân phối nêu trên có thểđược giảm nhẹ nếu ta thay giả thiết này bởi giả thiết về sự phụ thuộc yếucủa các quan sát ξn vào x1; ; xn hay có thể giả thiết ξn có phân phối xác

suất có điều kiện chỉ phụ thuộc vào kết quả xấp xỉ thứ n là xn chứ khôngphụ thuộc trực tiếp vào kết quả xấp xỉ x1; ; xn−1 trước đó Tuy nhiên, đểcác chứng minh được dễ hiểu hơn, chúng ta vẫn dùng các giả thiết về sự độclập cùng phân phối của các biến ngẫu nhiên x1; ; xn;

Bây giờ ta bắt đầu chứng minh định lý 1.2.1

Vn+1≤ (1 − 2M1an+ M22a2n)Vn+ a2nα2 (1.10)Theo nhận xét trên thì an −→ 0 khi n −→ ∞ nên với ε bất kỳ, 0 ≤ ε < 2 sẽ tồntại một số m = m(ε) sao cho với mọi n ≥ m ta có:

1 − 2M1an+ M22a2n
≤ 1 − (2 − ε)M1an

0 <1 − (2 − ε)M1an ≤ 1 (1.11)

m 1 − (2 − ε)M1am+1
+ a2

m+1



Do 0 ≤ βin ≤ 1; ∀n; i và ∑∞

i=1a2i hội tụ tuyệt đối nên ta có thể chuyển qua giớihạn vào tổng Kết hợp với (1.14) ta thu được:

limn→∞α

= 0

(1.15)

Từ (1.13); (1.14); (1.15) ta có

limn→∞Vn+1 = lim

n→∞Exn+1− θ2

= 0Vậy thuật toán (1.4) hội tụ theo nghĩa trung bình bình phương Định lý 1.2.1được chứng minh xong

Chú ý: Với các bài toán có hàm hồi quy không thỏa mãn điều kiện (1.6) vớimọi giá trị của x nhưng ta lại biết giá trị chân thực θ nằm trong một khoảng[u1; u2] nào đó và (1.5) thỏa mãn với mọi x ∈ [u1; u2] thì ta sẽ sử dụng thuật toánRobbins - Monro chặt cụt có dạng sau:

xn+1 = truncu1;u2[xn− anξn]trong đó

Định lý 1.2.2 Giả sử tồn tại các số dương M1; M2; α2 và V1 sao cho các điều kiện (1.6); (1.7) trong định lý 1.2.1 và điều kiện sau thỏa mãn:

Eξn− µ(xn)|x1, , xn = 0 (1.16)

Thật vậy: Với n = 1 thì V1 ≤ V1 (1.19) luôn đúng
.

Giả sử (1.19) đúng với n, ta sẽ chứng minh đúng với n + 1

Từ (1.20) và giả thiết quy nạp, ta có:

2V1

α2+ nM12V1

⇒ (1.19) đúng với n + 1

Vậy định lý được chứng minh xong

Nhận xét 2 Công thức (1.19) cho thấy tốc độ hội tụ của thuật toán Robbins

-Monro xét theo tiêu chuẩn sai số trung bình bình phương phụ thuộc vào cáchchọn dãy hiệu chỉnh{an} Dãy {an} chọn trong định lý 1.2.2 là cách chọn gần tối

ưu với những n nhỏ Tuy nhiên, ta lại quan tâm đến sự hội tụ của thuật toán khi nrất lớn Do đó ta có cách chọn dãy {an} như sau: Đặt M = M(θ ) = d

1.2.2 Thuật toán Kiefer - Wolfowitz

Bây giờ ta sẽ nghiên cứu việc tìm lời giải cho bài toán: Tìm giá trị của θ saocho tại x = θ hàm hồi quy µ(x) đạt cực đại hoặc cực tiểu Không mất tính tổngquát, chúng ta sẽ chỉ đi tìm điểm cực tiểu θ của µ(x), khi đó từ các kết quả củagiải tích ta suy ra θ phải là nghiệm của phương trình µ0(x) = 0

Ta có thể giải bài toán trên bằng cách sử dụng thuật toán Robbins - Monro đểtìm nghiệm của phương trình µ0(x) = 0 Thật vậy, thuật toán để tìm điểm x = θ

mà tại đó µ0(x) = 0 khi giả thiết hàm µ0(x) chưa biết nhưng giả thiết tồn tại ∂ ξ

∂ xtại mỗi x = xn theo Robbins - Monro có dạng sau:

xn+1= xn− an ∂

∂ xξn|x=xnTuy nhiên, thuật toán Robbins - Moro không thể áp dụng được trong việc giảibài toán tìm cực tiểu này Sở dĩ như vậy vì:

• Hàm µ(x) chưa chắc đã khả vi Hơn nữa biến ngẫu nhiên (∂ ξ /∂ x) có thểkhông thỏa mãn điều kiện sau:

đề xuất thuật toán tìm giá trị xấp xỉ của x = θ mà tại đó hàm hồi quy µ(x) cóđạo hàm µ0(x) = 0 như sau: Nếu ở bước lặp thứ n ta có giá trị xấp xỉ là x = xn

và giả sử có được hai quan sát không chệch về hàm hồi quy µ(x) tại x = xn− bn

và x = xn+ bn thì giá trị xấp xỉ của x = θ tại bước lặp thứ n + 1 là x = xn+1 sẽđược xác định bởi thuật toán sau:

xn+1 = xn−an

bn



ξ (xn+ bn) − ξ (xn− bn) (1.21)

trong đó {an} và {bn} là các dãy các số dương và rõ ràng số hạng

ξ (xn+ bn) − ξ (xn− bn)

2bn có thể coi như là một ước lượng của ξn0tại x = xn Thuậttoán (1.21) được gọi là thuật toán Kiefer - Wolfowitz và sự hội tụ của dãy cácxấp xỉ x = xn về x = θ đã được Kiefer - Wolfowitz chứng minh trong định lýsau:

Định lý 1.2.3 Giả sử các dãy số thực dương là {an} và {bn} thỏa mãn các điều kiện sau:

(1.22)

và các quan sát không chệch ξ (x) của hàm hồi quy µ(x) có:

đồng thời hàm hồi quy µ(x) thỏa mãn ba điều kiện sau:

1 µ(x) và đạo hàm cấp hai của nó bị chặn.

2 x = θ là điểm cực tiểu địa phương của hàm hồi quy µ(x), tức là với

1.2.3 Thuật toán Dvoretzky

Thuật toán Dvoretzky được coi như thuật toán tổng quát của các thuật toán xấp

xỉ ngẫu nhiên Bây giờ chúng ta sẽ nghiên cứu thuật toán này

Cho µ(x) là một hàm hồi quy có nghiệm tại x = θ Để tìm nghiệm x = θ của

phương trình (1.2), ta giả sử có một dãy các quan sát là các biến ngẫu nhiên

ξ1, ξ2, , ξn, khi đó thuật toán Dvoretzky sẽ được xác định như sau:

xn+1= Tn(x1, , xn) + ηn (1.24)trong đó Tn là một phép biến đổi từ không gian n - chiều vào không gian mộtchiều, còn ηn là thành phần ngẫu nhiên thỏa mãn E[ηn|x1, , xn] = 0 Sau đây

là các điều kiện để thuật toán Dvoretzky hội tụ

Định lý 1.2.4 Giả sử phép biến đổi Tn trong thuật toán Dvoretzky (1.24) thỏa mãn điều kiện sau:

Chứng minh. Từ (1.24) ta có:

[xn+1− θ ]2 = (Tn− θ )2+ 2ηn(Tn− θ ) + ηn2

→ E[xn+1− θ ]2= E(Tn− θ )2+ 2Eηn(Tn− θ ) + E[η2

n]Có

Do đó Eηn(Tn− θ ) = 0.

Áp dụng giả thiết (1.26) suy ra:

E[xn− θ ]2 = E(Tn− θ )2+ E[ηn2]

j=iα2j < ∞

Do đó: lim

n→∞∑

n j=iα2jβjn = ∑∞

j=iα2j lim

n→∞βjn = 0Khi đó, vế phải của (1.29) có giới hạn tiến tới 0 khi n −→ ∞

Suy ra Vn+1−→ 0(n −→ ∞) hay lim

n→∞E[xn+1− θ ]2 = 0Vậy định lý được chứng minh

Định lý 1.2.5 : Giả sử các điều kiện ở định lý 1.2.4 thỏa mãn Khi đó thuật toán

Dvoretzky (1.24) sẽ hội tụ về θ với xác suất 1.

Chứng minh. Theo chứng minh định lý 1.2.4 ta có:

xn+1= xn− anµ (xn) − anξn= Tn+ ηn

Do đó để chứng minh tính hội tụ của thuật toán Robbins - Monro ta cầnkiểm tra với các điều kiện của định lý (1.2.1) thì các điều kiện của định lý1.2.4 thỏa mãn

Thật vậy, vì x1, x2, độc lập cùng phân phối nên ξn chỉ phụ thuộc vào xn

Như vậy điều kiện (1.28) được thỏa mãn

Từ các giả thiết: Var[ξ (x) ≤ α2< ∞ và ∑∞

n=1a2n< ∞ của định lý 1.2.1 ta có:

∞

∑

n=1E[ηn2] =

Lại có:

|Tn(x1, , xn) − θ | = |xn− θ − anµ (xn)|

≤ |1 − M1an||xn− θ |; ∀n ≥ k

= Fn|xn− θ |

⇒ Điều kiện (1.25) thỏa mãn

Vậy tất cả các điều kiện của định lý 1.2.4 được thỏa mãn Theo định lý 1.2.4thì thuật toán Robbins - Monro hội tụ theo nghĩa trung bình bình phương

2 Thuật toán Kiefer - Wolfowitz cũng là trường hợp đặc biệt của thuật toánDvoretzky Thật vậy, đặt

là xn+1= Tn(x1; ; xn) + ηn Vì vậy, thuật toán (1.21) là dạng đặc biệt củathuật toán Dvoretzky Do đó, tương tự như trên, ta cũng chứng minh được từcác điều kiện của định lý 1.2.3 sẽ suy ra các điều kiện của định lý 1.2.4, từ

đó sẽ suy ra tính hội tụ của thuật toán Kiefer - Wolfowitz hay định lý 1.2.3được chứng minh

Xấp xỉ ngẫu nhiên cho trường hợp nhiều chiều

Trong chương này, chúng ta sẽ khảo sát các mở rộng của các thuật toán xấp

xỉ ngẫu nhiên đã đề cập trong chương 1 vào trong không gian n - chiều

n - chiều

2.1.1 Nội dung thuật toán

Hàm hồi quy trong không gian n - chiều ký hiệu là µ(x) và có dạng µ(x) =

E[ξ (x)] Để tìm nghiệm của phương trình µ(x) = 0, ta sử dụng thuật toán bins - Monro có dạng sau:

trong đó ξn= ξ (xn) Khi đó ta thu được kết quả sau:

Định lý 2.1.1 Giả sử dãy số hiệu chỉnh {an} thỏa mãn

đồng thời tồn tại các hằng số M1; M2; 0 < M1 ≤ M2< ∞ sao cho

2.1.2 Đánh giá cận trên của sai số trung bình bình phương

Hoàn toàn tương tự, chúng ta có thể đánh giá được cận trên cho sai số trung bìnhbình phương của thuật toán Robbins - Monro xác định cho trường hợp n - chiềubởi công thức truy hồi (2.1) Định lý sau sẽ là một kết quả tổng quát của định lý1.2.2 đã được trình bày ở chương 1

Định lý 2.1.2 Giả sử các điều kiện sau được thỏa mãn:

(i) Tồn tại các hằng số dương M1; M2;0 < M1 ≤ M2< ∞ sao cho hàm hồi quy

Chúng ta thu được một mở rộng tổng quát hơn của thuật toán Robbins Monro cho trường hợp nhiều chiều khi thuật toán truy hồi (2.1) được xét với dãyhiệu chỉnh có dạng ma trận Trong trường hợp này, thuật toán truy hồi (2.1) sẽ

n→∞nTr Vn
= Tr MTR−1M
−1

với Tr(A) ký hiệu là vết của ma trận A vuông cấp n.

Vì vậy với cách chọn dãy ma trận hệ số hiệu chỉnh Anxác định như trên thì thuậttoán (2.9) sẽ là tối ưu theo nghĩa nó sẽ có tốc độ hội tụ tối ưu

Sau đây chúng ta sẽ xét một trường hợp đặc biệt khi hàm hồi quy được giả thiết

Vn= E[(xn− θ )(xn− θ )T] (2.13)

trong đó V1 = E[(x1− θ )(x1− θ )T] đã cho trước.

Khi đó nếu chọn dãy ma trận hiệu chỉnh An trong thuật toán (2.9) như sau:

Vậy (2.15) đúng với mọi n Từ (2.15) ta suy ra

limn→∞Vn= 0hay thuật toán (2.9) hội tụ theo nghĩa trung bình bình phương

Nhận xét 3 Định lý trên cho ta thấy:

• Nếu giá trị chân thực θ được biết sẽ nằm trong miền hình chữ nhật bị chặn

nào đó của không gian tham số và (2.11); (2.12) chỉ đúng cho những x nằm

trong miền đó thì ta phải sử dụng phương pháp Robbins - Monro chặt cụttương tự như trong trường hợp một chiều

• Dãy ma trận hiệu chỉnh An xác định trong (2.14) thực chất là dạng ma trậnlàm cực tiểu sai số trung bình bình phương ở mỗi bước lặp Thật vậy, đểđơn giản ta giả sử tồn tại ma trận M−1và lưu ý là từ (2.16) có thể suy ra là:

Bây giờ ta sẽ đưa ra hai ví dụ về thuật toán Robbins - Monro nhiều chiều,một ví dụ về ma trận M = M(θ ) đã biết, còn một ví dụ về ma trân M(θ ) chưabiết.

Ví dụ 2.1.4 Gọi θ là giá trị trung bình chân thực, ξ (x) = x − t Ta cần ước lượng

An = Vn(Vn+ R)−1

Vn = R(Vn−1+ R)−1Vn−1

do đó thuật toán trở thành

xn+1 = R(Vn+ R)−1xn+Vn(Vn+ R)−1tn

Trước khi xét ví dụ thứ hai, ta đưa ra khái niệm dãy hàm cơ sở.

Định nghĩa 2.1.5 Dãy các hàm ϕ1(t), , ϕK(t) được gọi là hàm cơ sở nếu cáchàm này độc lập, tuyến tính và có tính chất:

Ví dụ 2.1.6 Giả sử t là véc tơ ngẫu nhiên có hàm mật độ f (t) chưa biết, hàm

vô hướng đã biết h(t) là một phép biến đổi phi tuyến của t Ta cần tìm một xấp

xỉ tuyến tính cho hàm số h(t) cho trên tập các hàm cơ sở độc lập tuyến tính

ϕ1(t), , ϕK(t).

Rõ ràng một xấp xỉ tuyến tính như vậy có dạng xTφ (t) trong đó φ (t)T =[ϕ1(t), , ϕK(t)] và xT = (x1; ; xK) Trong số các xấp xỉ tuyến tính có dạngtrên ta sử dụng tiêu chuẩn cực tiểu hóa sai số trung bình bình phương để tìm véc

tơ x = θ định nghĩa xấp xỉ tốt nhất ở dạng θTφ (t) Như vậy hàm mục tiêu của

bài toán sẽ được xác định ở dạng:

Eh(t) − xT

φ (t)2=

Z

f(t)[h(t) −xTφ (t)]2dt (2.20)

Do đó bài toán tìm một xấp xỉ tuyến tính cho hàm phi tuyến h(t) sẽ trở thành

tìm véc tơ K - chiều θ sao cho (2.20) đạt cực tiểu Nghiệm x = θ của bài toán

thực chất là nghiệm của hệ phương trình

Ta lưu ý là trong trường hợp hàm mật độ phân phối xác suất của véc tơ ngẫu

nhiên t là f (t) đã biết thì nghiệm x = θ sẽ được cho ở dạng sau:

θ = {E[φ (t)φT(t)]}−1E[φ (t)h(t)] (2.21)Tuy nhiên, do hàm mật độ f (t) là chưa biết nên không thể xác định trực tiếp

được nghiệm x = θ từ (2.21) và ta cần tìm một nghiệm xấp xỉ b θ = xn cho θthông qua việc sử dụng phương pháp xấp xỉ ngẫu nhiên Robbins - Monro theocách sau:

Do nghiệm x = θ xác định ở (2.21) chính là nghiệm của phương trình:

µ (x) := −E[φ (t)h(t) − φ (t)φT(t)x] = 0 (2.22)

nên µ(x) có thể coi là một hàm hồi quy chưa biết nhưng với mỗi quan sát về

véc tơ ngẫu nhiên t là tn ta có tương ứng một ước lượng không chệch cho µ(xn)

là φ (tn)h(tn) − φT(tn)xn Chính vì vậy để tìm xấp xỉ cho nghiệm x = θ của phương trình µ(x) = 0 xác định trên chúng ta có thể sử dụng phương pháp xấp

xỉ ngẫu nhiên Robbins - Monro với thuật toán truy hồi sau:

xn+1=xn+ anφ (tn)[h(tn) − φT(tn)xn] (2.23)

Do hàm hồi quy (2.22) là tuyến tính nên từ các kết quả về xấp xỉ ngẫu nhiên

n- chiều đã thu được ở các mục trên ta suy ra bθ = xnxác định từ công thức truy