Dựa trên lý thuyết này, chúng ta có thể thực hiện việc lấy mẫu tín hiệu với tốc độ lấy mẫu thấp hơn tốc độ lấy mẫu Nyquist mà vẫn đảm bảo việc khôi phục lại tín hiệu ban đầu.. 3.1.2 Các
Trang 1KHOA ĐIỆN - ĐIỆN TỬ
BỘ MÔN ĐIỆN TỬ VIỄN THÔNG
BÁO CÁO TIỂU LUẬN MÔN HỌC: XỬ LÝ SỐ TÍN HIỆU
TÌM HIỂU CÁC PHƯƠNG PHÁP LẤY MẪU NÉN
CHO XỬ LÝ ẢNH
GHVD: PGS TS Lê Tiến Thường HVTH:
Nhóm: 32 Draft: 04
TP Hồ Chí Minh, tháng 10 năm 2012
Trang 2M c L c ụ ụ
1 Tóm tắt: 3
2 Giới thiệu: 4
3 Giới thiệu các phương pháp nén cổ điển và hiện đại: 4
3.1 Các phương pháp nén cổ điển và nhược điểm của chúng: 4
3.1.1 Tín hiệu thưa và có thể nén: 4
3.1.2 Các phương pháp nén cổ điển và nhược điểm: 5
3.2 Phương pháp lấy mẫu nén: 5
3.3 Các vấn đề chính trong lấy mẫu nén: 6
4 Kỹ thuật lấy mẫu nén: 6
4.1 Phương pháp lấy mẫu: 6
4.2 Điều kiện để khôi phục được tín hiệu: 8
5 Khôi phục tín hiệu lấy mẫu nén: 9
5.1 Thuật toán khôi phục L 1 minimization: 9
5.2 Thuật toán khôi phục OMP (orthogonal matching pursuit): 10
6 Ứng dụng của lý thuyết lấy mẫu nén: 11
6.1 Trong nén dữ liệu: 11
6.2 Trong truyền thông: 13
7 Kết luận: 15
8 Danh sách hình vẽ, bảng biểu: 16
9 Tài liệu tham khảo: 17
Trang 31 Tóm tắt:
Bài viết này trình bày phương pháp mới để thu các tín hiệu có tốc độ nhỏ hơn tốc độ Nyquist, được gọi là phương pháp lấy mẫu nén (compressed sampling hay compressed sensing) Phương pháp này sử dụng các ánh xạ tuyến tính không thích nghi lưu trữ cấu trúc dữ liệu, tín hiệu sau đó được tái tạo lại bằng việc sử dụng các lý thuyết tối ưu như L1-minimization hoặc OMP
Đồng thời, bài viết trình bày ứng dụng của phương pháp này trong nén dữ liệu với Camera 1 điểm ảnh
Trang 42 Giới thiệu:
Ngày nay, khoa học kỹ thuật ngày càng phát triển mạnh mẽ Các phát minh, nghiên cứu mới không ngừng phát triển giúp cho cuộc sống con người trở nên tiến bộ hơn Trong đó, các lý thuyết cũ được thay thế bằng các lý thuyết mới hơn, tiến bộ hơn
Lấy mẫu nén (Compress sampling hay Compress sensing),được công bố vào năm 2006, là một trong những bước ngoặc quan trọng trong lĩnh vực xử lý tín hiệu hiện nay Dựa trên lý thuyết này, chúng ta có thể thực hiện việc lấy mẫu tín hiệu với tốc độ lấy mẫu thấp hơn tốc độ lấy mẫu Nyquist mà vẫn đảm bảo việc khôi phục lại tín hiệu ban đầu
Ở đây, bài viết tập trung nghiên cứu lý thuyết lấy mẫu nén này theo hai mảng lớn:
- Nghiên cứu lý thuyết lấy mẫu nén và những thành tựu đạt được cho đến hiện tại
- Ứng dụng của lý thuyết này trong xử lý ảnh
3 Giới thiệu các phương pháp nén cổ điển và hiện
đại:
3.1 Các phương pháp nén cổ điển và nhược điểm của chúng:
3.1.1 Tín hiệu thưa và có thể nén:
Cho một tín hiệu rời rạc x chiều dài hữu hạn, x có thể biểu diễn như một vector cột N x 1 trong RN với các thành phần x[n], n = 1,2,…N Bất kỳ tín hiệu trong RN nào đều có thể biểu diễn thông qua một hệ các vector cơ sở trực chuẩn
N x 1 : {φi} Sử dụng ma trận cơ sở N x N : Ψ = [φ1 φ2… φN] với các vector {φi} là các vector cột, thì tín hiệu x có thể biểu diễn như sau:
x = = Ψ.s
Trang 5Ở đây s là vector cột N x 1 của các trọng số si =< x, φi >= và T là ký hiệu ma trận chuyển vị Nói cách khác x và s là sự biểu diễn của cùng một tín hiệu, x trong miền thời gian (hoặc không gian) và s trong miền φ
Tín hiệu x chiều dài N được gọi là thưa K (K-sparse) nếu x là sự kết hợp tuyến tính của duy nhất vector cơ sở, do đó chỉ có duy nhất K trọng số silà khác không và (N-K) trọng số bằng không Trong trường hợp K ≪ N thì tín hiệu x gọi là thưa và có thể nén tức là nó có thể được biểu diễn chỉ với K trọng số lớn
và nhiều trọng số nhỏ
3.1.2 Các phương pháp nén cổ điển và nhược điểm:
Các kỹ thuật nén cổ điển (DCT rời rạc hay wavelet) sử dụng một phép biến đổi thuận nghịch (Transform coding) để xấp xỉ tín hiệu có thể nén bằng K trọng số lớn Cho một tín hiệu x dài N mẫu và là tín hiệu thưa K, sử dụng phép biến đổi thông qua :
s = ΨTx
ΨT đại diện cho một phép biến đổi nào đó(DCT rời rạc hay wavelet) chúng ta sẽ thu được một tập hợp các trọng số si, trong đó K trọng số lớn nhất sẽ được lấy mẫu và mã hóa, còn (N-K) trọng số nhỏ sẽ được loại bỏ
Tuy nhiên cách làm này xuất hiện một số nhược điểm sau:
- Số lượng N mẫu thu là lớn trong khi K lại là nhỏ K ≪ N
- Tất cả N mẫu đều phải được tính toán trong khi chúng ta chỉ giữ lại K giá trị còn lại (N-K) giá trị bị loại bỏ
- Việc mã hóa K giá trị sau khi giữa lại (với mục đích lưu trữ và truyền đi) chúng ta lại phải thêm các bit tiêu đề, các bít sửa lỗi…
Tất cả các nhược điểm đó làm chậm tốc độ xử lý dữ liệu Và điều này càng thể hiện rõ hơn trong trường hợp tín hiệu x với băng tần cao đòi hỏi tốc độ lấy mẫu phải rất lớn mới đảm bảo khôi phục lại dữ liệu (theo tiêu chuẩn Nyquist)
3.2 Phương pháp lấy mẫu nén:
Phương pháp lấy mẫu nén cho phép thu trực tiếp tín hiệu dưới dạng nén
mà không thông qua việc việc thu N mẫu tín hiệu rồi mới sử dụng phương pháp nén như phương pháp thông thường
Trang 6Với tín hiệu x chiều dài N, phương pháp lấy mẫu nén sử dụng M quá trình đo tuyến tính (M≪N) được biểu diễn bởi phép nhân giữa x và một tập hợp các vector {φj} :
yj = < x,ϕj >
Tập hợp các phép đo yj được sắp xếp trong một vector Y chiều dài M x 1
và các vector được sắp xếp như một hàng trong ma trận Φ kích thước M x N
và ta có thể viết lại :
Y = ΦX = ΦΨs = Θs Quá trình đo ở đây là không thích nghi, tức là Φ cố định và không phụ thuộc vào tín hiệu x
3.3 Các vấn đề chính trong lấy mẫu nén:
- Ma trận đo Φ ổn định có thể thu và lưu trữ các thông tin về tín hiệu (tín
hiệu thưa hoặc tín hiệu có thể nén) trong M phép đo (M≪N) mà vẫn đảm bảo khôi phục lại tín hiệu
- Thuật toán khôi phục tín hiệu có thể tái tạo lại tín hiệu x từ M phép đo
y
4 Kỹ thuật lấy mẫu nén:
4.1 Phương pháp lấy mẫu:
Phương pháp lấy mẫu truyền thống thường được biểu diễn bởi sơ đồ sau:
Trang 7Hình 1: Phương pháp lấy mẫu truyền thống.
Tín hiệu đầu vào x là một tín hiệu chiều dài N và thưa K (tín hiệu có thể nén) có thể được biểu diễn qua một tập hợp các vector cơ sở
x =
Do x là thưa K nên x có thể biểu diễn xấp xỉ bằng K trọng số lớn nhất:
x ≈ Việc thực hiện nén trong khối Compress có thể thực hiện bằng một phương pháp nào đó như DCT rời rạc, Wavelet…Tín hiệu sau đó gồm K trọng số lớn nhất được mã hóa và truyền đi Ở nơi thu, từ K trọng số lớn nhất thu được người
ta tái tạo lại tín hiệu sử dụng các phép biến đổi DCT ngược hoặc Wavelet ngược (các phép biến đổi này là hoàn toàn thuận nghịch) Tuy nhiên phương pháp cổ điển có nhiều nhược điểm như đã trình bày, do đó phương pháp lấy mẫu nén được phát triển nhằm khắc phục các nhược điểm này
Hình 2: Phương pháp lấy mẫu nén
Phương pháp này sử dụng M phép đo tuyến tính không thích nghi:
Y = ΦX = ΦΨs = Θs
Trang 8Hình 3: Quá trình thu tín hiệu Y từ M phép đo tuyến tính không thích nghi.
Trong đó Φ là ma trận kích thước M x N Từ “Không thích nghi” có nghĩa là
ma trận Φ là cố định, không phục thuộc vào tín hiệu đầu vào x
4.2 Điều kiện để khôi phục được tín hiệu:
Vấn đề đặt ra là ta chọn ma trận đo Φ thế nào để cho phép tái tạo lại tín hiệu x từ M phép đo (M<N) hay ta có thể khôi phục được x từ vector y Do M<N nên bài toán sẽ không thể có duy nhất nghiệm Tuy nhiên nếu x là tín hiệu thưa K và vị trí của K hệ số khác 0 này được biết trước thì bài toán trở thành giải phương trình K ẩn với M phương trình (M≥K) và lúc này ta có duy nhất nghiệm
- Một điều kiện cần và đủ cho vấn đề này:
Cho vector ϑ bất kỳ có K hệ số khác 0, với ϵ > 0 thì Θ cần thỏa mãn điều kiện sau:
1 - ϵ ≤ ≤ 1 + ϵ , Điều kiện này gọi là điều kiện RIP (Restricted isometry property)
- Một điều kiện khác yêu cầu các hàng trong ma trận Φ không được xuất hiện thưa thớt trong các cột của ma trận Ψ Đây là điều kiện tách biệt (Incoherence)
Trong nghiên cứu của Emmanuel Candès, Justin Romberg, và Terence Tao đã chứng minh:
Trang 9Với việc sử dụng ma trận Φ là ma trận ngẫu nhiên, phân bố Gaussian, thì cả điều kiện RIP và điều kiện tách biệt (Incoherence) đều được thỏa mãn Và với việc sử dụng số các phép đo M ≥ cKlog(N/K) với c là một hằng số nhỏ thì hoàn toàn có thể tái tạo được tín hiệu x thưa K và có chiều dài N ban đầu
Hình 4: Sử dụng ma trận ngẫu nhiên trong việc thu tín hiệu
5 Khôi phục tín hiệu lấy mẫu nén:
Việc khôi phục tín hiệu trong lấy mẫu nén có thể thực hiện cụ thể bằng nhiều phương pháp, sử dụng các thuật toán khác nhau
5.1 Thuật toán khôi phục L1 minimization:
Về cơ bản phương pháp khôi phục này sẽ tìm nghiệm thỏa phương trình
Y = ΦX với độ thưa nhỏ nhất Phương pháp này sử dụng thuật toán đếm số phần
tử khác không của vectơ , được gọi là L0 norm bởi David Donoho Khi đó bài toán khôi phục X có thể được thể hiện qua hệ:
^x = x∈ R min N‖x‖l0
Y = Φ X Phương pháp này thật ra là kiểm tra từng nghiệm x có thể thỏa mãn hệ phương trình trên, và cho phép khôi phục chính xác dữ liệu Tuy nhiên tốc độ tính toán của phương pháp là chậm nên thường không được sử dụng trong thực tế Vì vậy
Trang 10với lấy mẫu nén người ta sử dụng chứng minh của Emmanuel Candès là trong nhiều trường hợp hàm L1norm sẽ cho kết quả tương đương L0 norm, và L1norm
dễ thực hiện hơn L0 norm, để đưa ra giải pháp khôi phục tín hiệu lấy mẫu nén L1
minimization, thể hiện qua hệ sau:
^x = min
x∈ R N∑
i=1
N
|x i|
Y = ΦX
5.2 Thuật toán khôi phục OMP (orthogonal matching pursuit):
Thuật toán đuổi khớp trực giao (OMP - orthogonal matching pursuit) sử dụng giải thuật đuổi khớp để tìm vectơ ước lượng ^X thỏa phương trình Y=ΦX
gần giống với vectơ tín hiệu cần khôi phục X nhất Thuật toán được thể hiện như sau:
- Đầu vào thuật toán: vectơ kết quả nén y, ma trận đo Φ và độ thưa K
- Bước 1: Khởi tạo vectơ r0 = y, t = 1
- Bước 2: Tính cho cột i của ma trận Φ:
i t = argmax i| ⟨r t−1 ,Φ i⟩ |
r t = y - P ty
P ty = ∑
k =1
N
^
θ i k Φ i k ( θ^i k là các trọng số ước lượng của ^X )
và lập lại với t=t+1 cho đến khi t=N Kết quả sẽ là tín hiệu khôi phục ước lượng ^X
Trang 116 Ứng dụng của lý thuyết lấy mẫu nén:
6.1 Trong nén dữ liệu:
Thành tựu điển hình của lấy mẫu nén là việc thu các bức ảnh số với tốc
độ lấy mẫu nhỏ trong một camera có duy nhất 1 sensor thu được gọi là CAMERA 1 ĐIỂM ẢNH (single pixel camera)
Sơ đồ khối của Camera được cho như trong hình bên:
Ở đây việc tạo ra một ma trận DMD bao gồm N mảnh gương rất nhỏ với
hệ số phản xạ trên
Hình 5: Camera 1 điểm ảnh
mỗi gương là ngẫu nhiên được điều khiển bởi bộ phát số ngẫu nhiên RNG (Random number generator) thay thế cho việc tạo ra ma trận Φ trong lý thuyết lấy mẫu nén mà Candès, Romberg và Tao đã đề cập
Toàn bộ bức ảnh đi qua một thấu kính thứ nhất và rơi vào ma trận gương DMD với hệ số phản xạ ngẫu nhiên, sau đó được hội tụ tại một điểm khi đi qua thấu kính thứ hai, tại điểm đó một photodiode được đặt thu nhận và lấy mẫu,
do đó chỉ cần một photodiode và thực hiện M phép đo cần thiết chúng ta có thể
khôi phục lại bức ảnh
Trang 12Hình 6: Thực hiện M phép đo.
Sơ đồ bài trí của Camera như trong hình:
Hình 7: Sơ đồ bài trí Camera
Và kết quả của nó:
Hình 8: So sánh kết quả giữa ảnh nguồn và ảnh gốc
Trang 136.2 Trong truyền thông:
Trong các ứng dụng truyền thông không dây ngày nay, việc tiết kiệm băng tần là một vấn đề rất quan trọng, đem lại hiệu quả về mặt kinh tế Các hệ thống cảm nhận thông minh hiện nay cho phép cảm nhận môi trường phổ tần
vô tuyến để phát hiện các khoảng phổ trống (Việc làm này dựa trên các mô hình ước lượng và nhận biết phổ), từ đó có thể nhanh chóng điều chỉnh các thông số truyền và nhận để có thể gởi tín hiệu vào trong các khoảng phổ trống đó Cách làm này cho phép các nhà cung cấp dịch vụ tận dụng tối đa băng thông cho phép, phục vụ hiệu quả người sử dụng mà vẫn đảm bảo tránh gây nhiễu cho những người sử dụng ưu tiên
Đối với truyền thông băng thông rộng, thách thức lớn nhất đối với các
mô hình ước lượng và nhận biết phổ là tần số lấy mẫu là quá lớn, nếu lấy mẫu không đủ sẽ không cung cấp đầy đõ thông tin về mặt thống kê cho các thuật toán khôi phục tín hiệu tuyến tính truyền thông
Tuy nhiên, do tính chất điển hình của các tín hiệu trong truyền thông không dây là thưa về mặt tần số Nguyên nhân của tính chất này là do trong thực tế các kênh radio được sở dụng chiếm dụng phổ rất ít Đây chính là tiền
đề để có thể áp dụng kÿ thuật lấy mẫu nén (Compressed Sensing) trong mô hình nhận biết vô tuyến để có thể giảm tốc độ lấy mẫu xuống trong khi vẫn đảm bảo tính chính xác trong việc ước lượng các khoảng phổ trống
Một nghiên cứu của các tác giả Z.Tian, G.B.Giannakis cho thấy kết quả tốt khi áp dụng phương pháp lấy mẫu nén cho việc nhận biết phổ vô tuyến Trong bài báo này, kỹ thuật lấy mẫu nén được sở dụng để khôi phục dải phổ từ
mô hình lấy mẫu ngẫu nhiên - với số mẫu ít hơn so với tiêu chuẩn Nyquist - từ đó xác định vị trí của các dải tần bằng phương pháp xác định biên dựa trên kÿ thuật wavelet (wavelet based edge detector) Chúng ta có thể tóm lược phương pháp sở dụng lấy mẫu nén mà các tác giả đã trình bày trong việc ứng dụng cho nhận biết phổ vô tuyến như sau:
Giả sử một mạng không dây băng rộng có dải tần tổng cộng là B Hz (từ
f0 đến fN ) Hàm mật độ phổ công suất (PSD) trên dải tần này được thể hiện
trong hình:
Trang 14c c
Hình 9: Mật độ phổ công suất trên dải tần tín hiệu
Dải phổ này được thể hiện bằng tín hiệu liên tục r(t) (đây cũng chính là
tín hiệu mà bộ cảm nhận phổ vô tuyến (CR) phải cảm nhận) Giả sở khoảng thời
gian cần thiết để CR cảm nhận là t ∈ [0, M T0] Trong đó T0 là chu kỳ lấy mẫu theo Nyquist ⇒ cần tối thiểu M mẫu để khôi phục r(t) tùc là chúng ta phải có một vectơ Γt kích thước M × 1 với các thành phần rt(n) = r(t)|t=nT0 Đặt biến đổi Fourier M điểm của Γt là Γf : Γf = FM Γt, trong đó FM là ma trận biểu diễn biến đổi Fourier rời rạc M điểm Nhiệm vụ của bài toán CR là xác định được Γf để từ đó xác định được các khoảng phổ trống, rồi điều chỉnh
thông số và gởi tín hiệu vào trong khoảng phổ đó
Gọi F là tập hợp các khoảng phổ làm cho r(t) khác 0 trong miền tần số (trong trường hợp không có nhiễu) Do r(t) là thưa trong miền tần số nên |F |
B hay một cách tương đương khi rời rạc hóa, vectơ Γt có trung bình khoảng Kb
= |F |M/B hệ số khác 0 và Kb << M Kÿ thuật lấy mẫu nén cho phép khôi phục chính xác vectơ Γt từ một vectơ Υt có kích thước K × 1(Kb ≤ K ≤ M ) :
Υt = S c T Γt, trong đó Sc là một ma trận đo có kích thước M × K (trường hợp
đơn giản có thể lấy Sc là một ma trận lấy ngẫu nhiên K cột từ ma trận đơn vị) Như vậy, chúng ta có thể biểu diễn: Υt = (S c T FM )rf , và chúng ta có thể ước
lượng rf dựa trên các phương pháp l1 minimization hoặc OMP:
Trang 157 Kết luận:
Lấy mẫu nén ( Compressed Sensing ), một lĩnh vực mới được phát triển trong 6 năm trở lại đây nhưng đã thể hiện được những ưu điểm vượt trội của nó Vượt qua tiêu chuẩn lấy mẫu Nyquist/Shanon nó cho phép lấy mẫu ở
tốc độ thấp hơn nhiều ( tùy từng loại tín hiệu ) Lấy mẫu nén thực sự là một giải
pháp hiệu quả trong thời đại ngày nay khi mà các tài nguyên như băng tần ( bandwidth ) ngày càng hạn hẹp do được sử dụng cho nhiều mục đích khác nhau trong dân sự, quốc phòng, an ninh Với tốc độ lấy mẫu thấp nó còn cho phép giảm giá thành chế tạo đối với các thiết bị như ADC/DAC, đơn giản hóa trong việc chế tạo các thiết bị thu tín hiệu
Tiểu luận đã trình bày tổng quan về phương pháp lấy mẫu nén và giới thiệu một số ứng dụng nó
Lý thuyết lấy mẫu nén đang được tiếp tục phát triển và hoàn thiện trong các kỹ thuật lấy mẫu mới Việc áp dụng lấy mẫu nén trong các ứng dụng thực
tế, nơi mà các tín hiệu thưa là nhiều ( do đó việc lấy mẫu với tốc độ Nyquist
là dư thừa và không cần thiết ), xử lý ảnh cũng đang được tiếp tục phát triển hứa hẹn những kết quả khả quan trong tương lai