Big data trong công nghệ đám mây

Các ứng dụng dữ liệu lớn yêu cầu kiến trúc trung tâm dữ liệu và nhiều giải pháp bao gồm các API của nền tảng đám mây để tích hợp với tìm kiếm nâng cao, các giải thuật máy học và các phân

Big data trong công

nghệ đám mây

Tốc độ, khối lượng, tính đa dạng và xác thực của dữ liệu

Dữ liệu lớn (Big Data) là một tính năng vốn có của công nghệ đám mây và cung cấp cơ hội chưa từng có khi sử dụng cả hai loại cơ sở dữ liệu truyền thống và mạng

xã hội, dữ liệu của mạng báo hiệu và xa hơn nữa là dữ liệu đa phương tiện Các ứng dụng dữ liệu lớn yêu cầu kiến trúc trung tâm dữ liệu và nhiều giải pháp bao gồm các API của nền tảng đám mây để tích hợp với tìm kiếm nâng cao, các giải thuật máy học và các phân tích nâng cao như thị giác máy tính, phân tích phim ảnh

và các công cụ phân tích trực quan Bài viết này nghiên cứu cách sử dụng ngôn ngữ R và các công cụ phổ biến để phân tích dữ liệu lớn và các phương pháp để mở rộng các dịch vụ dữ liệu lớn trong các đám mây Nó cung cấp một góc nhìn sâu sắc

về một dịch vụ dữ liệu lớn cơ bản là quản lý hình ảnh số, trong đó sử dụng các yếu

tố cơ bản như tìm kiếm, phân tích và máy học cho dữ liệu không có cấu trúc

Bài viết này tập trung vào những ứng dụng sử dụng dữ liệu lớn, đồng thời giải thích những khái niệm cơ bản đằng sau việc phân tích dữ liệu lớn và làm cách nào kết hợp với những ứng dụng phân tích thị trường và các kỹ thuật xử lý song song như thị giác máy tính (CV - Computer Vision) cũng như máy học, tất cả sẽ được đề cập đến trong mục 3 của loạt bài về "Cloud scaling (Mở rộng đám mây)"

Sự khác biệt giữa phân tích dữ liệu lớn với phân tích video là về sự đa dạng của dữ liệu xử lý, và khi so sánh các công cụ hỗ trợ tìm kiếm và phân tích, ta có thể thấy

rằng sử dụng các phương pháp khai phá dữ liệu hay MapReduce chẳng những có thể phức tạp hơn mà còn mất thời gian lâu hơn rất nhiều so với việc dùng Google BigQuery Ví dụ Google BigQuery sử dụng tìm kiếm theo chiều dọc để nén và đẩy nhanh quá trình tìm kiếm cho các bộ dữ liệu lớn và phi cấu trúc Thực tế, trong bài

"An Inside Look at Google BigQuery (Tìm hiểu sâu về Google BigQuery)" (xem phần Tài nguyên), Google giải thích, trong 10 giây BigQuery có thể tìm kiếm một đoạn chuỗi trong một bảng dữ liệu có khoảng 35 tỷ dòng và 20TB Các công cụ dùng chức năng MapReduce mất nhiều thời gian hơn để xử lý nhưng đem lại kết quả tốt hơn

Bất cứ ai có một tài khoản Google đều có thể sử dụng BigQuery Ý tưởng của nó nhanh hơn các phương pháp tìm kiếm dữ liệu lớn khác, điển hình là khi tôi tải hình ảnh và đưa ảnh lên trang Google Images Bạn sẽ thấy được tất cả các trang có hình ảnh của tôi (từ IBM, Đại học Colorado Boulder, v.v ), trong đó có thể có những sai sót nhỏ Tôi sử dụng ví dụ này chủ yếu là để đảm bảo hình ảnh tôi đã tải về là những hình ảnh phù hợp và cho phép tái sử dụng nhiều lần Cùng với các ví dụ khác tôi đã khám phá, qua đó thấy được ý nghĩa của dữ liệu lớn là chúng ta đang thực hiện việc "mò kim đáy bể" dễ dàng hơn trong mớ hỗn độn của dữ liệu phi cấu trúc

Định nghĩa dữ liệu lớn

Dữ liệu lớn (Big data) được định nghĩa khái quát là sự thu thập, quản lý và phân

tích dữ liệu, những việc đó đã vượt xa dữ liệu cấu trúc tiêu biểu (typical), nó có thể được truy vấn với hệ thống quản lý dữ liệu quan hệ — thường với những tệp phi cấu trúc (unstructured files), video kỹ thuật số, hình ảnh, dữ liệu cảm biến, tệp lưu nhật ký, thực sự bất cứ dữ liệu nào không có trong hồ sơ với các phạm vi tìm kiếm khác Trong một số ý nghĩa, dữ liệu phi cấu trúc là dữ liệu thú vị, nhưng nó khó tổng hợp vào BI (Business Intelligence) hoặc rút trích ra những kết luận từ nó trừ khi nó có thể tương quan với dữ liệu có cấu trúc

Dữ liệu lớn cũng có những nguồn mới, như trong máy tính (vd: các file log nhật ký hay mạng cảm biến), trong thiết bị di động (video, hình ảnh, tin nhắn), và trong các thiết bị máy móc kết nối với nhau (vd như xe, máy bay hoặc các thiết bị giám sát

từ xa) nhằm mục đích lên kế hoạch bảo trì kịp thời Có nột cách để làm được việc

này là dựa vào đặc tính volume (khối lượng) IBM ước lượng, có 2.5 nhân 10 mũ

18 bytes (2,500,000,000,000,000,000) dữ liệu được tạo ra mỗi ngày (xem phần Tài nguyên) Đặc điểm tiếp theo là velocity (tốc độ), nơi có tỷ lệ dữ liệu được gia tăng bởi vì băng thông mạng — điển hình như tỷ lệ gigabit ngày nay (gigE, 10G, 40G,

100G) được so sánh với tỷ lệ megabit Một đặc điểm khác là variety (tính đa

dạng), bao gồm nhiều kiểu dữ liệu phi cấu trúc, như dòng hình ảnh kỹ thuật số

(digital video streams), dữ liệu cảm biến, cũng như các file log nhật ký Cuối cùng

là veracity (tính xác thực) của dữ liệu, hay có bao nhiêu dữ liệu tin cậy khi những

quyết định quan trọng cần được thực hiện trên số lượng lớn dữ liệu thu thập ở tỷ lệ cao Đơn giản chỉ cần biết dữ liệu đó là không giả mạo, không bị hỏng, đến từ một nguồn kỳ vọng là khó khăn — nó có thể đến từ 1000 máy quay an ninh, mỗi ngày

có thể có 1000 khung hình trên 1 giờ Vậy, chúng ta cùng phát thảo một vài khía cạnh của dữ liệu lớn, những ứng dụng và những hệ thống để hiểu tốt hơn về chúng

Có lẽ cách tốt nhất để hiểu dữ liệu lớn là xem lại lịch sử của nó, như Tạp chí

Forbes đã làm (xem phần Tài nguyên) Quy mô của dữ liệu lớn đã tăng hơn 2.5

exabyte mỗi ngày Điều thú vị, phần lớn các dữ liệu sẽ không bao giờ được xem lại bởi con người (chỉ với 7 tỷ người Mỹ, mỗi chúng tả sẽ phải xem nhiều hơn 300

MB thông tin mỗi ngày) Thực hiện thử thách này, cách duy nhất để sử dụng nhiều

dữ liệu là tự động hóa từ máy tính đến máy tính (machine-to-machine) hoặc truy vấn thông tin dữ liệu lớn Hơn nữa, nếu dữ liệu này được lưu trữ trong thời gian dài, làm thế nào chúng ta có thể biết những dữ liệu nào đã bị hỏng? Chúng ta có thể kiểm tra phân loại dữ liệu lưu trữ (chẳng hạn MD5, nó là một hình thức kiểm tra) và sử dụng mảng dự phòng của các ổ đĩa độc lập (RAID—mirrors, XOR

parity, hoặc mã tẩy xóa để phát hiện và phục hồi những dữ liệu bị lỗi), nhưng cũng đáng lo là có một số dữ liệu có thể bị lỗi mà không phát hiện được (xem phần Tài nguyên)

Lưu trữ trực tuyến, một người phụ trách dữ liệu đã điều tra nghiên cứu về mối quan tâm này Trên hết, tính xác thực của dữ liệu lớn là một thách thức, nhưng cũng có những mã tẩy xóa và những phương thức phân loại dữ liệu nâng cao Những phương thức truyền thống như XOR RAID hoặc simple mirroring — chúng chỉ cung cấp những bảo vệ chống lại mất dữ liệu khi thiết bị lưu trữ lỗi và không

xử lý kịch bản lỗi gây ra bởi lỗi phần mềm, lỗi toán tử trung tâm dữ liệu, hoặc thất bại khi truyền thông tin quá thời gian chờ cho phép — giờ đây đã được thay thế bằng RAID-6 và các mã tẩy xóa nâng cao hơn Các khái niệm về độ bền dữ liệu cho dữ liệu lớn đã trở nên quan trọng, trong một chủ đề tôi đã nghiên cứu kết nối

mô hình dữ liệu này, khả năng con người xem lại để xác thực là không thể, và lỗi

dữ liệu có thể không được chú ý cho đến khi nó cuối cùng được truy cập hoặc truy vấn trong tương lai xa

Dữ liệu lớn đến từ đâu?

Dữ liệu lớn đã được đề cập đến chủ yếu vì sự tiến bộ của thiết bị di động, bao gồm video kỹ thuật số, hình ảnh, âm thanh, thư điện tử tiên tiến và những tính năng văn bản Những người dùng đang lựa chọn dữ liệu trong số đó đã không bao giờ nhìn thấy trong thập kỷ trước; hơn nữa, những ứng dụng mới được Google Translate cung cấp những tính năng máy chủ dữ liệu lớn — dịch những ngôn ngữ tự nhiên cho người dùng nói hoặc đánh trong thiết bị di động IBM nhận thấy dữ liệu lớn

được dùng trên di động lần đầu trong Global Technology Outlook vào năm 2013 (xem phần Tài nguyên) và đặc trưng của dữ liệu lớn bởi volume (khối lượng),

variety (tính đa dạng), velocity (tốc độ), và veracity (tính xác thực) Dữ liệu có

cấu trúc tự nhiên hơn so với bản ghi dữ liệu quan hệ nhưng nó có thể tương quan với dữ liệu đó Bài viết sẽ cung cấp chi tiết những gì tạo nên dữ liệu lớn

Thiết kế hệ thống dữ liệu lớn

Những kiến trúc bảo vệ dữ liệu ở quy mô lớn nên bao gồm việc chống mất mát, hư hỏng ngầm, phần mềm độc hại, và ý đồ chỉnh sửa dữ liệu bởi những tội phạm mạng hoặc thông qua chiến tranh mạng Dữ liệu là tài sản và ngày càng được sử dụng nhiều bởi chính phủ và cũng như trong kinh doanh để đưa ra những quyết định quan trọng, nhưng nếu độ trung thực của dữ liệu không được biết, giá trị của

dữ liệu bị giảm hoặc thậm chí bị mất và tệ hơn nữa là: khiến cho việc đưa ra quyết định sai lầm Chủ đề này nằm ngoại phạm vi thảo luận của bài viết, nhưng rõ ràng

sự bảo vệ mất mát và sửa đổi không được biết hoặc hỏng hóc dữ liệu là cần thiết

Một cách để hiểu dữ liệu lớn rõ hơn đơn giản là tiếp cận gần hơn những trang web điện toán đám mây, những trang web này có đủ dữ liệu (thông thường là petabytes) cùng với các công cụ truy vấn (thường là terabytes) cho các ứng dụng sử dụng Hầu hết chúng ta truy vấn Google hàng ngày, nhưng Google cũng cung cấp

BigQuery, BigQuery sử dụng việc lưu trữ và tìm kiếm theo dạng cột phức tạp hơn

(đã được thảo luận kỹ hơn thông qua một ví dụ) Những ví dụ nổi tiếng khác như là Facebook (mạng xã hội), Wikipedia (thư viện mở), Internet Archive (nhà giám sát

dữ liệu kỹ thuật số), DigitalGlobe (hệ thống thông tin địa lý [GIS]), Microsoft® Virtual Earth (GIS), Google Earth (GIS), và đông đảo những nhà cung cấp dịch vụ

dữ liệu lớn mới

Các công ty có dữ liệu lớn nội tại cũng như trên các hệ thống điện toán đám mây riêng Nhiều hệ thống dữ liệu lớn chỉ cho phép người truy vấn đọc (với bản sao từ các nguồn được tạo ra bởi máy tính), nhưng có thể gồm chứng thực mạnh nếu họ cho phép cập nhật tới cơ sở dữ liệu hoặc dữ liệu không có cấu trúc, sử dụng những đoạn mã, yêu cầu người dùng xác thực thông qua những mã xác nhận tin nhắn văn bản điện thoạị Với những kiểm tra hình ảnh để xác minh việc nhập dữ liệu của con người và có thể sử dụng xác thực sinh trắc học nhiều hơn trong tương lai

Những ứng dụng dữ liệu lớn

Mỗi ngày, người ta nghĩ đến các ứng dụng hàng đầu để phân tích phim ảnh trong các lĩnh vực thị giác máy tính và phân tích phim ảnh, một số năm có lẽ thực hiện vì yêu cầu tính toán hoặc chi phí thực hiện Tuy nhiên, đây là một danh sách những ứng dụng thú vị:

 Phân tích tâm lý thị trường chứng khoán sử dụng Google Trends đã chỉ ra

được tương quan tốt cho những tăng giảm chỉ mục theo thời gian, mà có lẽ không đáng ngạc nhiên nhưng những thú vị về tính trọng đại như một ứng dụng dữ liệu lớn Bài viết "Quantifying Trading Behavior in Financial

Markets Using Google Trends (Dự đoán xu hướng thương mại trong thị trường tài chính sử dụng Google Trends)" (xem phần Tài nguyên) cung cấp bằng chứng rằng việc sử dụng phân tích tâm lý để kéo dài hay rút ngắn quyết định mua và bán cổ phiếu nắm giữ có thể tốt hơn việc mua và nắm giữ

những chiến lược đơn giản và quỹ đầu tư index Nghiên cứu này có thể được phân tích chi tiết hơn nhưng những kết quả của nó cũng khá thuyết phục Một nghiên cứu thú vị dự đoán những khả năng xảy ra của một hệ thống cho một lĩnh vực hình thức kinh doanh thực tế

 Phân loại hình ảnh Picasa từ Google là công cụ hữu ích cho phép người

dùng sắp xếp, truy vấn, và nhận dạng khuôn mặt tự động sử dụng những công nghệ thị giác máy tính kết hợp với máy học Đây là một kết quả tuyệt vời có được từ giá trị của những ứng dụng và dịch vụ trên dữ liệu lớn Công

cụ này làm rõ việc phân tích dữ liệu lớn sẽ đòi hỏi phân tích nâng cao như thị giác máy tính và phương pháp như thị giác máy tính

 Những hệ thống được khuyến cáo như Pandora (âm nhạc), Netflix (phim

ảnh), và Amazon (sách và sản phẩm) dùng dữ liệu khách hàng và nhiều đại

lý trong một phương pháp tiếp cận được biết đến là collaborative filtering (phương pháp lọc cộng tác) Dịch vụ dữ liệu lớn này đã là chủ đề của nhiều

nghiên cứu tiên tiến trong máy học và khai phá dữ liệu Rõ ràng là nếu khả năng thực hiện gợi ý tốt thì có thể tăng doanh số bán hàng và sự hài lòng của khách hàng

 Những phân tích dựa trên khách hàng có thể phân tích tâm lý cho khách

hàng của bạn dựa trên dữ liệu mạng xã hội (Facebook và Twitter) khi dữ liệu văn bản này có liên quan đến BI (Business Intelligence) thu thập từ những thông tin giao dịch khách hàng truyền thống Phân tích tâm lý cho phép một doanh nghiệp biết nhu cầu khách hàng muốn về sản phẩm của họ, sự quan tâm của khách hàng về sản phẩm của họ hay của đối thủ cạnh tranh, những

gì khách hàng thích và không thích, v.v

 Dữ liệu được tạo ra từ máy tính có nguồn gốc từ các hệ thống mạng báo

hiệu (ví dụ: những cảm biến nhúng trong các hệ thống lớn như giao thông đô thị, đèn giao thông, và cơ sở hạ tầng); dữ liệu giữa các thiết bị máy móc, theo đó mà các thiết bị cảm biến hay dữ liệu đăng nhập từ một máy (thường

là trong lĩnh vực này) được truyền đến các máy khác; và các tập tin nhật ký, thường được sử dụng nhiều nhất trong công nghệ thông tin để gỡ lỗi nhiều vấn đề và xử lý các sự cố hệ thống ngoài ý muốn (bỏ qua các vấn đề cần sự can thiệp của con người để khôi phục và tiếp tục hoạt động)

 Hệ thống đặt chỗ cho du lịch thì đang được cải thiện bằng cách kết hợp sở

thích khách hàng, hậu cần và tiền sử trước khi đưa ra những đề nghị hữu ích,

đó luôn là một nhiệm vụ khó khăn

 Giải trí trên mạng xã hội đang thay đổi các khía cạnh xã hội của việc phát

sóng truyền hình và các đoạn phim, nơi mà kỹ thuật số đáp ứng yêu cầu nội dung mọi lúc mọi nơi, nhưng việc chia sẻ kinh nghiệm vẫn phải thông qua mạng xã hội Mặc dù vậy, điều này giúp khán giả cảm thấy thú vị hơn, cho phép khán giả sáng tạo nội dung, biên kịch, và những nghệ sĩ có thể biết nhiều hơn về khán giả của họ

 Hệ chuẩn đoán y học bao gồm những hệ thống có sự hỗ trợ của hệ chuyên

gia dựa trên luật (gọi là DSSes: Rule-based Expert Decision Support

Systems), nhưng với dữ liệu lớn, bằng chứng tồn tại những hệ thống này có thể ra khỏi nghiên cứu và trở thành những người phụ tá y tế chính Ví dụ: Một Hệ chuyên gia để hỗ trợ đánh giá tâm lý người bệnh có nguy cơ tự tử đã được đề cập trong bài nghiên cứu (xem phần Tài nguyên) Phần chứng minh những hệ thống này để so sánh với dữ liệu trong lịch sử Những hệ thống có thể thay con người quyết định làm mà còn có thể cải thiện nó khi việc sử dụng như một công cụ hỗ trợ

Đây chưa phải là tất cả các ứng dụng dữ liệu lớn, bạn có thể khám phá thêm ở phần Tài nguyên Ứng dụng của truy vấn cột, phân tích dữ liệu phi cấu trúc,

MapReduce, biểu diễn và suy luận về dữ liệu lớn chỉ vừa mới bắt đầu

Những điều cân nhắc về quyền riêng tư trong ứng dụng dữ liệu lớn

Nếu các công ty, chính phủ, và các tổ chức cần cẩn thận thu thập, phân tích và sử dụng dữ liệu lớn, giá trị cộng đồng sẽ được rõ ràng Nếu những khả năng phân tích

dữ liệu lớn bị lạm dụng, lòng tin công chúng sẽ bị mất, và giá trị không còn Tình cảm của người sử dụng phải là tự nguyện, và giá trị mang lại khi hiểu được cảm nhận của họ với cái mà họ tương tác, họ ở đâu, hay họ đang đọc gì Nếu cảm biến đọc ý nghĩ được phát minh, người ta có thể lâm vào tình cảnh tiến thoái lưỡng nan

về đạo đức Ngay lúc này, việc sử dụng máy thu hình, nhận dạng giọng nói hay khai phá dữ liệu trên thư điện tử nên tuân thủ cẩn thận vấn đề riêng tư và theo cách nào để có thể giữ được lòng tin và sự tự tin của người dùng

Một ví dụ điển hình cho trường hợp này là, tại thời điểm viết bài báo này, vấn đề

cơ sở dữ liệu thoại của Cơ quan An ninh Quốc gia Mỹ, cái có thể bị khai thác như

là một mối đe dọa đối với quốc gia, đã tạo nên một sự quan ngại lớn (xem phần Tài nguyên) Rõ ràng, rất nhiều những chi tiết có thể đặt ra trong những tình huống ngắn, nhưng sự cân nhắc cẩn trọng khi thiết kế hệ thống dữ liệu lớn sẽ giúp tránh những vụ kiện tụng rắc rối