Deepfake video (video giả mạo) trên các trang mạng xã hội hiện nay (khảo sát các trường hợp trên mạng xã hội từ 122017 đến 122019)

Và từ đó, thuật ngữ deepfake dùng để chỉ những video sử trí tuệ nhân tạo để hợp nhất video chân dung của một người với video riêng biệt, với các chi tiết trên gương mặt như mắt, mũi, miệ

BỘ GIÁO DỤC VÀ ĐÀO TẠO HỌC VIỆN CHÍNH TRỊ QUỐC GIA

HỒ CHÍ MINH

HỌC VIỆN BÁO CHÍ VÀ TUYÊN TRUYỀN

MAI BẢO TRÂM

DEEPFAKE VIDEO (VIDEO GIẢ MẠO) TRÊN CÁC TRANG MẠNG

XÃ HỘI HIỆN NAY

(Khảo sát các trường hợp trên mạng xã hội từ 12/2017 đến 12/2019)

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

BỘ GIÁO DỤC VÀ ĐÀO TẠO HỌC VIỆN CHÍNH TRỊ QUỐC GIA

HỒ CHÍ MINH

HỌC VIỆN BÁO CHÍ VÀ TUYÊN TRUYỀN

MAI BẢO TRÂM

DEEPFAKE VIDEO (VIDEO GIẢ MẠO) TRÊN CÁC TRANG MẠNG

XÃ HỘI HIỆN NAY

(Khảo sát các trường hợp trên mạng xã hội từ 12/2017 đến 12/2019)

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

NGÀNH: BÁO CHÍ HỌC

MÃ SỐ: 1.01.01

NGƯỜI HƯỚNG DẪN KHOA HỌC: TH.S TRẦN THỊ PHƯƠNG LAN

NGƯỜI THỰC HIỆN: MAI BẢO TRÂM

HÀ NỘI - 2020

Khóa luận đã được sửa chữa theo khuyến nghị của Hội đồng chấm khóa luận

tốt nghiệp

Hà Nội, ngày 23 tháng 06 năm 2020

CHỦ TỊCH HỘI ĐỒNG

(Ký và ghi rõ họ tên)

LỜI CAM ĐOAN

Tôi xin cam đoan khóa luận này là công trình nghiên cứu của riêng tôi Khóa luận được hoàn thành dưới sự tận tình hướng dẫn khoa học của Th.S Trần Thị Phương Lan Các số liệu, kết luận nghiên cứu trình bày trong khóa luận này trung thực và chính xác Tôi xin chịu trách nhiệm về công trình nghiên cứu của mình

Hà Nội, ngày 23 tháng 6 năm 2020

Tác giả khóa luận

Mai Bảo Trâm

LỜI CẢM ƠN

Tôi xin bày tỏ lòng biết ơn sâu sắc tới Th.S Trần Thị Phương Lan – người đã tận tình, chu đáo hướng dẫn tôi thực hiện khóa luận tốt nghiệp với

đề tài “Deepfake video (video giả mạo) trên các trang mạng xã hội hiện nay”

Tôi xin chân thành cảm ơn quý thầy cô Khoa Phát thanh – Truyền hình, Viện Báo chí – Học viện Báo chí và Tuyên truyền; các nhà nghiên cứu về trí tuệ nhân tạo và các nhà báo đã chia sẻ nhiều tư liệu và kinh nghiệm quý báu, trả lời phỏng vấn, đóng góp ý kiến tạo điều kiện, giúp đỡ tôi trong quá trình nghiên cứu và hoàn thiện khóa luận này

Trong thời gian thực hiện khóa luận tốt nghiệp, bản thân đã cố gắng để thực hiện đề tài một cách khoa học và hoàn chỉnh Tuy nhiên, khóa luận không thể trách khỏi những thiếu sót, tồn tại nhất định mà bản thân chưa nhận

ra Kính mong nhận được sự đóng góp của thầy cô giáo và góp ý của bạn bè

để khóa luận của tôi được hoàn thiện hơn

Xin trân trọng cảm ơn!

Hà Nội, ngày 23 tháng 06 năm 2020

Tác giả khóa luận

Mai Bảo Trâm

MỤC LỤC

MỞ ĐẦU 1

Chương 1 CƠ SỞ LÝ LUẬN VỀ VẤN ĐỀ DEEPFAKE VIDEO TRÊN CÁC TRANG MẠNG XÃ HỘI HIỆN NAY 9

1.1 Các khái niệm 9

1.1.1 Video 9

1.1.2 Deepfake video 10

1.1.3 Mạng xã hội 13

1.2 Lịch sử hình thành và phát triển của deepfake video 15

1.2.1 Trên thế giới 16

1.2.2 Ở Việt Nam 18

1.3 Đặc điểm của deepfake video 20

1.3.1 Nội dung 20

1.3.2 Hình thức 21

1.4 Một số tiêu chí nhận diện deepfake video 27

1.5 Ảnh hưởng của deepfake video đối với báo chí và truyền thông xã hội 29

1.5.1 Đối với truyền thông xã hội 30

1.5.2 Đối với báo chí 31

Tiểu kết chương 1 38

Chương 2 THỰC TRẠNG DEEPFAKE VIDEO TRÊN CÁC TRANG MẠNG XÃ HỘI HIỆN NAY 39

2.1 Một số nét về các mạng xã hội được khảo sát 39

2.1.1 YouTube 39

2.1.2 Facebook 41

2.2 Khảo sát về deepfake video trên các trang mạng xã hội 43

2.2.1 Số lượng, tần suất 43

2.2.2 Nội dung 57

2.2.3 Hình thức 67

2.2.4 Một số đánh giá 75

Tiểu kết chương 2 87

Chương 3 MỘT SỐ DỰ ĐOÁN VÀ NHỮNG GIẢI PHÁP ỨNG PHÓ VỚI DEEPFAKE VIDEO 88

3.1 Một số dự đoán 88

3.2 Những giải pháp ứng phó 98

Tiểu kết chương 3 108

KẾT LUẬN 109

DANH MỤC TÀI LIỆU THAM KHẢO 112

PHỤ LỤC 117

DANH MỤC CÁC BẢNG

Bảng 2.1 Thống kê 10 deepfake video nổi bật trên Youtube 48 Bảng 2.2 Thống kê 5 kênh Youtube nổi bật chuyên đăng tải các 50 Bảng 2.3 Thống kê 10 deepfake video nổi bật trên Facebook 55

Bảng 2.4 Thống kê 5 fanpage nổi bật chuyên đăng tải các deepfake video trên

DANH MỤC HÌNH VẼ

Hình 1.1 Deepfake video ghi cảnh cựu Tổng thống Mỹ Barack Obama thốt ra lời

mà thực chất là nhà làm phim Jordan Peele (bên phải) nói (Ảnh: Buzzfeed) 17

Hình 1.2 Deepfake video nhân vật nam chính trong bộ phim “Hậu duệ mặt

trời” do một người dùng Facebook tạo dựng 20

Hình 2.1 Ảnh chụp màn hình đoạn deepfake video giả bài phát biểu của Tổng

thống Barack Obama trên Youtube 60

Hình 2.2 Ảnh chụp màn hình đoạn deepfake video giả bài phát biểu của Tổng

thống Donald Trumps trên Facebook 61

Hình 2.3 Ảnh chụp màn hình đoạn deepfake video tái hiện lại chân dung diễn viên Carrie Fisher (vai công chúa Leia) trong bộ phim chiến tranh giữa các vì

sao trên Youtube 63

Hình 2.4 Ảnh chụp màn hình đoạn deepfake video tái hiện lại chân dung họa

sỹ Salvador Dalí trên Youtube 64

Hình 2.5 Ảnh chụp màn hình đoạn deepfake video ghép khuôn mặt của hai tỷ phú Jeff Bezos và Elon Musk vào các nhân vật trong bộ phim Star Trek trên

Youtube 66

Hình 2.6 Ảnh chụp màn hình đoạn deepfake video ghép khuôn mặt tổng

thống Brack Obama vào nhân vật Black Panther trong bộ phim Black Panther

trên Youtube 67

Hình 2.7 Khuôn mặt nhân vật bị ghép mặt trong deepfake video Sister Act

đăng trên trang mạng xã hội Facebook ngày 4/11/2019 74

Hình 2.8 So sánh ánh sáng hai đoạn video giả và đoạn video thật trong bộ

phim “Kẻ hủy diệt phần 2” 75

MỞ ĐẦU

1 Lý do chọn đề tài

Huy động và thao túng thông tin là một đặc điểm của lịch sử đã có từ lâu trước khi báo chí hiện đại thiết lập các tiêu chuẩn định nghĩa tin như một thể loại dựa trên các quy tắc cụ thể về sự liêm chính Một chứng tích xa xưa xuất hiện thời La Mã cổ đại khi Antony gặp Cleopatra và kẻ thù chính trị của ông, Octavian đã phát động một chiến dịch bôi nhọ ông bằng những khẩu hiệu ngắn gọn, sắc sảo viết trên đồng xu Thủ phạm trở thành Hoàng đế La

Mã đầu tiên và “Tin giả đã cho phép Octavian vĩnh viễn hủy hoại nhà nước cộng hòa”[1]

Nhưng thế kỷ 21 đã chứng kiến sự vũ khí hóa thông tin ở quy mô lớn Công nghệ mới khiến cho việc thao túng và chế tạo nội dung trở nên đơn giản,

và các trang mạng xã hội khuếch đại khủng khiếp những sự giả dối trong khi công chúng dễ dãi chia sẻ thông tin Các trang mạng xã hội đã vô tình trở thành mảnh đất màu mỡ cho những mạng lưới lừa đảo tung thông tin giả mạo

Đặc biệt, cuộc cách mạng công nghiệp 4.0 ra đời đã làm thay đổi toàn

bộ các hoạt động kinh tế, xã hội của loài người Trong lĩnh vực truyền thông, báo chí, cuộc cách mạng đã mở ra một kỷ nguyên mới, đó là kỷ nguyên của công nghệ và kết nối với một lượng khổng lồ thông tin được chuyền tải hàng ngày Chính điều này đã vô tình tạo ra một “con dao hai lưỡi” cho nền báo chí thế giới nói chung và báo chí Việt Nam nói riêng Một mặt, nguồn thông tin khổng lồ sẽ giúp nâng cao hiệu quả làm việc của các nhà báo, nhưng mặt khác

sẽ làm méo mó những giá trị báo chí truyền thông vì vấn đề tin tức giả

Và trong bối cảnh cả thế giới đang chật vật với vấn đề tin tức giả thì sự

ra đời và phát triển của công nghệ deepfake càng khiến cho cuộc chiến này trở nên khó khăn hơn Trước đây, công nghệ này chỉ được sử dụng giới hạn trong công đồng nghiên cứu về trí tuệ nhân tạo (AI) Cho đến cuối năm 2017, khi một người dùng có tên là deepfake công bố một loạt video khiêu dâm

trên diễn đàn Reddit Người dùng này đã sử dụng AI để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm[2] Những video với khuôn mặt ghép rất giống này lập tức gây nên làn sóng phản đối Và từ đó, thuật ngữ deepfake dùng để chỉ những video sử trí tuệ nhân tạo để hợp nhất video chân dung của một người với video riêng biệt, với các chi tiết trên gương mặt như mắt, mũi, miệng, chuyển động gương mặt và giọng nói như thật được sử dụng rất rộng rãi

Theo Deeptrace, một start-up ở Amsterdam chuyên phát hiện nội dung

do AI thao túng, hiện có khoảng 14.678 deepfake video trên Internet, tăng 84%

so với mức 7.964 video tính đến tháng 12/2018[3] Sự phát triển nhanh chóng của công nghệ deepfake đã trở thành một chủ đề nóng Trước đây, video từng được coi là một phương pháp chứng minh danh tính và bằng chứng để xác thực những vụ việc nghi vấn nhưng công nghệ deepfake xuất hiện đã thay đổi hoàn toàn điều này Nếu dữ liệu thông tin hình ảnh bị rơi vào tay kẻ xấu, bất

kỳ ai cũng sẽ bị giả mạo danh tính Có rất nhiều người, từ những nhà chính trị gia, ca sỹ, diễn viên cho đến những người bình thường đã trở thành nạn nhân xuất hiện nhiều trong các deepfake video Có một số deepfake video chỉ mang tính giải trí, mang lại tiếng cười cho người xem Tuy nhiên, trên thực tế, mối

de dọa của deepfake đã hoàn toàn bị che đậy bởi yếu tố giải trí này

Mặc dù những vụ việc video giả mạo chỉ diễn ra ở một số nước trên thế giới nhưng Việt Nam cũng không nằm ngoài mối đe dọa đó khi một số lượng đông đảo người Việt Nam hiện nay có thói quen sử dụng mạng xã hội và phát tán bằng cách chia sẻ những thông tin giả, thông tin chưa được kiểm chứng Bối cảnh đó làm dấy lên mối lo ngại về ảnh hưởng của deepfake video đến lĩnh vực báo chí, đặc biệt là trên báo mạng điện tử hiện nay Vì vậy, khóa luận

“Ảnh hưởng của deepfake video (video giả mạo) trên các trang mạng xã hội hiện nay” sẽ phân tích đặc điểm nội dung và hình thức của deepfake video,

và trên báo chí nói riêng, cũng như vai trò kiểm chứng, định hướng của báo chí Việt Nam hiện nay Từ đó, đề xuất một số giải pháp ứng phó với những video giả mạo được làm từ công nghệ deepfake này

2 Tình hình nghiên cứu liên quan đến đề tài

Trên thế giới, đã có nhiều công trình nghiên cứu, các tài liệu, sách báo, tài liệu nghiên cứu về video giả mạo, cũng như nghiên cứu về công nghệ AI làm ra những video giả mạo này Tuy nhiên, ở Việt Nam, deepfake mới vừa bắt đầu được cộng đồng quan tâm vì những nguy cơ tiềm tàng Đối với đề tài deepfake trên các trang mạng xã hội hiện nay vẫn chưa có nhiều công trình nghiên cứu đi sâu khai thác

Trên thế giới, có thể kể đến một số công trình nghiên cứu tiêu biểu có liên quan ít nhiều đến đề tài tác giả đang nghiên cứu như sau:

- Nghiên cứu khoa học “Exposin Deepfake videos By Detecting Face

Warping Artifacts” của các tác giả Yuezun Li, Siwei Lyu, đăng ngày

22/5/2019 trên ấn bản arXiv

Công trình nghiên cứu này đã trình bày một phương pháp sử dụng công nghệ học sâu (deep learning) để phát hiện những deepfake video dựa trên trên đặc điểm của các deepfake video như: chỉ có thể tạo ra các hình ảnh có độ phân giải giới hạn, các những chuyển động khác với khuôn mặt gốc Đồng thời, nghiên cứu này cũng đã chỉ rõ một số đặc điểm nhận dạng deepfake video bằng mắt thường để người xem có thể tự phát hiện được video giả mạo

- Nghiên cứu khoa học “Few-Shot Adversarial Learning of Realistic

Neural Talking Head Models” của các tác giả Egor Zakharow, Aliaksandra

Shysheya, Egor Burkov, Victor Lempitsky, đăng ngày 25/9/2019 trên ấn bản arXiv

Đề tài của nghiên cứu khoa học này là ứng dụng công nghệ deepfake để sản xuất mô hình con người đang nói chuyện với dữ liệu đầu vào là một số ít hình ảnh tĩnh Nghiên cứu khoa học này đã cho thấy một bước đột phá mới

của công nghệ deepfake trong việc tạo ra video giả mạo Với phương pháp nêu ra trong nghiên cứu, thì bây giờ, công nghệ deepfake chỉ cần sử dụng một bức ảnh tĩnh để tạo ra video giả mạo một người nào đó đang nói chuyện, với những biểu cảm khác nhau

- Nghiên cứu khoa học “Deep Learning for Deepfakes Creation and

Detection” của các tác giả Nguyễn Thị Thành, Nguyễn Mạnh Cường, Nguyễn

Tiến Dũng, Nguyễn Thành Đức và Saeid Nahavandi, đăng ngày 25/9/2019 trên ấn bản arXiv

Nghiên cứu khoa học này đã thực hiện một cuộc khảo sát về các thuật toán để tạo ra các deepfake video và nêu ra một số phương pháp để phát hiện các video giả mạo được tạo ra bởi công nghệ deepfake Ngoài ra, nghiên cứu này cũng đã nêu ra các thách thức và xu hướng hướng phát triển trong tương lai của công nghệ deepfake

- Nghiên cứu khoa học “Deepfake video Detection Using Recurrent

Neural Networks” của các tác giả David Gijera, Edward J.Delp đăng ngày

14/2/2019 trên IEEE Xplore

Bài viết đã đề xuất một phương pháp sử dụng mạng thần kinh nhân tạo,

cụ thể là mạng thần kinh tích chập (CNN) để tự động phát hiện các deepfake video Nghiên cứu này đã khảo sát hơn 600 deepfake video để phân tích rõ cách thức để tạo ra các video giả mạo và phân tích rất rõ đặc điểm của dữ liệu đầu vào của các video này

- Báo cáo khoa học “Deepfakes and cheap fakes” của các tác giả Britt

Paris, Foan Donavan đăng ngày 18/9/2019 trên website Data&Society

Báo cáo này đã phân tích kỹ các hình thức và nội dung của các deepfake video trong lĩnh vực chính trị, các deepfake video trên các phương tiện truyền thông xã hội Đặc biệt, dựa trên khảo sát thực tế, báo cáo này cũng

đã chỉ ra rằng việc thường xuyên đăng tải hình ảnh cá nhân lên các trang

mạng xã hội sẽ tạo điều kiện để deepfake video gia tăng và ngày càng hoàn thiện

- Bài báo cáo khoa học “Deepfakes and Audio-visual Disinformation”

của Centre for Data Ethics & Innovation (Trung tâm đạo đức dữ liệu và đổi mới), xuất bản năm 2019

Báo cáo đã đi sâu phân tích bản chất của công nghệ deepfake thông qua việc phân tích khái niệm, phân loại các hình thức của deepfake video hiện nay, giải thích cách tạo ra các deepfake video Đồng thời, báo cáo cũng chỉ ra những rủi ro mà công nghệ này đặt ra cho xã hội và đề xuất các giải pháp để ngăn chặn công nghệ làm giả này

- Bài viết “Deepfake videos: Inside the Pentagon’s race against

deepfake videos” đăng ngày 28/1/2019 trên tờ báo CNN Business

Bài viết đã trình bày rất chi tiết về khái niệm, đặc điểm của công nghệ deepfake Đặc biệt, bài viết cũng đã phân tích mối nguy hiểm của công nghệ này trong việc giả mạo danh tính người nổi tiếng và phát tán tin tức giả mạo

Ở Việt Nam chưa có nhiều công trình nghiên cứu khoa học, sách, luận văn, luận án nghiên cứu về deepfake Liên quan đến tài này, ở Việt Nam có một số bài báo đăng trên các trang báo mạng điện tử và tạp chí khoa học như sau:

- Bài viết “Khi tin giả được trang bị thêm đôi cánh” của tác giả Tú

Linh đăng ngày 1/8/2019 trên tạp chí Người Làm Báo điện tử

Bài viết đã nêu ra những mối nguy hiểm khi các deepfake video được dùng để phát tán tin giả trên các trang mạng xã hội Bài viết cũng đã nêu ra một dự đoán, trong tương lai, deepfake video sẽ phát triển hơn nữa khi dữ liệu Big data đủ lớn và trí thông minh nhân tạo ngày một thông minh hơn, bất kỳ

ai đều có thể trở thành nạn nhân của deepfake video

- Bài viết “Deepfake – “bóng ma” trong thế giới Internet” của tác giả

Khương Nha đăng ngày 28/12/2019 trên tờ báo mạng điện tử vnexpress.net

Bài viết đã cho thấy sự gia tăng của các deepfake video trên Internet với những con số cụ thể theo thống kế của Deeptrance, công ty có trụ sở tại Amsterdam chuyên nghiên cứu về những nội dung được tạo ra bởi AI Đồng thời, bài viết cũng nêu ra những mối nguy hiểm của công nghệ này như: giả mạo các chính trị trị gia để tác động đến nền chính trị của các nước, trở thành công cụ để bọn tội phạm thực hiện các hành vi phạm pháp

- Bài viết “Deepfake – bóng ma mới của thế giới Internet” của tác giả

Anh Lê đăng ngày 7/5/2020 trên trang báo mạng điện tử zingnews.vn

Bài viết này đã đi sâu phân tích mối nguy hiểm khi deepfake trở thành công cụ để giả mạo danh tính của bất cứ ai Bài viết đã nêu dẫn chứng những

vụ việc dùng công nghệ deepfake để giả mạo danh tính trong thời gian gần đây và chỉ rõ nguyên nhân của mối nguy hiểm này là do những bức ảnh của người dùng Internet công khai trên các trang mạng đã khiến cho bất cứ ai cũng trở thành nạn nhân của công nghệ này

- Bài viết “Những gì giả mạo được, đều có thể phát hiện” của tác giả

Trương Sơn đăng ngày 9/8/2017 trên tờ báo mạng điện tử tuoitre.vn

Trước sự phát triển và những mối nguy hiểm mà công nghệ deepfake đặt ra, bài viết đã chỉ ra những giải pháp để phát hiện và ngăn chặn sự phát triển của công nghệ này Các giải pháp được nêu ra trong bài viết tương đối thiết thực, cụ thể: dùng chính công nghệ deepfake để phát hiện những deepfake video, thêm một số yếu tố công nghệ để kiểm tra deepfake video, con người phải có ý thức cảnh giác trước deepfake

- Bài viết “Deepfake có thể là vấn đề lớn trong cuộc bầu cử Mỹ 2020”

của tác giả Việt Đức, đăng ngày 28/1/2020 trên trang báo mạng điện tử Vietnamplus.vn

Nội dung bài viết phân tích sâu dự đoán công nghệ deepfake sẽ trở thành mối nguy hiểm lớn trong cuộc bầu cử Mỹ 2020 Trong đó, bài viết tập

2020, cụ thể như sau: deepfake có thể tạo ra video giả mạo để thuyết phục cử tri rằng một cử viên cụ thể đã nói hoặc làm điều gì đó mà ông/bà ấy không nói hoặc làm; nếu các deepfake video xuất hiện tràn lan trong suốt chiến dịch bầu

cử, cử tri có thể hoài nghi về sự thật dẫn đến tỷ lệ cử tri đi bầu thấp và cử tri

sẽ mất hoàn toàn niềm tin vào hệ thống chính trị

3 Mục đích và nhiệm vụ nghiên cứu

Mục đích nghiên cứu

Khóa luận hướng tới nghiên cứu phân tích thực trạng video giả trên mạng xã hội hiện nay thông qua cuộc khảo sát những trường hợp điển hình trong thời gian từ 12/2017 đến 12/2020 Từ đó, rút ra những ảnh hưởng, hệ lụy của công nghệ deepfake đối với truyền thông nói chung và báo chí nói riêng Trên cơ sở đó, khóa luận đề xuất một số giải pháp nhằm ứng phó với công nghệ deepfake

Nhiệm vụ nghiên cứu:

- Hệ thống hóa cơ sở lý luận có liên quan đến đề tài nghiên cứu

- Khảo sát và phân tích nội dung và hình thức của các trường hợp deepfake video điển hình trong thời gian từ 12/2017 đến 12/2020

- Sự ảnh hưởng của deepfake video đối với truyền thông xã hội và báo chí hiện nay

- Nếu ra một số dự đoán và đề xuất cách ứng phó với deepfake video trên mạng xã hội

4 Đối tượng và phạm vi nghiên cứu

- Đối tượng: Deepfake Video trên mạng xã hội hiện nay

- Phạm vi nghiên cứu: Các deepfake video nổi bật xuất hiện trên mạng xã hội

từ tháng 12/2017 đến tháng 12/2020

5 Phương pháp nghiên cứu

- Phương pháp nghiên cứu định lượng:

+ Phương pháp thống kê, bao gồm việc thu thập, tổng hợp, trình bày số liệu để phản ánh các khía cạnh khác nhau của đối tượng

+ Nghiên cứu tài liệu, bao gồm việc thu thập, phân tích và tổng hợp tài liệu, thông tin liên quan đến đối tượng nghiên cứu

- Phương pháp nghiên cứu định mức:

+ Phương pháp nghiên cứu trường hợp điển hình

+ Phương pháp phỏng vấn sâu

+ Phương pháp điều tra khảo sát bằng bảng hỏi

6 Ý nghĩa lý luận và thực tiễn của khóa luận

Đề tài khóa luận đi sâu tìm hiểu và hệ thống những khái niệm, đặc tính liên quan đến deepfake video, ảnh hưởng đến báo mạng điện tử hiện nay Đồng thời, đề tài còn chỉ ra cách để nhằm ngăn chặn deepfake video dựa trên những công cụ có sẵn trên Internet

Về ý nghĩa lý luận: Góp thêm một đề tìa nghiên cứu mới trong lĩnh vực truyền thông đại chúng

Về ý nghĩa thực tiễn: Chỉ ra thực trạng của deepfake video và đề xuất những biện pháp đẩy lùi vấn nạn video giả trên mạng xã hội cũng như trên báo mạng điện tử hiện nay

7 Bố cục của khóa luận

Nội dung chính của khóa luận được chia làm 3 phần chính: Phần mở đầu; Phần nội dung và Phần kết luận Ngoài ra, khóa luận còn có phần danh mục tài liệu tham khảo và phụ lục Kết cấu 3 chương cụ thể như sau:

Chương 1: Cơ sở lý luận về vấn đề deepfake video trên các trang mạng xã hội hiện nay

Chương 2: Thực trạng deepfake video trên các trang mạng xã hội hiện nay

(Khảo sát các trường hợp trên mạng xã hội từ 12/2017 đến 12/2019)

Chương 3: Một số dự đoán và giải pháp ứng phó với deepfake video

Chương 1

CƠ SỞ LÝ LUẬN VỀ VẤN ĐỀ DEEPFAKE VIDEO TRÊN CÁC

TRANG MẠNG XÃ HỘI HIỆN NAY

1.1 Các khái niệm

1.1.1 Video

Theo từ điển Anh – Việt: “Video” (danh từ) là việc thu hoặc phát lại

những phim ảnh, tách bạch với âm thanh bằng máy TV Video (động từ): thu hình ảnh động vào băng video hoặc đĩa”[8]

Trong Bách khoa toàn thư mở thì “Video” là các đoạn phim video ngắn, thường là một phần của một đoạn hoặc một phần video dài hơn Video xuất hiện năm 2006 như một hiện tượng có tầm ảnh hưởng trên Internet và các phương tiện truyền thông điện tử

Theo cuốn giáo trình “Hệ cơ sở dữ liệu đa phương tiện” của Đỗ Trung Tuấn: “Video là một dạng hình động, trong số các dữ liệu đa phương tiện có

thể xem hình động và video như một loại dữ liệu Nguồn dữ liệu video nhập vào máy tính để tích hợp sản phẩm đa phương tiện từ máy quay video” [9]

Theo tài liệu về truyền hình thì video là tập hợp các hình tĩnh liên tiếp kết hợp với nhau, thường 1 giây có 24 hình tĩnh, và từ 24 hình trở lên, chúng

ta có cảm giác là hành động đó chuyển động rất mượt Có thể khái niệm: Video là một chuỗi các hình ảnh động nối tiếp với nhau, bao gồm cả các yếu

tố liên quan tới hoạt động, sự kiện như lời nói, âm thanh, tiếng động được máy quay ghi lại

Hiện nay, video là chất liệu cơ bản làm nên sản phẩm truyền hình Không chỉ truyền hình sử dụng các hình ảnh video đó để sản xuất các tác phẩm, chương trình truyền hình mà các phương tiện truyền thông khác, trong

đó có báo điện tử đã khai thác thế mạnh của video (hình ảnh chân thực, hấp dẫn) để góp phần làm nên những sản phẩm báo điện tử sinh động

Từ các khái niệm về video trên, tác giả đưa ra khái niệm về video như

sau: Video là sự phối hợp đồng bộ thu hoặc phát một chuỗi các hình ảnh động

hoặc tĩnh liên tiếp kết hợp lại với nhau cùng âm thanh Các yếu tố liên quan tới hoạt động của sự kiện như hình ảnh, âm thanh (lời nói, tiếng động và âm nhạc), chữ viết, đồ họa, được máy quay ghi lại trên băng từ, đĩa kỹ thuật số hoặc thẻ nhớ, và được lưu trữ trong các phương tiện Video có thể hoàn chỉnh hoặc không hoàn chỉnh về mặt nội dung và hình thức

1.1.2 Deepfake video

DeepFake là một thuật ngữ kết hợp giữa deep learning (học sâu) và fake (giả dối) Điều này không chỉ nói lên bản chất giả dối của nó, mà còn cho thấy sự nguy hiểm tiềm ẩn từ việc tận dụng sức mạnh công nghệ

Theo từ điển Cambridge, “Deepfake là một kỹ thuật cho tổng hợp hình

ảnh con người dựa trên trí tuệ nhân tạo”[4] Đây là một khái niệm về

deepfake tương đối đơn giản và có phạm vi khái quát tương đối rộng Trí tuệ nhân tạo là nhân tố đặc trưng cốt lõi của thời đại Cách mạng công nghiệp 4.0,

nó có khả năng tổng hợp dữ liệu từ các nguồn dữ liệu khổng lồ Chính điều này đã khiến trí tuệ nhân tạo nhanh chóng vượt qua con người để đạt tới mức siêu nhiên

Liên quan đến khả năng tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo, có rất nhiều kỹ thuật như:

Neural Image Assessment (NIMA) là một kỹ thuật công nghệ có khả năng tổng hợp, phân tích, đánh giá về chất lượng kỹ thuật và cả về tính thẩm

iOminiscient là một kỹ thuật của trí tuệ nhân tạo có khả năng tổng hợp, phân tích và nhận dạng khuôn mặt của con người Kỹ thuật này được ứng dụng trong việc nhận dạng khuôn mặt để kiểm soát tội phạm ở một số quốc gia lớn như: Australia, Hồng Kong

Face++ là một công nghệ tổng hợp, phân tích, nhận diện gương mặt dựa trên trí tuệ nhân tạo của Trung Quốc Công nghệ này có khả năng xác định và theo dõi các cá nhân sử dụng hình ảnh từ hơn 170 triệu camera an ninh của Trung Quốc và hiện nay đang được sử dụng ở nhiều nước trên thế giới

Theo tác giả Haya R SaLas và Khaled Salad trong bài viết “Combating Deepfake Videos Using Blockchain and Smart Contracts” (Tạm dich: Kết hợp các deepfake video bằng cách sử dụng Blockchain và Smart Contracts), đăng

trên tạp chí khoa học IEEE Access ngày 25/02/2019, “Fake footage, images,

audios, and videos (known as deepfakes) can be a scary and dangerous phenomenon and can have the potential of altering the truth and eroding trust

by giving false reality”[5], tạm dịch như sau: deepfake là một thuật ngữ dùng

để chỉ các cảnh quay giả, hình ảnh, âm thanh và video giả, có khả năng làm

thay đổi sự thật và làm xói mòn lòng tin bằng các hiện thực giả Khái niệm

này đã chỉ rõ đặc trưng cơ bản nhất của deepfake là khả năng tạo ra các cảnh quay, hình ảnh và âm thanh giả mạo làm xói mòn hiện thực Tuy nhiên, khái niệm này chưa đề cập đến trí tuệ nhân tạo, cái cốt lõi để tạo ra deepfake

Theo tác giả Nguyễn Thị Thanh, trong bài báo “Deep Learning for Deepfakes Creation and Detection” (Tạm dịch: Dùng công nghệ Deep Learning để phát hiện deepfake”, đăng trên website của trường Đại học

Cornell ngày 25/08/2019, “Deepfake (stemming from “deep learning” and

“fake”) is a technique that can superimpose face images of a target person to

a video of a source person to create a video of the target person doing or saying things the source person does”[6], tạm dịch như sau: Deepfake (xuất

phát từ “deep learning” và “fake”) là một kỹ thuật hoán đổi khuôn mặt xuất phát từ công nghệ deep learning (hay còn gọi là học sâu) Kỹ thuật này có thể dựa vào những thông tin hình ảnh của một người nào đó để tạo ra những đoạn video giả mạo Đây là một khái niệm tương đối đầy đủ, bao quát được phần lớn đặc điểm của deepfake Khái niệm đã chỉ rõ, deepfake là một kỹ thuật hoán đổi khuôn mặt xuất phát từ công nghệ deep learning (học sâu) Đồng thời, khái niệm này cũng chỉ rõ cách thức để tạo ra deepfake là sử dụng kho

dữ liệu thông tin về hình ảnh để xử lý và tổng hợp thành các đoạn video giả mạo

Tại Việt Nam, khái niệm về deepfake mới chỉ manh nha xuất hiện trong vòng hơn 1 năm trở lại đây Trong diễn đàn Tech Talks, diễn ra ngày 8/1 tại thành phố Hồ Chí Minh, ông Nguyễn Tử Quảng, Chủ tịch Hội đồng Quản trị

của Bkav đã đưa ra khái niệm về deepfake như sau: “Deepfake là sự kết hợp

giữa “deep learning” và “fake” Công nghệ này được xây dựng trên nền tảng machine learning mã nguồn mở của Google Deepfake sẽ quét video và ảnh chân dung của một người sau đó hợp nhất với video riêng biệt nhờ AI và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói nơi thật Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngạc.”[7]

Từ các khái niệm trên đây, có thể đưa ra định nghĩa về deepfake video

như sau: Deepfake video là một dạng video giả mạo được tạo ra bằng trí tuệ

nhân tạo (Ai), cụ thể là công nghệ deep learning Người tạo ra deepfake sẽ sử dụng các thư viện mã nguồn mở, hình ảnh trên Google, các trang mạng xã hội như Instagram, Facebook và các video trên Youtube để tạo ra một thuật toán cho ghép những hình ảnh tìm kiếm được vào từng khung hình trong những video có sẵn

1.1.3 Mạng xã hội

Mạng xã hội có tên gọi tiếng anh là Social Netword hay Virtual Network được hiểu là mạng xã hội ảo, mạng xã hội trực tuyến Khái niệm mạng xã hội là một khái niệm rộng lớn, đã có rất nhiều định nghĩa khác nhau

về mạng xã hội Dưới đây là một số khái niệm theo các góc nhìn khác nhau:

Theo từ điển Cambridge, “Mạng xã hội là việc sử dụng các trang web

và các dịch vụ Internet khác để liên lạc với người khác và kết bạn”.[4]

Theo PGS.TS Nguyễn Minh Hòa: “Theo cách hiểu truyền thống thì

Mạng xã hội là sự liên kết các cá nhân và cộng đồng lại dưới một kiểu nào đó

để thực hiện một vài chức năng xã hội Tương tự nhóm xã hội, người ta có thể liệt kê ra rất nhiều loại Mạng xã hội dựa trên đặc tính pháp lý và tổ chức, chẳng hạn như mạng chính thức và không chính thức, mạng thực và mạng quy ước, mạng lớn và mạng nhỏ”[10] Đối với khái niệm này có thể hiểu rằng,

mạng xã hội là một khái niệm được các nhà khoa học trong đó phần lớn là các nhà xã hội học đặt ra để chỉ loại hình liên kết này và họ phát triển lên thành một lý thuyết phức tạp, nhưng sự tồn tại của nó thì có từ rất lâu ngay từ khi con người có ý thức liên kết lại để gia tăng sức mạnh cho sản xuất, tự vệ

Trong cuốn sách Báo chí và mạng xã hội (2014, Nxb Lý luận chính trị),

tác giả Đỗ Chí Nghĩa đưa ra khái niệm: “Mạng xã hội (social netword) là

dịch vụ nối kết các thành viên cùng sở thích trên Internet lại với nhau với nhiều mục đích khác nhau không phân biệt không gian và thời gian Mạng xã hội có những tính năng như chat, e-mail, phim ảnh, voice chat, chia sẻ tệp, blog và xã hội”[11] Khái niệm này tập trung vào vấn đề coi mạng xã hội là

sự kết nối những người có chung sở thích, mục tiêu và họ là những người kiến tạo nội dung của mạng xã hội Quan điểm đó khiến có nhiều ý kiến cho rằng nên đổi thành thuật ngữ là “mạng giao lưu” cho đúng ý nghĩa và mục đích của social

Theo nhà xã hội học Laura Garton, nhà nghiên cứu chiến lược trường

đại học Toronto: “Khi một mạng máy tính kết nối mọi người hoặc các cá

nhân tổ chức lại với nhau thì đó chính là mạng xã hội”[12] Đây là một khái

niệm khá đơn giản và trái với cách hiểu của nhiều người mạng xã hội là mạng máy tính lớn, nhiều thành viên, mạng xã hội đơn giản là hệ thống của những mối quan hệ con người với con người, trên bình diện đó, bản thân Facebook

và Twitter không phải là mạng xã hội mà chỉ là những dịch vụ trực tuyến được tạo lập để xây dựng và phản ánh mạng xã hội

Trong cuốn Quy luật mới của PR và Tiếp thị, tác giả David Meerman

Scott cho rằng: “Mạng xã hội khiến mọi người dễ dàng tạo ra được một hồ sơ

về bản thân và sử dụng chúng để lập nên một mạng lưới ảo kết nối với những người bạn trong thực tế và tìm kiếm những người bạn mới trên mạng”[13]

Trong khoản 14, điều 13, chương I, Nghị định 97/2008/NĐ-CP: “Dịch

vụ mạng xã hội trực tuyến là dịch vụ cung cấp cho cộng đồng rộng rãi người

sử dụng khả năng tương tác, chia sẻ, lưu trữ và trao đổi thông tin với nhau trên môi trường Internet, bao gồm dịch vụ tạo nhật ký (blog), diễn đàn (forum), trò chuyện trực tuyến (chat) và các hình thức tương tác khác”

Từ các quan điểm trên đây, có thể đưa ra định nghĩa về mạng xã hội

như sau: Mạng xã hội là một thành tựu của thế giới Internet Mạng xã hội tạo

ra một hệ thống trên Internet để kết nối các thành viên cùng sở thích với nhiều mục đích khác nhau không phân biệt không gian và thời gian với những tính năng như kết bạn, chat, e-mail, phim ảnh, voice chat, chia sẻ file, blog… Nhằm phục vụ những nhu cầu của người sử dụng và những giá trị của xã hội

Trong thời đại bùng nổ thông tin hiện nay, mạng xã hội là một hiện tượng có tầm ảnh hưởng cũng như tác động tới các cá nhân, cộng đồng cực nhanh, rộng với phạm vi tương tác đa chiều không phân biệt thời gian và không gian Với những tính năng vượt trội cả về công nghệ và ứng dụng cuộc

mạng nói riêng liên kết với nhau và trở thành một phần tất yếu của hoạt động đời sống mỗi ngày trên khắp thế giới

1.2 Lịch sử hình thành và phát triển của deepfake video

Từ nhiều năm nay, kỹ xảo điện ảnh đã trở thành một phần gia vị không thể thiếu trong các bộ phim điện ảnh hiện đại Các đạo diễn làm phim đã dắt túi nhiều kỹ xảo giúp cho những tác phẩm của mình trở nên hoàn hảo hơn Đó

có thể là những kỹ xảo đồ họa, hay đơn giản là cắt ghét một khung hình, cảnh vật, con người vốn dĩ không hề ở đó nhưng vẫn xuất hiện trên màn ảnh

Quay trở lại năm 2013 khi nam diễn viên Paul Walker thuộc dàn sao của tựa phim “Fast and Furious” bom tấn qua đời vì tai nạn ô-tô sau một buổi

tổ chức từ hàng triệu người hâm mộ trên toàn thế giới vẫn hào hứng bất ngờ khi gương mặt của anh xuất hiện trong phần phim tiếp theo ra rạp

Câu trả lời cho tất cả những cảm xúc nghẹn ngào đó là nhờ công nghệ

kỹ xảo tiên tiến, ghép gương mặt gốc của anh vào diễn viên đóng thế ở mọi cảnh quay được thực hiện sau này Mặc dù người đóng thế chính là Cody Walker - em trai của Paul - với nhiều điểm tương đồng lẫn nhau ở nét mặt của

2 người để giúp quá trình chỉnh sửa dễ dàng hơn, nhưng đây vẫn là một ví dụ điển hình cho thấy sức mạnh và tiềm năng mở đầu cho một công nghệ kỹ xảo thế hệ mới

Deepfake xuất phát từ chính những hình thức quen thuộc này, nhưng được phát triển và cải tiến cao cấp hơn nhờ khả năng tích hợp trí tuệ nhân tạo (AI) vào lõi hệ thống của mình Cũng như photoshop, deepfake mang trong mình khả năng đổi trắng thay đen thần sầu, thậm chí áp dụng được cho cả video ảnh động, không bị giới hạn trong ảnh tĩnh Cũng bởi lẽ đó, nếu Photoshop cũng từng là công cụ tiếp tay cho nhiều mục đích tiêu cực của những kẻ xấu thích dắt mũi người khác, Deepfake cũng không phải một ngoại

lệ tuyệt đối trong trường hợp này

1.2.1 Trên thế giới

Trên thế giới, deepfake bắt dầu xuất hiện vào tháng 12/2017, trở thành danh từ khi người dùng có tên “deepfake” công bố một loạt video khiêu dâm trên diễn đàn Reddit Người dùng này đã sử dụng AI để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm Những video với khuôn mặt ghét rất giống này lập tức gây nên làn sóng phản đối

Trước đó vài tháng, một nhóm nghiên cứu thuộc Đại học Washington công bố một clip ghép mặt của cựu Tổng thống Mỹ Barack Obama trong khi giọng nói thì của một người khác

Vào năm 2018, Reddit đã đóng một loạt mục chia sẻ deepfake video Sau đó, Twitter cũng vào cuộc khi chặn các bài viết chia sẻ Một trang web chuyên chia sẻ phim người lớn cũng cấm cửa những video dạng này

Tháng 1/2018, ứng dụng có tên FakeApp ra mắt Ứng dụng này hỗ trợ người dùng làm các deepfake video nhanh chóng hơn trên máy tính Phần mềm này có giao diện dễ dàng và cách sử dụng đơn giản, với 3 câu lệnh cơ bản Trong bài viết hướng dẫn, người tạo ra công cụ này nhắn gửi “nếu bạn sử dụng nó, hãy dùng một cách có trách nhiệm”

Tháng 4/2018, BuzzFeed đăng tải một video ghép mặt cựu Tổng thống

Mỹ Barack Obama với giọng đọc của người khác Video này cho biết đã mất

56 giờ để tổng hợp các dữ liệu khuôn mặt của ông Obama Các video ghép mặt những người có quyền lực dễ dàng được lan truyền và đánh lừa hàng triệu người dùng trên mạng xã hội.[14]

Hình 1.1 Deepfake video ghi cảnh cựu Tổng thống Mỹ Barack Obama thốt ra lời

mà thực chất là nhà làm phim Jordan Peele (bên phải) nói (Ảnh: Buzzfeed)

Tháng 6/2019, một biến thể của deepfake có tên deepnude được phát hành trên mạng Nó có sẵn và cho phép tải xuống miễn phí trên hệ điều hành Windows Ứng dụng này cho phép dễ dàng tạo ra hình ảnh khỏa thân của phụ

nữ chỉ bằng một cú nhấp chuột Người dùng chỉ cần chọn hình ảnh mình thích,

bỏ vào ứng dụng Phần còn lại, hệ thống của deepnude sẽ xử lý, lột bỏ quần

áo của phụ nữ và cho ra sản phẩm là một hình ảnh khỏa thân

Ngày 23/5/2019, một đoạn video cho thấy Chủ tịch Hạ viện Mỹ, bà Nancy Pelosi, 79 tuổi xuất hiện như đang say rượu khi phát biểu ở một sự kiện Đoạn video này nhanh chóng lan truyền trên mạng xã hội, được phát cả trên sóng truyền hình và chia sẻ bởi Tổng thống Mỹ Donald Trump [15]

Ngày 9/6/2019, một đoạn video với hình ảnh giả mạo của Mark Zuckerberg, CEO Facebook được đăng tải trên Instagram Trong video, hình ảnh Mark Zuckerberg đang ngồi ở phòng làm việc và nói về sức mạnh tàn bạo của Facebook Video có phần mô tả với nội dung “hãy tưởng tượng điều này: Một người đàn ông với quyền kiểm soát dữ liệu đánh cắp được của hàng tỷ

người dùng Tất cả bí mật, cuộc sống, tương lai của họ”, “Mark Zuckerberg giả” nói những điều Mark thật sẽ không bao giờ nói trong đoạn video [16]

Một sự việc cho thấy mối nguy thật sự của deepfake đó là vào tháng 5/2019, một video giả mạo về sức khỏe của tổng thống Gabon, Ali Bongo ở Trung Phi Đây là một sự việc gây ra một ngòi nổ về một cuộc đảo chính quân

2020 “Những video giả mạo được thực hiện bởi AI là mối đe dọa an ninh

quốc gia, chúng ta cần chống lại nó”, ông Adam Schiff nói[2]

1.2.2 Ở Việt Nam

Ở Việt Nam, thuật ngữ “deepfake” bắt đầu xuất hiện vào đầu năm 2018, trong một loạt bài báo viết về đoạn video giả mạo tổng thống Obama nói xấu tổng thống Donald Trump trên các trang báo mạng điện tử lớn như new.zing.vn, vietnamplus.vn, vnexpress.vn, thanhnien.vn Thông qua đoạn video giả mạo tổng thống Obama đầy tinh vi và khó phát hiện này, các bài báo đã đưa ra thuật ngữ “deepfake” và cảnh báo về mối nguy hiểm của nó

Thực tế hiện nay, các deepfake video xuất hiện ở Việt Nam không ít Đặc biệt, khi các công cụ sản xuất deepfake ngày càng đơn giản, một loạt ứng dụng có khả năng hoán đổi gương mặt ra đời như Face App, Face Swap, Zao thì deepfake xuất hiện ở Việt Nam ngày càng nhiều hơn

Cuối năm 2018, ứng dụng Face Swap xuất hiện và đã tạo ra trào lưu

gương mặt bằng ứng dụng Face Swap là cực kỳ dễ dàng Người dùng không cần thực hiện bất cứ một thao tác chỉnh sửa ảnh nào, chỉ cần chụp một tấm hình selfie, sau đó lựa chọn các hình ảnh có sẵn để hoán đổi gương mặt Người dùng mạng xã hội ở Việt Nam đã đồng loạt cài ứng dụng này và cùng chia sẻ lên mạng xã hội những khuôn mặt đã qua “biến đổi” của mình với người khác

Phần lớn các deepfake video ở Việt Nam đều được tìm thấy nhiều ở các website khiêu dâm nhằm mục đích thu hút người xem và kiếm tiền từ chạy quảng cáo Các nhân vật trong các đoạn video giả mạo này đều có khuôn mặt giống hoặc gần giống với những người nổi tiếng Ngoài mục đích khiêu dâm, giải trí các deepfake video ở Việt Nam chưa có mục đích lớn nào khác

Ngày 19/9/2019, một đoạn deepfake video nhân vật trong bộ phim

“Hậu duệ mặt trời” đăng trên nhóm Cộng đồng Designer Việt Nam đã gây sốc cộng đồng mạng, nhận về hơn 1.800 lượt chia sẻ, 21.000 lượt thích và hơn 3.000 lượt bình luận Được biết, đoạn deepfake video này được tạo ra nhờ ứng dụng ZAO - một ứng dụng hoán đổi khuôn mặt của Trung Quốc.[17]

Hình 1.2 Deepfake video nhân vật nam chính trong bộ phim “Hậu duệ mặt

trời” do một người dùng Facebook tạo dựng

Hiện nay, deepfake đã được cộng đồng và các giới chuyên gia ở Việt Nam quan tâm vì những nguy cơ tiềm tàng Ngày 8/1/2019, thuật ngữ

“Deepfake” được đưa ra thảo luận trong hội thảo Tech Talks do VnExpress Chủ tịch Hội đồng quản trị Bkav - ông Nguyễn Tử Quảng đã cảnh báo sức nguy hiểm của deepfake không khác bom hạt nhân và yêu cầu người dùng mạng cần có ý thức trong việc bảo vệ thông tin cá nhân, tránh chia sẻ nhiều hình ảnh lên các trang mạng xã hội.[3]

1.3 Đặc điểm của deepfake video

1.3.1 Nội dung

Cuối năm 2017, Deepfake trở nên phổ biến khi một người trên diễn đàn Reddit có tên “Deepfakes” phát ành một công cụ dùng Al để hoán đổi gương mặt của người nổi tiếng vào trong các bộ phim khiêu dâm Hai năm sau Deepfake đã bùng nổ với lượng video giả tăng chóng mặt Ban đầu, các video nhìn rất giả, nhưng càng ngày thuật toán càng chính xác và cho ra đời những sản phẩm mà mắt thường khó có thể phân biệt được

Hiện nay, đa số các deepfake đều có nội dung đồ trụy, ghép hình người nổi tiếng vào những bộ phim khiêu dâm Theo thống kê của Deeptrace, công

ty có trụ sở tại Amsterdam chuyên nghiên cứu về những nội dung được tạo ra bởi AI, 96% deepfake video có nội dung đồ trụy Họ đã phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăng tải các deepfake video có tổng lượt xem lên tới 134 triệu.[7]

Không chỉ dừng lại ở nội dung đồ trụy, deepfake còn giả mạo các chính trị gia hoặc những người nổi tiếng Công nghệ này có thể được sử dụng để tạo

ra các video các chính trị gia nói những điều họ chưa bao giờ nói hoặc làm những việc họ chưa boa giờ làm Nội dung này của deepfake lần đầu tiên

một video giả vờ cho thấy cựu Tổng thống Barack Obama xúc phạm Tổng thống Donald Trump trong một bài phát biểu Một loạt người nổi tiếng như: Mark Zuckerberg – ông chủ của Facebook, Elon Musk – CEO của Tesla,… cũng đã xuất hiện trong một loạt deepfake video

Bên cạnh hai nội dung nói trên, một số deepfake video còn có nội dung hài hước được tạo ra nhằm mục đích giải trí Ghép hình những người nổi tiếng vào các nhân vật trong những bộ phim hài hoặc hoán đổi khuôn mặt

Có thể thấy, đa số deepfake video đều có nội dung làm giả hình ảnh những người nổi tiếng, có tầm ảnh hưởng đối với công chúng để nhằm mục đích hạ bệ hình ảnh, phát tán những thông tin giả mạo một cách nhanh chóng hoặc dùng để lừa đảo Trong tương lai, deepfake sẽ có nội dung đa dạng hơn và ảnh hưởng đến nhiều lĩnh vực và trở thành mối đe dọa an ninh trên toàn thế giới

1.3.2 Hình thức

1.3.2.1 Công nghệ thực hiện

Từ deepfake là sự kết hợp các thuật ngữ “deep learrning” (học sâu) và

“fake” (giả tạo), đây là một dạng thức của trí tuệ nhân tạo Khi nhắc đến deepfake ta không thể nhắc đến công nghệ deep learning Bởi vì công nghệ deap learning là yếu tố cốt lõi để tạo ra deepfake

Deep learning là một công nghệ học máy của trí tuệ nhân tạo, ra đời từ những năm 80 của thế kỷ 20 Tuy nhiên, hơn 3 năm trở lại đây, deep learning

đã và đang là một chủ đề AI được bàn luận sôi nổi Là một phạm trù nhỏ của machine learning, deep learning tập trung giải quyết các vấn đề liên quan đến mạng thần kinh nhân tạo nhằm nâng cấp các công nghệ như nhận diện giọng, tầm nhìn máy tính và xử lý ngôn ngữ tự nhiên Deep learning đang trở thành một trong những lĩnh vực tiến bộ nhất trong khoa học học máy tính Chỉ trong vài năm, deep learning đã thúc đẩy tiến bộ trong đa dạng các lĩnh vực và giải quyết các vấn đề từng rất gây rất nhiều khó khăn cho các nhà nghiên cứu trí tuệ nhân tạo như nhận thức sự vật, dịch tự động, nhận diện giọng nói,…

Deep learning là chương trình chạy trên một mạng thần kinh nhân tạo,

có khả năng huấn luyện máy tính học từ một lượng lớn dữ liệu được cung cấp

để giải quyết những vấn đề cụ thể Đặc biệt, nó còn có khả năng phân tích nhiều chi tiết khác nhau trong cùng một nguồn dữ liệu được cung cấp Chẳng hạn, để deep learning nhận diện hình ảnh một con mèo thì nó sẽ lập trình ra nhiều lớp trong mạng thần kinh nhân tạo, mỗi lớp có khả năng xác định một đặc điểm cụ thể của con mèo như râu, vuốt, chân, rồi cho máy xem hàng ngàn bức ảnh một con mèo Khi xem hết các bức ảnh, mạng thần kinh nhân tạo sẽ dần nhận đặc điểm nhận dạng chính của con mèo

Deepfake cũng được tạo ra từ một cơ chế như trên, deepfake sẽ quét video và ảnh chân dung của một người sau đó hợp nhất với video riêng biệt

và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học và sẽ cho ra những video giả mạo cho độ chân thật gần như hoàn hảo

Deepfake sẽ tinh vi và nguy hiểm khi trí tuệ nhân tạo trở nên tốt hơn Điều này một phần là do bản chất của trí tuệ nhân tạo Khả năng phát triển bản thân của trí tuệ nhân tạo là con dao hai lưỡi Nếu trí tuệ nhân tạo được tạo

ra để làm những việc có ích cho cuộc sống thì sẽ có những thành quả to lớn và tích cực Nhưng khi một trí tuệ nhân tạo được tạo ra để làm ra một thứ gì đó độc hại (như deepfake) thì mối nguy hiểm sẽ rất không thể lường hết được

1.3.2.2 Dữ liệu đầu vào

Để làm ra một video giả mạo có chất lượng tốt, deepfake cần một bộ dữ liệu đầu vào lớn để có thể thực hiện tốt các thuật toán Deepfake thường bắt nguồn từ mạng thần kinh nhân tạo đa lớp trong nhiều thập kỷ qua, các nhà khoa học ngành công nghệ thông tin đã khám phá ra mạng thần kinh nhân tạo

sẽ trở nên mạnh hơn với một lớp thần kinh được thêm vào Và để có thể tạo ra

Dữ liệu đầu vào của deepfake là các đoạn video, clip, âm thanh, hình ảnh của nhân vật muốn giả mạo Deepfake không chỉ cần một nhiều hình ảnh

mà nó còn cần nhiều hình ảnh khác nhau Nó cần phải thấy khuôn mặt từ nhiều góc, mang nhiều loại biểu cảm và ở trong các điều kiện ánh sáng khác biệt Trong một nghiên cứu mới đây của trường Đại học Khoa học Ứng dụng Rapperswil cho biết, để làm được 1 đoạn deepfake video hoàn chỉnh có độ dài

7 giây, cần phải cung cấp 500 hình ảnh khác nhau về nhân vật muốn giả mạo[18]

Hơn nữa, để làm ra các đoạn video giả mạo, deepfake còn cần một máy hình có cấu hình mạnh, xử lý đồ họa tốt để có thể xử lý được dữ liệu và chạy thuật toán Quá trình làm việc của máy tính để tạo ra một deepfake video mất rất nhiều thời gian Mặc dù một đoạn deepfake video chỉ có độ dài vài phút nhưng cũng phải mất nhiều giờ đồng hồ để chạy thuât toán trên máy tính Trong đoạn video giả mạo Tổng thống Obama nói xấu Tổng thống Donald Trump của Buzzfeed chỉ có độ dài 1 phút 12 giây Tuy nhiên, công ty này cho biết, họ đã mất gần 60 tiếng để làm đoạn video này với sự giúp sức của một biên tập viên video chuyên nghiệp[19]

Hiện nay, với sự phát triển của công nghệ, deepfake được tạo ra ngày càng dễ dàng hơn Dữ liệu đầu vào của deepfake ngày càng được giảm nhẹ Vào đầu năm 2019, Các nhà nghiên cứu thuộc Trung tâm AI Samsung ở Moscow và Viện Khoa học và công nghệ Skolkovo đã giới thiệu phương pháp mới về deepfake trong bài viết học thuật công bố trên ấn bản arXiv[20]

Họ cho biết mình có thể tạo ra video giả trông hệt như thật của bất cứ ai, chỉ bằng việc sử dụng một hình ảnh duy nhất để làm dữ liệu đầu vào Mặc dù chất lượng của các deepfake video chỉ với 1 hình ảnh không tốt bằng chất lượng của các video có nhiều hình ảnh khác nhau nhưng đây được xem là một bước cải tiến mới về cơ sở dữ liệu đầu vào của deepfake

1.3.2.3 Hình ảnh

Deepfake có khả năng làm giả hình ảnh khuôn mặt của một người mà gần như không thể nhận ra sự khác biệt bằng mắt thường Các thuật toán mà Deepfake sở hữu trong hệ thống sẽ được lập trình và trải qua hình thức học hỏi lâu dài, thông qua hàng loạt các bộ dữ liệu hình ảnh cũng như video, hình thành thói quen tự động nhận biết và xử lý Sau khi được gán cho một mục tiêu cá nhân làm đích đến, deepfake sẽ liên tục quét qua những hình ảnh có sẵn trước đó về họ, tổng hợp và tạo nên một phiên bản giả mạo mà trông như thật, giúp thao túng chỉnh sửa và điều khiển tùy ý Những dữ liệu khuôn mặt

ảo đó có thể được đem ghép vào thân hình của người khác, trong khi vẫn thực hiện điệu bộ, cử chỉ y hệt như nguyên mẫu gốc

Giả sử nếu muốn chuyển khuôn mặt của người A sang video của người

B thì đầu tiên, deepfake sẽ thu thập hàng trăm và hàng ngàn hình ảnh của hai

người đó và bắt đầu xây dựng hai bộ mã hóa để mã hóa tất cả hình ảnh này bằng cách sử dụng các mạng thần kinh nhân tạo Sau đó, deepfake cũng sẽ sử dụng hai bộ giải mã để xây dựng lại hình ảnh của hai người

Bộ mã hóa sẽ trích xuất những đặc điểm nhận diện quan trọng nhất trên khuôn mặt của hai người và tái tạo lại dữ liệu đầu vào Sau khi đã có những đặc điểm nhận diện quan trọng, bộ giải mã sẽ giả mã các đặc điểm này, sao cho trích xuất được dữ liệu đầu ra khớp với dữ liệu đầu vào

Sau quá trình này, deepfake sẽ xử lý từng khung hình video để hoán đổi khuôn mặt của người A vào video của người B Sử dụng tính năng nhận diện khuôn mặt, deepfake trích xuất khuôn mặt của người A đưa vào bộ mã hóa Tuy nhiên, thay vì cho vào bộ giải mã ban đầu của người A, deepfake sẽ sử dụng bộ giải mã của người B để xây dựng lại hình ảnh Có nghĩa là tái tạo lại hình ảnh của người B với các đặc điểm nhận diện quan trong của người A Sau

đó, deepfake sẽ hợp nhất khuôn mặt vừa tạo vào video gốc để tạo ra một deepfake video hoàn chỉnh

Deepfake phải quét qua hàng ngàn hình ảnh để phân tích và nhận diện khuôn mặt của một người Để có những biểu cảm, góc mặt khác nhau, deepfake cần một nguồn dữ liệu lớn về các hình ảnh khác nhau của người muốn làm giả Trong một số deepfake video, khuôn mặt của nhân vật bị làm giả sẽ bị mờ xung quanh khuôn mặt Đó là do quá trình hợp nhất hai ình ảnh lại với nhau chưa đồng bộ Đây là một nhược điểm phổ biến trong quá trình xây dựng hình ảnh giả mạo dễ nhận ra nhất của deepfake

1.3.2.4 Giọng nói

Giọng nói là thứ thuộc về cá nhân hóa của một con người Tuy nhiên, giờ đây, deepfake có thể bắt chước giọng và tạo ra những giọng nói giả mạo giống với giọng nói thật của bất kỳ ai Đặc biệt hơn, deepfake còn có khả năng đồng bộ giọng nói giả mạo vào khẩu hình miệng của một người nào đó, với độ chính xác cao Điều này khiến, trong các deepfake video, nhân vật bị giả mạo có thể nói ra bất kỳ điều gì mà bản thân họ không hề nói ra trong thực tế

Để tạo ra những đoạn âm thanh giọng nói giả mạo của một người, đầu tiên, deepfake sẽ quét đoạn âm thanh giọng nói gốc để cô lập các âm vị (những âm thanh cấu thành nên các từ) được nói bởi người muốn làm giả Sau

đó kết nối các âm vị này với các biểu cảm khuôn mặt tương ứng khi thể hiện mỗi âm vị đó Cuối cùng, họ tạo ra một mô hình 3D của nửa dưới khuôn mặt người nói bằng cách sử dụng video gốc

Để đồng bộ hóa giọng nói giả và khẩu hình miệng của một người, deepfake sẽ tạo ra một mô hình khuôn mặt ba chiều trên mỗi khung hình của video gốc để trích xuất hình học, tư thế và biểu cảm của khuôn mặt Từ đó, deepfake sẽ vẽ được các khuôn mặt 2D có những biểu cảm, chuyển động miệng khác nhau của nhân vật bị giả mạo Sau đó, deepfake sẽ tái cấu trúc khuôn mặt 3D để khớp với chuyển động môi và đoạn âm thanh giả mạo giọng

nói của một người nào đó Kết quả, từng chuyển động môi của nhân vật khớp gần như hoàn toàn với giọng nói giả mạo trong những deepfake video

Để có thể làm giả phong cách của một ai đó, một lớp các thuật toán của deepfake được gọi GAN sẽ giúp máy tính bắt chước được mọi chuyển động đầu, nét mặt, chuyển động miệng, nháy mắt theo chính xác với hình ảnh hoặc video gốc Gan là từ viết tắt của Generative Adversarial Networks Generative

là một tính từ có nghĩa là khả năng sinh ra, Network có nghĩa là mạng (mô hình), còn Adversarial là đối nghịch GAN là mạng để sinh dữ liệu mới giống với dữ liệu trong dữ liệu có sẵn GAN cấu tạo gồm 2 mạng là generator và discriminator Trong đó, generator làm nhiệm vụ sinh ra các dữ liệu giống như thật, discriminator thì làm nhiệm vụ phân biệt đâu là dữ liệu được sinh ra

từ generator và đâu là dữ liệu thật Các deepfake video giả mạo phong cách của một ai đó thường chỉ mang tính trực quan, không có chuyển động âm thanh do những hạn chế về công nghệ Nhưng những video này đã đánh dấu một sự phát triển mới của công nghệ deepfake

Deepfake được tạo ra trên nền tảng trí tuệ nhân tạo, cụ thể là công nghệ deep learning (học sâu) nên nó sẽ mang những đặc điểm chung về mặt kỹ thuật giống với công nghệ deep learning Về cơ bản, deepfake có những đặc điểm cần chú ý như sau:

- Deepfake đều có nội dung làm giả hình ảnh những người nổi tiếng, có tầm ảnh hưởng đối với công chúng

- Deepfake xuất phát từ công nghệ deep learning – một tập hợp con của trí tuệ nhân tạo

- Deepfake cần một bộ dữ liệu đầu vào (video, clip, hình ảnh, âm thanh) lớn

- Deepfake có khả năng giả mạo hình ảnh, giọng nói và phong cách của con người

1.4 Một số tiêu chí nhận diện deepfake video

Deepfake được cho là bước tiến của trí tuệ nhân tạo (AI) nhằm rút ngắn thời gian sản xuất video hình ảnh Tuy nhiên, nếu bị sử dụng vào mục đích xấu, công nghệ này có thể gây ra những hậu quả nghiêm trọng Với sự phát triển nhanh chóng của công nghệ, trong thời gian tới những deepfake video sẽ ngày càng trở nên hoàn hảo và đạt tới tầm cao mới Tuy nhiên, ở thời điểm hiện tại, nếu tinh ý, chúng ta vẫn có thể nhận ra deepfake video bằng mắt thường Hơn nữa, do sức mạnh xử lý hình ảnh của máy tính chưa đạt tới sự hoàn hảo, video sử dụng công nghệ deepfake vẫn để lộ những điểm có thể nhận biết là video bị làm giả

Một là nháy mắt của nhân vật bị làm giả không bình thường

Vào năm 2018, các nhà nghiên cứu Mỹ phát hiện ra rằng những khuôn mặt của nhân vật bị làm giả trong deepfake video không thể chớp mắt như bình thường Phần lớn các hình ảnh cho thấy mọi người mở to mắt, vì vậy các thuật toán không bao giờ học được về việc chớp mắt Ban đầu, sau khi phát hiện này được đưa ra, người ta cho rằng đây chính là điểm mấu chốt của vấn

đề Các nhà nghiên cứu đã giới thiệu thiệu 1 công cụ cho phép nhận diện các deepfake video Công cụ này còn có thể phân tích được những chi tiết mà mắt người không thể nhận ra như phân tích phổ hoặc ánh sáng của bức ảnh để nhận ra vị trí khác biệt Tuy nhiên, các nhà khoa học phát minh ra công cụ

này thừa nhận họ vẫn phải liên tục phát triển để chạy đua với những kỹ thuật làm giả mới nhất

Hai là chất lượng hình ảnh trong deepfake video kém, đồng bộ xấu

Trong các deepfake video, hình ảnh thường có chất lượng kém, đồng

bộ môi xấu, màu da loang lổ, khẩu hình của người nói sai lệch so với tiếng nói, có hình ảnh không ăn khớp với hình nền Những đặc điểm này hoàn toàn

có thể giúp chúng ta nhận ra các deepfake video Tuy nhiên, người xem phải

để ý mới có thể nhận ra, còn những ai chỉ xem lướt qua sẽ không thể phát hiện những đặc điểm này Mặc dù, trí tuệ nhân tạo có khả năng rất tốt trong việc tổng hợp và tạo ra hình ảnh giả của một người nào đó Tuy nhiên, nó sẽ không bao giờ có thể làm giống hoàn toàn với khuôn mặt thật Các thuật toán của trí tuệ nhân tạo phải mất rất nhiều thời gian để chạy qua hàng ngàn bức ảnh của một nhân vật để tạo ra một hình ảnh giả mạo Điều này không phải lúc nào cũng thực hiện chính xác

Ba là ánh sáng trong deepfake video không nhất quán

Deepfake video thường có hiệu ứng ánh sáng kỳ lạ, chẳng hạn như chiếu sáng không nhất quán và ánh sáng thường phản chiếu thẳng lên mắt của nhân vật Đây là căn cứ quan trong để phát hiện ra các deepfake video Sở dĩ, ánh sáng trong video deepfake không nhất quán là do khi thuật toán AI tổng hợp các hình ảnh của một nhân vật để tạo ra các biểu cảm cho khuôn mặt mới, hình ảnh mới này không khớp được với điều kiện ánh sáng, màu sắc trong video gốc Để làm cho khuôn mặt giả hài hòa với môi trường xung quanh, khuôn mặt này cần phải được biến đổi hình học và xử lý kỹ thuật số rất nhiều mới có thể tạo ra một kết quả hoàn hảo

Bốn là trên khuôn mặt nhân vật bị làm giả trong deepfake video có các chi tiết nhỏ, bất thường

Công nghệ deepfake có thể bắt chước và làm giả khuôn mặt người nhưng khó có thể làm giả những chi tiết nhỏ trên khuôn mặt Các chi tiết như tóc rất khó để deepfake làm giả một cách hoàn hảo Đồ trang sức hay răng cũng là một điểm cần chú ý để nhận diện deepfake Thông thường, đồ trang sức và răng của nhân vật bị làm giả thường mờ, nhấp nháy và nhìn trông rất giả Điều này là do công nghệ deepfake chỉ tập trung vào sự tổng quát và thường bỏ qua những chi tiết nhỏ Khi chú ý đến các chi tiết nhỏ này, chúng

ta có thể nhận diện được những video giả mạo làm từ công nghệ deepfake

Năm là chất lượng âm thanh trong deepfake video kém tự nhiên

Một khía cạnh của deepfake mà chúng ta không mấy chú ý, đó là nó có thể tạo ra những đoạn âm thanh giả mạo có độ chân thật tới nỗi khó có thể phân biệt được Một ví dụ điển hình nhất về khả năng này của deepfake đến

từ đại học Washington, nơi các nhà nghiên cứu đang tạo ra một công cụ mới

có thể dùng tập tin âm thanh và chuyển chúng thành chuyển động của môi rất chân thực, sau đó biến chúng thành video giả mạo một ai đó đang nói những điều mà họ không hề nói

Tuy nhiên, những đoạn âm thành giả mạo được tạo ra từ công nghê deepfake có thể nhận diện bằng cách lắng nghe kỹ Các đoạn âm thanh giả mạo thường có mật độ âm thanh rất dày, lúc nghe sẽ tạo ra cảm giác các âm thanh đang bị chồng chéo lên nhau Ngoài ra, âm sắc trong những đoạn âm thanh làm từ công nghệ deepfake thường trầm, nặng hơn so với những âm thanh tự nhiên Đây là một đặc điểm cơ bản để phân biệt những đoạn âm thanh tự nhiên và âm thanh do công nghệ deepfake tạo ra

1.5 Ảnh hưởng của deepfake video đối với báo chí và truyền thông xã hội

Deepfake là một vấn đề lớn không chỉ bởi vì các video là giả mạo và dễ dàng thực hiện, mà còn bởi vì chúng giống như tin giả, thậm chí còn nghiêm

trọng các tin giả Việc deepfake làm méo mó truyền thông xã hội và báo chí là một nguy cơ không thể xem thường

1.5.1 Đối với truyền thông xã hội

Mặc dù thuật ngữ deepfake mới chỉ xuất hiện trong 2 năm trở lại đây nhưng đã có nhiều chuyên gia cảnh báo về mối nguy hiểm của nó Không bị giới hạn bởi tình hình thực tế, những đoạn video giả mạo sẽ đánh mạnh vào

sự tò mò, cảm xúc của chúng ta và lan truyền với tốc độ chóng mặt

Chúng ta có thể thấy rằng, sự chi phối của truyền thông xã hội trên các nền tảng mạng xã hội đang trở nên vô cùng mạnh mẽ hơn bao giờ hết Và không ai có thể phủ nhận được những tiện ích to lớn mà mạng xã hội mang lại Tính tương tác của mạng xã hội rất cao và đây được xem như là đặc điểm nổi bật của mạng xã hội, các thành viên có thể chia sẻ thông tin hoặc tương tác trực tiếp với nhau theo nhiều cách như thích (like), bình luận (comment), chia

sẻ (share), cùng sử dụng các ứng dụng, kết nối cùng nội dung Qua đó, người dùng mạng xã hội có thể thảo luận, chia sẻ, tương tác không phụ thuộc vào điều kiện địa lý, thời gian

Truyền thông xã hội chính là nền tảng chính để phát tán mạnh deepfake, gây hoang mang dự luận Các chuyên gia cảnh báo rằng phần mềm deepfake

có thể bị biến thành một thứ vũ khí thông tin sai lệch và do dễ tạo nội dung giả mạo, video có thể được tạo và phân phối kịp thời, cho phép video giả đạt tới hàng triệu lượt xem chỉ trong vài giây

Mọi người trên khắp thế giới đều có xu hướng tìm kiếm nội dung các kênh truyền thông xã hội, một trong những nền tảng trực tuyến được yêu thích nhất Tuy nhiên, nếu các kênh truyền thông xã hội lan truyền quá nhiều video giả mạo, làm bóp méo thông tin sự thật thì sẽ làm đánh mất niềm tin của người dùng

Truyền thông xã hội hoạt động được là nhờ sự tham gia của đông đảo

thông xã hội khó có thể tồn tại Người dùng sẽ có xu hướng tìm đến những nền tảng mới để chia sẻ ý tưởng, suy nghĩ và thông tin

Deepfake đặt ra một mối đe dọa lớn hơn tin giả đối với truyền thông xã hội bởi vì deepfake khó phát hiện hơn và người xem thường có xu hướng tin vào những gì họ được tận mắt thấy Nhận thấy được những tác động to lớn của deepfake, một trong những trang mạng xã hội hàng đầu, Facebook cho biết, họ đang tích cực làm việc để chống lại mối đe dọa của deepfake Họ đã triển khai đội ngũ kỹ thuật để phát hiện các video, hình ảnh hoặc video bị thao túng và cũng cho phép người dùng báo cáo nội dung đó[21] Các công ty truyền thông

xã hội cũng thuê người hoặc dịch vụ deepfake cung cấp cho các công ty để phát hiện ra những nội dung đó và giúp họ xóa trước khi nó có thể ảnh hưởng đến nhiều người hơn

1.5.2 Đối với báo chí

Hiện nay, nền báo chí của các nước đang phải chật vật với tin giả (fake news), sự ra đời và phát triển của deepfake khiến cuộc chiến này càng thêm khó khăn Việc deepfake làm méo mó nền báo chí chính thống là một nguy cơ không thể xem thường Chúng không chỉ là công cụ để tạo ra những câu chuyện sai lệch, mà còn bào mòn niềm tin đối với những nội dung đúng được phản ánh trên báo chí chính thống, những nội dung mà trước kia không ai nghi ngờ Về cơ bản, deepfake sẽ tác động tới nền báo chí chính thông thông qua những phương diện chính sau:

Thứ nhất, deepfake sẽ làm cho việc kiểm soát nguồn tin, kiểm chứng thông tin của báo chí trở nên khó khăn hơn

Nền báo chí truyền thông thế giới đang ngày càng phụ thuộc nhiều hơn vào các trang mạng xã hội như: Facebook, Google, Instagram, Twitter… Trong đó, sự ảnh hưởng mạnh mẽ nhất có lẽ là Facebook bởi các tính năng vượt trội (như người dùng có thể đăng ảnh, video, tạo lập nhóm, chia sẻ, bình luận, đánh dấu thẻ, nhắn tin,…) trên nền tảng mạng xã hội này so với các