Trong việc xây dựng luật pháp cho trí tuệ nhân tạo nhằm bảo vệ quyền con người, thiết nghĩ việc cấm phát triển và sử dụng vũ khí tự động (loại sản phẩm chết chóc 304 Công dân trí [r]
Trang 1KIỂM SOÁT HỆ THỐNG TRÍ TUỆ NHÂN TẠO NHẰM BẢO VỆ
QUYỀN CON NGƯỜI
ThD Nguyễn Thị Hoài Phương
(Khoa Luật Hành chính, Đại học Luật Huế)
* ĐẶT VẤN ĐỀ
Trong thời đại ngày nay, trí tuệ nhân tạo (Artificial Intelligence - viết tắt là AI) đã và đang làm thay đổi thế giới mà chúng ta đang sống, từ cách làm việc cho đến cách hưởng thụ cuộc sống, từ việc chăm sóc sức khoẻ cho đến phương thức giáo dục và quản trị, vận hành xã hội Trong tương lai, khi mà công nghệ dần chiếm lĩnh trong hoạt động đời thường của mỗi chúng ta thì các ứng dụng của trí tuệ nhân tạo sẽ ngày càng trở nên phổ biến và mang lại nhiều lợi ích to lớn cho con người Tuy nhiên việc AI đang ngày càng có sức ảnh hưởng đến mọi khía cạnh trong cuộc sống thường nhật, đã đặt con người trước những nguy cơ, đặc biệt trong đó có nguy
cơ quyền con người bị xâm phạm Do đó, việc kiểm soát hệ thống trí tuệ nhân tạo, nhằm mục đích xây dựng một mô hình xã hội ứng dụng AI An toàn – Nhân ái – Trung thực – Tốt đẹp dành cho nhân loại trong tương lai là yêu cầu hết sức cấp thiết Vì vậy, bài viết này tập trung phân tích để trả lời ba câu hỏi lớn liên quan đến trí tuệ nhân tạo và quyền con người là: (i) Trí tuệ nhân tạo (AI) là gì? (ii) Trí tuệ nhân tạo có những ảnh hương tiêu cực nào đến quyền con người? (iii) Làm thế nào
để kiểm soát hệ thống trí tuệ nhân tạo nhằm bảo vệ quyền con người trong thời đại trí tuệ nhân tạo
1 Câu hỏi thứ nhất: Trí tuệ nhân tạo (AI) là gì?
Trí tuệ nhân tạo (AI) đang dần hiện hữu trong mọi lĩnh vực của cuộc sống con người Chính sự bùng nổ với nhiều đột phá của AI ở thời điểm hiện tại, đã khiến các quốc gia, các nhà nghiên cứu khoa học trên nhiều lĩnh vực xác định Al là vấn đề trọng yếu tương lai
Vậy trí tuệ nhân tạo là gì? Hiện có nhiều định nghĩa khác nhau về trí tuệ nhân tạo (AI), cụ thể là: Theo Wikipedia, trí tuệ nhân tạo là trí tuệ được biểu diễn
bởi bất cứ một hệ thống nhân tạo nào Thuật ngữ này thường dùng để nói đến các máy tính có mục đích không nhất định và ngành khoa học nghiên cứu về các lý thuyết và ứng dụng của trí tuệ nhân tạo289 Trong khi đó, Bellman (1978) lại đưa
ra định nghĩa rằng: trí tuệ nhân tạo là tự động hoá các hoạt động phù hợp với suy nghĩ con người, chẳng hạn các hoạt động ra quyết định, giải bài toán; Rich and
289 Xem:
https://vi.wikipedia.org/wiki/Tr%C3%AD_tu%E1%BB%87_nh%C3%A2n_t%E1%BA%A1o truy cập ngày 29 tháng 4 năm 2019
Trang 2Knight (1991) thì khẳng định: Trí tuệ nhân tạo là khoa học nghiên cứu xem làm thế nào để máy tính có thể thực hiện những công việc mà hiện con người còn làm
tốt hơn máy tính
Tuy có nhiều quan niệm khác nhau, nhưng khái quát lại chúng ta có thể hiểu trí tuệ nhân tạo là một ngành khoa học máy tính liên quan đến việc tự động hóa các hành vi thông minh AI là một bộ phận của khoa học máy tính và do đó nó xây dựng trên một nền tảng lý thuyết vững chắc và có thể ứng dụng trong việc tự động hóa các hành vi thông minh của máy tính AI giúp máy tính có được những trí tuệ của con người như biết suy nghĩ và lập luận để giải quyết vấn đề, biết giao tiếp do hiểu ngôn ngữ, tiếng nói, biết học và tự thích nghi (ví dụ: lái xe tự động, nhận dạng chữ viết, nhận dạng tiếng nói, tìm kiếm thông tin, nhận diện hình ảnh, xử lý dữ liệu của bệnh nhân để đưa ra phác đồ điều trị, xử lý dữ liệu để tự học hỏi, khả năng trả lời các câu hỏi về chẩn đoán bệnh, trả lời khách hàng về các sản phẩm của một công ty….) Tuy nhiên, khác với trí tuệ của mỗi cá nhân con người, Al có khả năng xử lý dữ liệu ở mức rộng lớn hơn, quy mô hơn, hệ thống, khoa học và nhanh hơn so với con người
Nghiên cứu về quá trình hình thành và phát triển của AI cho thấy, ý tưởng xây dựng một chương trình AI đã được khởi xướng vào tháng 10/1950 bởi nhà khoa học người Anh - Alan Turing, khi ông đưa ra khái niệm “phép thử Turing” (“phép thử bắt chước”) để kiểm chứng xem máy tính có khả năng suy nghĩ như con người hay không? Theo Alan Turing, để tiến hành phép thử này, cần có ba đối tượng tham gia: một người đóng vai trò là người đặt câu hỏi, ngồi tách biệt và nhận câu trả lời
từ hai đối tượng còn lại (bao gồm một con người và một máy tính) Khi nhận được câu trả lời, nếu người đặt câu hỏi không phân biệt câu trả lời nào là của chủ thể người và câu trả lời nào là của máy tính, thì bước đầu có thể đi đến kết luận rằng:
“máy tính có khả năng suy nghĩ như con người?”290 Ý tưởng và “phép thử bắt chước” của Alan Turing đã có ảnh hưởng và nhận được nhiều sự quan tâm của các nhà nghiên cứu khoa học trên khắp thế giới Nhiều Hội nghị về AI đã được tổ chức, điển hình trong đó có Hội nghị do Marvin Minsky và John McCarthy tổ chức vào năm 1956, tại trường Đại học Dartmouth, Hoa Kỳ Từ sau Hội nghị này, tên gọi
“artificial intelligence” được chính thức công nhận và Bộ môn nghiên cứu trí tuệ nhân tạo đầu tiên đã được thành lập tại trường291 Từ sau đó, các nhà nghiên cứu đã đạt được nhiều thành tựu trong lĩnh vực AI, có thể kể đến là: Những lập trình giúp máy vi tính giải được những bài toán đố của đại số, chứng minh các định lý và nói được tiếng Anh do các nhà khoa học John McArthy, Marvin Minsky, Allen Newell
và Herbert Simon cùng với những sinh viên đã viết (giai đoan 1950 – 1965);
290 Xem: Trần Thị Ngọc Hoài (2016), “Trí tuệ nhân tạo là gì? Nguồn gốc và một số ứng dụng của trí tuệ nhân
tạo trong thực tiễn”,
http://startup.vitv.vn/tin-chu/21-09-2016/tri-tue-nhan-tao-la-gi-nguon-goc-va-mot-so-ung-dung-cua-tri-tue-nhan-tao-trong-t/1321 truy cập ngày 22 tháng 4 năm 2019
291 tldd, xem lại chú thích 3
Trang 3Chương trình chơi cờ của Samuel; Chương trình lý luận Logic của Newell & Simon; Chương trình chứng minh các định lý hình học của Gelernte; đặc biệt phần mềm AlphaGo của Google DeepMind đánh bại nhà vô địch cờ vây thế giới Lee Sedol vào năm 2016 đã cho thấy rõ sức mạnh của trí tuệ nhân tạo…
Kể từ sau năm 2015, với sự phát triển của nền tảng điện toán đám mây với chi phí ở mức chấp nhận được, cùng những bộ dữ liệu phong phú, các công cụ phát triển phần mềm miễn phí hoặc giá rẻ đã hỗ trợ rất nhiều cho các nhà nghiên cứu về
AI Ngoài ra, với sự tham gia nghiên cứu, phát triển sản phẩm từ các tập đoàn lớn
về công nghệ thông tin như: Facebook, Google, Microsoft… đã mở ra kỷ nguyên mới cho trí tuệ nhân tạo
Theo đà phát triển của công nghệ, ứng dụng AI luôn là xu hướng công nghệ tương lai mà các hãng công nghệ trên toàn thế giới đua nhau sáng tạo, nó là nền tảng cốt lõi của cuộc cách mạng 4.0 Hiện tại, trí tuệ nhân tạo được ứng dụng trong đời sống theo hai hướng: Dùng máy tính để bắt chước quá trình xử lý của con người và thiết kế những máy tính thông minh độc lập với cách suy nghĩ của
con người Ngày nay, các hệ thống trí tuệ nhân tạo - với những công nghệ phổ
biến hiện nay như điện thoại thông minh, hệ thống điều khiển giao thông và các công cụ tìm kiếm trên Internet - được dùng thường xuyên trong kinh tế, y học, các ngành kỹ thuật và quân sự, ngân hàng, công nghệ siêu vi cũng như trong các phần mềm máy tính thông dụng trong gia đình và trò chơi điện tử… Một số ứng dụng của trí tuệ nhân tạo trong cuộc sống thực tiễn có thể kể đến như: Nhận dạng chữ viết, Nhận dạng tiếng nói, Dịch tự động, Tìm kiếm thông tin, Khai phá dữ liệu và phát triển tri thức, trợ lý ảo Siri trên Iphone, Trợ lý ảo Sense Companion trên HTC
U Ultra, dịch vụ Watson của IBM292, Lái xe tự động; Robot… đã ảnh hưởng tốt đến cuộc sống của con người Điển hình là, xe không người lái giúp con người tiết kiệm thời gian để làm việc hoặc thư giãn, đồng thời nâng cao an toàn khi lái xe, giảm thiểu tình trạng tai nạn giao thông293; hay phần mềm trí tuệ nhân tạo Watson có thể hỗ trợ y tế và chẩn đoán các vấn đề về y khoa Hiện nay, trí tuệ nhân tạo AI
đã mang đến một cấp độ mới của công nghệ thông minh cho các ngành công nghiệp, dự báo tiềm năng của nó vẫn tiếp tục tăng lên và đạt tới mức ngang với trí thông minh của con người294
292 Watson là một chương trình phần mềm trí tuệ nhân tạo do IBM phát triển với mục đích đưa ra lời đáp cho các câu hỏi được nêu lên bằng ngôn ngữ tự nhiên Chương trình này được đặt tên của nhà sáng lập công
ty IBM là Thomas J Watson
293 Quan điểm của tác giả là xe ô tô tự lái chỉ giảm thiểu tai nạn giao thông chứ không có nghĩa là không tuyệt đối gây ra tai nạn giao thông Trường hợp xấu nhất đã từng xảy ra là một chiếc ô tô tự lái đã đâm vào một người đi bộ vào tháng 3/2018 Người đi bộ đã thiệt mạng và vụ việc vẫn đang trong quá trình điều tra
294 xem số liệu bảng 1 về Dự báo về thị trường Trí tuệ nhân tạo 2016 -2025)
Trang 4Bảng 1: Dự báo về thị trường Trí tuệ nhân tạo 2016 -2025 (Nguồn: Statista) 295
2 Câu hỏi thứ hai: Trí tuệ nhân tạo có những ảnh hương tiêu cực nào đến quyền con người?
Lợi ích và rủi ro của trí tuệ nhân tạo, hay hai mặt của tiến bộ đã được được bàn luận nhiều trong thời gian gần đây Tuy AI đã mang lại hiệu quả, lợi ích tối ưu cho các hoạt động và cuộc sống của nhiều cá nhân, tổ chức và các công ty khác nhau; nhưng không thể phủ nhận rằng trí tuệ nhân tạo cũng đã đặt nhân loại trước nhiều nguy cơ, thách thức, trong đó có những nguy cơ liên quan đến quyền con người Ông Mustafa Seuleyman - đồng sáng lập công ty DeepMind của Google; Tỷ phú công nghệ, người sáng lập và điều hành công ty hàng không vũ trụ tư nhân SpaceX, Giám đốc điều hành của Tesla, Elon Musk nói rằng trí tuệ nhân tạo có thể
là mối đe dọa sinh tử của nhân loại296, đe doạ trực tiếp đến quyền con người Những ảnh hưởng tiêu cực, nguy cơ của trí tuệ nhân tạo đối với quyền con người, có thể được xem xét dưới các khía cạnh chính, điển hình sau:
Thứ nhất, vũ khí tự động - đe doạ quyền sống của con người:
Hiện nay, lĩnh vực AI và công nghệ robot đang có những phát triển vượt ngoài mong đợi Các cường quốc quân sự (Hoa Kỳ, Trung Quốc, Israel, Nga, Anh,
295 Xem: https://sophia.edu.vn/top-5-ngon-ngu-lap-trinh-tri-tue-nhan-tao-ai-pho-bien-nhat-phan-1/ truy cập ngày 14 tháng 4 năm 2019
296 Xem: Thái Bình (2017), “Trí tuệ nhân tạo nguy cơ lớn nhất của con người”
https://www.thesaigontimes.vn/163893/Tri-tue-nhan-tao-Nguy-co-lon-nhat-cua-con-nguoi.html
Trang 5Hàn Quốc, Pháp) đang ráo riết chạy đua chế tạo vũ khí sát thương tự động: robot, máy bay không người lái, xe tăng không người lái, súng phòng không tự động… Chính những bước tiến quá nhanh sẽ khiến những vũ khí tự động được áp dụng AI vượt ra ngoài tầm kiểm soát của con người Cụ thể, các loại vũ khí tự động, một khi được phát triển sẽ được phép tham gia các cuộc xung đột vũ trang Loại vũ khí này có thể chiến đấu ở quy mô lớn chưa từng có, với sát thương gấp nhiều lần những vũ khí do con người điều khiển Việc chạy đua phát triển vũ khí sát thương tự động giữa các cường quốc quân sự thế giới đã đặt con người trước nguy cơ của “cách mạng thứ ba về công nghệ chiến tranh”, và rằng cuộc cách mạng này một khi đã được phát triển, “chúng sẽ cho phép xung đột vũ trang diễn ra ở quy mô lớn chưa từng thấy, nhanh chóng đến mức con người không thể hiểu nổi”297 Trong một báo cáo công bố gần đây, bà Izumi Nakamitsu, người đứng đầu Văn phòng Giải trừ quân bị LHQ, cho biết ở một số điểm nóng trên thế giới, các máy móc thông minh
đã được sử dụng, chẳng hạn như những “robot canh gác” trong khu phi quân sự giữa Triều Tiên và Hàn Quốc Quân đội Hàn Quốc đang sử dụng một thiết bị giám sát gọi là SGR-AI do Samsung chế tạo có khả năng phát hiện, theo dõi và bắn hạ những kẻ xâm nhập “Robot canh gác” được cho là có tác dụng giảm bớt nỗi căng thẳng cho hàng ngàn binh lính phải canh giữ một đường biên giới dài 250 ki lô mét dày đặc căn cứ quân sự Một video của Samsung cho biết “hệ thống SGR-AI có thể được lắp đặt không chỉ ở biên giới quốc gia mà cả ở những địa điểm thiết yếu như sân bay, nhà máy điện, kho xăng dầu hoặc căn cứ quân sự”298
Việc áp dụng vũ khí tự động đã đặt ra một loạt các vấn đề liên quan đến
quyền con người: Một là, dù hầu hết những công nghệ vũ khí tự động đều được sử
dụng cho mục đích quốc phòng và có sự giám sát chặt chẽ, tuy nhiên cũng không loại trừ khả năng các tổ chức khủng bố cực đoan sẽ lợi dụng các loại vũ khí tự động
để tiến công Không chỉ vậy, trong thời đại Internet, nguy cơ hệ thống điều khiển các loại vũ khí tự động bị tin tặc thâm nhập và chiếm quyền kiểm soát, sau đó sử dụng cho các mục đích sai trái là hoàn toàn có thể xảy ra Bằng việc sử dụng vũ khí
tự động, các hoạt động tiến công với ý đồ xấu sẽ gây ra những thiệt hại khôn lường
đến quyền sống của con người Hai là, tại sao lại trao cho máy móc quyền định đoạt
sinh mạng của con người? Khi sử dụng vũ khí tự động nghĩa là con người ngày càng ít can dự vào tiến trình chọn lựa và tiêu diệt mục tiêu bởi vì máy móc không có sự phán đoán của con người đã bắt đầu giữ vị trí thiết yếu nhất trong chiến tranh Điều này đã dẫn đến việc Tổ chức Quan sát Nhân quyền (HRW) đi đến nhận định
297 Theo nội dung Lá thư ngỏ có chữ ký của 115 các nhà khoa học và công nghệ về robot và trí tuệ nhân tạo
từ 30 quốc gia có nền công nghiệp robot phát triển (Mỹ, Trung Quốc, Israel, Nga, Anh, Hàn Quốc và Pháp) được đưa ra hôm thứ Hai 21-8-2017 tại một hội nghị về trí tuệ nhân tạo tổ chức ở Melbourne, Úc trước những phiên thảo luận chính thức của LHQ về vũ khí tự động
298 Tldd xem chú thích 8
Trang 6rằng: “Vũ khí tự động đã vượt qua ngưỡng đạo đức và những rủi ro về nhân đạo và
an ninh thì lớn hơn rất nhiều so với mọi lợi ích quân sự có thể có được”299
Thứ hai, trí tuệ nhân tạo được áp dụng trong các công cụ hoạch định chính sách – con người đặt trước nguy cơ bị phân biệt đối xử, hạn chế một số quyền cơ bản của công dân
Điển hình cho vấn đề này là Hệ thống điểm số tín nhiệm xã hội (Social Credit System - SCS) đang được chính quyền Trung Quốc triển khai, lấy Big Data làm nền tảng và được hỗ trợ bởi công nghệ cùng các quy định pháp lý Tuy nhiên, không chỉ là một hệ thống hoặc cơ sở dữ liệu, đây là hệ thống quản lý xã hội, chính sách tổng thể mang tính tư tưởng, đi kèm cơ chế trừng phạt và khen thưởng đối với từng cá nhân trong xã hội Được công bố lần đầu tiên năm 2014, chính phủ Trung Quốc dự định đưa vào triển khai toàn bộ hệ thống này vào năm 2020 Hiện tại, nó được áp dụng và thử nghiệm từng phần tại nhiều khu vực, thành phố trên khắp cả nước Mục tiêu của việc áp dụng Hệ thống điểm số tín nhiệm xã hội là để đánh giá mức độ tin cậy của công dân thông qua việc đo lường các hành vi trên mạng Internet của họ Theo hệ thống này, đến năm 2020, hành vi của mỗi một công dân
và pháp nhân (bao gồm cả mỗi công ty và các tổ chức khác) tại Trung Quốc sẽ được đánh giá và xếp hạng và mức độ tin cậy của mỗi công dân được thể hiện qua điểm công dân của mỗi công dân Điểm số này sẽ trở thành biểu tượng cho vị thế xã hội,
và sẽ được sử dụng để xác định mỗi công dân có đủ tư cách để thế chấp vay tiền, xin việc làm, hay có thể xin học cho con ở nơi nào – hoặc thậm chí là cơ hội để hẹn
hò Vào ngày 25/9/2016, Văn phòng Quốc vụ viện Trung Quốc đã cập nhật chính sách của mình có tựa đề “Cơ chế cảnh báo và trừng phạt đối với người có độ tin cậy thấp” Nguyên tắc của cơ chế này là: “Mất sự tin tưởng ở một nơi, bị hạn chế quyền lợi ở mọi nơi” Việc triển khai cơ chế cảnh báo và trừng phạt đối với người có độ tin cậy thấp sẽ dẫn đến việc họ gặp nhiều khó khăn trong cuộc sống, bị xếp loại công dân hạng hai thậm chí là hạng ba, hạng tư, bị phân biệt đối xử, bị hạn chế một
số quyền cơ bản của công dân ngay trên đất nước mình Ví dụ điển hình là những người xếp hạng thấp: sẽ có tốc độ Internet chậm hơn; bị hạn chế trong việc tiếp cận nhà hàng, câu lạc bộ đêm hoặc sân gôn và quyền di chuyển ra nước ngoài một cách
tự do; sẽ không thể làm một số công việc nhất định như viên chức, báo chí và trong ngành pháp luật; khả năng làm bảo hiểm hoặc đi vay và thậm chí cả các phúc lợi xã hội sẽ bị hạn chế; sẽ bị hạn chế khi tự mình đăng ký học hoặc cho con cái học ở các trường tư thục cao cấp300 Hiện nay, dù hệ thống xác định mức độ tin cậy của Trung Quốc hiện tại vẫn là dịch vụ tự nguyện, nhưng nó đã có những hậu quả Vào tháng
299 Tldd, xem chú thích 10
300 Xem: “Điểm số tín nhiệm xã hội: Trung Quốc sẽ xếp hạng công dân để hướng tới xã hội thành thật”,
https://trithucvn.net/trung-quoc/chinh-tri-xa-hoi-tq/diem-so-tin-nhiem-xa-hoi-tq-se-xep-hang-cong-dan-de-huong-toi-xa-hoi-thanh-that.html, truy cập ngày 25 tháng 4 năm 2019
Trang 72/2017, Toà án Nhân dân Tối cao của nước này tuyên bố rằng đã có 6,15 triệu công dân bị cấm tham gia các chuyến bay trong 4 năm qua vì những “hành động xấu” trên mạng xã hội Lệnh cấm là một bước tiến tới lập danh sách đen trong Hệ thống điểm số tín nhiệm xã hội (SCS) Meng Xiang, người đứng đầu bộ phận hành pháp của Tòa án tối cao, nói: “Chúng tôi đã ký một bản ghi nhớ… với hơn 44 cơ quan chính phủ để hạn chế những người ‘bị mất uy tín’ ở nhiều cấp độ301” Ngoài ra, có 1,65 triệu người bị liệt vào danh sách đen không thể đi tàu hỏa Như vậy, dù việc thiết lập hệ thống quản lý dựa trên điểm số tín nhiệm xã hội của mỗi công dân tuy có những mặt tích cực nhất định nhưng đồng thời nó cũng có những ảnh hưởng tiêu cực đến quyền con người, cụ thể là đã có dấu hiệu của sự phân biệt đối xử và hạn chế một số quyền cơ bản của công dân
Thứ ba, Việc sử dụng phổ biến các thiết bị thông minh (điện thoại, đồng
hồ thông minh) dẫn đến nguy cơ việc bảo mật dữ liệu cá nhân bị đe doạ
Ngày nay, khi ứng dụng trí tuệ nhân tạo (AI) ngày càng phổ biến và trở nên thông minh hơn, việc ghi chép và sử dụng có hệ thống định vị trên điện thoại thông minh có thể vi phạm các quy tắc bảo vệ dữ liệu (trong đó có dữ liệu y tế cá nhân) và quyền riêng tư của công dân Theo một nghiên cứu đăng tải trên tạp chí JAMA Network Open năm 2018, tính bảo mật dữ liệu y tế cá nhân đang đối mặt với nhiều mối đe dọa Dựa trên kết quả phân tích dữ liệu liên quan hơn 15.000 công dân Hoa
Kỳ trong hai năm 2017, 2018, các nhà nghiên cứu của trường Đại học California, Berkeley chỉ ra rằng với sự trợ giúp của AI, tình trạng của từng cá nhân có thể dễ dàng được xác định bằng cách giám sát các dữ liệu phản ánh các thói quen, sở thích được các thiết bị thông minh như đồng hồ thông minh, điện thoại thông minh thu thập, sàng lọc và tổng hợp kết hợp với dữ liệu địa lý liên quan302 Nhiều nhà khoa học đã chỉ ra rằng, với số lượng người dùng các mạng xã hội khủng lồ như hiện nay, nhiều công ty công nghệ (Facebook, Twitter…) có thể thu thập dữ liệu thông tin cá nhân một cách dễ dàng thông qua các ứng dụng trên điện thoại thông minh Nếu các công ty nắm được dữ liệu thông tin cá nhân của công dân sử dụng dữ liệu đó theo cách bất hợp pháp và vô đạo đức, như việc bán quảng cáo hoặc bán thông tin cá nhân cho bên thứ ba có nhu cầu đã đặt các người dùng mạng
xã hội trước nguy cơ dữ liệu thông tin cá nhân bị xâm phạm Thực tế là, các dữ liệu thông tin cá nhân của công dân, thông tin sức khỏe của con người luôn là tài sản dữ liệu quan trọng, luôn là mục tiêu "săn tìm" của các chủ sử dụng lao động, những người cho vay thế chấp, các công ty phát hành thẻ tín dụng và nhiều doanh nghiệp
301 Tldd, xem chú thích 12
302 Xem: “Nguy cơ trí tuệ nhân tạo đe doạ dữ liệu y tế cá nhân”,
http://echip.com.vn/nguy-co-tri-tue-nhan-tao-de-doa-bao-mat-du-lieu-y-te-ca-nhan-a20190107151528950-c1072.html, truy cập ngày 07 tháng 01 năm 2018
Trang 8mong muốn đưa quảng cáo tới từng nhóm khách hàng có chung mối quan tâm, như phụ nữ có thai, người khuyết tật, người béo phì, nhóm người mắc một chứng bệnh nào đó Với thực tế này, trong khi các qui định pháp luật hiện hàng chưa tạo ra lá chắn toàn diện để bảo vệ dữ liệu cá nhân của người dân đã đặt con người trước nguy cơ các thông tin về dữ liệu thông tin cá nhân không được bảo mật tốt, dữ liệu thông tin cá nhân bị xâm phạm, bị tuỳ tiện sử dụng với các mục đích khác nhau, nghĩa là quyền của con người đã bị xâm phạm
3 Câu hỏi thứ ba: Làm thế nào để kiểm soát hệ thống trí tuệ nhân tạo nhằm bảo vệ quyền con người trong thời đại trí tuệ nhân tạo?
Trí tuệ nhân tạo ngày càng có nhiều phát triển vượt bậc, ảnh hưởng đến cuộc sống con người, đến nền văn minh của nhân loại Tại thời điểm hiện nay, trí tuệ nhân tạo đang ở giai đoạn là trí tuệ nhân tạo có giới hạn, nghĩa là những hệ thống máy móc mới chỉ có khả năng thực hiện một công việc cụ thể Tuy chỉ mới là trí tuệ nhân tạo có giới hạn, bên cạnh những ưu điểm vượt trội, trí tuệ nhân tạo cũng đã có những ảnh hưởng tiêu cực đến cuộc sống, đến các quyền con người Dự đoán trong tương lai, nhân loại không chỉ đối mặt với những nguy cơ của trí tuệ nhân tạo giới hạn mang lại
mà nguy cơ đe doạ quyền con người càng lớn hơn khi thế hệ sắp tới của AI là trí tuệ nhân loại tổng hợp (Artificial General Intelligence, viết tắt là AGI) - là hệ thống AI được trang bị khả năng nhận thức tổng quát của con người để khi thực hiện các tác vụ không quen thuộc, nó đủ thông minh để tìm ra các giải pháp Như vậy, Trí tuệ nhân tạo tổng hợp (AGI) sẽ có khả năng tính toán ưu việt và trí thông minh ngang tầm con người Những hệ thống này sẽ có khả năng học tập, giải quyết vấn đề, thích ứng và tự nâng cấp bản thân Chúng thậm chí còn biết làm những việc mà ban đầu chúng không được thiết kế để làm những việc đó Điều đó cũng có nghĩa là những nguy cơ đe doạ đến quyền con người từ AI (hay AGI) càng trở nên nghiêm trọng hơn303 Vì vậy việc kiểm soát trí tuệ nhân tạo nhằm tìm ra biện pháp an toàn nhất để thiết kế và quản lí AI (AGI) để giảm thiểu nguy cơ đối với con người, đối với quyền con người và tối đa hóa lợi ích là điều vô cùng quan trọng hiện nay
303 Chúng ta hãy tưởng tượng và suy nghĩ đến những giả thiết sau đây để thấy những nguy cơ to lớn do AGI mang lại cho con người:
- Một hệ thống AGI được phân công ngăn ngừa HIV và quyết định xử lí vấn đề bằng cách giết luôn tất cả những người mang căn bệnh đó, hoặc được phân công chữa bệnh ung thư thì quyết định giết luôn tất cả những người có bất cứ bẩm chất di truyền nào có thể mắc bệnh ung thư
- Một máy bay quân sự không người lái AGI điều khiển bằng trí tuệ nhân tạo tổng hợp tự quyết định cách duy nhất để đảm bảo nhắm trúng mục tiêu là quét sạch toàn bộ khu vực
- Một AGI có chức năng bảo vệ môi trường quyết định rằng cách duy nhất để làm chậm hay đảo ngược quá trình biến đổi khí hậu là loại bỏ tất cả máy móc công nghệ và con người đã chế tạo ra các máy móc công nghệ đó
Những kịch bản này cho thấy nguy cơ một cuộc chiến giữa các hệ thống trí tuệ nhân tạo tổng hợp khác nhau, chúng không còn lấy mục đích của con người làm nhiệm vụ trung tâm của chúng nữa
Trong những tình huống tương lai như thế, con người sẽ trở thành lạc hậu và hậu quả cuối cùng là sự tuyệt chủng không thể cứu vãn của loài người
Trang 9Nhận thức được tầm quan trọng đó nên việc nghiên cứu các phương thức kiểm soát hệ thống trí tuệ nhân tạo nhận được sự quan tâm của nhiều tổ chức, các nhà nghiên cứu khoa học, các tập đoàn công nghệ quốc tế và Chính phủ các nước Điển hình là, ngày 22/11/2017 Viện Michael Dukakis (MDI) đã đề xuất Sáng kiến:
“Thế giới vạn vật trí tuệ nhân tạo” (AI World Society, gọi tắt là AIWS) là Bộ những giá trị, ý tưởng, khái niệm và giao thức cho toàn bộ những tiêu chuẩn và mục tiêu con người đặt ra, nhằm bảo đảm sự phát triển hòa bình của trí tuệ nhân tạo để ngày càng cải thiện chất lượng cuộc sống con người Ngoài ra, trong một báo cáo tại Hội nghị Sáng kiến cho Thượng đỉnh G7 năm 2018 “Mô hình 7 lớp Trí tuệ nhân tạo nhằm xây dựng nền chính trị thế hệ mới” của nhóm học giả Đại học Harvard, MIT, MDI: Michael Dukakis, Nazli Choucri, David Silsberweig, Thomas Patterson, Nguyễn Anh Tuấn đã công bố mô hình xã hội trí tuệ nhân tạo nhằm mục đích định hình sự phát triển của trí tuệ nhân tạo lành mạnh, AIWS đã phát triển mô hình AIWS 7 lớp Bảy lớp này hình thành nên một bộ gồm các nền tảng đạo đức, trách nhiệm, các nguyên lý, các tiêu chuẩn, và các giải pháp cho sự phát triển trí tuệ nhân tạo trong tầm kiểm soát và để sử dụng trí tuệ nhân tạo một cách an toàn, nhân văn
và mang lại lợi ích cho xã hội Sáng kiến này đã được trao cho Chính phủ Canada vào ngày 25/04/2018 vừa qua
Tháng 6 năm 2018, Tập đoàn công nghệ Google đã công bố một bộ quy tắc
AI nội bộ, trong bộ qui tắc đó, ưu tiên đầu tiên là bảo đảm AI cần có ích cho xã hội Đồng thời, Google cam kết không thiết kế hoặc phát triển AI sử dụng làm vũ khí, giám sát vượt ngoài các quy tắc quốc tế, hoặc liên quan tới công nghệ nhằm xâm phạm quyền con người
Ở phương diện quốc gia, vấn đề kiểm soát AI đã được nhiều quốc gia quan tâm thực hiện để tìm ra những chính sách phù hợp nhất Quốc hội Hoa Kỳ đã xem xét một số văn bản luật liên quan đến AI như luật về xe tự lái đưa ra các quy định
về an toàn đối với các phương tiện tự động; dự luật AV START quản lý xe không người lái; dự luật Tương lai AI yêu cầu thành lập một ủy ban tư vấn về các vấn đề AI; dự luật việc làm AI kêu gọi Bộ Lao động Mỹ phải báo cáo những tác động của
AI đối với lực lượng lao động; dự luật Ủy ban an ninh quốc gia về trí tuệ nhân tạo thể hiện mong muốn thiết lập một ủy ban xem xét các tiến bộ AI giúp bảo đảm an toàn cho Hoa Kỳ Những đệ trình, xem xét những dự luật trên đã cho thấy sự quan tâm của cơ quan lập pháp Hoa Kỳ về vai trò của AI, cũng như sự cần thiết phải đặt
AI dưới sự kiểm soát của pháp luật Tương tự, Quốc hội Canada đã đưa chủ đề ứng dụngAI vào các báo cáo, nghiên cứu của mình: Tháng 10 năm 2017, Ủy ban Thường vụ Thượng viện về các vấn đề xã hội, khoa học và công nghệ đã ra một bản báo cáo với tựa đề Thách thức trước mắt: Tích hợp robotics, trí tuệ nhân tạo và công nghệ in 3D vào hệ thống chăm sóc sức khỏe của Canada; tiếp tục vào tháng 2 năm
Trang 102018, Ủy ban Thường vụ Thượng viện về giao thông vận tải và truyền thông tiếp tục xuất bản báo cáo Thay đổi cách lái xe: Công nghệ và tương lai của xe tự động…
Ở Châu Âu, vào tháng 4 năm 2018, các thành viên EU đã ký Tuyên bố hợp tác về
AI Tuyên bố đưa ra yêu cầu cụ thể đối với các nhà tuyển dụng trong bối cảnh AI có thể được sử dụng để giải quyết nhiều vấn đề liên quan đến bình đẳng giới, khuyết tật hay các xung đột tuổi tác Đặc biệt, từ tháng 6 năm 2017, Vương quốc Anh đã chỉ định hẳn một Ủy ban lựa chọn thuộc Nghị viện phụ trách về các vấn đề AI, nhiệm vụ của Ủy ban là xem xét những tác động kinh tế, đạo đức và xã hội liên quan đến những tiến bộ của trí tuệ nhân tạo, từ đó đưa ra các khuyến nghị Ở Đức, cuối tháng 6 năm 2018 Quốc hội Đức cũng tiếp bước thành lập một Ủy ban đặc trách về AI gồm 18 nghị sĩ và 19 chuyên gia do nhận thức sâu sắc về những tác động to lớn của AI đối với cuộc sống
Tuy nhiên, vấn đề kiểm soát hệ thống trí tuệ nhân tạo không đơn giản chỉ là
áp dụng những biện pháp kiểm soát như kiểm soát con người Để có thể kiểm soát
hệ thống trí tuệ nhân tạo nhằm bảo vệ quyền con người trong thời đại trí tuệ nhân tạo, các quốc gia và cộng đồng quốc tế cần phát triển và thực hiện ba tập hợp các biện pháp kiểm soát sau đây:
Thứ nhất, Kiểm soát để đảm bảo các nhà thiết kế hệ thống AI tạo ra các hệ thống này an toàn, không vi phạm các quyền con người Điều này liên quan đến các
kỹ sư phần mềm chịu trách nhiệm thiết kế các thuật toán đằng sau tất cả các hệ thống này Chính các kỹ sư phần mềm cho phép các trợ lý thông minh trả lời các câu hỏi của chúng ta một cách chính xác hơn, giúp các bác sĩ cải thiện việc phát hiện các rủi ro sức khỏe và cho phép các nhân viên cảnh sát xác định rõ hơn các nguy cơ tội phạm gia tăng Tuy nhiên, hiện nay các kỹ sư phần mềm thường không được đào tạo về luật nhân quyền Dù rằng, với mỗi dòng code, họ cũng có thể diễn giải, áp dụng và thậm chí vi phạm các khái niệm về luật nhân quyền quan trọng họ
mà không hề hay biết Vì vậy để đảm bảo các nhà thiết kế hệ thống AI tạo ra các hệ thống này an toàn, không vi phạm các quyền con người việc giảng dạy luật nhân quyền cho các kỹ sư phần mềm là điều quan trọng, cần nghiên cứu triển khai thực hiện Việc có kiến thức tốt hơn về luật nhân quyền có thể giúp các nhà phát triển phần mềm hiểu việc phân biệt đối xử gián tiếp là gì và tại sao nó bị pháp luật cấm? Việc hiểu được sự phức tạp của quyền được xét xử công bằng và hệ quả của nó, giả định vô tội, có thể tạo ra các lựa chọn sáng suốt hơn trong thiết kế thuật toán
Thứ hai, Kiểm soát được gắn vào ngay trong chính bản thân các AI (AGI), như là “ý thức”, giá trị đạo đức, qui trình vận hành, nguyên tắc ra quyết định…
Điều này được hiểu là trong quá trình xây dựng xã hội ứng dụng trí tuệ nhân tạo (AIWS) cần có những điều luật để quản lí hành vi của những công dân trí tuệ nhân
