Việc sử dụng AI trong thời đại kỹ thuật số tạo nhiều ảnh hưởng khác đối với quyền riêng tư và dữ liệu cá nhân trong những cách khác nhau như: các hệ thống mua bán trực tuyến thường đượ[r]
Trang 1quản trị trí tuệ nhân tạo “cần phải được đặt trong và tương tác với các khung thể chế hiện hành về các luật và chính sách được áp dụng, đặc biệt là nhân quyền.”269
Đại học Essex kêu gọi Ủy ban lựa chọn về trí tuệ nhân tạo của Hạ viện Anh lấy cách tiếp cận nhân quyền làm trung tâm trong việc phát triển và sử dụng trí tuệ nhân tạo, khuyến khích cách tiếp cận tổng hợp, thống nhất, phổ quát và có thể thực thi hơn.270 Hội thảo liên ngành tại Đại học Stanford năm 2018 về trí tuệ nhân tạo, thiết kế và nhân quyền đã có đối thoại giữa Cao ủy nhân quyền LHQ và nhà sáng lập tổ chức Open AI Thung lũng Silicon, trong đó nhấn mạnh sự cần thiết phải có
sự chuyển dịch tương tác giữa các đối tác ủng hộ nhân quyền và các nhà kỹ nghệ
Nhìn chung, thế giới cần tiếp tục đầu tư nghiên cứu về tương lai của trí tuệ nhân tạo và những tác động tiềm năng đối với nhân quyền
Tài liệu tham khảo:
(4) Report of the Special Rapporteur on the promotion and protection of the right
to freedom of opinion and expression, 2018
(5) Lindsey Andersen (2017), HUMAN RIGHTS IN THE AGE OF
ARTIFICIAL INTELLIGENCE, Access Now
(6) Daniel Cullen (2018), Why Artificial Intelligence is Already a Human Rights Issue, tại http://ohrh.law.ox.ac.uk/why-artificial-intelligence-is-already-a-human-rights-issue/
(7) Eleanor Jenkin, Hannah Osborne (2018), Submission to the Australian Human Rights Commission’s Human Rights and Technology Project, Castan Centre for Human Rights Law, Monash University
(8) Mark Latonero (2017), Governing Artificial Intelligence: UPHOLDING HUMAN RIGHTS & DIGNITY
(9) Mathias Risse (2018), Human Rights and Artificial Intelligence, An Urgently Needed Agenda, Carr Center for Human Rights Policy
TÁC ĐỘNG CỦA TRÍ TUỆ NHÂN TẠO
ĐỐI VỚI QUYỀN CON NGƯỜI
PGS.TS Đặng Minh Tuấn
269 Xem F.Raso, V.Krishnamurthy và cộng sự, “Trí tuệ nhân tạo và Nhân quyền: Cơ hội và rủi ro”, Trung tâm Berkman Klein về xuất bản nghiên cứu xã hội và internet (sắp ra mắt); Urs Gasser và Virgilio A.F.Almeida,
“A Layered Model for AI Governance” (Một mô hình nhiều tầng nấc cho việc quản trị trí tuệ nhân tạo), ĐH Harvard, 11/2017 https://dash.harvard.edu/bitstream/handle/1/3439353/w6gov-18-LATEX.pdf?sequence=1;
Matthias Risse, Nhân quyền và Trí tuệ nhân tạo: Mộ chương trình nghi sự cần gấp, Trường Harvard
Kennedy, 5/2018 https://research.hks.harvard.edu/publications/getFire.aspx-?Id=1664
270 91
Trang 2(Khoa Luật ĐHQG Hà Nội)
Dẫn đề
Trí tuệ nhân tạo (AI) không có một định nghĩa chung, mà nó được hiểu ở nhiều chiều cạnh khác nhau Cùng với sự phát triển rất nhanh của công nghệ, khái niệm này cũng thay đổi và phát triển không ngừng với nội hàm ngày càng mở rộng Xét một cách chung nhất, nội hàm của nó bao gồm tập hợp các kỹ thuật tính toán và quá trình gắn với nó đươc sử dụng để nâng cao khả năng của máy móc trong việc thực hiện các công việc cần đến trí tuệ, như nhận dạng mô phỏng, thị giác máy tính, xử lý ngôn ngữ.271 AI nói đến khả năng của các công nghệ trong việc đưa ra các dự đoán về tương lai và giải quyết các nhiệm vụ phức tạp AI có ý nghĩa lớn đối với sự phát triển con người, nhưng có nhiều mặt trái, tác động tiêu cực đối với xã hội, trong đó sự tác động của AI đối với các quyền con người – một trong những vấn đề trung tâm của các thảo luận về sự phát triển và ứng dụng của AI trong cộng đồng quốc tế và các quốc gia trên thế giới Bài viết này tập trung phân tích, đánh giá những rủi ro, tác động tiêu cực của AI đối với quyền con người Qua việc phân tích mối quan hệ giữa AI và quyền con người (I), bài viết chỉ
ra những tác động tiêu cực của AI đối với các quyền con người (II), trên cơ sở đó thảo luận về các khuyến nghị, giải pháp nhằm giải quyết các tác động tiêu cực đó (III)
I Mối quan hệ giữa AI và quyền con người
Tại sao AI có tác động đến quyền con người? Mối liên hệ giữa AI và quyền con người thể hiện ở một số khía cạnh sau đây:
Thứ nhất, sự tồn tại của AI thay thế con người, can dự vào trong các lĩnh vực của đối sống con người đặt ra vấn đề liên quan đến quyền con người Sự bất xâm phạm vào đời sống con người là trung tâm của các quyền con người Tuy nhiên, AI thay thế con người, can dự, thậm chí chi phối đời sống con người đặt ra những mối
lo ngại đến con người và quyền con người Có rất nhiều vấn đề đặt ra như: Con người với những phẩm hạnh, những giá trị được đặt ra như thế nào trong mối quan
hệ với AI? AI có thể có thể có những phẩm hạnh và giá trị như con người? Những giá trị và phẩm hạnh của con người bị ảnh hưởng như thế nào với sự xuất hiện của AI? Có tồn tại nữa hay không sự bình đẳng giữa mọi người với sự can thiệp, chi phối của AI? AI có thể bị lạm dụng và chi phối bởi các thế lực kinh tế và chính phủ độc tài dẫn đến các hệ quả về quyền con người?272 Những vấn đề này có thể không bao giờ được giải quyết và có thể tồn tại như một phần của cuộc sống, nhưng rõ ràng cần phải thấy chúng tạo ra những mối lo ngại đối với đời sống con người,
271 National Science and Technology Council: Committee on Technology, “Preparing for the Future of Artificial Intelligence,” Government Report (Washington, D.C.: Executive Office of the President, October 2016)
272 Xem thêm: Paul de Font-Reaulx, “AI: The Consequences for Human Rights: Initial findings on the expected future use of AI in authoritarian regimes”,
https://humanrightscommission.house.gov/sites/humanrightscommission.house.gov/files/documents/FHI
%20-%20Artificial%20Intelligence%20the%20Consequences%20for%20Human%20Rights.pdf
Trang 3quyền con người.273
Thứ hai, AI không chỉ được hiểu dưới góc độ công nghệ, mà nó phải được hiểu dưới khía cạnh xã hội AI bao gồm các hệ thống công nghệ được sử dụng, thẩm thấu và tác động vào đời sống xã hội Tất cả các khía cạnh của AI đều được đặt trong các bối cảnh xã hội, có tác động ảnh hưởng trực tiếp đến đời sống xã hội Đó là các hệ thống tự động tạo ra các dự đoán cho hành vi con người, hình thành các quyết định có tác động đến con người trong cuộc sống hàng ngày AI xâm nhập ngày càng nhiều vào các lĩnh vực khác nhau của đời sống, từ tư pháp hình
sự, tài chính, y tế, giáo dục cho đến nguồn nhân lực, kiểm duyệt nội dung trực tuyến AI mang lại nhiều lợi ích, giá trị cho con người, góp phần thúc đẩy việc thực thi các quyền con người, nhưng đồng thời cũng có những tác động tiêu cực, nguy hại cho xã hội.274
Thứ ba, AI có những điểm hạn chế cố hữu dẫn đến những nguy cơ ảnh hưởng đến việc thực thi các quyền con người AI phát triển dựa trên các công nghệ đang có, nhưng gây ra nhiều vấn đề và nguy hại hơn hơn so với các công nghệ trước đây, đặc biệt về sự tác động của chúng đến trách nhiệm và sự tin cậy
Việc sử dụng AI trong việc ra quyết định dựa trên thuật toán phức tạp, tinh vi khiến con người rất khó để hiểu, và hầu như không thể theo dõi, truy xuất nguồn gốc và quá trình ban hành các quyết định hay khuyến nghị mà AI tạo ra Con người tạo ra AI để giúp con người đưa ra các quyết định và khuyến nghị, nhưng con người rất khó, thậm chí không thể hiểu bằng cách nào chúng được tạo ra Điều này tạo ra những vấn đề lớn liên quan đến sự minh bạch và trách nhiệm giải trình.275 Thêm vào đó, AI vận hành dựa trên các số liệu, do vậy nó cũng thiếu hoặc hạn chế trong nhận thức về bối cảnh của các quyết định và đề xuất
Cũng như các công nghệ khác, AI cũng đặt ra vấn đề lỗi của máy móc, công nghệ Tuy nhiên, vấn đề nguy hiểm là ở chỗ AI được cho là các hệ thống có thể tính toán chính xác rất cao, thậm chí hơn so với con người, nên các kết quả do AI tạo ra thường được đặt tin cậy ở mức độ cao Chính vì thế, trong trường hợp xảy ra lỗi, thì các kết quả sai được sử dụng một cách tin cậy sẽ có những ảnh hưởng, tác động
273 Mathias Risse, “Human Rights and Artificial Intelligence: An Urgently Needed Agenda”, Carr Center for Human Rights Policy, May 2018
274 Filippo Raso, Hannah Hilligoss, Vivek Krishnamurthy, Christopther Bavitz, and Levin Kim, Artificial Inteligence & Human rights: Opportunities & Risks, Berkman Klein Center For Internet & Society at Havard University, Sepember 25, 2018
275 Biết rằng các hệ thống AI có thể tạo ra các quyết định có thể không công bằng, chính xác và chuẩn mực,
sự khó khăn trong việc xác định các quyết định này được tạo ra như thế nào đặt ra rất nhiều câu hỏi: Bằng tiêu chí nào xác định các quyết định này được cho là không phù hợp? Trách nhiệm được xác định thế nào cho những hậu quả mà các quyết định này tạo ra? Làm thế nào những người bị hại có thể tìm cách khắc phục? Xem thêm: Matthew L Smith, Sujaya Neupane, “Artificial Interlligence and Human Development: Toward a research agenda” (White Paper), International Development Research Centre
2018, tr.67
Trang 4nghiêm trọng đến đời sống con người, đến quyền con người Trên thực tế, nhiều hệ thống AI được sử dụng với mức độ chính xác rất cao, nhưng với các lỗi có thể xảy
ra đã gây ra nhiều ảnh hưởng tiêu cực đến việc thực thi quyền con người, như chương trình nhận dạng khuôn mặt của Google Hình ảnh năm 2015 với lỗi cực kỳ nguy hại khi đôi khi nhận dạng người da đen là đười ươi hay một hệ thống phần mềm tương tự được sử dụng bởi Cơ quan hải quan và biên phòng Hoa Kỳ để nhận dạng các đối tượng tội phạm và khủng bố với 0.1% lỗi (tương ứng 74.900 người bị nhận dạng sai trong năm 2016).276
Thứ tư, nếu coi rằng việc sử dụng AI là một phần của cuộc sống và những nguy cơ mà nó tạo ra trong đời sống đã được chỉ ra, thì vấn đề tiếp theo là làm thế nào để xác định hệ quy tắc trong việc quản trị việc sử dụng và vận hành AI để làm sao nó phát huy được các mật tích cực trong việc phục vụ đời sống con người và hạn chế tối đa những tác hại, nguy cơ và rủi ro mà nó gây ra Tuy nhiên, không giống như con người, rất khó xác định hệ quy tắc, ứng xử, trách nhiệm cho AI Cộng đồng quốc tế, một số khu vực và nhiều quốc gia trên thế giới rất quan tâm xây dựng bộ quy tắc ứng xử, các chính sách và hệ thống pháp luật về việc sử dụng và vận hành AI
II Tác động của AI đối với các quyền con người
Sự tác động của AI đối với các quyền con người thể hiện trên hầu khắp các lĩnh vực của đời sống Báo cáo nghiên cứu của Đại học Havard về các cơ hội và rủi
ro của AI đối với các quyền con người277 đã phân tích tác động của AI đối với các quyền con người trong 6 lĩnh vực, bao gồm tư pháp hình sự, tiếp cận hệ thống tài chính, chăm sóc sức khỏe, kiểm duyệt nội dung trực tuyến, nguồn nhân lực và giáo dục Theo Báo cáo này, sự tác động của AI đối với các quyền con người trong các lĩnh vực trên thể hiện ở các khía cạnh sau đây:
Thứ nhất và trên hết, trong tất cả các lĩnh vực được khảo sát, AI có tác động lên khắp các quyền chính trị, dân sự, kinh tế, xã hội và văn hóa được ghi nhận và bảo đảm bởi các công ước quốc tế về quyền con người
Thứ hai, các tác động tích cực và tiêu cực của AI không được phân đều trong các lĩnh vực đời sống xã hội Một số tổ chức và cá nhân hưởng các tác động tích cực về các ứng dụng nhất định của AI, trong khi chính những ứng dụng này lại có tác động tiêu cực lên những chủ thể khác Trong một số trường hợp, một ứng dụng
AI có thể tác động tích cực lên việc hưởng thụ một quyền nhất định của một tầng lớp cụ thể, nhưng lại có tác động tiêu cực đối với tầng lớp khác Ví dụ, việc sử dụng
276 Access Now, “Human Rights in the Age of Artificial Intelligence”,
https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf
277 Filippo Raso, Hannah Hilligoss, Vivek Krishnamurthy, Christopther Bavitz, and Levin Kim, Artificial Inteligence & Human rights: Opportunities & Risks, Berkman Klein Center For Internet & Society at Havard University, Sepember 25, 2018
Trang 5các hệ thống chấm điểm rủi ro tự động (automated risk scoring systems) trong hệ thống tư pháp hình sự giúp giảm các cá nhân thuộc nhóm đa số bị bắt giam không cần thiết, trong khi nó lại tăng tỷ lệ áp dụng sai lầm đối với những người thuộc nhóm yếu thế
Thứ ba, AI tạo ra nguy cơ trong việc duy trì, khuếch đại những thành kiến, định kiến xã hội hiện có, tạo ra sự bất bình đẳng trong xã hội Các hệ thống AI được thiết kế để phỏng theo các mô hình ban hành quyết định mà chúng học từ các dữ liệu đào tạo, trong khi các dữ liệu này phản ánh địa vị xã hội với những định kiến, thành kiến của những người thiết kế và vận hành nó Vấn đề đặt ra là, không như con người với tư cách là những chủ thể có quyền tự do thay đổi quan điểm đạo đức theo thời gian, các hệ thống AI không có khả năng đó Để giải quyết vấn đề này, các
hệ thống AI đòi hỏi người thiết kế và vận hành phải bảo đảm rằng đầu ra luôn phải phù hợp với các tiêu chuẩn về công bằng Vì thế, các hệ thống AI được phát triển để liên tục có các điều chỉnh sai sót và các vấn đề liên quan đến định kiến xã hội để bảo đảm sự công bằng Tuy nhiên, các hệ thống cải cách mới chỉ đem lại những triển vọng hơn là giúp thúc đẩy quyền bình đẳng.278
Thứ tư, phần lớn các công nghệ AI có tác động sâu rộng đến quyền riêng tư Bản chất của AI là các hệ thống đói dữ liệu, bởi vì chúng được vận hành trên các thuật toán tự động sử dụng các bộ dữ liệu lớn để tạo ra câu trả lời, dự đoán và hiểu biết sâu sắc Theo đó, các hệ thống AI dựa vào việc thu thập, lưu trữ, hợp nhất và phân tích số lượng dữ liệu lớn Chúng cũng khuyến khích mạnh mẽ việc thu thập và lưu trữ càng nhiều dữ liệu càng tốt, bởi vì các luồng dữ liệu mới sẽ cho phép các hệ thống AI tạo ra những hiểu biết mới mạnh mẽ Vấn đề đặt ra là phần lớn dữ liệu cung cấp cho các hệ thống AI có thể nhận dạng cá nhân, ngay cả trong trường hợp
ẩn danh Các công nghệ AI có thể tạo ra những hiểu biết sâu sắc từ những dữ liệu, sau đó được sử dụng để đưa ra dự đoán và hành động theo các đặc điểm gần gũi của một người cụ thể trong khi hạn chế định dạng một người cụ thể Tuy nhiên, việc quản trị bảo mật trong quá trình sử dụng AI luôn là một thách thức lớn Ngay cả khi giả định rằng dữ liệu đào tạo bị loại bỏ khi hệ thống hoạt động, những hiểu biết do
hệ thống tạo ra từ dữ liệu có tác động đáng kể đến quyền riêng tư của một cá nhân
Thứ năm, sự phát triển của trí tuệ nhân tạo đặt ra thách thức đối với nhiều
cơ chế hiện có Ví dụ, các cá nhân có quyền yêu cầu sửa lỗi trong các báo cáo cá nhân (như báo cáo tín dụng) Tuy nhiên, với lượng thông tin khổng lồ mà các hệ
278 AI với tư cách là hệ thống máy móc và tính toán dựa trên các con số được kỳ vọng sẽ bảo đảm sự hiệu quả, chính xác, đặc biệt là thực thi một cách công bằng và không định kiến Tuy vậy, thực tế lại không đem lại như kỳ vọng, bởi các hệ thống AI luôn chứa đựng các định kiến của người lập trình và rộng lớn hơn, trong bối cảnh xã hội mà chúng được tạo ra Xem thêm: Matthew L Smith, Sujaya Neupane,
“Artificial Interlligence and Human Development: Toward a research agenda” (White Paper), International Development Research Centre 2018, tr.59-60
Trang 6thống AI sử dụng khi đưa ra quyết định khiến việc thực thi quyền này trở nên khó khăn Ngoài ra, ngay cả khi lỗi trong dữ liệu của họ được điều chỉnh, những tác hại đáng kể có thể xảy ra do sự hiện diện của lỗi hệ thống trong tập dữ liệu
và chia sẻ dữ liệu có mặt khắp nơi, có thể dẫn đến kết quả không công bằng cho
số lượng người rất lớn
IA có tác động đến đến hầu hết các quyền con người Trong số đó, một số quyền con người chịu ảnh hưởng trực tiếp như quyền bình đẳng và không bị phân biệt đối xử, quyền tham gia, quyền bảo vệ đời tư và thông tin cá nhân, quyền tự do biểu đạt, quyền về việc làm
Quyền bình đẳng và không bị phân biệt đối xử
Các hệ thống AI luôn phản ánh các định kiến xã hội và tạo ra sự bất bình đẳng trong xã hội, đặc biệt đối với các cá nhân và nhóm thiểu số, yếu thế Nhiều hệ thống AI sử dụng, đánh giá các dữ liệu liên quan đến đặc tính xã hội, nghề nghiệp, chủng tộc, sức khỏe, màu da để giúp đưa ra các đề xuất, quyết định Các hệ thống này gây ra sự phân biệt đối xử lớn đối với các cá nhân và nhóm yếu thế, dễ bị tổn thương Thực tế việc sử dụng AI đã chỉ ra tình trạng này Ví dụ, một hệ thống máy tính được sử dụng ở Mỹ để tiếp cận nguy cơ tái phạm của người dân trong hệ thống
tư pháp hình sự đánh dấu các người da đen có nguy cơ tái phạm gần gấp đôi so với người da trắng Đã có bằng chứng chỉ ra rằng các công nghệ AI có thể phân biệt đối
xử một cách có hệ thống và không công bằng trong các lĩnh vực trọng yếu của đời sống xã hội, như tiếp cận dịch vụ, việc làm và hỗ trợ tài chính, tư pháp hình sự Với việc sử dụng ngày càng mở rộng các công nghệ AI, các hệ thống định kiến mà nó tạo ra có thể là một vấn đề lớn đối với việc bảo đảm quyền bình đẳng và không bị phân biệt đối xử.279
Quyền riêng tư và bảo vệ dự liệu cá nhân
Các hệ thống AI thường được đào tạo thông qua việc truy cập và phân tích các tập dữ liệu lớn Dữ liệu cũng được thu thập để tạo ra các cơ chế phản hồi, điều chỉnh và sàng lọc liên tục Bộ sưu tập dữ liệu này xâm phạm các quyền riêng tư và bảo vệ dữ liệu Việc phân tích dữ liệu bằng hệ thống AI có thể làm lộ thông tin đời
tư, thông tin được bảo vệ và thông tin nhậy cảm của các cá nhân Trên thực tế, rất nhiều hệ thống AI được sử dụng bởi các doanh nghiệp (đặc biệt là các công ty công nghệ như Google, Facebook, Twitter) cho đến các chính phủ Các doanh nghiệp sử dụng các thông tin cá nhân để phục vụ hoạt động mục đích kinh doanh và kiếm lợi nhuận, trong khi ngày càng có nhiều chính phủ sử dụng các hệ thống AI để phục vụ mục đích quản lý, như hệ thống kiểm soát bằng video, hệ thống nhận dạng khuôn
279 Matthew L Smith, Sujaya Neupane, “Artificial Interlligence and Human Development: Toward a research agenda” (White Paper), International Development Research Centre 2018, tr.11, 59
Trang 7mặt ở nhiều quốc gia trên thế giới
Sự kiểm soát và quyền đời tư là 2 mặt của một vấn đề Sự kiểm soát càng lớn thì quyền đời tư càng bị ảnh hưởng Thực tế cho thấy các hệ thống kiểm soát AI ngày càng được sử dụng nhiều hơn, và do vậy quyền riêng tư và bảo vệ dự liệu cá nhân ngày càng bị vị phạm nhiều hơn Các hệ thống nhận dạng khuôn mặt có thể trích xuất những thông tin cá nhân từ dữ liệu hiện có Sự ra tăng sử dụng các hệ thống kiểm soát AI đã tạo ra tình trạng một lượng thông tin khổng lồ về hoạt động của các cá nhân trên mạng cũng như đời thực bị lưu giữ, lạm dụng hoặc sử dụng một cách không chính đáng.280
Việc sử dụng AI trong thời đại kỹ thuật số tạo nhiều ảnh hưởng khác đối với quyền riêng tư và dữ liệu cá nhân trong những cách khác nhau như: các hệ thống mua bán trực tuyến thường được trang bị các thiết bị có thể thu thập và xây dựng một dữ liệu thông tin khổng lồ của khách hàng mà không được biết hoặc có sự đồng ý của họ; các hệ thống xác định danh tính một người muốn duy trì tình trạng ẩn danh; các
hệ thống suy luận và tạo thông tin nhạy cảm về những người từ các thông tin không nhạy cảm của họ; các hệ thống lập hồ sơ người dân dựa trên dữ liệu thông tin của họ;
và các hệ thống đưa ra quyết định dựa trên các thông tin thu thập được.281
Tự do biểu đạt
AI có những tác động lớn đến quyền tiếp cận, tìm kiếm và chia sẻ thông tin Rất nhiều hệ thống AI được thiết kế trong các giao diện mạng xã hội và công cụ tìm kiếm để kiểm soát thông tin của người dùng bằng những cách khác nhau Thông tin bị kiểm soát hàm nghĩa thông tin không còn được tự do hình thành, sử dụng và chia
sẻ Ví dụ, Facebook sử dụng các thông tin của người dùng để tác động đến họ và những người khác trong việc sử dụng và chia sẻ các thông tin Hệ thống tìm kiểm Google dựa trên nội dung tìm kiểm để đưa ra một danh mục các kết quả theo thứ tự Việc chia sẻ thông tin còn có thể bị ảnh hưởng tiêu cực hơn khi các chính phủ có thể sử dụng các công nghệ AI tương tự để kiểm duyệt, kiểm soát thông tin Ví dụ, Chính phủ Trung Quốc đã thay thế một số cơ quan kiểm duyệt nhà nước bằng AI Nền tảng video nổi tiếng của Trung Quốc iQiyi sử dụng AI để xác định nội dung khiêu dâm và bạo lực, cũng như nội dung được coi là nhạy cảm về chính trị.282 Các
hệ thống trên có tác động tiêu cực đến việc bảo đảm sự đa nguyên truyền thông và
đa dạng trong quan điểm, ý kiến Đồng thời, chúng cũng cản trở sự tranh luận, chia
sẻ, trao đổi thông tin trong xã hội, và lâu ngày có thể dẫn đến tình trạng phân hóa,
280 Matthew L Smith, Sujaya Neupane, “Artificial Interlligence and Human Development: Toward a research agenda” (White Paper), International Development Research Centre 2018, tr.68
281 Article 19 and Privacy International, “Privacy and Freedom of Expression in the Age of Artificial Intellegence”, April 2018, tr.17
282 Access Now, “Human Rights in the Age of Artificial Intelligence”,
https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf, tr.22
Trang 8phân cực giữa các nhóm, tầng lớp trong xã hội do thiếu sự sự kết nối, trao đổi thông tin với nhau
Vấn đề trở nên nghiêm trọng khi sự kiểm soát thông tin của AI được sử dụng
vì các mục đích không chính đáng, như các hệ thống kiểm soát được sử dụng nhằm các mục đích tuyên truyền, thao túng và phân tán thông tin Theo đó, việc sử dụng
AI có thể ảnh hưởng đến dân chủ và quyền tự quyết của người dân Các hệ thống AI được sử dụng ngày càng nhiều nhằm mục đích tuyên truyền, thao túng và định hướng hành vi trong các cuộc vận động thông qua những người dùng mạng xã hội
Hệ quả là, các chiến địch bị thao túng bởi các thông tin sai lệch có mục đích tuyên truyền, định hướng dư luận Trong khi đó, nếu người dân thấy rằng thông tin của họ bị kiểm soát, bị theo dõi và định hướng thì họ không còn tin tưởng vào thông tin mà
họ tiếp nhận và cũng không còn sẵn sàng thực hiện tự do biểu đạt nữa Thay vào đó,
họ sẽ thay đổi hành vi biểu đạt của mình
Việc kiểm soát thông tin với các lỗi AI có thể ảnh hưởng tiêu cực hơn đến việc thực thi quyền tự do biểu đạt AI không phải là một cơ chế hoàn thiện, mà vẫn xảy ra những lỗi như các công nghệ khác, vì thế việc sử dụng AI vào trong lĩnh vực thông tin cũng ảnh hưởng đến quyền tự do biểu đạt Các công ty Internet sử dụng
AI để phát hiện và tháo rỡ các thông tin không hợp quy định, đặc biệt theo các yêu cầu pháp luật liên quan đến vấn đề khủng bố, ngôn từ kích động thù địch, tin giả mạo Tuy vậy, với các lỗi cố, AI có thể sai lầm trong việc loại bỏ các thông tin chính đáng Ngoài ra, sự tác động của AI đến quyền tự do biểu đạt còn thể hiện ở thông tin định kiến
Quyền tham gia
Các vấn đề của AI đối với quyền thông tin như đã nêu ở trên cho thấy những tác hại đối với quyền tham gia chính trị của người dân Một báo cáo của Viện Brookings cho rằng “những tiến bộ của AI và khả năng không gian mạng sẽ tạo ra các cơ hội cho các chủ thể độc hại phá hoại nền dân chủ một cách tình cờ và hiệu quả hơn những gì chúng ta thấy từ trước đến nay”.283 Các hệ thống AI có thể được
sử dụng vì các mục đích xấu, chẳng hạn như truyền bá thông tin sai lệch, dẫn đến làm giảm, thay đổi nhận thực của công dân nhằm thay đổi hành vi của họ Các nền tảng trao đổi trực tuyến với AI (Bots) được sử dụng vì nhiều mục đích khác nhau Các hệ thống này có thể được sử dụng vì các mục đích sai trái ảnh hưởng đến quyền tham gia Các chiến dịch can thiệp của Nga vào cuộc bầu cử Tổng thống Mỹ năm
2016 thông qua mạng xã hội cho thấy những tác hại khó lường của AI đối với quyền tham gia Nhiều nghiên cứu cũng chỉ ra các Bots đã, đang và sẽ tiếp tục được
283 Alina Polyakova and Spencer P Boyer, “The Future of Political Warefare: Russia, the West, and the Coming Age of Global Digital Competition,” 5, Brookings, March 2018,
https://www.brookings.edu/wp-content/uploads/2018/03/the-future-of-political-warfare.pdf
Trang 9sử dụng để thao túng truyền thông ở nhiều quốc gia trên thế giới nhằm can thiệp vào kết quả của các cuộc bầu cử dân chủ.284
Quyền làm việc
Việc sử dụng ngày càng nhiều các công nghệ AI thay thế con người đặt ra những thách thức đối với quyền làm việc Thực tế, quá trình tự động hóa và sử dụng công nghệ dẫn đến tình trạng thất nghiệp ngày càng tăng Thị trường lao động bị ảnh hưởng không chỉ bởi sự giảm sút cơ hội việc làm, mà còn sự thay đổi về cơ cấu thị trường lao động, trong đó các công việc truyền thống thì ngày càng giảm sút và các công việc liên quan đến công nghệ cao ngày càng trở nên phổ biến Tuy vậy, các nhóm yếu thế trong xã hội lại gặp khó khăn trong việc tiếp cận các công việc đòi hỏi trình độ giáo dục và kỹ thuật cao
III Các khuyến nghị bảo đảm AI vì quyền con người
Sự phát triển của các hệ thống AI trong đời sống xã hội là một xu hướng khó có thể đảo ngược Cũng tương tự như sự ra đời của các cuộc cách mạng công nghiệp và máy móc, AI đem lại nhiều giá trị cho đời sống xã hội, nhưng cũng tạo ra nhiều hệ quả, tác động xấu đối với con người Do vậy điều cần làm là làm sao để tận dụng được những giá trị mà AI mang lại, nhưng đồng thời có những giải pháp
để giải quyết hay hạn chế tối đa các tác động tiêu cực có thể xảy ra của AI đối với các quyền con người
Để làm được điều đó, cần phải có các cơ chế kiểm soát AI để đồng thời phát huy những giá trị và giảm thiểu các hệ quả tiêu cực của việc sử dụng các hệ thống AI Các cơ chế kiểm soát bao gồm hệ thống quy tắc (chính sách, luật, quy định) và kỹ thuật (thiết kế và vận hành các hệ thống AI) Cần phải đảm bảo rằng tất cả các chủ thể tham gia vào việc xây dựng và vận hành các hệ thống AI phải có trách nhiệm trong việc thúc đẩy các quyền con người Các chính phủ cần đóng vai trò trong việc xây dựng các chính sách, quy định và bảo đảm các điều kiện để các chủ thể tuân thủ nghĩa vụ, đồng thời khuyến khích họ, đặc biệt là các doanh nghiệp trong việc bảo đảm các trách nhiệm về quyền con người Các chính phủ cũng phải có trách nhiệm và
hệ thống kiểm soát chính các hoạt động của mình trong việc sử dụng AI Báo cáo của
Tổ chức Access Now đưa ra 2 nhóm giải pháp đối với các chính phủ và tư nhân Các chính phủ sử dụng AI phải đảm bảo: tuân thủ các tiêu chuẩn mua sắm công mở; bắt buộc phải đánh giá tác động về quyền con người; bảo đảm sự minh bạch và giải trình; thiết lập trách nhiệm và thủ tục khắc phục (đối với các quyền bị vi phạm) Trong khi đó, việc sử dụng AI của khối tư nhân phải bảo đảm: thực hiện đánh giá tiêu chuẩn về quyền con người theo các nguyên tắc hướng dân của Liên Hợp quốc về kinh doanh
284 Mark Latonero, “Governing Artificial Interlegence: Upholding Human Rights & Dignity”, Data&Society,
https://datasociety.net/wp-content/uploads/2018/10/DataSociety_Governing_Artificial_Intelligence_Upholding_Human_Rights.pdf
Trang 10và quyền con người; bảo đảm sự minh bạch và giải trình cao nhất có thể; Thiết lập các cơ chế trách nhiệm và khắc phục thích hợp.285
Minh bạch và giải trình là trách nhiệm của tất cả các chủ thể sử dụng và áp dụng AI Có lập luận cho rằng AI bao gồm các hệ thống rất phức tạp, thậm chí không thể giải thích, nên việc đặt ra sự minh bạch và giải trình sẽ cản trở, gây hại, thậm chí giết chế sự sáng tạo Tuy nhiên, lập luận này bị coi là bị thổi phồng và không phù hợp với sự phát triển của AI ngày nay Minh bạch và giải trình không giết chế sự sáng tạo AI.286 Quá trình thực thi các nguyên tắc cũng gặp rất nhiều trở ngại, như: các chủ thể có nhận thức hạn chế về trách nhiệm của họ trong việc bảo đảm các quyền con người; khó khăn trong việc xác định những tác động thực tế của các ứng dụng AI nào đó trong tương lai (đặc biệt khi công nghệ AI phát triển rất nhanh và khó dự đoán); làm thế nào để có một biện pháp khắc phục hiệu quả đối cho các tác động tiêu cực của AI đối với quyền con người.287
Quá trình xây dựng và thực thi các cơ chế kiểm soát hiệu quả thường mất thời gian và công sức Đầu tiên, cần phải xây dựng các nguyên tắc hướng dẫn để xác định, giảm thiểu và khắc phục các tác động bất lợi của AI đối với quyền con người Trong
2 năm qua, bắt đầu xuất hiện các bộ nguyên tắc đạo đức AI Bộ quy tắc AI Asilomar được xây dựng năm 2017 là kết quả của i Hội thảo Asilomar về các lợi ích AI, đưa ra các hướng dẫn đối với hoạt động nghiên cứu AI, các quy tắc đạo đức, giá trị mà việc
sử dụng AI phải tuân thủ, đồng thời gợi lên các vấn đề cần xem xét về dài hạn Bộ quy tắc này đã được ký bởi hàng nghìn các nhà nghiên cứu về AI và các lĩnh vực khoa học khác Cùng thời gian đó, Hiệp hội Máy tính Hoa Kỳ (ACM) đã ban hành một tuyên bố và bộ bảy nguyên tắc về tính minh bạch và trách nhiệm của thuật toán, nhằm giải quyết một vấn đề hẹp hơn nhưng có liên quan chặt chẽ về AI Năm 2007 cũng được biết đến với sự ra đời của nhiều sáng kiến và bộ quy tắc khác về ứng xử
AI, như Bộ hướng dẫn Ứng xử của Tổ chức Xã hội Nhật Bản Vì Trí tuệ nhân tạo (The Japanese Society for Antificial Interlligence) vào tháng 3/2017; Dự thảo Bộ nguyên tắc từ Tuyên bố Montréal về trách nhiệm của AI vào tháng 11/2017 (Đại học Montréal năm 2017); Các nguyên tắc chung về ứng xử của các hệ thống trí tuệ và tự động của IEEE Trong năm 2018, một số bộ quy tắc khác ra đời như Hợp tác về AI năm 2018; 5 nguyên tắc AI ứng dụng cho liên ngành của Thượng viện Vương Quốc Anh (Ủy ban lựa chọn về AI 2018); các nguyên tắc đạo đức AI của Google Mặc dù vậy, vẫn còn những hạn chế, như các quy tắc còn khá chung chung, chưa sát với thực
285 Xem thêm: Access Now, “Human Rights in the Age of Artificial Intelligence”,
https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf, tr.32-35
286 Xem thêm: Access Now, “Human Rights in the Age of Artificial Intelligence”,
https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf, tr.36-37
287 Filippo Raso, Hannah Hilligoss, Vivek Krishnamurthy, Christopther Bavitz, and Levin Kim, Artificial Inteligence & Human rights: Opportunities & Risks, Berkman Klein Center For Internet & Society at Havard University, Sepember 25, 2018, tr.52-57