Vấn đề hộp đen của trí tuệ nhân tạo có thể giải quyết bằng cách nào

Họ không thể vận hành một mô hình AI tr ừ khi có th ể chứng minh với lãnh đạo ngân hàng và các cơ quan quản lý rằng, mô hình đó đảm bảo công bằng, an toàn và có kh ả năng giải thích rõ r

Vấn đề hộp đen c ủa trí tuệ nhân tạo có thể giải quyết bằng cách nào?

Các nhà công ngh ệ ngân hàng đã làm nóng ý tư ởng sử dụng trí tuệ

nhân tạo (AI) và công ngh ệ máy học trong nhi ều lĩnh v ực như cho vay, tuân thủ chống rửa tiền và thu n ợ Nhưng các ngân hàng cũng ph ải đối mặt với vấn đề “hộp đen” khi họ cố gắng sử dụng AI Họ không thể vận hành một mô hình AI tr ừ khi có th ể chứng minh với lãnh đạo ngân hàng và các cơ quan quản lý rằng, mô hình đó đảm bảo công bằng, an toàn và có kh ả năng giải thích rõ ràng lý do đ ằng sau các quyết định được đưa ra

Douglas Merrill, giám đốc điều hành và người sáng lập của ZestFinance, công ty cung c ấp phần mềm dựa trên máy h ọc để cho vay và tuân th ủ các quy tắc chống rửa tiền nói rằng, trừ mảng chống gian lận thì các dịch vụ tài chính hầu như chưa sử dụng máy h ọc Không phải vì các công ty tài chính không đủ trình độ Mỗi tổ chức tài chính lớn đều có người nghiên cứu về máy học và tất cả những ngư ời đó đều biết các thu ật toán mới tốt hơn nhi ều

so với các thuật toán cũ Nhưng v ẫn chưa có thuật toán nào đư ợc đưa vào

sử dụng, chủ yếu là vì vư ớng các quy đ ịnh của cơ quan qu ản lý, chẳng hạn như khả năng giải thích

Một chuyên gia giấu tên nói “Nỗi sợ lớn nhất của tôi khi đề xuất áp dụng máy học vào bất kỳ việc gì là câu trả lời "Tôi không nghĩ các cơ quan qu ản

lý đã sẵn sàng" Tôi có thể dùng máy học để phát hiện những trường hợp bất thường Nhưng khi v ấn đề liên quan t ới cách đối xử với con ngư ời hay

áp dụng chính sách v ới khách hàng thì các cơ quan qu ản lý bắt đầu trở nên khó khăn Họ đã quen với việc nhìn thấy một sơ đồ - nếu bạn dùng điều

kiện này, bạn sẽ nhận đư ợc điều này.”

Bao giờ chúng ta sẽ có giải pháp nào cho v ấn đề này? Khi nào AI có th ể phát huy những tiềm năng của nó trong các d ịch vụ tài chính? Chúng ta hãy cùng tìm hi ểu thực tế thị trường ứng dụng AI tại Mỹ để hiểu thêm v ề xu hướng này

Thành kiến không rõ từ đâu tới

Khả năng giải thích đư ợc cần tới nhất trong lĩnh v ực cho vay Ý tư ởng đưa

ra quyết định cho vay dựa trên một thuật toán hộp đen là nỗi kinh hoàng đối với các cơ quan bảo vệ người tiêu dùng và các nhà quản lý Điều gì xảy

ra nếu hộp đen đưa ra các quy ết định có tương quan l ớn với sắc tộc? Điều

gì sẽ xảy ra nếu hộp đen b ắt chước hành vi phân bi ệt đối xử của con người?

Ví dụ như: những người thuộc một câu lạc bộ golf nào đó sẽ đương nhiên

có xếp hạng tín dụng tốt

David Berglund, phó ch ủ tịch cấp cao về trí tuệ nhân tạo tại U.S Bank, cho biết việc sử dụng bất kỳ công nghệ nào cũng có r ủi ro và việc sử dụng AI, học máy trong b ảo lãnh cho vay không ph ải là trư ờng hợp ngoại lệ Chúng tôi lưu tâm đến sự cần thiết phải hạn chế sự thiên vị, đảm bảo sự công bằng

và duy trì khả năng ki ểm soát

Nhưng một số người cho rằng, so với tất cả các sai lầm tiềm năng của AI,

hệ thống hiện tại (không có AI) còn t ồi tệ hơn Paul Gu, đ ồng sáng lập Upstart - một công ty cho vay tr ực tuyến cung c ấp nền tảng cho vay dựa trên AI c ủa mình cho Customers Bancorp, BankMobile và m ột số đơn vị khác, phản đối mạnh mẽ ý tưởng cho r ằng việc sử dụng dữ liệu thay thế và

AI dẫn đến sự phân bi ệt đối xử Ông cho rằng: “Các phương th ức bảo lãnh truyền thống cũng không công b ằng Nếu một ngư ời lo lắng về việc các ngân hàng chỉ cho những người khá gi ả vay, thử hỏi họ có sử dụng dữ liệu

về thu nhập của khách hàng (khi quy ết định cho vay) không? Th ế nào là người khá giả? Thường là điểm tín dụng (FICO) cao Bạn nghĩ gì về tỷ lệ người trong một chủng tộc nhất định có điểm FICO cao? Nếu bạn so sánh con số đó với tỷ lệ phần trăm c ủa những ngư ời ở các tổ chức giáo dục hàng đầu của Hoa Kỳ thì một trong những con số đó còn tốt hơn so với con số kia Điều đó không có nghĩa là ngân hàng phản đối giáo dục Chúng tôi có

thể cải thiện đáng k ể khả năng tiếp cận tín dụng”, ông nói “Nhi ệm vụ của chúng tôi là, với những người thực sự sẽ trả lại một khoản vay, chúng tôi muốn cho họ vay với lãi su ất thấp nhất có th ể.”

Khả năng giải thích c ủa trường phái cũ

Berglund so sánh kh ả năng giải thích v ới việc một học sinh làm bài ki ểm tra của mình Bạn có thể đã trả lời đúng, nhưng b ạn có thể làm đi ều đó một cách nhất quán theo th ời gian và làm tốt cả các bài kiểm tra m ới không? Ngày nay, những người tiêu dùng b ị từ chối cho vay đư ợc biết lý do từ chối hoặc các hành động bất lợi đã khiến họ không đư ợc vay Đôi khi các lý do

đó được gửi thẳng từ đơn vị xếp hạng tín dụng Merrill nói “Dữ liệu của chúng tôi cho th ấy gần như 80% những lý do đó là sai.”

Ông cũng chỉ trích hiện trạng tại các ngân hàng: “Các hành đ ộng bất lợi của khách hàng - mà hầu hết các tổ chức cho vay chỉ ra - được thiết kế cho một thế giới bảo lãnh nh ị phân thu ần túy, trong đó b ảo lãnh đư ợc phát hành nếu điểm tín dụng của bạn đạt mức này, n ếu tỷ lệ nợ trên thu nh ập của bạn

ở mức này thì chấp nhận được”

Các mã hành động bất lợi được chỉ ra bởi các hệ thống cho vay cũ thường không đúng, và thậm chí không thể sửa được Đôi khi, người ta bảo khách hàng rằng anh ta/cô ta không thể vay tiền vì chưa vay đủ nhiều

Những người trở nên giàu ho ặc thăng ti ến một cách đột ngột (Upstart) đã gây tranh cãi vì mô hình c ủa họ xem xét dữ liệu về giáo dục của ứng viên - bằng cấp, trư ờng học, lĩnh vực học tập và năm t ốt nghiệp - bên c ạnh dữ liệu về người sử dụng lao động và ngh ề nghiệp, dữ liệu từ chính đơn xin vay và dữ liệu của tổ chức xếp hạng tín dụng truyền thống Họ đã được Cục Bảo vệ Tài chính Ngư ời tiêu dùng cho phép ho ạt động sau khi gửi cho cơ quan này thông tin chi ti ết về tất cả các đơn xin vay mà h ọ nhận được, phê duyệt và từ chối Những Upstart có đủ khả năng giải thích mô hình c ủa họ Berglund ho r ằng: “Nếu bạn từ chối cho một ngư ời nào đó vay, b ạn phải giải thích rõ lý do Chúng tôi làm đư ợc điều đó; đó là một vấn đề có thể giải quyết Bạn có một mô hình phức tạp nhưng toán học có th ể giải quyết các bài toán phức tạp Mô hình c ủa chúng tôi giúp b ạn đưa ra những lý do

để giải thích với khách hàng, những lý do mà theo chúng tôi là t ốt hơn lý

do của những hệ thống kiểu cũ.”

Tương tự, Scott Zoldi, chuyên gia phân tích trư ởng của FICO nói rằng, phần mềm chống rửa tiền dựa trên AI c ủa công ty ông có th ể xác định lý do cho mỗi giao dịch rửa tiền tiềm ẩn mà nó đánh d ấu “Nếu mỗi quyết định đi kèm với một mã lý do và kèm theo c ả một câu chuyện nhân b ản thì khách hàng (c ủa FICO) có th ể giải thích tại sao họ chặn một giao d ịch và đó là một cách gi ải thích tốt hơn h ẳn Mô hình máy h ọc không chỉ cần có khả năng giải thích theo cách hàn lâm Cần có một người ở đầu kia điện thoại

có khả năng nói v ới tôi bằng ngôn ngữ của con người về việc tại sao giao dịch của tôi bị chặn Đó chính là hư ớng tiến hóa (của các thu ật toán).”

Những dạng mới của khả năng giải thích

Các nhà khoa học đã t ạo ra những kỹ thuật để đưa ra lời giải thích từ các

mô hình toán của máy học Một trong s ố đó là LIME, xuất hiện năm 2016 Một kỹ thuật phổ biến khác xuất hiện năm 2017 v ới tên gọi là SHAP (từ viết tắt của SHapley Additive exPlanations) C ả ZestFinance và

underwrite.ai đều sử dụng SHAP

Theo tổng giám đốc Marc Stein, underwrite.ai đã t ạo ra những mô hình có khả năng giải thích đầy đủ từ năm 2014 “Đó không ph ải là thứ mới Với mỗi quyết định, chúng tôi có th ể xem xét k ỹ mô hình và nói nh ững thuộc tính nào dẫn bạn tới kết luận (về việc cho vay hay không)” N ếu mô hình của underwrite.ai t ừ chối một đơn xin vay, nó s ẽ cung cấp những dữ liệu quan trọng nhất đã góp phần đưa đ ến quyết định đó Nó có th ể là một vụ phạm pháp hay m ột tiền sự

“Đó không phải là một quy tắc cứng nhắc Chúng tôi không nói rằng “Từ chối bất kỳ ai có tiền sự”, Stein nói “Nhưng mô hình đã h ọc đư ợc rằng nếu

có nhiều tiền án tiền sự thì khả năng một ngư ời là khách hàng t ốt khá th ấp Rất dễ để ánh xạ những dữ liệu đó với các mã từ chối nên có th ể giải thích

rõ rằng cho khách hàng Chúng tôi p hấn khích v ới việc những khoản đầu tư ngày càng tăng được đổ vào thị trường AI có khả năng giải thích”

Thuyết phục các cơ quan quản lý

Trong những cuộc trao đ ổi riêng, các ngân hàng thư ờng nói r ằng tuy cơ quản quản lý thể hiện sự cởi mở với việc sử dụng AI nhưng nh ững thanh tra ở địa phương thư ờng không hiểu công nghệ và sẽ phản đối họ Zoldi nói nhiều ngân hàng đã yêu c ầu ông giải thích cho các cơ quan qu ản lý địa phương về cách các công cụ chống rửa tiền dựa trên AI của FICO hoạt động Đôi khi họ bảo rằng “Nếu tôi không làm mọi thứ theo cách cũ thì tôi

sẽ bị phạt rất nặng”

Các cơ quan quản lý Hoa Kỳ đã thực hiện một số động thái thúc đẩy việc ứng dụng AI Họ đã ban hành một tuyên bố chung vào tháng 12, khuy ến khách việc sử dụng AI để tuân thủ Luật bí mật ngân hàng (Bank Secrecy Act) và các quy t ắc chống rửa tiền khác Họ nói rằng, phần mềm AI xứng đáng để thử nghiệm Tuy nhiên, không rõ đi ều đó đã đủ để các ngân hàng cảm thấy tin tư ởng hay chưa Hơn th ế, một số ngân hàng còn mu ốn vượt khỏi phạm vi chống rửa tiền và sử dụng AI trong cho vay và các lĩnh v ực khác

Merrill ở ZestFinance nói ông đã dành th ời gian làm việc với các cơ quan quản lý, giải thích cơ ch ế hoạt động của phần mềm máy học do công ty ông phát triển.“Chúng tôi đang có nh ững bước tiến lớn nhưng vẫn còn nhi ều việc phải làm.”

Stein nói, ông đã thảo luận nhiều lần với những người ở Cục Bảo vệ Tài chính Người tiêu dùng về AI và những kiểu dữ liệu mà công ty ông dùng trong các mô hình “Phản ứng của họ luôn là ‘Chúng tôi không quan tâm đến quy trình kỹ thuật, chúng tôi quan tâm đến việc tuân thủ các quy định Nếu một khách hàng b ị từ chối, ông có th ể giải thích cho anh ta/cô ta t ại sao họ bị từ chối không? Kh ả năng giải thích của mô hình có ổn định

không?’”

Chẳng hạn, nếu một mô hình nó i một tiền sự là lý do khiến ngân hàng từ chối cho vay thì c ần phải có một tiền sự trong hồ sơ của khách hàng xin vay bị từ chối Đó không ph ải là một tình huống hộp đen

Tài liệu tham khảo:

https://www.information -management.com/news/can -ais-black-box-problem-be-solved