人工智能Fairness在金融行業(yè)的研究：基于Pipeline的方法

案例背景:
人工智能在金融領(lǐng)域的應(yīng)用越來越多，很多系統(tǒng)的自動判斷，比如各種打分和預(yù)測，影響了金融系統(tǒng)中的很多決策工作（比如信貸，營銷等）。同時由于很多決策涉及到個人的敏感數(shù)據(jù)（比如年齡和種族），其中的歧視和不公平由此成為一個顯著的問題. 由此,很多國家和地區(qū)對此展開了一系列的研究以及規(guī)則制定. 比如歐盟，美國和新加坡。我會講述關(guān)于人工智能公正/公平性的具體表現(xiàn)形式，基于機器學(xué)習(xí)Pipeline的各類可能和判別的指標(biāo)，以及在金融系統(tǒng)中的具體事例. （演講中使用公開數(shù)據(jù)；不涉及項目本身的數(shù)據(jù)和事例）。

解決思路:
1．合理的制定業(yè)務(wù)項目的目標(biāo)，深入了解可能的偏見情況，并將該目標(biāo)和機器學(xué)習(xí)的性能指標(biāo)以及Fairness評價指標(biāo)聯(lián)系起來。
2．規(guī)劃機器學(xué)習(xí)的pipeline，系統(tǒng)性的分析各個步驟中可能產(chǎn)生的偏差，并及時更正，避免進入下個階段
3．制定適合本企業(yè)的監(jiān)管制度保證后臺決策人和機器輸出更好地協(xié)同工作


成果：
我們結(jié)合一系列Fairness評價指標(biāo)和模型的，可以確保機器學(xué)習(xí)模型性能滿足要求的同時，也可以保證一定的Fairness。Fairness模型對于金融領(lǐng)域的健康發(fā)展有著巨大的幫助，也是在當(dāng)前金融監(jiān)管,隱私和人工智能道德受到廣泛關(guān)注的背景下，有效解決數(shù)據(jù)和模型的黑箱模式的一條途徑。