互联网平台算法歧视及其规制和取证研究.pdfVIP

034

海峡科技与产业

互联网平台算法歧视及其规制

和取证研究

岑超李大印杨承挺陈云峰赵勇吕俊

中国人民银行曲靖市中心支行，云南曲靖655000

摘要：大数据和人工智能技术的广泛应用，在推动产业升级的同时，也产生了算法歧视问题。本文分析了算法歧视

的成因及实现方式，剖析了算法歧视对社会、经济和个体可能产生的影响，提出临界损失分析法可用于算法歧视获

利分析的观点，提出算法歧视的各种取证方法、适用场景和优缺点。

关键词：大数据；人工智能；算法歧视

中图分类号：TP393.4文献标识码：A

了互联网金融借贷中存在地域歧视。中国人民大学小

1 研究背景及意义

微金融研究中心编写的《2015中国普惠金融发展报告》

随着大数据和人工智能技术的广泛应用，算法逐指出，人工智能算法通过用户画像，实现了对金融客

渐成为网络平台的决策中枢，驱动产业实现升级转型，户的精细化管理，可能产生标签性歧视，背离了普惠

推动数字经济蓬勃发展。但智能算法的大量应用，也带金融的公平性原则。

来了各类问题，其中，算法歧视是热议话题。部分互联算法歧视是什么，其产生机制是什么，有什么影响，

网经营平台通过大数据和智能算法，对客户实施歧视实施者的获利如何界定和计算，如何取证等这些问题，

性的差别对待。例如，被网络曝光的某大型网约车平台，都值得深入研究、思考和论证。本文试图从研究算法

通过智能算法“杀熟”，对老顾客实施价格歧视现象；歧视的原理入手，分析和提出算法歧视的规制和取证

2021年3月媒体报道“复旦大学研究披露：手机越贵、方法，以此促进对互联网平台消费者权益的保护。

打车越贵”引发热议；一些互联网电商平台通过智能

2 算法歧视的本质和原理

算法对客户实施差别优惠现象；一些互联网产品对客

户性别、身体健康状况等进行差别化的展示、推送现象；算法歧视(AlgorithmicBias)是计算机程序中的算

甚至一些互联网平台通过年龄等标签，对老年人等数法在处理数据时产生与人类类似的偏见或歧视的现象，

字弱势群体实施差别对待，间接加剧了“数字鸿沟”。[1]

常见于人工智能和大数据应用之中。伴随着网络经济

诸多研究也证实了算法歧视的存在。2016年，暨南大的迅速发展，网络交易已经成为我国社会经济活动中

学对网贷平台“人人贷”进行调查，经分析该平台近三的重要交易方式。2020年，全国网上零售额117601亿

年17万笔交易订单数据得出结论，女性借款人在中国元，约占社会消费品零售总额的30%。网络经营平台

互联网借贷市场中收到了非理性的偏好歧视，国内廖为提升自身竞争力和盈利能力，将基于数据挖掘、数

理等人借助一家网络金融平台的交易数据，实证考察据仓库和OLAP联机分析处理的商业智能BI（Business

作者简介：岑超（1983—），男，本科，经济师，研究方向：金融经济。

杨承挺（1985—），男，硕士，经济师，研究方向：金融经济。

陈云峰（1986—），男，本科，工程师，研究方向：金融科技。

赵勇（1992—），男，本科，助理工程师，研究方向：金融科技。

吕俊（1988—），女，硕士，经济师，研究方向：金融经济。

通信作者：李大印（1985—），男，本科，工程师，研究方向：金融科技。

20219

年第期