光明日报：探讨大数据时代的依法治理之道

如今，大数据已经被广泛应用于各行各业，产生了巨大的经济、社会效益。比如，包括人脸识别在内的智能防控系统提高了案件侦破率；健康医疗大数据推动人工智能辅助医疗，可以缓解优质医疗资源不足现状；城市大脑与智慧城市的发展，既可以缓解交通拥堵等老大难问题，还可以使城市生活更为美好；基于大众供给方与大众需求方供需大数据精准匹配的分享经济新业态，可以极大提升社会资源配置效率，正在迅速改变传统生产方式，推动数字经济等新兴产业蓬勃发展。

由于我国网民人口数量大，大数据应用场景丰富，互联网企业商业模式创新能力强，大数据发展具备各种非常有利的条件。党的十九大报告要求，推动互联网、大数据、人工智能和实体经济深度融合，有力支撑数字中国、网络强国、智慧社会建设，这为我国大数据发展明确了方向。

当前，我国大数据发展实践中面临的问题与挑战不少，主要表现在四个方面：

数据共享不畅，制约大数据发展与应用。近年来，随着政务信息化的稳步推进，一些地方和部门依托网络平台创新政务服务，“只进一扇门”“最多跑一次”“不见面审批”等改革措施不断涌现。但是，政务服务平台建设管理分散、办事系统繁杂、事项标准不一、数据共享不畅、业务协同不足、数据开放滞后等问题较为普遍，制约了大数据发展与应用。

比如，一直以来受到各界诟病的“奇葩证明”现象，根源在于政府部门间的数据无法共享，只能要求当事人自己承担证明责任。再如，按照法律规定，电子商务平台有义务对平台经营主体的经营资质进行审核，但是，由于不少地方管理部门的资质审批信息不对外开放，使平台根本无法履行这种审核义务，导致法律要求无法落地。数据共享不畅，导致办事难、办事慢、办事繁等问题不时出现，也制约了政府监管能力的提高，跟不上大数据发展步伐，甚至会错失大数据发展带来的各种机会。

万物互联环境下，数据安全风险外溢，给国家安全带来新挑战。由于核心技术受制于人的状况没有根本改变，关键信息基础设施面临较大风险，并会外溢至经济、社会、文化、政治、军事等不同领域。几年前发生的“棱镜门”事件，已经给全世界敲响了数据安全与国家安全的警钟。在算法为王的大数据环境下，如果对算法缺乏有效监管，以个性化定制推送为特征的信息内容传播恐会对主流价值观造成冲击，加剧两个舆论场的相互背离现象，进而引发社会治理危机。

大规模的数据采集和处理，加大个人数据被滥用和权利被侵害风险。大数据中最有价值的无疑是个人数据。通过软件、传感器、各种终端等，不同数据控制者都可以对个人活动信息全程采集、实时处理。一旦违法违规采集、使用、交换个人信息，就会导致个人数据被滥用，引发诸如诈骗、绑架、敲诈勒索等连锁负面后果，影响公共安全与人身财产安全，徐玉玉遭电信诈骗案就是典型。一些App超范围采集与其提供服务无关的个人信息，隐含巨大的个人信息被滥用风险。同时，在大数据处理过程中，根据财富、性别、肤色、种族、人种、健康状况、地区差别等各种外在因素所进行的算法歧视、大数据杀熟、预测性识别等，不仅涉及滥用个人数据，更会侵犯数据主体的各项基本权利，造成新的不平等。

传统体制机制规则滞后，不适应大数据发展要求。当前运用大数据推动经济发展、完善社会治理、提升政府服务和监管能力正成为全球性趋势，带来的是经济社会的全面转型，而传统体制机制规则不适应大数据发展要求的现象日益明显。比如，根据业务领域划分边界的传统行政管理体制和信息系统，很难适应大数据融合要求，出现信息系统林立的信息孤岛现象；按照目前法律规定，机动车只能由获得驾驶员证书的人员驾驶，测试车不得上高速公路行驶等，明显不适应无人驾驶的发展；基于生产与消费两分的传统行政许可管理方式，无法直接照搬到建立在大众供给基础上的分享经济新业态；传统的权利关系与权利规则无法解决市场主体之间的新型数据权益冲突。

近年来，我国加大力度实施大数据发展战略，相继出台《促进大数据发展行动纲要》《关于运用大数据加强对市场主体服务和监管的若干意见》《“十三五”国家信息化发展规划》等文件，从顶层进行布局。2015年，国务院《促进大数据发展行动纲要》明确提出了大数据发展相关的法规制度建设的具体要求，包括修订政府信息公开条例，积极研究数据开放、保护等方面制度，明确政府统筹利用市场主体大数据的权限及范围；制定政府信息资源管理办法，建立政府部门数据资源统筹管理和共享利用制度；研究推动网上个人信息保护立法工作，界定个人信息采集应用的范围和方式，加强对数据滥用、侵犯个人隐私等行为的管理和惩戒；推动出台相关法律法规，加强对基础信息网络和关键行业领域重要信息系统的安全保护，保障网络数据安全；研究推动数据资源权益相关立法工作。

经过几年努力，目前，网络安全法已经颁布实施，建立了关键信息基础设施保护等网络安全基本制度；电子商务法对企业的数据报送、提供制度做了原则性安排，为管理部门利用市场主体大数据提供了法律依据；政府信息公开条例修订出台，为打造政务公开升级版，提升政府信息资源管理水平创造了条件；《国务院关于在线政务服务的若干规定》对于促进政务服务跨地区、跨部门、跨层级数据共享和业务协同，明确了基本要求；国务院推进“放管服”改革相关文件，对于推进体制机制变革，优化营商环境，进行了全方位探索；数据安全法、个人信息保护法已经被列入本届人大一类立法计划，正在起草过程之中，有望进一步夯实数据安全基本制度。另外，贵州、天津等地相继制定推动大数据发展的地方性法规，更多地方制定了相关的政府规章或规范性文件；上海等地正在制定促进公共数据开放的地方性法规或规定，各地数据开放工作和制度建设全面推进，大数据发展与应用水平快速提升。

深入分析可以发现，我国大数据法规制度建设根据良法善治的要求，体现了四个鲜明的特点，也是构筑大数据法律体系应该坚持的基本法律原则：

以底线思维构筑大数据发展安全防线，加强领导体制，优化执行体制，强化预警、预测与预防，加强信息共享与综合能力建设，有效防范重大安全风险，及时处置突发安全事件，维护国家利益。

以创新思维推动体制机制变革，“放管服”并重，包容审慎监管，发挥中央与地方两个积极性，法治政府、廉洁政府、创新政府与服务型政府共同推进，推动新业态发展，培育新动能，主动引领大数据发展。

以法治思维明确不同主体行为规范与权利边界，着力处理好管理部门与市场主体，市场主体之间以及市场主体与数据主体之间的法律关系，既维护数据主体对个人信息的控制权，也促进市场主体之间的良性数据竞争，并借助大数据提升政府监管能力与服务能力。

以共治思维推动体系性解决，重视大数据发展面临问题与挑战的复杂性、共生性与相互转化性，避免线性思维、单向思维，构筑多元主体参与、多种政策工具并用、激励约束并重、依法治理与数据治理相结合的大数据治理新格局。

（作者：周汉华，系中国社会科学院法学研究所研究员、中国法学会网络与信息法学研究会常务副会长）

当前，网购、网约车、网上银行等互联网服务全方位地从虚拟数据世界介入到现实生活中。人们已经习惯为了获取便利高效的服务，录入自己的姓名、电话、住址、银行卡号等隐私信息。随着生物科技的发展，指纹、面容等个人生物信息也被作为特殊密钥，用于消费支付和解锁登陆等。

人们享受着大数据时代前所未有的便捷，可能未曾想到自己在网络中的所有活动都被数字化留存，这些数字信息借由机器和技术的力量，有将公众变成“透明人”的风险。

朱某在某搜索引擎上搜索“减肥”等关键字，后进入其他网站时，会出现与其之前搜索的关键词相关的减肥广告等。朱某认为，该网站记录和跟踪其搜索痕迹，并据此进行广告投放的行为侵害了其隐私权，使其感到恐惧、精神高度紧张，影响了正常的工作和生活，因此选择诉诸法律。

实际上，朱某的遭遇十分常见。我们在上网时经常会发现各种能够“读懂人心”的广告，这就是网络定向广告（OBA）。这种广告通过大数据手段搜集用户消费信息，从而精准投放符合消费者偏好的广告。网络定向广告能够大幅度提高广告宣传效率，但对个人隐私保护带来了巨大风险。许多网站和软件通过以明示告知和默示同意相结合的隐私条款，此规避侵权风险，但是这种做法是否合理则争议较大。因为，用户如果不同意这种隐私条款，在网络世界中将寸步难行。

在大数据时代下，很多对个人数据信息的利用行为伴随着侵犯隐私的风险。目前，指纹、面部以及虹膜识别等个人生物信息，在商业应用、社会治理以及国家安全等领域具有广阔前景。但是，“公民个人生物信息具有唯一性和不可变更的特质，一旦泄露就是终身泄露，其敏感程度和利用价值远高于一般信息，存在特殊风险”。

鲁某为自己的朋友庞某在去哪儿网订购了中国东方航空的机票一张。在购票过程中，鲁某并未填写过庞某的手机号。两天后，庞某的手机却收到了通知其航班取消的诈骗短信。未曾留存过的手机号却被诈骗团伙获知，甚至匹配出自己的姓名和航班信息，庞某认为其个人隐私信息被代理公司趣拿公司和东航泄露，并一纸诉状将两个公司诉至法庭。最终二审法院认定两被告应当承担侵权责任。

实践中，许多网络信息平台在商业利益诱惑下，将所收集的消费者隐私信息数据用于其他用途或是出售给第三方，导致大量隐私信息泄露。同时，在缺乏成熟的数据保护技术，数据保护意识不强，保护力度不足的情况下，数据库中的个人隐私信息也极易泄露，并存在被恶意使用的风险。万豪酒店约2.4亿条客户资料泄露、圆通10亿条快递信息泄露、优衣库网站逾46万客户资料泄露……层出不穷的信息泄露事件都在提醒我们要重视数据信息保护，强化隐私信息的合法收集、限制使用与安全储存。

2017年11月，我国首家“信息换商品”店铺开业，顾客可以用自己的隐私换购各种价位的商品。但在换购后，出卖手机号码的顾客马上收到了一则垃圾短信，出卖邮箱地址的顾客被搜索出用该邮箱地址注册过的网站，出卖照片的顾客则被用照片合成了脱发广告的代言人。实际上，主办方的目的，就是旨在通过信息换购商品的形式，提高公众的个人信息保护意识。

大数据时代隐私的暴露无处不在，人们往往对自己的隐私缺乏保护意识，用个人隐私的披露换取高效便捷的服务或是娱乐体验。在“信息换商品”店铺活动中，有体验者直言，“这有啥可怕的？反正我的信息已经到处都是了”。隐私保护意识不强为违法分子提供了可乘之机。网络上存在许多第三方软件，用户输入个人姓名、性别、生辰八字、手机号等信息，来测试所谓的前世身份、爱情观等，这实际上是后台运营商收集个人隐私数据的手段，运营商完全可以根据用户所输入的个人信息拼凑出完整的隐私资料，具有引发电信诈骗和电信盗窃的可能。

需要指出的是，尽管面临诸多挑战，但我们不能因噎废食，而是应当在对个人信息数据的使用和保护之间寻找平衡点，在隐私保护允许的范围内充分发挥大数据的应用优势，推动大数据发展。

我国在侵权责任法中首次明确对隐私权的保护，并从2012年开始先后出台了一系列政策法规加强对个人信息的保护。如2015年刑法修正案（九）新增了“侵犯公民个人信息罪”“拒不履行信息网络安全管理义务罪”“非法利用信息网络罪”“帮助信息网络犯罪活动罪”，为网络个人隐私信息提供了刑法保护。2016年网络安全法“网络信息安全”一章，从个人信息收集、使用以及保护的角度进行了规定。2017年民法总则确认了个人信息自主权，明文规定自然人的个人信息受法律保护。

笔者以为，加强大数据时代的隐私保护，需做到以下三点：

首先，完善隐私保护的法律政策体系。可借鉴欧盟《统一数据保护条例》的经验，整合我国目前在侵权责任法、网络安全法、民法总则、刑法等相关法律法规中对于个人信息及隐私权保护的规定和措施，对个人信息及隐私权保护进行专门立法，具体明确相应的权利内容、维权方式以及侵权责任，对公民个人信息的采集、利用以及保护进行规范，解决当前法律依据碎片化、保护途径间接化、司法救济薄弱化的问题。

其次，提升数据信息保护的技术水平，健全数据使用的监管机制。针对系统漏洞和技术薄弱处更新技术保护手段，加强数据库安全维护。同时要强化数据库监管，可以设立数据库监管的执法机关，针对数据库管理和使用机构内部人员违法盗取和出售个人数据的行为进行监管，并定期发布各数据库使用状况和安全评估的报告。

最后，强化公众的隐私保护意识，引导公众主动拒绝不良网站、企业等非法收集个人信息的要求，对于侵犯个人隐私的行为要勇于发声，拿起法律武器捍卫自己的隐私权利。

（作者：范淼，系辽宁大学中国特色社会主义理论体系研究中心研究员）

当你搜索关键词时，搜索引擎会计算该向你显示哪些搜索结果；当你登录视频网站时，某些系统会推荐一些你喜欢的节目；新闻类App会利用算法决定向你更新哪些信息。显然，我们生活在一个算法的时代，算法为人们的日常学习、生活和工作提供了极大便利。但需要警惕的是，算法并非完美无缺——它不仅可能出错，甚至还会产生严重的歧视问题。

算法就是一系列指令，告诉计算机该做什么。作为一种数学理性的运用，人们原本期待算法能够绝对客观，但算法歧视的现象却出人意料地频频出现。

算法歧视突出表现为以下几类：其一，价格歧视。例如，早在2000年，某网站就曾经搞过算法“杀熟”，同一款DVD碟片，对老用户报价26.24美元，对新用户仅报价22.74美元。近年来，我国一些网购平台利用大数据“杀熟”的现象也是屡见不鲜。其二，性别歧视。例如，某网站研发了一套筛选简历的算法系统，结果显示其对男性求职者有着明显的偏好，女性求职者的简历常常分数不高。其三，种族歧视。例如，某国外著名网站上的高薪工作广告更多地向白人显示；智能照相机在照相时不停提醒亚裔睁开眼睛等。此外，基于宗教信仰、经济状况、外貌等形式的算法歧视也广泛存在。

相较于人类歧视，算法歧视有其特殊一面。其一，算法歧视更加精准。算法能够对每个用户精准画像，被打上歧视标签的用户绝无逃脱可能。其二，算法歧视更加多元。人类歧视通常依据的是性别、学历等显形特征，但算法能够挖掘出更加深层次的隐形特征来作为其歧视处理的依据，包括网页浏览记录、购物记录、行车路线等。其三，算法歧视更为片面。人类社会对于个体的判断通常是综合和动态的，而算法无法获取或处理用户的全部数据。其四，算法歧视更加隐蔽。传统基于种族、性别、民族等特征的歧视是法律所禁止的，但算法却可以规避这些规定。

数据是人工智能的养料，歧视性数据必然会产生歧视性结果。例如，2016年，某国外公司的AI聊天机器人上线，但在和网民聊天时却被灌输了许多脏话以及各种歧视的思想，结果迅速成为一名“不良少女”，上线不到一天就被迫下线。与此同时，不完整、不正确或不及时的数据也会产生算法歧视。例如，2016年举行的首届“AI国际选美比赛”，由于算法训练的照片没有包含足够多的非白人面孔，结果导致绝大多数获奖者都是白人选手。

算法本身存在缺陷或瑕疵也会引发歧视。算法决策总是需要设定某些变量或指标，而这些都是人为设定的，不排除掺入歧视的可能。例如，很多国际互联网巨头的男性雇员占了2/3，技术岗位的比例更是高达4/5，这使得算法设计的过程中难免会掺入性别歧视的因子。与此同时，尽管算法是应对复杂工作的利器，但在其输入层与输出层之间却存在“黑箱”，这加剧了算法歧视的复杂性。此外，算法本质上是一种分析、预测的数学技术，强调的是相关性，而非因果性，这决定了算法本身存在歧视的基因。

此外，算法作为人类利用的工具，纵使输入的数据和算法技术本身都没有问题，仍然存在歧视的可能。例如，算法能够清晰地区分出消费能力强、忠诚度高的老客户群体，但企业完全可能将之作为杀熟的依据，而非促销让利的参考。

首先，完善算法的法律规制。一方面，规范算法利用的范围、方式和限度。对于算法歧视，既要从公法层面严厉制裁滥用算法的企业等主体，也可以考虑在私法层面引入大规模侵权规则和惩罚性赔偿规则。与此同时，对于高度敏感的数据应当禁止算法处理，包括种族、民族、宗教信仰等。另一方面，要赋予用户更多的权利。用户可以通过被遗忘权来删除过时的数据，通过更正权来补充或更改错误或不完整的数据。还应参照欧盟《一般数据保护法》的规定，赋予用户拒绝权和解释权，即如果用户认为算法的自动化决策存在歧视，那么其有权拒绝接受处理结果。

其次，重视算法的技术规制。面对日新月异的人工智能技术，依靠单一的法律规则来应对算法歧视是难以奏效的。对此，建议引入算法的伦理设计，从一开始就将算法透明、算法可解释、算法问责、算法审计等价值需求嵌入算法的设计当中。相较于法律的事后救济，算法的伦理设计更强调预防的重要性，要求设计者在算法的设计阶段遵守禁止歧视的法律和伦理规则，并通过自然语言将法律语言嵌入到算法的全生命运行周期中。

最后，探索算法规制的市场路径。传统理论认为，算法公平与企业的营利目标是冲突的，企业没有动力推动算法公平的实现。然而，随着用户对于算法公平的需求越来越强烈，市场将会淘汰那些滥用算法的企业。对此，企业可以通过发布透明度报告等方式来公布算法公平指数，以赢得用户信任。此外，公权力机关通过投资和采购的方式，也可以引导企业提高算法公平指数，减少算法歧视的发生。

（作者：郑志峰，系西南政法大学民商法学院讲师）

免责声明：

本文由“ 大数据周刊”授权转发。图片来自互联网，内容为原作者个人观点，并不代表本公众号赞同其观点和对其真实性负责。如涉及作品版权问题，请与我们联系，我们将在第一时间删除内容！

返回列表