转自：最高人民检察院
防范人工智能应用风险
检察公益诉讼应发挥重要作用
数据法治研究院教授、联合国人工智能
高层顾问机构专家 张凌寒
在数字化时代，人工智能技术的应用已经成为推动社会发展的重要力量。然而，随之而来的风险和挑战也日益凸显，尤其是在个人信息保护和数据安全领域。本文将深入探讨人工智能应用带来的风险与民事救济困境，并分析检察公益诉讼在其中的作用和具体路径。
一、人工智能应用带来的风险与民事救济困境
随着人工智能技术的快速发展，个人信息和数据的处理变得越来越普遍。这些技术在提高效率和便利性的同时，也带来了个人信息非法收集、滥用，用户沉迷、受到歧视等风险，可能给个人和社会造成损害。例如银行借助算法从海量用户中通过画像挖掘出“优质”客户，招聘者利用算法从应聘者中筛选出“完美”员工，等等。但与此同时，这类人工智能应用可能构成对群体的系统性歧视，如女性在共享经济平台招聘与分配工作机会时遭受的不利待遇，互联网金融与保险广告屏蔽女性与老年人等。这类人工智能应用可能造成的风险损害包括但不限于身体或精神损害、身份被盗用、失业或遭受歧视性待遇、个人丧失机会或福利、个人受到监视的行为限制等。然而，这类损害面临着民事救济的困境，它们因为不被法律承认的无形损害所包含、因果关系难以证明和个体显著性不足，难以被认定为可赔偿的损害。如2017年的Equifax数据泄露事件中，1.47亿个纳税人的财务信息落入不明身份者手中，在与美国联邦贸易委员会和美国消费者金融保护局的和解中，该公司同意支付4.25亿美元，这相当于每个受害者获得不到3美元的赔偿。
在数字经济背景下，人工智能应用已成为数字经济运行和政府公共治理的必需。然而其风险和可能造成的损害却并未得到重视。在很多案件中，法院以原告未能证明遭受实质性损害为由驳回诉讼请求，使得个体获得损害赔偿救济面临困境。这造成了一系列的不公正后果。在许多场景中，隐私、个人信息保护、消费者保护和平台劳工权益等本应因为遭受损害启动的救济，却因个人遭受的损害不被侵权法所承认，而无法获得充分的保护。
二、检察公益诉讼在人工智能风险治理与民事救济中的作用
人工智能应用使得系统化、微小化损害成为常态，这决定了个体损害救济的式微，以及大规模损害救济的集体诉讼、代表诉讼等方式逐渐兴起。在此类不具备个体显著性的损害越来越常见的背景下，法律不仅要约束个人行为和市场规范的偏离活动，更要对系统性的社会运行和市场行为作出回应。随着集合性损害出现，侵权损害论的概念、原则、规则不断分化，成就了更为专业化的应对体系；司法上也产生了集体诉讼、公益诉讼等制度，作为对大规模工业生产的调适回应。
面对人工智能应用带来的风险和民事救济的困境，检察公益诉讼显示出其独特的价值和潜力。检察公益诉讼作为一种法律救济手段，能够在保护公共利益和个体权益方面发挥重要作用。首先，检察公益诉讼可以突破个体诉讼的局限，通过集体诉讼的方式，为大量受害者提供救济。其次，检察机关具有专业的法律知识和丰富的诉讼经验，能够准确识别和评估人工智能应用中的风险，并提出有效的解决方案。此外，检察公益诉讼还可以推动相关法律法规的完善，为人工智能应用风险治理提供法律依据。
在我国现有法律体系中，集体但微小的数据信息损害可能适用反垄断法、个人信息保护法以及消费者权益保护法规定的公益诉讼。例如，网约车、酒店预订、网上购物等商务平台利用算法实施“大数据杀熟”的算法价格歧视行为，会损害消费者的隐私权、公平交易权、知情权等权益，可通过消费民事公益诉讼救济；平台未依法履行网络保护义务，并运用后台算法向具有浏览儿童内容视频喜好的用户直接推送含有儿童个人信息的短视频，从而致使侵犯儿童个人信息权益的，检察机关可以依法综合提起未成年人保护民事公益诉讼。值得注意的是，民事诉讼法第58条将检察院列为提起公益诉讼的第二顺位主体，排在第一顺位“法律规定的机关和有关组织”之后；而个人信息保护法第70条将检察院列于其他公益诉讼主体之前，与法律规定的消费者组织和由国家网信部门确定的组织并列，在一定程度上强调了检察院在履行保护公民个人信息上的重要职责地位。因此，在未来可预见的一段时间内，人工智能应用造成的系统和微小损害的公益诉讼需由检察院主要负责提起，且多为“民事公益诉讼+行政公益诉讼诉前程序”的方式；对于明显涉及消费者公平交易权、知情权等权益的，则可以消费者协会提起民事公益诉讼为补充。
三、检察公益诉讼救济人工智能民事权益损害的未来展望
通过提起检察公益诉讼，警示和遏制人工智能应用领域潜在的违法行为，也能为受害者提供法律救济，维护其合法权益。检察公益诉讼与检察建议相结合，可以推动法律制度的完善，为人工智能应用风险治理提供坚实的法律基础。检察公益诉讼也可以提升公众对人工智能应用风险的认识，增强社会整体的风险防范意识。
世界范围内，各国立法也越来越重视人工智能、算法技术应用带来的非传统损害的救济。如美国联邦贸易委员会（FTC）将消费者信息性损害列举为欺骗性伤害或颠覆消费者选择、财务伤害、健康或安全伤害、无端入侵的伤害和声誉伤害；欧盟《通用数据保护条例》规定，个人数据权益的损害是指任何非法处理个人数据造成的身体、物质或非物质损害，包括歧视、身份盗用或欺诈、经济损失、名誉受损、未经授权的去匿名化以及其他显著经济或社会损失等。印度的个人信息保护法中也以列举的形式列出了数据信息损害的类型，具体包括身体或精神损害、身份扭曲或失窃、财务或经济损失、丧失声誉或受到羞辱、失业、遭受歧视性待遇、遭受勒索或敲诈、对数据主体进行评估决策而拒绝或撤回服务福利或相关利益、因出于对被观察或监视的恐惧而构成对言论行动或其他行为的直接或间接限制、数据主体无法合理预期的观察或监视等。一向保守的德国法也开始承认若干新型损害，如“歧视、身份窃用或诈骗、金融损失、信誉受损、数据泄密、擅自实施的去匿名化以及显著的经济或社会不利后果”等等。可以预见，检察公益诉讼是适应人工智能时代生产变革和社会发展的重要权利救济途径，实质上是将人工智能带来社会发展的成本公平地分担给社会生产中的各个主体，而非仅仅由用户来承担。
党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》明确“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。全国人大常委会2024年度立法工作计划将“人工智能健康发展等方面的立法项目”列入预备审议项目，国务院2024年度立法工作计划提出“预备提请全国人大常委会审议人工智能法草案”。学界的研究讨论中也十分重视针对人工智能应用中非传统损害的救济，《人工智能法（学者建议稿）》在第92条专门提出了人工智能公益诉讼条款：“违反本法规定从事人工智能提供活动，侵害众多个人的权益的，人民检察院、法律规定的消费者组织和由人工智能主管部门确定的组织可以依法向人民法院提起诉讼”。
检察公益诉讼作为一种有效的法律救济手段，在人工智能应用风险治理中具有重要作用。不过，检察公益诉讼制度仍然需要进一步发展与推进建设。最高人民检察院在答记者问中也坦言，在个人信息保护检察公益诉讼上面临“立法供给不足、调查核实手段欠缺、公益损害认定难、修复难”等问题，未来，检察公益诉讼需要在相关制度和实践操作方法上进一步发展更新。检察公益诉讼能够为人工智能应用中民事权益损害提供有效的救济，维护社会公平正义，促进人工智能技术的健康发展。通过这些措施，我们可以期待在数字时代实现更加公正、合理的权益保护，确保技术进步与法律保护之间的平衡。
检察公益诉讼打开的这扇“大门”
作为一名全国人大代表，我应履行的职责更多体现在制度建设和社会管理上。改旧更新是过程最缠人、结果难如愿的一件事，但也是关注社会热点和社会痛点的“关键小事”。在提出“药品说明书适老化改造”的代表建议后，如何推动它落地落细一直沉甸甸地压在我心上。
药品说明书字太小、内容过于专业，让老年人看不懂、看不清的问题已经存在多年。根据《快乐老人报》专题调查，有84%的老人读者认为“字号太小，看不清”，58%的老人读者认为“专业性太强，看不懂”。有药厂反映称，有老年患者因为看不清、看不懂药品说明书，长期给他们打电话咨询如何服药。一件小事难住了一个大群体，却找不到解决的方法。在相关规范约束下，在成本考量下，市场只能推出类目齐全却让人容易产生认知障碍的药品说明书。
法律专业人士告诉我，国家标准的制定非常严谨，不能轻易修改。医药专家认为，药物必须在医师和药师的指导下服用，普通人不需要研究药品说明书。问题似乎走到穷途末路，连问题是否应该存在都有疑问。但我始终相信，药品说明书不是专供品，每一个用药者都有知情权。
距离我提出“药品说明书适老化改造”的代表建议不到两年时间，《药品说明书适老化改革试点工作方案》《药品说明书（简化版）编写指南》等文件正在向社会征求意见，多地已经开展大字版、盲文版、语音版药品说明书的试点工作，药品说明书无障碍化终于迈出第一步。而这一切源于“检察公益诉讼守护人民美好生活”。
2023年5月，最高检检察长应勇为第十四届全国人大代表培训相关知识，对检察公益诉讼进行详细阐述。这不是我第一次听说“公益诉讼”，但这是我第一次发现它与普通人的生活密切相关。会上，我向应勇检察长提问，能否以检察公益诉讼的方式推动药品说明书适老化改造。应勇检察长立刻给予肯定答复。不久后，最高检公益诉讼检察厅检察官联系我，介绍检察机关正在推动无障碍环境建设，药品说明书无障碍改造正是其中重要一环。
随后，最高检邀请我赴云南参加以“完善公益诉讼制度，推动检察工作高质量发展”为主题的代表视察调研活动，这让我对检察公益诉讼制度的实践伟力有了更加深刻的认识。为什么要推动药品说明书适老化无障碍改造？为什么要立案办理督促规范设置和管理使用AED等“小切口”案件？那次调研中，我体会到检察机关“守护人民美好生活”的决心。
湖南省检察院召开老年人常用食品药品保健品无障碍专项监督座谈会，正式开始推动药品说明书的适老化改造工作。长沙市检察院先在辖区企业开展试点，我同《快乐老人报》的工作人员一起对老年人群体的药品说明书阅读进行数据分析，走访药企和药店等，进一步了解药品说明书改革的痛点、难点，为检察公益诉讼解决药品说明书适老化问题提供调研报告。2023年10月，最高检召开药品说明书适老化无障碍改造检察公益诉讼专案进展评估会，通报了江苏、上海、广东、湖南四地药品说明书无障碍化改造的成效和下一步构想。
我第一次以全国人大代表的身份提出建议，就能推动提升人民群众生活幸福感，依靠的是检察公益诉讼的力量。检察公益诉讼十年，正是中国经济快速发展、社会不断进步的十年。单从药品说明书适老化进程来看，检察公益诉讼正是修复多方面损害、消除日积月累困难的利器。今年全国两会期间，我联名提出议案：尽快推动检察公益诉讼法的立法工作。提出这项议案，意义不止立法本身，也不单是为了落实检察公益诉讼在中国式现代化中所占据的重要地位，更是在全过程人民民主的实践中履行一个全国人大代表的职责。从这个角度而言，检察公益诉讼在教我怎么做代表。
今年10月，应勇检察长在新加坡发表演讲，药品说明书适老化改造成为他重点讲述的4个检察履职办案故事之一。这件中国的小事，走向了国际，成为中国制度自信的最好案例。“人民检察为人民”体现在每一项民生大事的建设上，也体现在每一个群众难题的解决中。有了检察机关的公益诉讼，很多被“踢皮球”、被搁置的社会问题有了解决的制度保障。
我的团队——《快乐老人报》适老化工作室，长期在老年人群体中开展调研。十年间，检察公益诉讼从无到有，从小到大，由弱到强，逐步走上健康平稳规范发展之路。针对不少医疗卫生机构和公共服务机构、政务服务部门官方网站、微信公众号等网上界面的服务设置适老化改造仍然滞后；不少养老机构未完全按照无障碍环境建设法、《老年人照料设施建筑设计标准》、《老年人居住建筑设计规范》等要求进行适老化改造；一些县级以上政府在公共服务场所、公共交通场所、旅游休闲场所的无障碍化改造方面履职不到位的情形；在人社部全面取消领取社保待遇资格集中认证后，一些地方对于发放养老金、高龄津贴等方面的大数据“无感认证”工作滞后、落实不到位；一些旅游团等对老年人实行年龄“一刀切”的歧视政策，禁报、禁入；一些公共体育场馆存在未按照老年人权益保障法对老年人体育健身提供优惠或免费；加强养老机构预收费监管的指导意见落实不到位；一些社区居委会、村委会以工作繁重为由，不愿为孤寡老人充当意定监护人等现象，我们希望未来更好地向检察机关提供线索、进行田野调查、协助提交调研报告，为检察公益诉讼贡献人民力量，为民生难题找到解决之途。希望在检察公益诉讼工作的推动下，我们能不负为公之心，不失专业之能，真正推动社会和谐和进步。
留守老人有了上门巡诊服务
会宁是甘肃人口和地域大县。由于自然条件艰苦，很多年轻人选择外出务工，留守老人越来越多。
起初，我和丈夫也在外经营一家餐馆，留在老家的老人一直是我们的牵挂。想到万一家里老人头疼脑热需要照顾，子女不在身边极不方便，加上餐馆经营状况不好，我们关了餐馆、回到村里，依靠政策扶持，成立世宏养殖专业合作社，发展肉牛养殖产业。经过10多年的打拼，我和丈夫成为大家眼中的“养殖达人”，并被推选为甘肃省人大代表。
2021年发生的一起案件，让我深受触动，并确认自己回乡照顾老人的决定正确。邻乡的一位“村医”在看诊过程中，发生医疗事故，并被司法机关追究刑事责任。而在这次事故中离世的正是一位留守老人。
其实，地处偏远山村的留守老人都知道，这位“村医”没有行医资格和药品经营资格。但面对山大沟深的自然条件，大家都抱着“小病靠扛、大病就医”的思想，图方便在这个私立诊所看病拿药。
少花钱、少跑路、治好病，是人民群众对于医疗最朴素的需求。面对群众的需要和非法行医的现状，会宁县检察院在办理这起刑事案件的同时，还调查涉案人员生活状况、社会治理漏洞等内容，向相关部门制发检察建议，推动建立长效监管机制，确保农村群众放心就医、用药。
此外，我们县还专门部署开展了“非法行医”专项整治行动，在全县排查非法行医、非法销售药品等违法行为，完善偏远乡村的医疗上门服务工作机制，有效根治了“非法行医”乱象，规范了药品市场经营秩序。
从去年开始，我所在的会宁县党家岘乡毛坪村，乡村医疗条件实现提档升级，建立了标准化村卫生室，也配备了具有执业资格的医师，定期会有医生到村里进行巡诊，上门给老年人免费量血压、测血糖等，让老年人不出远门就能享受到诊疗服务，确实方便了很多。
（甘肃省会宁县世宏养殖专业合作社负责人 刘燕）
噪声小了，生活好了
2014年，我和爱人从北京打工回来，在婆婆家附近的小区买了套楼房。但好日子没过几年，附近的居民都后悔住这里了。我们家挨着乌兰浩特钢铁厂，也不知道从什么时候开始，钢铁厂的生产噪声越来越大，大车出货、进料产生的轰鸣声震耳欲聋，夏天再热我们也不敢开窗户。更可怕的是，长年累月下来，家人的生活受到严重影响。我婆婆长期睡不着觉，平时要吃助眠药物。我女儿上课打不起精神，为此老师多次找我谈话。
后来，附近的居民开始向各方面反映情况。2022年5月，兴安盟检察分院关注到这一情况。当时，我听邻居说检察院来查这个事了，心里还琢磨“检察院不是只管犯罪吗，为啥还管这个事？”但接下来检察院所做的工作，让我们真正了解到什么是公益诉讼检察。
那段时间，我们时不时就听说“检察官进厂里查问题了”“检察官到居民家中了解情况了”……在检察机关的监督下，相关行政单位积极履职，推动钢铁厂在一期治理不达标的情况下，按照修复方案开始长达数月的全面降噪治理。
钢铁厂拆除旧设备，新建炼钢高炉；排查噪声源，对27处噪声点进行隔音……兴安盟检察分院持续督促相关单位开展整治，组织“益心为公”志愿者实地评估，在确定钢铁厂噪声全部达标后，于今年3月结了案。随后的半年，钢铁厂又陆续开展了一系列整治工作，进一步减少了生产噪声。
噪声的各种指数我们并不了解，但亲身体验是实打实的。现在，我们在家可以打开窗户了，也不用再靠助眠药睡觉了，生活的幸福指数节节攀升。现在，我还关注了兴安盟检察分院的微信公众号，没事时看看检察动态，了解一下公益诉讼工作。
（内蒙古自治区乌兰浩特市市民 刘莉）
农民生活的
我是农民，这些年一直靠种植地瓜和水稻营生。过去的日子过得实在艰难，种地全凭运气，收成时好时坏。所以，听说国家要开展高标准农田建设后，我心里是既期待又忐忑。
看着工程队在田间忙碌，我满心好奇却又无法确定最终的效果。等到建成后，眼前的景象让我大为惊叹。以前狭窄且崎岖不平的田间小道，已被宽敞平坦的道路所取代，大型车辆能够轻松通行，无论是运输种子、肥料还是收获时节搬运粮食，都变得高效便捷。以往依靠人力和不稳定降水的灌溉方式，也彻底成为了历史。
然而，随着时间的推移，一些新问题逐渐浮现。部分田间道路由于长期缺乏维护，开始出现坑洼、破损，导致农机车进出极不方便；渠道两侧的回填土出现塌陷，水渠漏水严重；灌溉设施缺少保养而无法正常运行。就在这时，检察机关联合相关职能部门及时介入，开展高标准农田建设公益诉讼专项监督工作。
今年年初，龙岩市检察院对全市七个县高标准农田建设项目展开了全面调研，其中就走访了我所在的庙前镇。检察官一边随机抽查，一边实地走访，对农田道路、灌溉设施以及周边环境等进行细致调查。田间道路年久失修、渠道回填土不足以及灌溉设施缺乏维护等问题，都没有逃过他们的眼睛。
这之后，我得知检察机关组织人大代表、政协委员、“益心为公”志愿者、农业农村局及乡镇负责人，多次针对高标准农田建设召开会议，还一同深入田间实地调研，梳理高标准农田建设存在的各类问题。检察机关依法向行政主管部门发出磋商函，建议对高标准农田项目建设等方面进行量化评估，对田块整治、土壤改良、灌溉与排水系统、田间道路、农田防护、机电设施维护等进行全面复核，做到真正服务于农民。
行政机关也很重视这件事情，专门安排乡村振兴服务中心农技站的工作人员到我们的农田里了解情况，开展整改工作。到今年6月，我们县就已建了1.78万亩高标准农田，新增和改善灌溉面积1.1万余亩……
如今，农田生机勃勃，灌溉设施完善，水流精准地滋润着每一株作物；道路平坦宽阔，运输车辆和农机具畅行无阻。我们真切感受到高标准农田建设带来的福祉，也对未来的生活充满着希望。期待这样的好日子能一直延续下去，就像《在希望的田野上》那首歌描绘的那般美好。
（福建省连城县庙前镇农发种养殖专业合作社负责人 杨育良）