♁b体育登陆网站♂     

数据偏差方面，训练人工智能算法的数据集可能存在偏差，导致分析结果失真，进而在决策中延续或放大现有不平等，影响某些群体权利实现，如招聘算法中的性别或年龄歧视。

三是商事策略与盈利动机。制造人工智能产品的私营企业，在追求商业利益过程中常以数据作为核心资产，产品在部署后难以从外部及时发现潜在人权侵害，也缺乏有效渠道进行纠正。

人类的就业权也面临风险。世界经济论坛发布的《2025年未来就业报告》预测，到2030年全球将有9200万个岗位被人工智能取代，同期可能创造1.7亿个新岗位，形成显著的“岗位替代潮”。此外，由于就业门槛提高，低技能劳动者将难以适应新的就业市场，人工智能的数字鸿沟致使发展中国家岗位流失风险比发达国家高，易造成不同国家贫富差距扩大等问题。

最后，促进人工智能人权风险防控的国际合作。在国际规则制定方面，应防范单一国家或企业垄断关键算法技术，提升发展中国家的话语权；在加强国际合作方面，需继续强化联合国核心平台作用，推动《人工智能框架公约》等硬法建设，通过“技术—伦理—法律”三位一体的协作机制实现治理包容性。(完)

此外，人工智能工具在提升效率的同时，可能导致人类决策者成为“技术附庸”，削弱专业人士的批判性思维，使决策过程从“人机协同”异化为“机器主导”，如医疗领域的“双重误诊风险”(人工智能误诊+医生盲从)等。

数据跨境传输方面，由于不同国家间数据保护法规存在显著差异，数据在跨境流动期间面临保护缺失的困境。此外，某些国家出于特定目的，可能会借数据跨境传输之机，实施情报收集活动，进而对其他国家公民的隐私权构成侵犯。

二是人为偏见的工具性放大。算法训练依赖历史数据，而历史数据常常蕴含歧视性偏见，这导致人工智能系统在性别、种族、残疾等维度上做出不公决策，弱势群体更易成为监控和错误风险评估对象，挑战了平等权和非歧视原则。

人工智能技术对人类工作和生活的影响愈发深刻，对人权的保障有诸多的积极意义。但是，随着人工智能技术在各个领域不断推广，其应用也面临着或现实或潜在的人权风险，我们必须予以正视。如何通过法治化路径应对人权风险，是人工智能发展过程中的一道必答题。

再次，加强人工智能人权风险的技术防控。针对数据安全，应继续落实《中华人民共和国个人信息保护法》第二十四条规定的自动化决策需透明化；针对算法歧视，监管机构应进一步落实《中华人民共和国数据安全法》第二十七条关于信息安全的要求，验证算法偏见或歧视现象；针对网络犯罪，应支持《中华人民共和国刑事诉讼法》中电子数据等证据的合法性认定，搭建国际联合取证平台，支持多国司法机构通过安全多方计算共享案件关键数据。针对企业监管，应要求企业建立数据防泄漏系统，提升自身系统防护能力，必要时与企业共同进行网络安全实战演练。

四是法律缺失。当前，人工智能方面的法律和监管体系相对滞后，并缺乏统一的国际标准与强制性约束机制，这让企业在人工智能治理方面往往“无意识睡着”，或难以在不同司法辖区承担一致的人权责任。

算法逻辑错误方面，在设计或实现过程中，逻辑错误会导致非预期行为或错误结果产生，进而侵害人权。如自动驾驶场景中的算法缺陷，导致车辆未正确处理道路突发状况(如行人突然出现)，引起事故，直接影响他人的生命权和健康权。

b体育登陆网站人工智能时代，人机交互模式正在各领域中深度融合。例如在交通领域，智能车凭借多个传感器与技术，为驾驶者提供诸如变道、泊车等高水准辅助；教育领域，智能辅导系统能通过自然语言处理技术理解学生问题，提供解答和指导；医疗领域，借助人工智能影像辅助筛查功能，医生能从海量影像中精准找出微小病灶，提升影像辅助诊断的精准度。

首先，加强人工智能人权风险的立法保障。一方面要进行顶层设计，例如中国于2023年10月发布的《全球人工智能治理倡议》，围绕人工智能发展、安全、治理系统阐述了人工智能治理的中国方案。另一方面要提升立法保障，包括国内立法中的民事法律和国家安全法律，信息合成规定、算法备案等行政法规，国家标准技术等。

数据过度收集和滥用方面，一些企业在用户不知情的情况下收集位置信息、浏览记录等个人数据，或在未获得同意情况下将用户数据擅自出售给其他公司或机构，用于广告投放、市场调研等商业活动，侵犯用户的知情权和隐私权。若被不法分子用于诈骗、恶意骚扰等非法目的，将给用户带来精神困扰、财产损失，侵害其人身权利和财产权。

智能推荐系统通过算法架构，重塑用户的信息获取路径，使用户选择权被剥夺。例如，视频网站基于用户历史行为推荐相关内容，电商平台将高利润商品置于前列，一些社交平台的“关闭推荐”功能需经过多步操作，这些都导致用户信息接触范围逐渐收窄、选择权降低。

其次，加强人工智能人权风险的社会防控。为此，既要加强教育与普及，提高民众对人工智能技术的认知与应用能力，也要培养兼具技术理解、伦理意识、政策把握、国际视野的复合型人才，推动人工智能安全研究、人才培养和产学研合作。

一是算法黑箱问题。由于人工智能系统依赖于深度神经网络等复杂模型，其内部参数和计算流程常被视为“黑箱”，缺乏可解释性和透明度，严重削弱了对其决策的追责能力，也让个人权利保护面临巨大挑战。

算法黑箱问题方面，由于人工智能或大数据分析中，算法的输入、输出及运行过程不透明、不可知、不可解释，一些算法垄断行为会对消费者权益带来损害，用户的知情权、决策自主权面临被剥夺的风险。

肖君拥，北京理工大学法学院教授、博士生导师，国家人权教育培训基地北京理工大学科技人权研究中心执行主任。中国人权研究会理事、中国法学会法理学研究会和宪法学研究会理事。著有《人民主权论》《国际人权法讲义》《人权的道德维度》等。主讲《国际人权法》获北京市高校优质本科课程。曾数次参加联合国人权理事会大会和边会发言，多次赴美国、欧洲等地参加国际人权对话交流。