当前，全球元宇宙产业加速演进，为抢抓机遇引导元宇宙产业健康安全高质量发展，有力支撑制造强国、网络强国和文化强国建设，工业和信息化部办公厅、教育部办公厅、文化和旅游部办公厅、国务院国资委办公厅、广电总局办公厅于2023年9月8日联合印发《元宇宙产业创新发展三年行动计划（2023—2025年）》，提出：元宇宙是数字与物理世界融通作用的沉浸式互联空间，是新一代信息技术集成创新和应用的未来产业，是数字经济与实体经济融合的高级形态，有望通过虚实互促引领下一代互联网发展，加速制造业高端化、智能化、绿色化升级，支撑建设现代化产业体系。
《行动计划》以习近平新时代中国特色社会主义思想为指导，以坚持创新驱动、场景牵引、融合互促、安全可靠和开放协作的基本原则，构建先进元宇宙技术和产业体系，培育三维交互的工业元宇宙，打造沉浸交互数字生活应用，构建系统完备产业支撑，构建安全可信产业治理体系，以构建工业元宇宙、赋能制造业为主要目标，以新一代信息技术融合创新为驱动，以虚实相生的应用需求为牵引，以培育元宇宙新技术、新产品、新模式为抓手，发挥有为政府和有效市场合力，统筹发展和安全，系统性谋划、工程化推进、产业化落地，推动元宇宙产业高质量发展。《行动计划》在构建安全可信产业治理体系时专门提出要开展元宇宙伦理研究，将主流价值和伦理要求贯穿技术研发应用全过程。
一、元宇宙伦理
2022年3月中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，指出：科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障；要提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类，实现高水平科技自立自强；明确了科技伦理原则：增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明。
元宇宙是以虚拟现实、区块链、GPU、数字孪生、人工智能、云计算、脑机接口等技术为基础，通过游戏、社交、娱乐等各项应用融合构成的下一代互联网生态。未来的元宇宙将主要通过虚拟现实（含增强现实、混合现实）、3D裸眼、数字孪生等技术与行业应用融合发展，构建完善虚拟现实、数字孪生产业创新发展生态，以虚实融合的方式完成物理世界和虚拟世界的相互映射，以人工智能、算法对大量的数据进行智能化处理，独立或与人类共同创作场景内容，丰富元宇宙中各式内容之需求，进而深刻改变人类的生产生活方式，最终实现人们的数字化生存和发展。伦理是指在处理人与人、人与社会相互关系时应遵循的道理和准则。是指一系列指导行为的观念，是从概念角度上对道德现象的哲学思考。它不仅包含着对人与人、人与社会和人与自然之间关系处理中的行为规范，而且也深刻地蕴涵着依照一定原则来规范行为的深刻道理。[1]笔者以为，元宇宙伦理是指在开展元宇宙应用场景科学研究，在开展虚拟现实、区块链、GPU、数字孪生、人工智能、云计算、脑机接口等技术开发科技活动中，处理数字与物理世界融通的沉浸式互联空间中人与人、人与社会相互关系时应遵循的价值理念和行为规范。
二、增进人类福祉
增进人类福祉包括增进人民福祉和社会福祉。增进人民福祉是发展的根本目的，是立党为公、执政为民的本质要求。科技活动应坚持以人民为中心的发展思想，有利于促进经济发展、社会进步、民生改善和生态环境保护，不断增强人民获得感、幸福感、安全感。增进人民福祉，应当以最广大人民的根本利益作为最高标准，多谋民生之利、多解民生之忧，符合社会公德和伦理。增进社会福祉，应当为所有公民提供一定的教育、医疗、社保等社会福利以及共享未来发展的保障，促进人类社会和平发展和可持续发展。在原告北京微播视界科技有限公司诉被告上海六界信息技术有限公司、厦门市扒块腹肌网络科技有限公司、浙江淘宝网络有限公司不正当竞争纠纷案中，法院认为：六界公司的基础数据直接来源于“抖音”，并经简单计算得出，对数据的使用行为没有任何创新，涉案数据展示的透明化一定程度上反而会带来平台之间的恶性竞争、家庭与社会不稳定等，使得社会福祉总体降低。
2019年，习近平总书记在中共中央政治局第十二次集体学习时的讲话指出：用主流价值导向驾驭“算法”，全面提高舆论引导能力。《互联网信息服务算法推荐管理规定》在总则篇第一条规定：为了规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观；在信息服务规范篇第十一条又规定：算法推荐服务提供者在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。平台经济是数字经济时代背景下的新的经济模式，算法已经深度嵌入平台经济，并进行批量、大规模、系统性的决策。算法从诞生之日就被应用于商业化、市场化等各种场景中，不可避免地带有设计者大量的选择、安排与价值观，带有数字平台明确的目的性并体现了其鲜明的价值追求。算法设计者首先用数据、代码构建出为求解特定问题的算法模型，算法模型会根据用户无数的行为数据建立用户画像，机器可以自动深度学习用户的行为数据并进行学习、训练、调优后形成用户模型，算法成为数据和用户之间的桥梁，一方面深度学习数据另一方面又去引导用户为平台获取流量和变现。算法会被成功的商业模式引导、优化，算法每一次推送都代表着一种商业利益，最终产品的演变会变成产品设计者当初不曾想象的样子。所以，算法所体现的价值取向相当程度上体现了算法设计者、提供者的利益观、价值观，不同的算法设计者、提供者之间有不同的利益观、价值观因而算法也呈现出不同的价值取向，各种利己算法之间会给社会引发一定程度的价值危机，并加剧了充满价值冲突和利益分歧的社会实践。因此，算法应用必须体现“人是人类社会的主导”，体现“人是丈量算法温度的尺寸”，必须向上向善，必须坚持主流价值导向，弘扬社会主义核心价值观，必须呈现符合主流价值导向的信息。2021年，市场监管总局、国家网信办、国家发展改革委、公安部、人力资源社会保障部、商务部、中华全国总工会联合印发《关于落实网络餐饮平台责任 切实维护外卖送餐员权益的指导意见》，要求不得将“最严算法”作为考核要求，通过“算法取中”等方式，合理确定订单数量、准时率、在线率等考核要素，适当放宽配送时限。在此之后，两大外卖平台都采取措施响应了“算法取中”要求，美团以人本位逻辑为算法的立足点也进行了多次算法优化。
垄断，是指利益集团为了维护其超额利益，破坏市场经济的公平竞争，破坏创新，损害消费者利益和社会公共利益，破坏社会主义市场经济健康发展。《反垄断法》第九条规定，经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为。《互联网信息服务算法推荐管理规定》第十五条规定，算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。《国务院反垄断委员会关于平台经济领域的反垄断指南》规定垄断协议包括横向垄断协议、纵向垄断协议和轴辐协议，横向垄断协议包括通过算法实质上存在协调一致的行为，纵向垄断协议包括利用算法方式限定其他交易条件以排除、限制市场竞争的行为，轴辐协议包括利用算法等方式达成、实施垄断协议以排除、限制相关市场竞争的行为，滥用市场支配地位拒绝交易包括在算法方面设置不合理的限制和障碍使交易相对人难以开展交易的行为，滥用市场支配地位限定交易包括通过算法方面的实际设置限制或者障碍的方式实现的行为，滥用市场支配地位差别待遇包括基于算法根据交易相对人的支付能力、消费偏好、使用习惯等实行差异性交易价格或者其他交易条件的行为，反垄断执法机构对于具有或者可能具有排除、限制竞争效果的经营者集中还可以对不予禁止的经营者集中附加修改算法的行为性条件。2015年，全球算法合谋第一案美国的Topkins案，美国司法部指控亚马逊网站上一名通过亚马逊出售海报、版画等艺术品的公司主管topkins，其编写了用于自动交换价格信息、协调卖价的算法与该公司的竞争对手达成横向垄断协议。
三、尊重生命权利
在开展虚拟现实、区块链、GPU、数字孪生、人工智能、云计算、脑机接口等技术开发科技活动中，应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障科技活动参与者的知情权和选择权。
虚拟现实具有沉浸性、交互性、临境性的特点，沉浸性是虚拟现实的最主要特点，指用户在虚拟世界中产生触觉、味觉、嗅觉、运动等感知，身体心理完全沉浸在虚拟世界中；交互性既包含头显平台、交互外设等外部设备与内容之间的交互，也包括多用户在虚拟世界中之间的交互；临境性是指沉浸性和交互性所带来的身临其境的感觉。在虚拟现实中，“设备”和“内容”是相辅相成的两大组成部分，两者相互促进相互影响。虚拟现实应用需要大量使用虚拟现实设备，虚拟现实设备直接贴近用户身体并采集到大量用户信息，包括但不限于身高、体重、地理定位、行动轨迹等私密信息。2022年，奢侈品品牌路易威登（Louis Vuitton，LV）北美公司邀请消费者通过其网站的“虚拟试戴”功能虚拟“试戴”其设计师的眼镜，因涉嫌收集消费者的生物识别数据而遭受诉讼指控。
商业平台等利用算法形成的检索、排序、选择、推送、展示等规则，进行个性化信息推送以刻意迎合用户的主观喜好，导致用户陷入“信息茧房”。信息茧房，是商业平台等完全逐利的非理性数据处理方式，导致用户陷入商业平台等所提供单一信息构造的“信息茧房”中，被现实世界所桎梏和孤立。人民网二评算法推荐：别被算法困在“信息茧房”指出，随着算法日益精密、技术不断提升，智能化的信息分发模式反而把许多人困在“信息的茧房”，失去了探索未知、创造不同可能性的机会。预言与现实的反差，正提醒我们：勇于驶出信息的孤岛，敢于走出知识的一亩三分地，拥抱丰富多彩的世界，才能赢得精彩的未来。《半月谈》指出：网络信息多样、开放、共享，而一味迎合受众的阅读偏好，计算方法简单，定向推送粗暴，让读者尤其是鉴别力、自控力不强的青少年越“好”越“偏”。原本能够提供多样化精神食粮的手机App，却让人有一种“我才夹了一筷子，你就送我一桌子”的惊喜与尴尬，在不知不觉中受困于“信息茧房”。信息茧房经典案例“可可托海的牧羊人”：“可可托海的牧羊人”上了春晚后大家都觉得好听，大多数中老年人都表示在微信朋友圈早就听过，而许多年轻人则表示第一次听，大家用的一样的APP看到的却是不同的世界。
通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。个人信息控制者使用自动决策机制且能对个人信息主体权益造成显著影响的，应在规划设计阶段或首次使用前开展个人信息安全影响评估，并依评估结果采取有效的保护个人信息主体的措施；在使用过程中定期（至少每年一次）开展个人信息安全影响评估，并依评估结果改进保护个人信息主体的措施；向个人信息主体提供针对自动决策结果的投诉渠道，并支持对自动决策结果的人工复核。
元宇宙中各种应用场景的使用越来越广泛，数据的采集和处理任务越来越繁重，必然涉及到数据治理。用户画像，是指通过收集、汇聚、分析个人信息，对某特定自然人个人特征，如职业、经济、健康、教育、个人喜好、信用、行为等方面作出分析或预测，形成其个人特征模型的过程。直接使用特定自然人的个人信息，形成该自然人的特征模型，称为直接用户画像。使用来源于特定自然人以外的个人信息，如其所在群体的数据，形成该自然人的特征模型，称为间接用户画像。个人信息控制者应当在隐私政策中向用户告知个人信息的收集会被用于用户画像和个性化展示，并说明其应用场景和可能对用户权益产生的影响，并征得用户的同意。在使用用户画像技术应用于精准营销、搜索结果排序、个性化推送新闻、定向投放广告等增值应用，可事先不经用户明确授权，但应确保用户有反对或者拒绝的权利。
四、坚持公平公正
在开展虚拟现实、区块链、GPU、数字孪生、人工智能、云计算、脑机接口等技术开发科技活动中，应尊重宗教信仰、文化传统等方面的差异，公平、公正、包容地对待不同社会群体，防止歧视和偏见。
“技术中立”是指在技术的使用过程中要排除技术人员的利益和偏见，排除对公民权利、社会秩序、政治权力体系等可能造成的一定冲击。技术的实现受技术参数设置、决策规则等因素影响，而上述因素均是由技术设计者和技术使用者控制和决定的。在虚拟现实技术的使用上，应当回归“技术中立”的本质属性，排除歧视性原则。2018年3月1日，北京市人民检察院第一分院在庭审中通过“出庭示证可视化系统”以VR手段当庭演示了被告人张某某与被害人发生争执后持刀刺扎被害人的全过程，有助于公诉人当庭直观、全面、生动的出示证据。但在上述VR演示过程中，有些细节为VR技术工作人员凭自己的主观认知加进去的，而非证人亲眼所见。
个人信息处理者使用自动化决策的过程中，应当公开透明，事先披露治理机制、管理规则以及相关技术原理。同时，用户也有权对自动化决策提出质疑和申诉，要求个人信息处理者对自动化决策中的算法逻辑构造作出合理解释。个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。
算法，即计算机代码或指令，是由算法设计者设计而成的，然而算法设计者的知识背景和生长生活经历总是在不经意间融入整个设计及运行过程，算法设计者的价值偏向及其对算法方法的选择均影响到算法的公平公正，关系到是否包含社会歧视与不公。不同的算法使用者有不同的利益，在算法应用中包含着不同的价值判断，更多时是以自身利益出发来选择参数设置、制定消费者画像及决策规则，必然形成一定意义上的社会歧视与不公。另外，下述行为也有可能构成社会歧视与不公：将浏览次数、支付意愿、支付能力、依赖程度、交易频次、交易时使用的终端设备品牌等作为与消费者进行交易的条件参数，使用有违社会公德、歧视性、偏见性用户标签，对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇，在选取处理数据的样本取量过小进而忽略少数群体的数利益诉求，数据不及时更新或偏见数据的持续使用。
在欧洲算法歧视第一案“意大利户户送有限责任公司算法歧视案”中，法院认为：根据2003年第216号法令第2条，该条规定了直接歧视与间接歧视，直接歧视是指因为宗教信仰、残疾、性取向等直接遭受到的不平等待遇，间接歧视是指表面公平公正的规定、标准、惯例、行为等可能导致间接的实质上不平等待遇。直接歧视是主观意愿所致，而间接歧视则与公司主观意愿无关。表面上看意大利户户送有限责任公司行为具有中立性，其平台系统对所有的骑手都适用而且并不针对任何人，但平台算法参数的设置没有考虑外卖骑手没有赴约的真正原因，对外卖骑手产生一定的消极影响，实质上阻碍了外卖骑手参加工会罢工、疾病等合法权利的行使，减少其未来获得工作的机会，属于间接歧视。
五、合理控制风险
在开展虚拟现实、区块链、GPU、数字孪生、人工智能、云计算、脑机接口等技术开发科技活动中，应客观评估和审慎对待不确定性和技术应用的风险，力求规避、防范可能引发的风险，防止科技成果误用、滥用，避免危及社会安全、公共安全、生物安全和生态安全。
脑机是一种类似键盘、鼠标的人机交互方式，该种人机交互方式的实现是依赖脑机接口技术完成。脑机接口，是在大脑（人或动物脑）与外部计算机设备之间建立的一种信息系统，可以实现大脑与外部计算机设备之间信息的直接交互，该种信息传递是双向的，可以从大脑传递脑电信号到计算机，然后通过相关算法操控与之相连的外部设备，亦可以从外部设备通过计算机反馈信息到大脑。个人大脑中的脑电波实际上就是人的意识，脑机接口可以探测人的意识，并有可能通过脑神经触发和修正人脑特定功能的运作；其次，脑机接口通过分析病患的脑信号，进而帮助他们以意念的方式通过外接机械设备实现在物理世界的行动；再者，脑机接口可以帮助人们以意念的方式实现在虚拟空间中的特定操纵和服务。我们要防范技术抹杀或吞噬个人意识，需要遵守技术合乎目的、尊重生命权利、必要且恰当等原则。在使用脑机接口时，平台或厂商等首先应当提示我们：脑机接口可能接触到的脑电波范围、算法对脑电波的处理规则包括清洗及选取特征等具体参数、脑电波转换为操作指令的具体过程、执行完上述指令后如何实现信号反馈，其次应当给予我们一定的明示选择权，比如脑电波范围的选择权，而不能仅仅是是或否的选择权。
当前，以深度学习、人机对话、脑机协同、自动决策为特征的新一代人工智能不断取得新的突破，成为推动元宇宙各项应用场景落地的重要推动力量。2015年2月，英国人工智能机器人在做心瓣修复手术时出现大失误，导致患者死亡，据说背后可能还有人为因素。2019年，智能音箱在回复用户心动周期的相关问题时，建议用户自杀。近年来，特斯拉 “突然失控”“自动加速”“刹车失灵”等事件频繁不断发生。以上人工智能安全事件的频发，引发了社会、企业、个人对人工智能发展的担忧。人工智能治理是一项复杂的系统工程，既需要明确治理原则、目标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理手段，推动人工智能健康有序发展。[2]
人工智能的研发与应用首先应当为了共同利益和人类福祉，以促进人类向上向善为目的，保护人类在社会和工作中的尊严、诚信、自由、隐私和安全，推动全社会公平共享人工智能带来的益处，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；其次，运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解，切实保护各相关主体合法权益，促进社会公平正义和机会均等；再其次，人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；再次，尊重生命权利，人工智能应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时应当有毁灭装置。
六、保持公开透明
在开展虚拟现实、区块链、GPU、数字孪生、人工智能、云计算、脑机接口等技术开发科技活动中，应鼓励利益相关方和社会公众合理参与，建立涉及重大、敏感伦理问题的科技活动披露机制。公布科技活动相关信息时应提高透明度，做到客观真实。
《互联网信息服务算法推荐管理规定》第四条规定，提供算法推荐服务应当遵循公正公平、公开透明的原则；第七条规定，算法推荐服务提供者应当制定并公开算法推荐服务相关规则；第十二条规定，鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性；第十六条规定，算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。算法透明度，即算法服务提供者应当公开披露其算法的基本原理、逻辑、操作规则、运作过程及决策方式。《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》将算法列入商业秘密保护客体。因此，算法的公开和透明度应当在一个适度的范围内，既要保护企业的商业秘密，又要维护用户的合法权益。
笔者以为，算法透明度标准如下：1、首先对算法应用场景进行区分，数字平台公开算法透明度标准与其涉及民生及广大公众利益的广度和深度呈正相关关系，也就是与其公共属性呈正相关关系，比如滴滴打车、今日头条等用户数量越大公共属性就越强，其让用户充分了解其优化检索、排序、选择、推送、展示等规则的义务就越高；2、算法公开的透明度应当以社会公众的感知、明白和了解为标准，而不是对源代码的彻底公开，因为这样不仅会侵害企业的商业秘密，而且有可能会对公众利益造成损害，比如：谷歌曾经公开一种叫作PageRank的算法的META标签、关键字等参数，结果导致很多网站就开始利用此类算法以达到提高网站在谷歌搜索结果页面排名靠前的目的；3、算法公开应当涵盖数据的采集与分析、模型的设计与优化、决策的判断依据的全过程，以及各项参数权重和人工干预的途径，说明算法如何工作的全流程；4、涉及公众利益的算法代码应当适度开源，进行事前披露、事后解释，并定期接受公众的质询。
注释：
[1]百度百科，伦理，https://baike.baidu.com/item/%E4%BC%A6%E7%90%86/2138438?fr=aladdin
[2]脉脉，中国信通院：《2020人工智能治理白皮书》（全文），https://maimai.cn/article/detail?fid=1542295739&efid=u2sPlQ1_SxoVGfH8KtLOfw
作者简介
黄斌
北京德和衡（深圳）律师事务所高级联席合伙人
黄斌律师，北京德和衡律师事务所数字经济与人工智能业务中心副总监，元宇宙科技与法律研究中心主任，深圳律协数字经济专委会副主任，北京德和衡（深圳）律师事务所公司业务部副主任，深圳市前海国际商事调解中心调解员，《元宇宙法律实务》主编及主要作者，北大法律信息网签约作者，《互联网法律评论》特约专家，西北政法“数字法学”微专业讲师，无讼公开课讲师，无讼专栏作者，百度百家号VIP作者，华中科技大学法律硕士，专利代理人，擅长专业领域为：数字经济、元宇宙、NFT、虚拟人、区块链、虚拟货币、公司法、建设工程、知识产权。在北大法宝、北大法律信息网和无讼阅读等平台上发表过50篇元宇宙法律文章，接受《南方周末》和《澎湃新闻》专访，在无讼上讲解虚拟人相关法律问题，参加《无讼笔谈》畅谈律师如何在元宇宙等新兴领域学习，并在《瞭望》、《财经》、《方圆》、《中国经营报》等媒体对元宇宙热点发表律师观点。黄斌律师专注于中小股东保护，深度研究数万个判例进行解码，从董事推荐、公司决议、股东退出等多维度完成了公司中小股东保护法律服务产品；在大学从事近十年建设法规教学，从建工合同的签订、入场、施工、变更、退场等多维度保护建工企业及实际施工人的权益；曾从事三年专利代理工作，参与了武烟集团公司知识产权战略规划。2017年完成江西省工商联课题“民企知识产权保护”，现为中国最大法律人社区无讼阅读“商标有道”专栏作者，在北大法律信息网和无讼阅读等平台上发表过100多篇知识产权法文章，《麦当劳中国更名为“金拱门”相关法律问题评析》荣获“无讼”阅读2017年度专业文章第一名，《短视频版权保护的江湖风云》收录在《大数据—北大法律信息网文粹（2018-2019）》一书，《侵犯商业秘密罪中司法鉴定的采信》收录在《大湾区前沿法律问题争鸣》一书，《数字版权保护的难点与热点》刊登在《深圳律师》第95期杂志，《政务数据安全管控与合规》刊登在《战略与管理》2023年数字经济专刊。代理案件中江西网络电视台诉暴风科技信息网络传播权侵权案入选江西省高院2017年十大知识产权经典案例、田某某侵犯商业秘密罪案（判三缓五）入选2021年江西省检查机关保护知识产权典型案例。
手机：18128820372
邮箱：huangbin@deheheng.com