“数字人类”离人类越近，我们就越必须遵守规则。

随着人工智能迭代加速，“数字人”技术在行业场景落地和应用方面取得了重大进展。如今，“数字人才”已成为电商直播、销售、客服等场景中高素质的“数字员工”。但与此同时，“数字人”的应用也引发了亟需关注的伦理问题。这背后隐藏着技术与现实深度融合带来的伦理风险。为实现这一目标，我们必须积极构建“数字人”发展的伦理治理框架，将以人为本、科技向善的理念转化为运行规范和机制，共同塑造安全可信的数字未来。 “数字人类”面临的伦理困境 “数字人类”是在数字空间中创建的、基于真实人类的虚拟克隆。它们不仅能够准确地再现人类的外貌他们可以通过声音、声音和行为来实现“身体相似”，但也可以依靠算法注入的“类人思维”来思考、推理和评估类人判断，实现“心理相似”。 “身心俱佳”的数字化人才正在加速走进人类生活，承担着演讲者、虚拟老师、情感顾问等多重角色，打开了现实与现实的界限，极大地重塑了人们的社会形态和工作模式。但随着“数字角色”变得越来越人性化，甚至在某些方面超越了“数字角色”，出现了许多问题。 “数字人可以被视为人类吗？”我们必须赋予自己独立的道德权利吗？我们能否承担相应的道德和法律责任？这些问题反映了“数字人”面临的伦理困境。不仅如此，现实生活中“人工智能起死回生”的死人行为也引起了广泛关注。提及。当“数字人类”跨越生与死的边界时，将对人类现有的伦理秩序产生重大影响。因此，“数字人”是当前紧迫的伦理问题，需要在风险澄清的基础上引入有效的治理。能够引领数字人的健康发展。 “数字人物”潜在的伦理风险“数字人物”融入人类生活的过程中，会带来能动性弱化、情感异化、责任真空等伦理风险，对自我认知、人际关系情感和责任感提出诸多挑战。人与机器之间界限的模糊导致主体的弱化。 “数字人”具有类似人类的外表、思维和判断能力，能够自主决策和行动。这种“人性”往往会引起人们的信任和依赖，模糊人与人之间的界限。人与工具，并误解他们为具有独立人格的“人”。当这种误解发生时，人类与“数字人类”之间的主体边界变得灵活，人类的判断和决策权转移到“数字人类”身上，潜在地逆转了主客体关系。人们一旦放弃优势，可能会陷入技术依赖和认知衰退的困境，最终成为“数字人”不由自主的附属物。精准的算法喂养造成情感异化。“数字人”作为一种算法和编码驱动的科技形态，可以按需定制不同类型的近乎完美的人，为人们编织个性化的具有人性温情的情感茧，不断推送高度情感化的内容，充分满足人们的情感需求。当人们接受“数字人”的虚拟舒适感时，太久了，蜷缩在孤立的茧里，他们在情感上变得依赖“数字人”，并开始忽视甚至忽视他们。放弃现实世界中的社交和关系。身份黑匣子和平台的放弃责任造成了“责任真空”。当“数字人”以极具人性化的形象在数字空间中运作时，黑匣子、算法和平台机构掩盖了他们的身份，难以有效追踪他们的起源。一旦出现谣言、侵权言论等，平台就可以利用技术原因逃避责任，责任者难以查清，并表示“谁也追不上，谁也追不上”。形成真空区，无法承担任何责任。治理“数字人”的道德风险 为了永久加速“数字人”技术的发展，必须为其设定目标。也就是说，构建一个以风险防范为原则的治理框架，连接技术合规、道德干预和问责机制三道防线，形成全链条负责任、受监控的治理闭环。首先，我们提倡以人为本，重塑人与机器的界限。 “数字人”是人类创造的技术工具，必须受到人类的控制和控制。为了实现这一目标，必须定义“数字人物”工具的属性，所有应用场景都必须包含不可移动的身份水印和实时风险指示，使公众能够准确识别数字人物。要建立“人民说了算”的制度。在商业、金融、医疗等高风险情况下，“数字人”仅提供参考信息，最终决策权由人类掌控。我们需要追踪企业的成长轨迹、决策逻辑和风险指标实时建立“数字人”并建立系统预警系统，确保伦理界限不被跨越。二是建立牢固的情感障碍，拆除情感茧。要冲破“数字人”营造的情感茧，离不开平台和主动的用户行为。平台要履行主体职责，建立“数字人”交互的脱节机制，实时监控用户的使用时长和情感依赖指数。一旦超过设定的阈值，对话立即中断，并要求你回到现实。当然，用户也应该有“破茧而出”的意识，积极设定日常互动限制，并定期审视自己的心理依赖指数。当检测到成瘾迹象时，你应该做一个“断路器”，回到线下生活，用真实的人类情感替代或虚拟的情感安慰。三是成立责任主体，强化内容监管。打破“数字人”应用的责任鸿沟，需要建立“身份就是责任”的约束机制。建立“数字人”身份登记系统，使用与运营主体相对应的身份代码。有必要使算法更加透明，并对操作记录的存储进行标准化，使其“可问责、可审计、可追溯”。要加强平台内容监控，对“数字人员”产生的谣言、侵权言论、低俗信息进行实时拦截、人工审核，存档备查。必须立即依法追究相关责任人的责任，并用严格制度维护洁净的数字空间。 （作者单位：上海交通大学马克思主义学院）原标题：《闭幕式》数字人越接近人类，我们就越要循规蹈矩” 栏目编辑：王震 文字编辑：王震 本文作者：马尚明 图片标题及来源：新华社记者 王全超 图片编辑：肖静 编辑邮箱：shhgcsxh@163.com
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传并发布，网易号是一个提供独特信息存储服务的社交媒体平台mind。