近年来，DeepSeek、豆包、Kimi、文心一言等大模型加速迭代，智能驾驶、具身智能、类脑智能、低空技术等普及推广，深刻重塑人类生产生活方式。但同时，算法欺骗、隐私泄露、虚假伪造等问题，成为不容忽视的安全风险，人工智能面临着伦理规范层面的挑战。鉴于此，必须加强对人工智能领域问题的伦理审视，有效破解伦理规范与技术快速迭代之间不匹配、不适应的矛盾，确保人工智能安全、可靠、可控。
一、人工智能应用中的伦理问题
从伦理视域审视人工智能带来的风险，主要是指人工智能技术快速发展与广泛应用，引发人类与智能系统之间的多重伦理关系，进而产生复杂的关于伦理规范的争议与治理问题。比如数据伦理、算法伦理、机器伦理，等等。厘清这些伦理风险的具体表征，有助于人类更好地把控和运用技术发展规律，确保智能向善。
数据伦理，是指围绕工作、生产、生活等不同场景，在数据使用、采集、开发、共享等过程中所引发的伦理问题。数据是进行一切智能化的基础和源泉，在数据的开发和使用中会存在数据渗透和价值驱动的风险，引发人们对于保障个人隐私、防范数据泄露等现实情况的高度关注。例如，一些软件APP会收集用户详细信息，涉及性别、年龄、爱好、手机号、浏览痕迹、消费情况、兴趣习惯等，并根据所收集的信息分析用户特征及用户画像，定制内容、产品及相关服务，形成由算法推荐导致的“信息茧房”效应。甚至有些不良APP软件会根据用户身份信息对相同产品进行不同定价，开展所谓的“大数据杀熟”行为；有些不法企业会出售用户数据换取实际利益，进而引发数据泄露、滥用、盗用，使用户的隐私和权益受到深层次损害；等等。这些方面的伦理失范，正在触碰着公众的敏感神经，侵蚀着数智时代公众的信任根基。
算法伦理，是指人工智能算法在数据运算、决策处理等过程中所产生的伦理问题。在算法的世界里，人们总是使用客观数据来表示、演算或者标注，但这些算法也离不开人们的主观判断、知识结构等因素的影响，其背后往往隐藏着数据的“操盘手”，即算法编码者的价值认同和思想意图。例如，算法偏见，包括常见的性别歧视、就业偏见、种族歧视等，很大程度上是现实世界中的惯有偏见，以一种隐性的方式在算法中映射出来；深度伪造，即通过机器学习手段进行形象伪造、声音合成等，一旦被别有用心的人用于网络造谣、电信诈骗等违法行为，就会危害人民生命财产安全和社会稳定。这些都是算法伦理中常见的社会问题。
机器伦理，是指围绕智能机器的自身属性，聚焦其在应用、交互、影响等过程中所产生的伦理问题。近些年来，智能机器越来越受到人们青睐，参与到生产、生活、工作的方方面面，超越了传统观念中以机械自动化为主的机器，特别是机器人等智能体快速发展，促使人们不再把机器看作冰冷、生硬、僵化的设备，取而代之的是赋予机器更多的想象力，希望它们能给人以人文关怀或者情感共鸣。而在这种价值界定下，机器就成了伦理关怀或者情感输出的对象，机器伦理问题在这样的情景下应然而生。比如，有的智能机器人可以代替人类工作，一些传统岗位会被取代，给社会公平和社会稳定带来冲击；有的情感智能体能给人以心灵慰藉，特别是对独居老人和缺少关爱群体，但若长期沉浸其中，可能会产生心理学中的“依恋关系”，进而引发情感沟通、社会联结等问题。
此外，还涉及自动驾驶、医疗诊断、人机混合等新兴技术所产生的其他伦理问题。特别是随着技术不断升级，各种软件、硬件正从“自主迭代”向“深度融合、全景设计、整体交付”方面发展，推动人工智能在制造、农业、金融、教育等领域加速落地。在深入实施“人工智能+”行动的同时，也必然会产生新的伦理问题。例如，人们普遍关注的自动驾驶技术应用在城市交通中的“两难选择”问题；人工智能应用在医疗诊断技术中，若出现误诊，是要将医疗责任归咎于软件开发者、硬件制造商、医生使用者，还是集软硬件为一体的机器本身。伴随脑科学、神经科学、认知科学和人工智能技术深度协同交叉，人机混合技术的未来蕴藏着突破人类能力边界的巨大潜能，必将推动人类社会发展进步，但也必然会因为新技术发展带来无法预知的伦理风险，比如人体寿命非自然延长、超智能智力、身份价值认同等。这些都是需要我们高度重视的问题。
二、人工智能伦理问题产生的原因分析
人工智能伦理问题的出现，其根源在于多重因素的交织叠加。只有厘清其深层次原因，并以此为“靶点”对症诊断、辨证施治，才能为推动人工智能高效治理提供依据。
价值非中立性。人工智能技术发展到今天，本身并非绝对中立，其背后隐藏着软硬件开发者的价值预期和价值导向。数据是人工智能技术开发的基础，但无论是数据采集还是程序设计，都离不开设计者、开发者的主观意念。很多技术如生成式人工智能等，往往依靠强大语料资源库做支撑。语料资源库是模型在训练阶段的重要要素和判别依据，但这些语料数据的来源又与人类社会的政治、历史、文化等要素直接相关，因而模型在进行数据学习、处理、应用和转化过程中，便会自觉不自觉地嵌入与设计者、开发者思想观念、道德理念等趋于一致的价值预期，造成数据失真或者深层次的“数据异化”。
智能推演不确定性。算法是人工智能技术的灵魂，是解决具体问题的指令或方案。智能推演按照深度学习等算法模型开展操作，使用人工神经网络，模仿人脑中神经元的活动，比如要素提取、数据迭代和代码生成等过程，具有高度原创性、自主性和非线性特点，加之学习训练过程的不透明性以及高维复杂性等因素，使人们无法分析和理解技术背后的算法逻辑和运转要领，最终形成“输入可见—过程不可溯—输出可用”的逻辑链条框架，因而引发“技术黑箱”现象出现。
技术发展与刚性约束不同步。人工智能技术在给社会带来进步的同时，也需要被法律、制度、条约等规章条款进行约束和管控，避免其“野蛮生长”或失范运行。当下，一系列应用于不同场景的人工智能技术层出不穷，给人类社会带来“智能红利”的同时，也出现了技术快速发展与现有法规制度不相匹配，进而引发侵犯他人权益、财产、生命等“智能负能”的情况。一旦技术的应用与现有的法律法规相脱节、相违背，就必然会产生社会矛盾或舆情风险，带来公众的恐慌和不信任感。
人机关系边界模糊。马克思认为，机器作为人类器官的外延，帮助劳动者将人脑中构筑的想象图景变成现实世界的器官延伸，把人类从繁重复杂的体力劳动中解放出来。作为高级机器，人工智能对劳动者的赋能效应是前所未有的，不仅能替代大量重复性工作，减少社会必要劳动时间，还能作为增强人类能力的工具，弥补人的生理与认知局限，拓展人类实践的边界。然而，伴随情感计算、自然语言处理、多模态交互等人工智能技术发展，人工智能拟人化互动服务通过模拟人类人格特征、思维模式和沟通风格，体现出堪比人类的情境理解和共情表达能力，塑造出一种新型的人机关系与社会交往模式，同时也暴露出一系列风险与挑战。如果技术从服务于人的工具变为支配人、裹挟人的力量，人从技术的驾驭者沦为对技术的过度依赖者，就会弱化人的独立思考意识、自主创新能力以及批判精神，使人无法主导研究问题的设定、价值判断的引导和结果的最终评估。
三、人工智能伦理治理的对策建议
习近平总书记在主持二十届中共中央政治局第二十次集体学习时强调：“面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展。”这一重要论述为我们防范化解人工智能伦理风险，加强人工智能治理指明了方向，提供了遵循。
“以技制技”守护伦理防线。数智时代，采用更高“段位”的技术手段制衡技术本身，从而实现对人工智能伦理的监督、预警和防控，是一种推动人工智能技术可控、可持续发展的常用方法。一是在应用前，有意识地在顶层设计中加入清晰的伦理维度，将人类伦理规范转化为可量化、可执行的参数，以算法或软件等形式嵌入到人工智能技术之中，从源头上实现对机器人等智能设备潜在风险的拦截，有效清洗数据，标注特征边界，将符合人类社会发展的价值理念嵌入到人工智能之中。例如，嵌入隐私保护模块，通过加密技术等方式保护用户数据可用不可看，避免数据外泄风险出现。二是在运行中，嵌入实时监控评估模块，植入监督传感器，持续监控项目系统或机器人等设备的运行情况，及时预警并干预决策偏移、数据受损等引发的风险问题，同时将区块链技术嵌入到模型和机器之中，对其中的训练、运行、决策做好全过程记录并留痕，逐渐打破“技术黑箱”，使其成为可追溯、可解释、可审计、可信任的技术。三是在输出时，植入底层规则切换机制，设置风险触发阈值，当超出伦理阈值，比如自动驾驶中出现道德边界、价值选择等涉及高风险安全难题时，提前预警并停止操作，自动切换至人工复核或相关部门监管阶段，从而实现技术对安全风险的提前预知，确保人的生命安全。
以法为盾筑牢伦理底线。法律是维护社会公平正义的重要手段。当前，各个国家都在完善相关法律规范和伦理指南，确保人工智能技术更快、更好发展的同时，能够形成与之匹配的行为准绳，对其进行有效约束。一是科学立法，特别是在深度伪造、版权纠纷、“大数据杀熟”、“数字人”复活等热点议题中，围绕新技术、新产品的出现，进一步建立健全立法体系，逐步细化不同应用场景下人工智能产品的准入门槛，不断优化对产品开发者、提供者、使用者、监督者的问责机制。同时，对于新兴智能技术可能涉及的伦理风险要有预判和预警机制，制定前瞻性的立法应对方案。二是严格执法，将以人为本、生命至上、公平公正、公开透明、可控可信等伦理安全要求贯穿人工智能应用活动全过程，敦促企业研发、平台运营、监管核查、用户使用等全主体更加注重伦理安全责任与治理。对于触碰红线、底线的企业与个人，按照有关法律法规进行严惩。三是公正司法，在法治轨道上全面、有序地保障人工智能向上向善发展，要求司法机关在审判过程中全面把握人工智能技术创造性、开放性、探索性等特征，加强对新兴技术的理解与应用，不断更新审判思维，注重跨领域的司法协作，促进司法、学术、企业之间的深度互动，提升专业化审判水平。四是全民守法，加强人工智能领域的普法宣传，加大公民道德建设力度，提升法治素养、道德素养，使技术的开发者、使用者以及受技术影响的社会大众，都进一步强化伦理意识，守住底线。
分层分类赋能伦理共治。治理与发展并非对立关系，而是辩证统一、相辅相成的。只有建立系统完备、科学有效的治理体系，才能为技术创新破除枷锁、扫除障碍，注入可持续的发展动力。一是提高普通公民智能素养，通过科普课堂、智能热点解读等方式加强宣传教育，在提升知识水平的同时，也能分辨人工智能技术在不同应用场景的风险。比如，常见的软件使用前需要勾划的“知情同意书”，里面就包含了数据使用、采集等风险，大众应该要有能力理解其中要点。同时，注重分年龄、分学段、分群体进行人工智能知识普及，弥补“数字鸿沟”。二是针对人工智能领域的研发者，加强智能伦理规范的教育和培训，始终秉持“技术服务于人”的理念，严格区分“能做”与“该做”，避免将“技术可实现”等同于“应用可接受”，明确不同场景的应用程度。比如在智能医疗领域，医生才是诊断主体，智能医疗系统只是作为避免误诊的工具，辅助诊疗；在心理咨询或陪伴服务中，应避免心理支持体系过度技术化或个体化，导致真实的人际关系与情感支持弱化；等等。三是搭建政府—企业—公民协同治理平台，对人工智能技术进行全链条监督，区分相应职责、建立联动机制、形成共治合力，构筑安全发展的坚实屏障。
携手构建全球治理框架。实现智能向善，人类不仅需要更精妙的算法，也需要更深邃的智慧、更宽广的格局。唯有在尊重不同国家、不同民族的文化、信仰、历史差异的前提下，不让任何一个国家掉队，才能让人工智能真正成为全球发展的普惠引擎。一方面，促进人工智能技术均衡发展，特别是针对发展中国家和欠发达国家，在协同技术指导和能力建设的基础支持之上，加强国际衔接与安全互认，推动治理规则、技术标准和安全基准兼容互洽、同步演进，推动形成开放、合作、共赢的人工智能治理格局。另一方面，面对军事智能、空间智能、智能驾驶、脑机接口等高风险或未来技术核心领域，国际社会应建立统一、安全、规范的风险预警与分级应对机制，组建跨国界联合处置机构，秉持违规即处置的原则，确保人工智能始终沿着造福人类的正确轨道前行。
（作者：南开大学人工智能学院党委副书记、副教授）
责任编辑：马 丽
