编者按：数智时代，人工智能正以前所未有的深度和广度重塑人类生产生活方式，在释放巨大发展红利的同时，也催生了诸如价值失准、伦理失衡等风险挑战。在此背景下，唯有紧跟人工智能发展趋势，进一步打破认知局限、坚守人的主体地位、防范化解伦理风险，方能理性拥抱智能变革，促进人机和谐共生，增进人类共同福祉。为此，本刊邀请3位专家学者从不同角度进行探讨，供读者参考。
在廓清认知迷雾中把握人工智能发展的时与势
◎ 杨建磊
《中华人民共和国国民经济和社会发展第十五个五年规划纲要》提出，把握数字化、网络化、智能化发展大势，充分发挥我国数据资源丰富、产业体系完备、应用场景广阔优势，激活数据要素潜能，加快数智技术创新，深化拓展“人工智能+”，赋能经济社会发展和治理能力提升，促进生产方式深层次变革和生产力革命性跃迁。“十五五”时期，依托新型举国体制优势与超大规模市场优势，围绕国家重大规划的前瞻性布局与超常规举措，我们必须抓住这一数智化发展机遇，开辟一条自主可控、集约高效的人工智能发展路径。
一、科学审视人工智能的技术本源与赋能逻辑
从计算机科学的本源审视，人工智能既非神秘的“数字生命”，亦非无所不能的“黑箱”。人类真正希望发展的人工智能，并不是独立于人类的另一种“心智”，而是延伸人类能力与社会意志的技术系统。然而，由于缺乏对技术本质的了解，社会上出现了诸如“机器取代人类”的恐慌、“算法解决一切”的盲目崇拜等认识迷雾，若不加以澄清，极有可能导致战略误判。我们理解人工智能的前提，正是将其从“类主体”的神化叙事中剥离出来，回到技术体系本身。
当前，人工智能正经历一场从量变到质变的跨越。技术路线正从传统的“判别式”跃升为具备强大学习与生成能力的“生成式”，并以强大泛化能力向产业应用全面渗透。以快速发展的深度学习尤其是大模型技术为例，其本质是一种以算法为引擎、以算力为基础、以数据为原料的统计建模与智能模拟系统。算法负责构建模型结构，算力提供计算能力，数据则为模型训练提供经验，三者共同构成人工智能的基本要素。通过对海量数据的信息压缩与规律提取，实现对未知情境的预测，并以此指导理性决策，正是人工智能之所以具备“智能”的核心机制，并清晰地表现为远超人类的模式识别能力、高效精准的知识复用能力、初露锋芒的科学发现能力。三种能力相互交织，深刻重塑人类的生产与创新体系。比如，在生产组织层面，人工智能彻底打破了传统工业的要素边界，数据跃升为最活跃的劳动对象，机器从“被动执行的工具”进化为具备感知与决策能力的“主动协作智能体”，而人类劳动者则逐步从机械重复的常规任务中解放出来，进化为掌控全局与复杂决策的“超级个体”。这种“人脑+电脑”的新型人机协同模式，正全方位推动实体产业的转型升级与效率变革。除了生产组织的变革，在更深层的创新范式上，人工智能驱动的实质是打破了过去依赖漫长试错与经验积累的局限，转向依靠模型和数据进行精准的前置推演，使创新从“偶然的发现”转变为“可计算的工程”。但要真正释放这种潜能，技术就必须走出实验室，下沉到千行百业复杂的真实场景中学习、训练、迭代升级，完成从0到1、从1到10的发展，为新技术进一步产业化做好准备。
基于当前的技术发展趋势，人工智能正朝着几种方向演进。一是从“赛博空间”加速走向“物理世界”。人工智能将不再局限于虚拟交互，而是与智能制造等实体硬件深度融合，演化为“具身智能”，使机器具备在真实物理环境中感知、规划并执行复杂任务的能力。二是新型智能算力基础设施的跨越式发展。随着模型向超大规模演进，亟需探索新型计算范式以突破传统计算架构瓶颈，构建软硬件协同且安全自主可控的算力底座。三是“人工智能驱动的科学研究”全面拓展。智能技术正加速融入基础学科，通过深度挖掘海量科学数据，大幅缩短研发周期，成为推动原创性科技创新的加速器。
同时也要清醒看到，无论算法多么精妙、算力集群多么庞大，人工智能的本质依然是物化劳动与人类智力的延伸。马克思主义唯物史观认为，生产工具是生产力发展水平的客观尺度。人工智能作为一种通用目的技术，其终极定位依然是解放和发展生产力的新型“生产工具”。人工智能通过对海量数据进行模式识别与概率预测，模拟了人类的智能行为，但这并不意味着它具备了真正的生命，因为它并没有独立的自主意识、价值判断和道德责任等。人工智能的快速发展，绝不是为了剥夺人的主体地位、消解人的劳动价值，而是要把人类从繁重、枯燥、低效、危险的重复性劳动中解放出来，转而从事更具创造性和策略性的高附加值工作，并赋能人类实现更加自由而全面的发展，真正成为服务社会发展、增进人类福祉的重要力量。
二、深刻剖析我国人工智能发展的资源禀赋与面临的问题
正是基于对人工智能技术边界的客观认知与效能竞争趋势的全面把握，才能辩证看待我国人工智能发展所拥有的“时与势”，从而保持战略清醒，以强大底气直面现实软肋，以科学理性审视技术发展、激发内生动力，让人工智能真正成为驱动中国式现代化的强大引擎。
我们的底气，源于难以复制的工业基础与体制优势。其一，能源底座优势。人工智能是名副其实的“吞电巨兽”，无论模型训练还是大规模推理，都需要稳定而充足的电力供给。我国拥有世界规模最大的电力工业体系，在新能源发电、特高压输电和电网调度等领域处于全球领先地位。算力的尽头是电力，充沛且稳定的电力资源，正构成我国人工智能发展的重要战略支撑。其二，工业体系优势。我国拥有全球最完整的工业体系，覆盖联合国产业分类中的全部工业门类。从高端装备到消费电子，从新能源汽车到机器人制造，完整产业链为人工智能发展提供了更多的技术突破点和经济增长点。其三，场景纵深优势。数百万家制造业企业构成了“全场景试验场”，从研发设计到生产运维，全链条的数字化需求为人工智能发展提供了深厚土壤，逐渐形成一种以应用需求牵引技术演进的“场景定义技术”路径。高密度、系统化的应用场景以及庞大用户群体，使我国人工智能相关产业能够在复杂环境中持续迭代技术，进入“越用越聪明、越用越丰富”的正向循环。其四，数据资源优势。超大规模市场产生的海量数据，维度丰富、更新迅速，为模型训练与应用优化提供了重要原料。其五，制度协同优势。新型举国体制可以在关键领域集中力量，统筹资源、协调布局，避免低水平重复建设，为人工智能“长周期、高风险”的基础研究提供制度刚性保障。
我们的技术瓶颈，主要在于高端训练芯片受制于人的局面尚未根本扭转，国产软硬件生态体系不够完善，主流深度学习框架仍由国外科技巨头主导，基础研究人才队伍亟待壮大，等等。然而，更深一层的隐忧在于创新范式的路径依赖。长期以来，我们习惯于“跟随式创新”，善于在已开辟的既定赛道上做工程优化，却在探索颠覆性技术范式方面稍显逊色，从深度学习的爆发到大模型的狂飙，核心理论源头与突破多由西方主导。这种“创新浓度”的不足，使得我们在技术代际更替之际，常常面临“追赶者”的窘迫。如何实现从“跟随”到“引领”的跨越，成为当前必须破解的关键命题。
历史经验表明，外部压力往往能够激发创新动力。当既有技术路径受限，关键零部件尚未实现自主可控时，反而促使我们在底层架构、软件生态乃至“大系统”层面寻求突破。当前全球人工智能发展正在从单纯的参数规模竞赛，向更加注重真实应用与产业落地转化，而这正是我国的优势所在。我国海量产业场景催生的大量复杂工程问题，能够反向推动算法模型、芯片与系统架构乃至国产生态的持续创新。大模型的演进实质上是一个将万物“词元化”（Token化）的过程，其底层博弈是一场将电力与算力转化为智能输出的效能战。这种外部封锁与内部庞大需求的碰撞，能够促使我们彻底摆脱对西方单纯堆砌算力与电力的“暴力美学”路径依赖，探索出一条更适合自身禀赋的新路。
三、积极开辟自主可控、集约高效的人工智能发展路径
人工智能的发展不仅是技术的突破，更是人类认识和改造世界能力的飞跃。站在“十五五”新的历史起点上，我们必须将顶层设计与产业实践深度融合，在牢牢守住核心技术自主可控底线的同时，以更加开放的姿态推动技术与产业协同创新，探索一条符合国家战略导向的长期可持续的发展路径，推动人工智能与科技创新、产业发展、民生保障、社会治理等领域的深度融合，实现全方位赋能。
全面落实高水平科技自立自强战略，夯实技术底座，构建自主可控的技术支撑体系。这是应对外部技术封锁与“脱钩断链”风险的关键保障。一方面，按照“十五五”规划纲要关于“适度超前建设新型基础设施”的部署，统筹全国算力资源布局，推动数据中心、能源基地与网络基础设施协同发展，优化算力与能源的空间配置，加快建成“全国一体化算力网”，推进算力资源的规模化、集约化、绿色化、普惠化发展。另一方面，集中力量攻坚大模型、高端芯片、算法框架等关键软硬件，重点突破人工智能基础理论，加快突破基础软件生态瓶颈，加大国产深度学习框架的研发与推广力度，培育开放共享的开发者社区，逐步形成自主可控的开源生态，使国产芯片与国产框架实现“软硬协同”的良性循环。同时，构建高质量数据资源体系，健全数据要素基础制度，加快培育开放共享的全国一体化数据市场，推动国家级数据集与行业语料库建设，通过制度与技术手段解决企业“有数不敢用、有数不好用”的共性难题，为模型训练与产业应用提供持续优质稳定的“数据粮食”。
锚定新型工业化目标，推动集约发展，以“智能密度”为导向，推动人工智能全方位赋能新型工业化，促进数字经济与实体经济深度融合。这是我国在人工智能发展竞争中实现差异化突破的重要手段。应避免盲目追逐参数规模的“大模型崇拜”，警惕资源空转和低水平重复建设。结合传统产业转型升级与未来产业培育的核心任务，政策引导应鼓励发展轻量化、行业化、可落地的专用模型，通过优化算法效率与算力利用率，不断提升单位资源所创造的智能价值，推动形成以“提升智能密度、实现降本增效”为特征的集约化发展模式，让人工智能的泛在赋能从愿景走向现实。同时，强化“场景定义技术”，全面实施“人工智能+”行动，将我国海量且复杂的应用场景转化为技术创新的核心驱动力。一方面，将人工智能作为培育新质生产力的关键引擎，重点赋能智能网联新能源汽车、高端装备制造等新兴产业，并前瞻布局具身智能、人形机器人等未来产业。另一方面，广泛拓展医疗健康、教育、养老等民生应用场景，创造美好数智生活；以点带面推动产业场景验证，让市场成为技术迭代的“试金石”和“加速器”；以真实而高强度的场景需求为牵引，反向推动芯片架构优化、算法模型演进以及软件框架创新，使技术发展始终围绕产业问题展开，逐步形成应用需求牵引技术创新、技术突破反哺产业升级的良性循环。
坚持系统观念，深化体制机制改革，在开放合作中构建协同共生的创新生态。人工智能的发展并非单点技术突破，而是技术、产业与治理体系的整体跃迁，需要政府、企业、科研机构与社会力量形成合力。政府应强化制度设计与政策引导，加大基础研究投入，统筹高质量发展与高水平安全，将人工智能纳入新兴领域国家安全能力建设范畴。构建符合经济社会发展要求的监管体系，完善法律法规、应用规范和伦理准则，建立技术监测、风险预警、应急响应机制，确保技术安全、可靠、可控，为技术创新提供稳定预期。企业则应成为技术转化与场景应用的主力军，通过开放平台和产业协同，带动大中小企业共同参与创新生态建设。社会应加强科普教育与伦理引导，确保技术发展始终符合“以人为本”的价值导向。与此同时，我国还应在坚持自主可控的前提下积极参与全球人工智能合作与治理，在国际技术标准、数据治理与技术伦理等领域贡献中国方案，将人工智能列为“一带一路”重点合作领域，拓展绿色发展、数字经济等合作新空间，共同推动全球人工智能治理体系建设。
当下的人工智能之争，表层是算力与算法的锋刃交锋，深层则是产业根基、制度韧性与大国治理能力的底蕴较量。“十五五”时期是我国跨越核心技术门槛、重塑全球科技产业格局的关键窗口期。决定未来走向的关键，绝非单纯的算力堆砌，而是国家层面技术、产业与制度协同演进的系统性优势。中国所要关注的，不仅是技术制高点，更是科技赋能的发展新范式，即探索一种更加普惠、安全、高效，也更具人文温度的智能社会形态。
（作者：北京航空航天大学计算机学院教授）
责任编辑：马 丽
在深化人与技术关系的理解中高扬人的主体性
◎ 王小伟
当前，人工智能走进千家万户，悄然融入人们工作、学习、生活的具体场景。与传统社会中那些经由长期沉淀而逐渐纳入生活的器物不同，智能产品日新月异，新的模型甫一出现，新的应用随即扩散。很多时候，我们其实是边用边介入，还没来得及清晰审查技术的风险，就已经深度使用了。基于此，今天讨论人工智能的影响，不能只把它看成一次普通的技术升级，或是又一个新鲜的技术产品，而是要更加清醒地看到，人工智能带来的不只是效率变化、成本变化和流程变化，亦是人的根本处境的深刻改变。人工智能技术越是深入日常，越深入地接管我们的判断，我们就越需要认真回答，在一个技术可以外包多种人的能力的时代，人如何才能捍卫自己的主体地位？这不是一个抽象的哲学发问，而是迫在眉睫的时代课题。
一
从科学技术与社会（STS）、应用伦理等角度出发，人工智能时代人的自我定位、人机关系边界正面临一系列现实挑战。比如，关于数字亲密问题。当越来越多的人向人工智能倾诉、依赖人工智能陪伴，真实关系中的等待、磨合、误解、责任和承受，就可能被一种更加没有阻力的“轻关系”所取代，这可能会导致真实人际关系疏离，社会情感联结弱化等问题。还有，关于能力接管问题。有人将写作、翻译、归纳、检索、编程等任务越来越多地交给模型完成，人的工具理性能力正在被逐步外包，这可能会带来认知能力下降等风险。另外，工作取代问题也很现实。自动化和智能化不断推进，将来有些职业可能消失，一些体力劳动和基础脑力劳动可能贬值，社会结构也将重组。这些问题构成了学界业界关于人工智能伦理讨论的重要内容。但仅仅把人工智能的挑战理解为应用层面的伦理风险，是远远不够的。更深层的思考应该是，随着人工智能的深度应用，“人应该如何理解自己、如何安放人在世界中的位置”这一关于人的主体性的认知。
从历史上看，人的存在位置的变化，曾经主要围绕人和天、神的关系而展开。中国传统思想往往将人放置在天地人的关联结构中加以理解，强调人在整体秩序中的安顿与协调。在中世纪的精神秩序中，人在上帝之下，人的意义和归宿主要依赖于神圣秩序。到了文艺复兴时期，人开始从单纯从属于超越性秩序的存在，转变为具有创造力、尊严意识和现世价值的存在，人的位置也更加接近世界图景的中心。启蒙运动时期，人的主体地位进一步确立，自由的理性能力被视为现代人的核心规定。
现代社会中，决定人位置的不再是人和天、神的关系，而是人和技术的关系。正是在这一点上，马克思主义理论具有深刻指导意义。马克思认为，“自然界没有造出任何机器”，“它们是人的手创造出来的人脑的器官；是对象化的知识力量”。马克思并没有把技术理解为单纯提升效率的工具，而是把技术放在生产关系、劳动过程和资本逻辑中加以理解。正如火药把骑士阶层炸得粉碎，蒸汽机和纺纱机则重组了现代工业秩序，这是生产力发展必然导致的结果。但如果把工业看成人的本质力量的公开展示，那么自然界的人的本质，或者人的自然的本质，也就可以理解了。技术不是附着于历史表面的器物，而是不断重塑社会结构、劳动关系和主体形态的力量，是人们进行创造活动的重要载体。技术进步能够提高生产效率，缩短社会必要劳动时间，但不能让机器和技术作为资本增殖的手段来支配人，而要把它重新置于现实的人、联合起来的生产者和社会公共控制之下，回归服务于人的本质，丰富和拓展人改造自然的边界，实现人自由而全面的发展。
今天，人工智能正在把这股力量推进到一个新的阶段。过去，技术更多是把人的体力外置出去。现在，人工智能正尝试把人的认知、判断、记忆、表达乃至亲密能力都外置出去。这意味着，技术不只是在“人手”的层面进行辅助，且正在进入“人脑”的层面、进入人的“关系”和“自我理解”的层面。正因为如此，人工智能技术被少数技术突进分子理解成一种更高级别的存在，认为人反而需要围绕技术进行适配、优化和升级。甚至认为，人类创造了人工智能，却可能被其超越，最终退居辅助角色。这一倾向也体现在一些流行观念中。近来，“文科无用论”之所以浮现，表面看是对某些学科的评判，实际上反映了对“人的位置”的一种态度。如果把人的尊严仅仅建立在人的工具理性上，把一切价值都压缩为功能、效率和可计算性的工具价值，便会误以为教育的意义就是训练若干可以直接兑换为市场价值的技能。而当工具理性被当成唯一理性时，我们很自然会倾向于认为人文学科比理工科要弱，也会更自然地接受人的智能比人工智能要弱。从这种逻辑来看，真正首先被削弱的，不是某一个学科，而是人作为解释者、判断者、命名者和价值赋予者的独特主体位置，是对“何为值得”、“何为重要”、“何为人之为人”的辨认能力。
因此，人工智能时代需要澄清的，就不只是“哪些工作会被取代”、“哪些风险需要治理”，而是一个更根本的哲学问题，即人在什么意义上还能把自己理解为主体，以及是否会在不知不觉中将自己理解为等待被优化、被调用、被升级的对象。今天许多焦虑，表面上来自技术取代工作的现实忧虑，实质上来自对技术可能取代人的主体位置的存在性焦虑。
二
人工智能是人类创造出来的同人的存在与发展休戚相关的存在物，是人的主体性的彰显与表征。在这个背景下，一个澄清人的主体位置的框架，是重新确认“人是主体，技术是工具”这一思路。这一思路的基本内涵是坚持人是技术的主人，并能通过加强技术治理、趋利避害，防止技术失控或滥用。这个思路应该守住一条底线：技术不能反过来统治人，技术作为一种手段不能凌驾于目的，效率不能压倒价值。而理解人工智能技术与人的互动，不能泛泛而谈。针对不同的人工智能应用，需要细致辨认人的处境。人工智能技术种类繁多，不是铁板一块。比如，推荐算法重排的是人的注意力，生成模型重构的是人的表达与知识劳动，具身机器人影响的是身体行动与劳动组织，自动驾驶调节的是责任链条和风险分配，脑机接口则参与建构人格边界和自我同一性，等等。不同技术以不同方式进入人的生活，也以不同方式影响人的主体性。把技术区分开来，分析其作用机制和影响层次，更能够看清人的处境。
当然，不能简单将工具理性看作唯一的价值标准。今天许多讨论，表面上围绕人工智能的能力展开，实则预设了一个相对狭隘的前提，认为人的价值主要体现为某些可比较、可计算、可替代的功能。一方面，人总在问人工智能在智能上是否会超过自己；另一方面，人又反过来用人工智能的能力标准要求自己，认为速度更快、稳定性更高、可复制性更强，才是所谓“更好的人”。人的主体性，并不仅仅在于人必须在“有用”的意义上超越机器。人还有人格、情感、身体性、感受性的维度，人的信念、责任、追求等，都不是纯粹智能的，其中恰恰包含着道德生活和意义生活。这些都是超越工具理性的维度，是人的独特价值。
事实上，人和技术始终处于深度互动、相互建构的历史过程之中。技术不是单纯外在于人的异物，它一直参与塑造人的感知方式、能力结构、交往秩序和世界图景。在人和技术互相建构的抽象层面上，保障人的主体性，就不会简单地排斥技术，也不会停留在避免技术依赖上。真正重要的，是要发展出对人和技术关系的深刻理解。近几年来，国内科学技术哲学界开始加强对心灵哲学、技术哲学、科技伦理等研究，特别是关注技术对认知、意识、存在以及具体伦理生活的影响。其中最为核心的一条共识，就是不再把所有技术都当成一种中立工具。技术是工具，但它是不是中立工具，要做细颗粒区分。一些深度介入当下的“高技术”，例如社交媒体、生成式大语言模型、情感智能体等，不能再被简单的当作“中立”工具，而应注意其中“内嵌”的其他价值属性。从某种程度来说，这些技术是有意向性甚至倾向性的。在人与技术的关系中，不再是主体单向使用工具这么简单，而是技术作为系统也在挑战、影响、建构人的主体性。
总之，技术的位置也需要被清晰辨认。但无论怎样，可以肯定的是，技术可以扩展能力，但不能垄断意义；技术可以参与决策，但不能取代价值判断；技术可以服务生活，但不能定义何为生活。与此相对，在人工智能时代，我们真正要捍卫的，是人作为反思者、辨认者、命名者、价值赋予者的主体地位。人不能只是系统的操作员，不能只是模型的调用者，不能只是流程中的签字确认者。人必须始终是那个能够追问“这意味着什么”、“这是否值得”、“这会把我们带向何处”的存在者。
三
推动人工智能发展应坚持以人为本、智能向善的核心理念。梳理近年来我国相继出台的人工智能相关政策文件可以看到，国家治理逻辑并不是从技术研发走向产业应用这么简单，而是逐步形成了“发展—治理—伦理—场景—全球”的整体框架，并始终以人的发展作为核心观照。
2017年，国务院印发的《新一代人工智能发展规划》突出强调了基础理论、关键技术、产业生态和国际竞争力，但并没有把人工智能仅仅理解为实验室技术或产业增长点，而是把它放在经济发展、社会治理和人民生活改善的总体格局中加以部署。从国家层面看，人工智能决不只是“机器智能”，而应是服务中国式现代化的社会技术系统。同时，特别强调人工智能只有进入人民群众真实生活，助力应对教育资源不均衡、医疗服务不充分、城市运行复杂化等现实问题，才具有公共价值。
2019年，国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条治理原则。所谓“负责任的人工智能”，不是要限制人工智能发展，而是要为技术的发展定方向。人工智能发展进入新阶段，呈现出跨界融合、人机协同、群智开放等新特征，人工智能治理不能只关注“怎样发展快”这个关乎技术、产业的问题，更应该是“怎样发展好”这个与人的发展密切相关的问题。只有协调好发展与治理的关系，以保障社会安全、尊重人类权益为前提，确保人工智能符合人类的价值观和伦理道德，才能使技术真正服务于人类文明进步。
2021年，国家新一代人工智能治理专业委员会颁布的《新一代人工智能伦理规范》则进一步把治理原则转化为全生命周期的伦理要求，明确了“增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养”等基本伦理要求，这实际上已经把人工智能的工程流程重新理解为一个社会责任过程。人工智能技术从数据采集、模型训练到产品应用，每一个环节都可能影响人的权利、机会、尊严与安全，因此相关的伦理规范就不能停留在事后补救，而应前置到技术活动全过程中去。
2023年中央网信办发布《全球人工智能治理倡议》，明确发展人工智能应坚持“以人为本”理念，并延伸扩展到全球治理。当下，人工智能技术的研发、训练、布置与使用具有明显的跨国界、跨领域、跨文化影响，其风险也具有外溢性。在此背景下，我国强调“坚持相互尊重、平等互利的原则，各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利；坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制”等等，实质上是倡导通过对话与合作凝聚共识，构建开放、公正、有效的治理机制。人工智能不能成为少数国家、少数企业、少数平台垄断未来的工具，而应成为增进人类福祉的重要力量。
2025年，国务院印发的《关于深入实施“人工智能+”行动的意见》提出，“深入研究人工智能对人类认知判断、伦理规范等方面的深层次影响和作用机理，探索形成智能向善理论体系，促进人工智能更好造福人类”。整体看来，“人工智能+”不是要把人工智能机械叠加到各行业，而是要求以人工智能技术深度赋能产业体系、公共服务、社会治理和民生改善等方面。比如，人工智能赋能制造，是要着眼提升劳动者能力、优化生产方式，而不是要淘汰人。人工智能赋能教育，是要提高学生思维能力、创造能力，而不是要把智力外包。人工智能赋能养老，最终应增强照护能力，维护老年人的尊严，而不是让老人只能守着机器聊天。近期，国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》，工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》，进一步将治理从生成内容治理转向人机关系治理，从原则提出转向执行落地。其中，因为高度依赖智能工具，甚至将其当作“伴侣”所造成的主体性流失，是人工智能治理最为关心的问题之一。
综上可见，发挥人的潜能、增进民生福祉，始终是人工智能发展和治理的一条清晰的逻辑线。捍卫人的主体地位，不是一个口号，而是人工智能时代最基本的文明任务。技术可以帮助人看得更远、算得更快、做得更多，但它不能替人回答什么值得追求、什么构成真正的美好生活。真正的问题不只是机器会不会像人甚至取代人，而是在人越来越依赖智能系统的时代，人是否还愿意认真地作为人来生活、来判断、来承担。主体性的最后根据，不在算力和参数之中，也不在自动化的便利之中，而在于人能否始终作为那个提出问题、承担责任、赋予价值的主体而存在。人工智能越是向前推进，这一立场就越不能动摇。只有始终把人放在意义建构和价值建构的中心，技术发展才不会沦为支配人的力量。只有不断深化对人和技术关系的理解，我们才能在高度智能化的未来，既拥有技术的能力，也不丢失作为人的尊严。
（作者：中国人民大学哲学院教授，北京自然辩证法（科学技术哲学）研究会秘书长 ）
责任编辑：马 丽
在加强人工智能伦理审视中推动技术向上向善
◎ 王渤洋
近年来，DeepSeek、豆包、Kimi、文心一言等大模型加速迭代，智能驾驶、具身智能、类脑智能、低空技术等普及推广，深刻重塑人类生产生活方式。但同时，算法欺骗、隐私泄露、虚假伪造等问题，成为不容忽视的安全风险，人工智能面临着伦理规范层面的挑战。鉴于此，必须加强对人工智能领域问题的伦理审视，有效破解伦理规范与技术快速迭代之间不匹配、不适应的矛盾，确保人工智能安全、可靠、可控。
一、人工智能应用中的伦理问题
从伦理视域审视人工智能带来的风险，主要是指人工智能技术快速发展与广泛应用，引发人类与智能系统之间的多重伦理关系，进而产生复杂的关于伦理规范的争议与治理问题。比如数据伦理、算法伦理、机器伦理，等等。厘清这些伦理风险的具体表征，有助于人类更好地把控和运用技术发展规律，确保智能向善。
数据伦理，是指围绕工作、生产、生活等不同场景，在数据使用、采集、开发、共享等过程中所引发的伦理问题。数据是进行一切智能化的基础和源泉，在数据的开发和使用中会存在数据渗透和价值驱动的风险，引发人们对于保障个人隐私、防范数据泄露等现实情况的高度关注。例如，一些软件APP会收集用户详细信息，涉及性别、年龄、爱好、手机号、浏览痕迹、消费情况、兴趣习惯等，并根据所收集的信息分析用户特征及用户画像，定制内容、产品及相关服务，形成由算法推荐导致的“信息茧房”效应。甚至有些不良APP软件会根据用户身份信息对相同产品进行不同定价，开展所谓的“大数据杀熟”行为；有些不法企业会出售用户数据换取实际利益，进而引发数据泄露、滥用、盗用，使用户的隐私和权益受到深层次损害；等等。这些方面的伦理失范，正在触碰着公众的敏感神经，侵蚀着数智时代公众的信任根基。
算法伦理，是指人工智能算法在数据运算、决策处理等过程中所产生的伦理问题。在算法的世界里，人们总是使用客观数据来表示、演算或者标注，但这些算法也离不开人们的主观判断、知识结构等因素的影响，其背后往往隐藏着数据的“操盘手”，即算法编码者的价值认同和思想意图。例如，算法偏见，包括常见的性别歧视、就业偏见、种族歧视等，很大程度上是现实世界中的惯有偏见，以一种隐性的方式在算法中映射出来；深度伪造，即通过机器学习手段进行形象伪造、声音合成等，一旦被别有用心的人用于网络造谣、电信诈骗等违法行为，就会危害人民生命财产安全和社会稳定。这些都是算法伦理中常见的社会问题。
机器伦理，是指围绕智能机器的自身属性，聚焦其在应用、交互、影响等过程中所产生的伦理问题。近些年来，智能机器越来越受到人们青睐，参与到生产、生活、工作的方方面面，超越了传统观念中以机械自动化为主的机器，特别是机器人等智能体快速发展，促使人们不再把机器看作冰冷、生硬、僵化的设备，取而代之的是赋予机器更多的想象力，希望它们能给人以人文关怀或者情感共鸣。而在这种价值界定下，机器就成了伦理关怀或者情感输出的对象，机器伦理问题在这样的情景下应然而生。比如，有的智能机器人可以代替人类工作，一些传统岗位会被取代，给社会公平和社会稳定带来冲击；有的情感智能体能给人以心灵慰藉，特别是对独居老人和缺少关爱群体，但若长期沉浸其中，可能会产生心理学中的“依恋关系”，进而引发情感沟通、社会联结等问题。
此外，还涉及自动驾驶、医疗诊断、人机混合等新兴技术所产生的其他伦理问题。特别是随着技术不断升级，各种软件、硬件正从“自主迭代”向“深度融合、全景设计、整体交付”方面发展，推动人工智能在制造、农业、金融、教育等领域加速落地。在深入实施“人工智能+”行动的同时，也必然会产生新的伦理问题。例如，人们普遍关注的自动驾驶技术应用在城市交通中的“两难选择”问题；人工智能应用在医疗诊断技术中，若出现误诊，是要将医疗责任归咎于软件开发者、硬件制造商、医生使用者，还是集软硬件为一体的机器本身。伴随脑科学、神经科学、认知科学和人工智能技术深度协同交叉，人机混合技术的未来蕴藏着突破人类能力边界的巨大潜能，必将推动人类社会发展进步，但也必然会因为新技术发展带来无法预知的伦理风险，比如人体寿命非自然延长、超智能智力、身份价值认同等。这些都是需要我们高度重视的问题。
二、人工智能伦理问题产生的原因分析
人工智能伦理问题的出现，其根源在于多重因素的交织叠加。只有厘清其深层次原因，并以此为“靶点”对症诊断、辨证施治，才能为推动人工智能高效治理提供依据。
价值非中立性。人工智能技术发展到今天，本身并非绝对中立，其背后隐藏着软硬件开发者的价值预期和价值导向。数据是人工智能技术开发的基础，但无论是数据采集还是程序设计，都离不开设计者、开发者的主观意念。很多技术如生成式人工智能等，往往依靠强大语料资源库做支撑。语料资源库是模型在训练阶段的重要要素和判别依据，但这些语料数据的来源又与人类社会的政治、历史、文化等要素直接相关，因而模型在进行数据学习、处理、应用和转化过程中，便会自觉不自觉地嵌入与设计者、开发者思想观念、道德理念等趋于一致的价值预期，造成数据失真或者深层次的“数据异化”。
智能推演不确定性。算法是人工智能技术的灵魂，是解决具体问题的指令或方案。智能推演按照深度学习等算法模型开展操作，使用人工神经网络，模仿人脑中神经元的活动，比如要素提取、数据迭代和代码生成等过程，具有高度原创性、自主性和非线性特点，加之学习训练过程的不透明性以及高维复杂性等因素，使人们无法分析和理解技术背后的算法逻辑和运转要领，最终形成“输入可见—过程不可溯—输出可用”的逻辑链条框架，因而引发“技术黑箱”现象出现。
技术发展与刚性约束不同步。人工智能技术在给社会带来进步的同时，也需要被法律、制度、条约等规章条款进行约束和管控，避免其“野蛮生长”或失范运行。当下，一系列应用于不同场景的人工智能技术层出不穷，给人类社会带来“智能红利”的同时，也出现了技术快速发展与现有法规制度不相匹配，进而引发侵犯他人权益、财产、生命等“智能负能”的情况。一旦技术的应用与现有的法律法规相脱节、相违背，就必然会产生社会矛盾或舆情风险，带来公众的恐慌和不信任感。
人机关系边界模糊。马克思认为，机器作为人类器官的外延，帮助劳动者将人脑中构筑的想象图景变成现实世界的器官延伸，把人类从繁重复杂的体力劳动中解放出来。作为高级机器，人工智能对劳动者的赋能效应是前所未有的，不仅能替代大量重复性工作，减少社会必要劳动时间，还能作为增强人类能力的工具，弥补人的生理与认知局限，拓展人类实践的边界。然而，伴随情感计算、自然语言处理、多模态交互等人工智能技术发展，人工智能拟人化互动服务通过模拟人类人格特征、思维模式和沟通风格，体现出堪比人类的情境理解和共情表达能力，塑造出一种新型的人机关系与社会交往模式，同时也暴露出一系列风险与挑战。如果技术从服务于人的工具变为支配人、裹挟人的力量，人从技术的驾驭者沦为对技术的过度依赖者，就会弱化人的独立思考意识、自主创新能力以及批判精神，使人无法主导研究问题的设定、价值判断的引导和结果的最终评估。
三、人工智能伦理治理的对策建议
习近平总书记在主持二十届中共中央政治局第二十次集体学习时强调：“面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展。”这一重要论述为我们防范化解人工智能伦理风险，加强人工智能治理指明了方向，提供了遵循。
“以技制技”守护伦理防线。数智时代，采用更高“段位”的技术手段制衡技术本身，从而实现对人工智能伦理的监督、预警和防控，是一种推动人工智能技术可控、可持续发展的常用方法。一是在应用前，有意识地在顶层设计中加入清晰的伦理维度，将人类伦理规范转化为可量化、可执行的参数，以算法或软件等形式嵌入到人工智能技术之中，从源头上实现对机器人等智能设备潜在风险的拦截，有效清洗数据，标注特征边界，将符合人类社会发展的价值理念嵌入到人工智能之中。例如，嵌入隐私保护模块，通过加密技术等方式保护用户数据可用不可看，避免数据外泄风险出现。二是在运行中，嵌入实时监控评估模块，植入监督传感器，持续监控项目系统或机器人等设备的运行情况，及时预警并干预决策偏移、数据受损等引发的风险问题，同时将区块链技术嵌入到模型和机器之中，对其中的训练、运行、决策做好全过程记录并留痕，逐渐打破“技术黑箱”，使其成为可追溯、可解释、可审计、可信任的技术。三是在输出时，植入底层规则切换机制，设置风险触发阈值，当超出伦理阈值，比如自动驾驶中出现道德边界、价值选择等涉及高风险安全难题时，提前预警并停止操作，自动切换至人工复核或相关部门监管阶段，从而实现技术对安全风险的提前预知，确保人的生命安全。
以法为盾筑牢伦理底线。法律是维护社会公平正义的重要手段。当前，各个国家都在完善相关法律规范和伦理指南，确保人工智能技术更快、更好发展的同时，能够形成与之匹配的行为准绳，对其进行有效约束。一是科学立法，特别是在深度伪造、版权纠纷、“大数据杀熟”、“数字人”复活等热点议题中，围绕新技术、新产品的出现，进一步建立健全立法体系，逐步细化不同应用场景下人工智能产品的准入门槛，不断优化对产品开发者、提供者、使用者、监督者的问责机制。同时，对于新兴智能技术可能涉及的伦理风险要有预判和预警机制，制定前瞻性的立法应对方案。二是严格执法，将以人为本、生命至上、公平公正、公开透明、可控可信等伦理安全要求贯穿人工智能应用活动全过程，敦促企业研发、平台运营、监管核查、用户使用等全主体更加注重伦理安全责任与治理。对于触碰红线、底线的企业与个人，按照有关法律法规进行严惩。三是公正司法，在法治轨道上全面、有序地保障人工智能向上向善发展，要求司法机关在审判过程中全面把握人工智能技术创造性、开放性、探索性等特征，加强对新兴技术的理解与应用，不断更新审判思维，注重跨领域的司法协作，促进司法、学术、企业之间的深度互动，提升专业化审判水平。四是全民守法，加强人工智能领域的普法宣传，加大公民道德建设力度，提升法治素养、道德素养，使技术的开发者、使用者以及受技术影响的社会大众，都进一步强化伦理意识，守住底线。
分层分类赋能伦理共治。治理与发展并非对立关系，而是辩证统一、相辅相成的。只有建立系统完备、科学有效的治理体系，才能为技术创新破除枷锁、扫除障碍，注入可持续的发展动力。一是提高普通公民智能素养，通过科普课堂、智能热点解读等方式加强宣传教育，在提升知识水平的同时，也能分辨人工智能技术在不同应用场景的风险。比如，常见的软件使用前需要勾划的“知情同意书”，里面就包含了数据使用、采集等风险，大众应该要有能力理解其中要点。同时，注重分年龄、分学段、分群体进行人工智能知识普及，弥补“数字鸿沟”。二是针对人工智能领域的研发者，加强智能伦理规范的教育和培训，始终秉持“技术服务于人”的理念，严格区分“能做”与“该做”，避免将“技术可实现”等同于“应用可接受”，明确不同场景的应用程度。比如在智能医疗领域，医生才是诊断主体，智能医疗系统只是作为避免误诊的工具，辅助诊疗；在心理咨询或陪伴服务中，应避免心理支持体系过度技术化或个体化，导致真实的人际关系与情感支持弱化；等等。三是搭建政府—企业—公民协同治理平台，对人工智能技术进行全链条监督，区分相应职责、建立联动机制、形成共治合力，构筑安全发展的坚实屏障。
携手构建全球治理框架。实现智能向善，人类不仅需要更精妙的算法，也需要更深邃的智慧、更宽广的格局。唯有在尊重不同国家、不同民族的文化、信仰、历史差异的前提下，不让任何一个国家掉队，才能让人工智能真正成为全球发展的普惠引擎。一方面，促进人工智能技术均衡发展，特别是针对发展中国家和欠发达国家，在协同技术指导和能力建设的基础支持之上，加强国际衔接与安全互认，推动治理规则、技术标准和安全基准兼容互洽、同步演进，推动形成开放、合作、共赢的人工智能治理格局。另一方面，面对军事智能、空间智能、智能驾驶、脑机接口等高风险或未来技术核心领域，国际社会应建立统一、安全、规范的风险预警与分级应对机制，组建跨国界联合处置机构，秉持违规即处置的原则，确保人工智能始终沿着造福人类的正确轨道前行。
（作者：南开大学人工智能学院党委副书记、副教授）
责任编辑：马 丽
