习近平总书记在二十届中央政治局第20次集体学习时发表重要讲话，强调“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。”这一重要论述既遵循马克思主义关于技术与人、技术与社会关系的基本原理，又创新发展了社会主义制度下技术治理的实践路径，是以人民为中心的发展思想在数字经济领域的体现，为全球数字文明演进提供了具有普遍意义的科学指引。
一、安全：技术异化批判与人民主体性的价值重构
(一)数字时代技术异化的三重嬗变。马克思揭示的技术异化理论，在资本主义国家的算法社会中容易呈现为数据权力与资本逻辑的双重宰制。这种异化形态的演进呈现出三个新特征。其一，异化主体从产业工人扩展至全体数字公民。外卖骑手被困在“数字泰勒制”的配送系统，社交媒体用户沦为算法推荐的数据商品，信用评分系统将人际交往异化为数值博弈，技术异化已突破传统生产领域。其二，异化机制从显性控制转向隐形操控。深度学习系统通过数十亿参数的自我迭代形成的决策黑箱，构建起比传统机器更具渗透性的控制体系。其三，异化后果从劳动异化升级为存在异化。当算法推荐系统持续强化认知偏见，信息茧房导致公共理性瓦解，技术异化已威胁到人类思维方式和价值判断的自主性。
(二)安全治理的三维制度建构。安全治理是对数字时代技术异化的系统性回应。这种安全观包含三重逻辑建构。
首先，在哲学层面重构主客体关系。当算法决策系统通过数十亿参数的自我演化形成“技术黑箱”时，人类主体性面临被解构的风险。我国在自动驾驶领域推行的预碰撞决策模型，将“生命权优先”伦理准则转化为算法架构的核心约束。通过行人识别精度的特殊加权、弱势道路使用者保护参数的强制设置、决策末端人工确认节点的保留，在技术底层重建了人的主体地位。这种设计超越了西方技术伦理的“电车难题”讨论，直接将社会主义核心价值观转化为可执行的技术标准。
其次，在制度层面构建异化防范机制。针对平台经济中的“数字泰勒制”,我国创新性地建立了算法劳动权益保障体系。2023年实施的《算法推荐管理规定》,要求外卖配送系统必须设置连续工作强制下线机制，配送路线规划必须保留10%的弹性时间，气温异常时自动触发保护性调整。这种制度设计与资本主义国家“效率至上”的治理模式形成鲜明对比，体现了技术发展权回归人民的治理哲学。
最后，在实践层面确立风险防控范式。我国在人工智能领域推行的“社会实验”治理模式，构建了技术风险的全周期管控体系。以自动驾驶技术为例，上路测试前必须通过包含暴雨、团雾、道路塌陷等200种极端场景的模拟验证，并接受由技术专家、法律工作者、市民代表组成的联合听证会质询。这种“技术验证+社会评估+伦理审查”的三重过滤机制，将技术创新纳入民主决策、民主监督、民主管理轨道，实现了技术理性与社会理性的辩证统一。
二、可靠：我国社会主义制度优势的技术转化逻辑
(一)制度优势转化的三重机制。“可靠”要求的本质，是将我国社会主义公平正义转化为算法架构的制度基因。这种转化不是简单的价值符号植入，而是通过制度创新构建起“目标设定一过程控制—效果反馈”的完整闭环。
在目标维度，建立社会正义的技术编码规则。医保智能审核系统通过分级诊疗动态适配机制，在空间维度设置基层医疗优先系数，在时间维度建立重症绿色通道，在代际维度引入老年加权因子，形成多维度的正义算法模型。这种设计使“病有所医”的承诺转化为可编程的技术参数，相比美国以商业保险为主导的医疗算法，更有效解决了医疗资源分配的公平性问题。
在过程维度，构建制度优势的持续转化机制。教育领域的“国家智慧教育平台”通过动态追踪十亿级学习数据，生成个性化教学方案，使西部山区学生同步获得优质资源。这种“数据流动一资源重组—效果优化”的闭环，将集中力量办大事的制度优势转化为精准赋能的算法效能。平台运行两年间，累计缩小东西部教育质量差距23个百分点，创造了技术促进教育公平的典范。
在效果维度，形成技术纠偏的制度化反馈。社会保障领域的困难群体识别系统，通过多部门数据交叉验证和动态复核机制，将救助准确率提升至98%。这种“技术识别—人工复核—政策匹配”的协同机制，确保了算法决策始终服务于弱势群体的根本利益。与欧洲国家单纯依赖大数据的社会救助系统相比，中国模式更强调技术手段与群众路线的结合。
(二)技术正义的实践创新。在司法领域，智能审判系统的设计体现了我国社会主义法治精神的技术转化。系统内置的“类案同判”模块，不仅要求推送相似案例，还必须标注差异点的法律依据和裁量标准。这种设计既防范了算法偏见，又将“同案同判”的法治原则转化为可验证的技术流程。2023年试点数据显示，该系统使裁判文书说理充分性提升37%,当事人服判息诉率提高15个百分点。
在就业服务领域，人力资源社会保障部开发的“智能就业匹配系统”,创新性地引入“就业质量指数”评估模型。该模型不仅考虑薪资水平，还将劳动权益保障、职业发展空间、工作环境安全等要素纳入算法权重。这种设计突破了资本主义国家就业服务系统效率至上的局限，实现了就业数量与质量的均衡发展。
三、可控：数字文明演进的主导权建构
(一)技术主权的生态构建。“可控”要求的深层逻辑，在于确立人类文明对技术演进的主导权。在基础软件领域，华为昇思(MindSpore)人工智能框架的开源生态建设，成功实现了技术标准与文化基因的双重自主。框架内置的中文自然语言处理预训练模型，融合了中华文化语境下的语义理解模块；计算机视觉模块特别强化了对多民族人脸特征的识别精度。这种“核心技术创新—应用生态培育—文化价值输出”的递进模式，打破了西方技术霸权的话语体系。截至2023年底，昇思社区已汇聚全球开发者35万人，形成6000个行业解决方案，开创了自主可控的技术发展路径。
(二)数据治理的平衡艺术。在新冠疫情防控中，健康码系统的演进展现了数据治理的中国智慧。系统设计始终坚持“最小必要原则”:数据存储期限从最初14天逐步压缩至72小时，功能应用严格限定于防疫用途，数据调取实行“三方授权”机制(政府部门、技术平台、用户本人)。这种治理哲学与西方监控资本主义形成本质区别，新加坡国立大学比较研究显示，中国健康码系统的权利侵害风险指数仅为欧美同类系统的1/5。更值得关注的是，系统退场机制的设计，疫情平稳后所有数据经脱敏处理转入城市应急管理体系，实现了公共数据资源的再生利用。
（三）智慧城市的人本转型。在智慧城市建设中，我国探索出“需求驱动一技术响应一制度保障”的协同发展模式。杭州市“城市大脑”系统通过分析12345热线百万条市民诉求，动态优化交通信号配时、垃圾分类清运、公园人流量预警等城市管理决策。系统特别设置“银发关怀模块”，自动识别老年市民的高频需求，优先配置适老化公共服务资源。这种治理模式与新加坡“智慧国”计划的顶层设计模式形成对比，更强调技术应用与民生需求的精准对接。第三方评估显示，该系统使市民对城市管理的满意度提升28个百分点，真正实现了技术赋能与人民获得感的统一。
作者：舒 勇
全国政协委员
中国社会艺术协会副主席
来源: 《中国政协》2025年第16期