数字报
小程序
公众号
当智能走向自主 需重新定义AI责任边界
2026-03-30 11:51:27
来源:点点taptap体育  作者: 刘琴


本报记者 刘琴

人工智能(AI)是当前全球最受关注的科技前沿技术之一。在3月25日举行的2026中关村论坛-工程科技创新论坛上,多位中国工程院院士围绕AI助力工程科技创新、当前AI面临的责任边界等问题展开研讨。

 AI助力工程科技创新

工程科技是推动人类社会发展的重要引擎,其作为链接基础研究与产业应用的关键桥梁,是衡量国家综合国力的核心指标,涵盖机械与运载、信息与电子、化工冶金与材料、能源与矿业、土木水利与建筑、环境与轻纺、农业、医药卫生等领域。

在AI的助力下,工程科技创新有了哪些新变化?中国工程院院士、哈尔滨医科大学教授杨宝峰在论坛上对“2025全球工程前沿”报告进行解读时介绍,在能源领域,人工智能辅助能源材料设计,利用人工智能技术,结合材料科学、计算化学和物理学的原理,加速能源相关材料的发现、优化和开发过程。

在农业领域,人工智能与多组学技术广泛用于害虫雷达监测、解析根际生态、畜禽消化及水产遗传机制,助力精准农业和智慧育种发展。此外,AI与数字孪生赋能环境污染预警及防治、气候预测。

不仅如此,杨宝峰表示,人工智能在预测蛋白质动态构型、辅助新型动物疫苗与药物靶点发现及分子设计等方面也发挥重要作用。

科睿唯安学术与政府事业部咨询业务全球副总裁谢里夫·埃尔·沙米介绍了AI学术研究方面的作用。他表示,AI改变了学术界的方方面面,重塑了学习方式、教学方式和开展学术研究的方式。例如,借助学术AI平台,学术界人员可以进行文档洞察、可视化、源数据生成和分析,提高学术研究效率。

中国工程院院士、西安交通大学教授卢秉恒介绍说,人工智能对3D打印的研究在某些方面有引领性作用。例如,在科研创新层面,当前3D打印科研主要依托激光、红外、CT等技术手段开展观测与数据采集,而人工智能可将海量观测数据与实践案例转化为标准化的知识库与模型库,依托模型实现不同材料、不同结构构件的工艺参数智能匹配与工艺路径优化,为3D打印生产应用提供科学精准的技术支撑,破解传统研发中工艺把控不足的难题。

需厘清责任与安全边界

“当前,以人工智能、机器人为代表的前沿技术正以前所未有的速度重塑世界。”中国工程院院长李晓红在论坛上致辞时表示,AI大模型从“会聊天”迈向“能办事”,智能体开始自主调用工具、执行任务,但责任归属问题日益凸显。他提出了这样的一个问题:当系统自主决策时,谁来承担后果?

李晓红表示,当前,具身智能加速渗透到多个领域,机器人从“炫技”走向“干活”,但在真实场景中,本体的安全、网络的安全、数据的安全亟待解决,技术尚未成熟、标准尚未统一、安全机制尚未完善,这是当前最大的挑战之一。

“今天AI发展的非常快,而且AI也越来越聪明。但存在很重要的问题就是AI现在缺乏授权与问责。”在中国工程院外籍院士、香港科技大学首席副校长郭毅可看来,AI能承担多少责任比它有多聪明要重要得多。

“AI可以做事情,做错了怎么办,谁负责?AI可以看病,出问题责任谁负?这些问题没有解决,所以就游离于核心业务之外。”郭毅可表示,当前AI能力越来越强,仍然游离于核心业务之外,主要是因为缺乏授权与问责的信任基础。

“面对这些风险,关键在于统筹发展与安全。”李晓红表示,一方面,要加快核心技术攻关,在AI安全、机器人具身智能等领域实现突破,让技术更可靠、更可控。另一方面,要前瞻构建制度框架,治理体系,建立权限管理、安全回退的治理机制,推动跨学科、长期的协同创新。

“智能是定义能力,但是权限是定义未来。”郭毅可表示,要做好对AI系统的安全控制,重要的是要解决其权限、边界、异常和问责问题,设立刚性拦截、关卡审批、全链可追溯、数据隔离“四道防线”,做好这些方面就可以建立一个人与机器在社会中共同的契约,AI就可以慢慢深入到人们的生活中,与人类成为一个共生体。

中国工程院外籍院士、芬兰瑞典工程院院士、芬兰科学与人文院院士彼得·大卫·路德表示,针对AI面临的挑战,协作至关重要,必须要全球合作,跨越国界,跨越不同学科。

卢秉恒表示,未来10年,最能够改变人类社会的技术就是AI。AI可以帮助多学科交叉,但是AI绝不能代替人类,人类还是主宰。人工智能在快速、聚量方面比人类要强很多,但是做真正创造性的东西还是需要人的大脑。

编辑:韩梦晨
相关阅读:
高新视频 更多
高新热榜 全部本月
编辑推荐 更多

友情链接: 政府 高新园区合作媒体

Copyright 1999-2026 taptap软件qs9988.com All Rights Reserved.京ICP备14033264号-5

电信与信息服务业务经营许可证060344号主办单位:点点手机应用下载

Baidu
map