视点丨发展人工智能须兼顾安全底线和赶超意识


图片来源/摄图网授权


■ 中国经济时报记者 林春霞 赵姗


【视点丨发展人工智能须兼顾安全底线和赶超意识】

5月18日,第七届世界智能大会在天津拉开帷幕。AI下棋机器人、脑控轮椅、智能手工咖啡机等一批代表世界最前沿技术和创意的产品纷纷亮相,这是本届智能大会的突出亮点之一。


伴随生成式人工智能服务的出现,数据的真实性正遭到空前挑战。在注重数据安全和技术安全的前提下,专家也呼吁,应紧紧把握全球人工智能发展的新机遇,加大人工智能基础理论和前沿技术研发布局,打造一批人工智能区域高地和基础平台,深化产学研用融合,推动人工智能赋能经济社会发展。


寻找差距奋起直追


中国社会科学院信息化研究中心主任姜奇平在接受中国经济时报记者采访时表示,从专业技术角度看,尤其是以ChatGPT为代表的大语言模型技术突飞猛进,正带动这波人工智能浪潮兴起。“这对我们而言既是机遇也是挑战。”他认为,我国需要下大力气投入人力、物力和财力来弥补人工智能技术水平上的差距。


中央财经大学中国互联网经济研究院副院长欧阳日辉对中国经济时报记者表示,我国在人工智能领域的突出表现是论文数量和专利数量。从学术论文的发表量和论文被引用的指数来看,在最近几年里,我国整体上在世界上排名第二,和美国的差距在缩小,但仍有一些重要方面存在明显差距。


国务院发展研究中心信息中心研究员李广乾对中国经济时报记者强调,现在我国人工智能,在理论研究、芯片设计、行业应用等方面都没有问题,最大难题是高端芯片制造方面的“卡脖子”问题,这也是整个数字中国建设最关键的环节,“这是我们需要下大力气攻克的难题。”


要有紧迫感和赶超意识


近年来,我国人工智能得以快速发展,赋能经济社会成效显著,人工智能核心产业规模超过5000亿元人民币,代表性企业超过4200家。但受访专家认为,在当前人工智能从大数据迈向大模型的重要阶段,我们要有紧迫感和赶超意识,并做好新的战略布局。


姜奇平认为,一方面,要紧跟世界潮流,不能落伍,更不能放弃,要在基础技术上有所突破。因为基础理论层的突破,是整个人工智能思路和路线进入到一个新时代的标志。另一方面,要夯实数字社会的基础设施,做好数字社会新的战略布局,从政府、产业、企业、市场都要重视起来。


此外,姜奇平强调,我们还要有赶超意识,要发挥中国特大市场的优势,在中国式现代化的背景下逐步积累技术,实现超越。“要想弯道超车,一方面要在技术平台硬拼,紧追不舍;另一方面要发挥自己巨大应用市场的长处,特别是平台和增值应用要紧密结合,努力发挥自己的优势。”姜奇平表示。


欧阳日辉认为,在深化产、学、研、用融合方面,高校和科研院所的科研人员要真正把企业作为技术创新的主体。高校人工智能人才培养坚持以“需求导向、应用驱动”“项目牵引、多元支持”“跨界融合、精准培养”为基本原则,探索以问题为导向的学科交叉人才培养模式。


促进人工智能安全


对于生成式人工智能技术带来的新型数据泄露及滥用风险,国务院发展研究中心创新发展研究部助理研究员刘申在接受中国经济时报记者采访时表示,生成式人工智能将有效提升人类工作效率。以ChatGPT为例,这一技术具有很强的文本生成和代码编写能力,已被应用于一些此前无法被机器替代的工作中,催生了一系列如自动生成计算机代码、会议记录、论文摘要、诉讼文书等应用创新。生成式人工智能也会对现有治理体系造成冲击。这种技术使造假门槛和欺诈门槛降低,还有可能产生版权争议、侵犯隐私、数据泄露等问题。


随着生成式人工智能在全球广泛掀起热潮,不少中国企业加快开展核心技术研发,积极布局智能化“新赛道”。营造创新生态、重视防范风险,也正在成为我国人工智能发展的共识。


刘申表示,人工智能仍处于技术快速发展的时期,“上游基模型”和“下游应用模型”共同构成的人工智能产业链虽初见端倪,但未来的产业形态并不确定。从国外情况看,“看不清”和“要监管”是一对并存的共识。刘申建议,一是推动形成政府-企业-社会多方合作、快速反应的治理模式。二是加强对人工智能相关的技术标准、评估体系、法律责任等根本性问题的研究。三是积极参与人工智能国际监管框架与技术标准的交流合作。


中央财经大学数字经济融合创新发展中心主任陈端在接受中国经济时报记者采访时表示,生成式人工智能作为生产力革命的一次重要跃迁,也会让数据资源释放出更强劲的数据动能。同时,需要关注的是:最新的生产力革命是以渗透性的模式全方位地进入我们的生产、生活场景,在其与既有的生产体系、社会运行机制以及不同文化土壤深度融合的过程当中,存在着多维风险。除了过去关注的数据隐私、内容版权、信息茧房等风险之外,生成式人工智能作为一种普适性、通用性的技术,对原有社会系统形成一种全方位的渗透,可能会触发的系统性风险现在还难以完全预知和预测。


本公众号版权归中国经济时报所有。如转载或引用本文内容须经许可,并注明转自中国经济时报。


热点链接


●全国统一大市场建设迈出实质性步伐


●时报访谈丨李建伟:从五方面应对内生性人口收缩


●解读丨养老金上调3.8% 三种调整策略相结合更显公平


●地产周刊丨成渝楼市被认为是“大盘股” 发展潜力可期


总 监 制 丨 王辉 王继承


监 制 丨李丕光 王彧 刘卫民


主 编丨毛晶慧 编 辑丨谷 云


【中国经济时报--中国经济新闻网 http://www.cet.com.cn】



近年来,人工智能在各行各业中的应用越来越广泛,但同时也引发了人们对于安全及道德问题的关注。在人工智能的发展中,不仅需要快速赶超,更需要关注安全底线和道德红线。
【安全底线不可缺少】
人工智能的快速发展受到了诸多企业和政府的青睐,但在保证发展的同时,也需加强对于安全底线的关注。随着人工智能应用场景的不断扩大,数据安全问题、算法滥用以及对于人类生命的安全问题对于人工智能的安全底线提出了更高的要求。
【赶超意识需适度控制】
在人工智能发展中,虽然赶超对于企业和技术人员来说至关重要,但问题也随之而来。追求技术的卓越和先进性必须建立在不违背道德和伦理底线的基础上,只有让赶超意识在适度的范围内,才能有利于人工智能的可持续发展。
【重视道德红线的划定和遵守】
人工智能技术可能在未来对于我们的生活产生深远影响,因此在人工智能的发展过程中,划定和遵守道德红线显得更加重要。在保护隐私、维护人权及避免人工智能攻击等问题上,必须严格遵守道德底线。只有在这个前提下,人工智能的健康发展才能取得长足进步。
总之,无论人工智能技术的发展道路再怎么曲折,都不能丢掉安全底线和道德红线的规范,只有让技术发展与安全底线和伦理道德相得益彰,人工智能的发展才能更理性、更健康地向前推进。