当前位置: 首页 > 中国星空网 > 风格 > 内容页

在发展中治理完善人工智能大模型 环球信息

2023-05-26 06:42:34 来源:经济日报

新一轮科技革命和产业变革迅猛发展,数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT,已掀起全球人工智能(AI)产业的大模型热潮。在日前举办的中国人工智能产业年会中,AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。

赋能千行百业

ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现,是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物,AI大模型也不止GPT这一条路线,很多科技巨头近几年都在“炼”大模型,且各有积累。这也是ChatGPT走红之后,各巨头短短数月内就纷纷推出竞品的原因。


(资料图)

“以ChatGPT为代表的多模态通用大模型,将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说,行业人工智能可有效推动技术与市场供需平衡,将是人工智能产业化的最大机遇。人工智能技术落地行业时,需要克服开发效率低、落地成本高、场景复杂多元等难题。

沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍,团队开发了为垂直行业赋能的多模态AI操作系统,基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持,可以让企业摆脱繁杂的算法、算力、数据整合工作,快速孵化行业大模型,高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。

“通用对话技术是人工智能领域最具挑战性的方向之一,也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能,其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间,由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果,获2022年度吴文俊人工智能科技进步奖特等奖。

公开资料显示,这一研究项目已获授权发明专利82项,发表高水平论文36篇,在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用,已支持5亿智能设备,服务超过10亿用户,覆盖包括通信、金融、汽车、能源等20多个行业。

争取“主动安全”

技术是把双刃剑。人工智能大模型能力越大,一旦滥用带来的危害也就越大。当前,ChatGPT等工具被用于生成假新闻、假照片、假视频,甚至实施诈骗等犯罪行为,引发人们对大模型安全性的担忧。

西北工业大学教授王震是网络空间智能对抗应用研究领域的专家,他认为,要用人工智能驱动网络空间智能对抗。比如,用人工智能检测、识别有害信息,搭建“主动安全”的智能防御网。

“只有在AI发展过程中,我们才能面对问题、解决问题,并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示,在AI管理中,安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件,分析安全问题,避免发展带来的风险。”

了解机理是安全管理的基础。不过,大模型的“智能涌现”目前还是个难以解释的黑箱,没有人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI,也为大模型做了大量价值敏感设计和道德嵌入工作,但仍然存在明显的漏洞和局限。

“虽然大模型的能力在不断变强,但如果不对其进行专门的安全性训练或安全性加固,其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为,人工智能大模型的安全性面临很多挑战。

“大模型是人工智能发展的转折点,研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示,ChatGPT最初只作为科研项目发布,但通过加入人机交互界面,迅速变成网红产品。其爆红带来的伦理问题始料未及,也给生成式人工智能的管理提出了挑战。“只有真正的开源,才能共同研究,理解大模型存在的问题和产生的根源,更好地进行管理。”

“商汤一直是开源开放的贡献者和支持者,但在开源上我们要谨慎一些,特别是目前对于大模型而言,安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说,在智能时代把底层模型开源,不见得安全,因为在开放能力的同时,也在开放薄弱点,而薄弱点有可能被不法分子利用。

亟需深度治理

专家们对未来的人工智能长远治理做出种种设想。

“不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为,针对现阶段人工智能治理的局限性,可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点;二是从流程方面,不仅要考虑通用模型,还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑;三是探索伦理方法,充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。

中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示,需要警惕机器对人类思维的驯化。比如,有的人不擅社交,可能用人工智能生成对话的方式帮他社交聊天,这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通,不仅要了解人类怎么去修机器,也要研究机器如何影响人类。

中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉,“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减,它不是真正对道德的理解,除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉,做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎,希望让它像儿童一样去学习,获得自我感知。”曾毅说。

“从要求人工智能大模型合乎伦理,到真正构建有道德的人工智能。”曾毅表示,未来通用人工智能和超级智能的伦理安全问题,要从现在就开始关注和准备。

佘惠敏 (来源:经济日报)

佘惠敏

标签:

网红

更多

猜你喜欢

更多
在发展中治理完善人工智能大模型 环球信息 世界聚焦:燃油小车的倔强 试驾广汽本田新款飞度 新年贺词2020简短_新年祝福语-全球热文 月出惊山鸟 时鸣春涧中的表现手法_月出惊山鸟时鸣春涧中的意思 每日信息 国乒2人被淘汰出局!世界冠军林高远1:3无缘奖牌,王楚钦3项全胜 Redmi AirDots 2真无线耳塞发布_微资讯 罗源街头两车追尾,1人被困!|天天热文 中药木通的功效与作用_木通的功效与作用及禁忌 马自达CX-50行也正式上市 售价15.98万元-20.68万元-热门 阿里v任务首页推荐资格是什么意思_阿里v任务首页|新资讯 【天天新视野】王思聪微博账号是什么_微博账号是什么 天天快播:武汉经济研究 天天微资讯!copy不走样简单搞笑题目_copy不走样搞笑题目 资讯推荐:什么银行的信用卡好下 可以看看这些银行 冀东水泥(000401):5月25日北向资金减持142.19万股_当前时讯 广西财经学院专业有哪些_广西财经学院专业 全球关注 全球热门:专升本英语难吗?相当于大学英语多少级?_大学专升本英语有要求吗专升本的大学英语什么难度 全球微动态丨奥威亚直播课堂入口_奥威亚直播 今日观点!云南腾冲火山热海投资开发有限公司副总经理张勇接受审查调查 每日快播:定了!中美商务部长将会面 第六届中国歌剧节将于2026年在厦门举办 苏州民事诉讼律师费怎么收取 存货盘点表需要哪些人签字_存货盘点表_全球消息 2023年养老金上涨3.8%,工龄30年,养老金4000元,能涨150元吗? 环球速看料 当前热讯:故宫:“六一”带未满 14 岁儿童参观,一名家长半价 青岛世博园植物馆优惠及免票政策 天天滚动:武汉科技大学学报(关于武汉科技大学学报介绍) win7系统不显示移动硬盘怎么回事(win7移动硬盘在电脑上显示不出来如何处理) 世界时讯:夏启夺位的故事_夏启 上海房东举报自家房子20㎡卧室住9人,城管开罚单后二房东却让房东承担 山河智能:5月24日召开业绩说明会,投资者参与 真人版《圣斗士星矢》大崩盘,续集也危了 全球资讯 四川一初中生被同学围殴致死?警方通报:相关行为人被控制-短讯 以指南针为题的作文600字(热门9篇) 最资讯丨世乒赛:陈梦一日双赛全部取胜 称“并未去想得太远” 联合水务(603291)龙虎榜数据(05-25) 每日热点:给个台阶就下的幽默文案_给个问道号 最资讯丨传音控股在孟加拉国新工厂投产 三星5230怎么样?报价多少? 新资讯 凤翔区退役军人事务局 聚焦“三个年” 宣讲走基层 Innovusion图达通助力蔚来全新ES6开启规模化交付 天天热闻 四川人艺话剧《苏东坡》亮相上海,主创:让苏东坡“活”在舞台上-天天新要闻 每日视讯:奇安信集团董事长齐向东: 用“零一三”体系 构建东数西算安全之盾 深圳音乐厅“童趣响当当”,数场亲子音乐会缤纷过六一|当前短讯 热门:队报:巴黎接近签下乌加特,将激活球员的6000万欧解约金 【世界新要闻】日本长野发生袭击事件 已致包括警察在内的3人死亡 世乒赛 | 陈梦/王艺迪击败伊藤美诚/早田希娜,晋级女双四强 当前播报 全球即时看!大语言模型与科大讯飞 中牟县狼城岗镇:扎实开展入户走访 严格落实监测排查 宏基笔记本驱动官网_宏基电脑官网aspire f5驱动 天天快资讯 精选!拉结尔官网址是什么(官网地址怎么找) 微信怎么改个性签名_简短微信个性签名 密爱2002 资源_韩国电影密爱未删减版百度云_观点 欧化(01711)发盈警,预期年度净亏损不多于2200万港元 口舌生疮吃什么药最好(口舌生疮的治疗偏方) 环球即时:北约秘书长:冲突不结束,乌克兰就不能加入 刘伯温斩尽了世间的九十九条龙脉,为何见到长白山龙脉扭头就走! 蕲太高速公路东段卢家塆隧道右洞顺利贯通-环球速看 世界动态:【成语漫话世界】岌岌可危 “三提三争”见行动 “般阳合伙人”合力托起幼儿教育成长“摇篮”|天天讯息 会是朱晓彤吗?马斯克确定特斯拉接班人 踏雪而来,逐梦而上 报资讯 2023年陕西初级护师考试成绩查询时间及入口 网贷315怎么投诉|今日热文 【世界新视野】普甜食品(01699)将竭力于未来三至四周内就融资及债务重组方案达成正式提案 中国科传跌8.41% 机构净卖出8384.68万元|当前热点 云南腾冲火山热海投资开发有限公司副总经理张勇接受审查调查_今头条 志愿填报成生意?人生规划不能指望“速成” 环球关注:消费者维权意愿不强怎么办?中国消费者协会呼吁修改消费者权益保护法 每日简讯:珲春市市场监督管理局开展“计量惠民 走进集贸市场”活动 26万亿!这一“超级资金”加仓了!“投资大鳄”刘益谦也有新动作 环球新动态:光电共封装CPO概念强势拉升,15位基金经理发生任职变动 全球热头条丨亚朵酒店,劝退“中产” 韩国仓库铝库存大幅攀升逾2万吨-焦点报道 美国交通部长:对特斯拉Autopilot人车交互感到担忧 华秋重磅发布:离线版Gerber查看器+PCB/PCBA检测神器新功能! 每日热文 阿里、腾讯、京东统统宣布:降价 [年报]华联医疗(873549):2020年年度报告摘要(更正公告) E电园的科普日常 | 两驱价格买四驱 长城智能四驱电混技术Hi4这么卷? 实时 以每日额度余额口径 北向资金截至A股收盘净流出83亿元 第十六届省运会射击(步手枪)项目唐山代表队创佳绩 世界报道 每日速读!2023防溺水手抄报资料的内容 超越时之笛!《塞尔达传说旷野之息》为系列发展创造了新形式 当前视点 稳健医疗: 关于股东减持股份计划时间届满的公告 世界速读 【环球速看料】皮尤研究:中餐厅占全美亚洲餐厅的39% 你知道12306上可以直接买汽车票吗?怎么操作?看这里 焦点速讯 今头条!原神霜刃迸碰攻略 铸境研炼霜刃迸碰怎么打过[多图] 世界最资讯丨伏尔泰与儒家思想 自考备考经验:自考一次过4门有妙招! 天天微资讯 环球关注:货币基金会亏本金吗 货币基金交易规则 天天快播:美国一市长街头谈毒品危机:遭抗议民众扔砖头 开始10分钟就中断 珠江委:韩江今年可能发生较大洪水 朝中社:美日韩建立三方情报共享机制将导致三方“危机共享” 世界焦点 每日热点:2023年中级经济师易错题点评(第27期) 世界快消息!2023年摩羯座健康运8月运程详解 各方面迎来转机? SMM分析:钼价涨得欢 想重拾昔日辉煌?还得看需求能否跟上 今日热议 全球热议:诺普信:目前产量远不及消费需求的增长 估计明年蓝莓价格仍趋于平稳 CPO概念股快速反弹剑桥科技再创历史新高 天天快播报 青少年抑郁症患者比例升高,有早期信号吗?家长该怎么做? 天天信息 无花果的功效与作用有什么(无花果的功效有哪些)

直播

  1. 今头条!腾讯手游助手电脑版下载安装(腾讯手游助手电脑版)

    今头条!腾讯手游助手电脑版下载安装(腾讯手游助手电脑版)

  2. 【时快讯】深圳市顺丰快递电话号码(深圳顺丰快递的电话号码)

    【时快讯】深圳市顺丰快递电话号码(深圳顺丰快递的电话号码)

  3. 天天视讯!木耳熬汤(meat)

    天天视讯!木耳熬汤(meat)

  4. 看热讯:南烟斋笔录小说txt资源(南烟斋笔录小说txt)

    看热讯:南烟斋笔录小说txt资源(南烟斋笔录小说txt)

  5. 焦点速读:日文是什么意思中文(日文是什么字上下)

    焦点速读:日文是什么意思中文(日文是什么字上下)

  6. 动态焦点:锦城丝管日纷纷半入江风半入云此曲只应天上有人间能得几回闻(锦城丝管日纷纷半入江风半入云)

    动态焦点:锦城丝管日纷纷半入江风半入云此曲只应天上有人间能得几回闻(锦城丝管日纷纷半入江风半入云)

  7. 环球报道:五分裤男(五分裤)

    环球报道:五分裤男(五分裤)

  8. 前沿热点:驱赶喜鹊妙招(驱赶)

    前沿热点:驱赶喜鹊妙招(驱赶)

  9. 每日消息!求一些工藤新一最帅的照片和他的简介。

    每日消息!求一些工藤新一最帅的照片和他的简介。

  10. 焦点关注:发达国家在经济发展过程中最大的问题是什么(发达国家在经济发展过程中最大的问题是)

    焦点关注:发达国家在经济发展过程中最大的问题是什么(发达国家在经济发展过程中最大的问题是)