张海:AI幻觉难以避免,如何应对?

发布日期:2024-09-04 14:18

来源类型:长江日报 | 作者:郭雯

阅读提醒: 来源:环球时报 在人工智能(AI)技术的飞速发展下,“AI幻觉”,即人工智能在信息处理和生成中的误差或错觉,已经成为不容忽视的问题。2023年,“幻觉”成为剑桥词典和Dictionary.com的年度词语。根据Dictionary.com的数据,2023年“幻觉”一词的搜索量比前一年增加了46%。剑桥词典中,“幻觉”的原有释义“似乎看到、听到、感觉到或闻到一些不存在的东西,通常是因为健康状况或因为...
【2024澳门天天开好彩大全开奖记录】 【澳门天天六开彩正版澳门】 【6cccccc世外桃源最新号码】 【2024年正版资料免费大全】 【澳门最准一肖一码】 【澳门一码一码100准确】 【澳门天天开彩期期精准】 【2024澳门天天六开彩结果】 【2O24澳门结果王中王】 【2024澳门精准正版澳门码】 【澳门六开彩天天开奖结果】 【四不像正版资料】 【2024新澳天天开好彩大全】

来源:环球时报

在人工智能(AI)技术的飞速发展下,“AI幻觉”,即人工智能在信息处理和生成中的误差或错觉,已经成为不容忽视的问题。2023年,“幻觉”成为剑桥词典和Dictionary.com的年度词语。根据Dictionary.com的数据,2023年“幻觉”一词的搜索量比前一年增加了46%。剑桥词典中,“幻觉”的原有释义“似乎看到、听到、感觉到或闻到一些不存在的东西,通常是因为健康状况或因为你服用了某种药物而产生幻觉”之外,增加了一个新的释义:“AI幻觉会生成错误讯息”。

日前《自然》杂志上的一篇论文《机器行为》指出,人工智能今天已经普遍存在于人类社会,新闻排名算法会影响人们看到的信息,消费算法会影响人们购买什么消费品,打车算法会影响我们的出行模式,智能家庭算法会影响我们的家庭生活,在法律、医疗等领域,人工智能的影响就更为巨大。人工智能使机器越来越像人类一样思考和行为。如此一来,机器越来越深入影响人类社会的结构,机器塑造人类的行为,人类也塑造机器的行为,人类和机器如何协同,会对未来社会形态产生重大深远的影响。

人工智能时代下,AI幻觉已经成为一种普遍存在的现象。从自动驾驶汽车可能的错误判断到智能助手误解指令,再到医疗诊断工具的误诊,AI幻觉遍布于我们日常生活的每一个角落。2024年谷歌搜索引擎推出了一项人工智能搜索服务:AI概览,提供AI生成的答案。其本意是想提升用户体验,但用户很快发现AI概览提供了大量离谱的答案,如建议用胶水粘披萨、每天吃石头来获取营养等,使得谷歌赶快关闭了其部分功能。

从人工智能科学家的视角看,由于技术的限制和人类认知的不足,AI幻觉本质上是难以避免的。尽管技术人员正在努力提升AI的准确性和可靠性,但由于数据的不完整、算法的局限和复杂的交互环境等因素,AI幻觉仍然频繁出现,且难以完全消除。

AI幻觉的产生机制涉及多个方面。首先,数据偏差是主要原因之一,如果AI的训练数据缺乏多样性或存在系统性偏见,那么输出的结果就可能产生幻觉。其次,当前的AI算法,尤其是基于统计学的算法,无法完美地适应新的、未曾见过的情况,从而可能导致错误的判断。再次,人类设计者的认知局限也是一大问题,设计者和训练者的主观偏见可能无意中被编码进AI系统,影响其决策。最后,AI系统运行的交互环境本身充满变数,复杂多变的环境因素常常超出AI系统的处理能力,导致AI幻觉的产生。

面对AI幻觉的普遍性和不可避免性,如何应对?首先,提升数据质量和多样性是基础。通过增加训练数据的广度和深度,可以减少数据偏差,提高AI系统的泛化能力。其次,优化算法设计,增强其健壮性和适应性,能够使AI系统更好地应对新情况。第三,提升用户教育和意识也至关重要,帮助用户正确理解AI的能力和局限,可以有效减少因误解而产生的幻觉。此外,建立伦理规范和监管机制,确保AI的发展和应用符合伦理与法律标准,对于减少AI幻觉的发生同样重要。最后,跨学科合作在应对AI幻觉时扮演着关键角色。工程师、数据科学家、心理学家、伦理学家以及法律专家等应共同参与到AI系统的设计和评估过程中,从各自领域的专业角度出发,共同解决AI幻觉问题。

人工智能时代下,AI幻觉是一个复杂、普遍、不可避免的问题,这就要求我们采取多维度、多层次的策略来应对,从而最大限度地减少AI幻觉的负面影响。2023年联合国教科文组织发布的《教育与研究领域生成式人工智能指南》建议,把在课堂上使用人工智能工具的最低年龄设定为13岁。Open AI则建议13岁以下儿童禁止使用生成式人工智能,13到18岁的孩子需要在监护人指导下使用。

2023年一次可信任媒体峰会在新加坡举行,分享了各国如何提升青少年媒介素养的举措。如一项国外基于网站和播客发起的、以小学生为对象,提升媒体素养的公益活动“SQUIZ KIDS”,帮助培养青少年分辨网络上出现的错误信息、假信息的能力。它主要分三步:接触到网络信息时停一停(STOP),想一想(THINK),最后对一对(CHECK),和可靠的信息源对照确认是否一致。通过集合不同领域的知识和技能,更全面地识别问题、找到解决方案,我们就可以期待一个更智能、更安全、更可靠的人工智能社会的到来。(作者是东北师范大学传媒科学学院教授,吉林省教育与人工智能融合创新工程中心主任)

【2024澳门六开彩开奖结果查询表】 【2024澳门天天六开彩免费】 【2024澳门正版开奖结果】 【正版四不像】 【澳门六开彩天天免费领取】 【澳门王中王100%的资料2024】 【2024新澳门天天开好彩大全】 【新澳精准资料免费提供】 【2024香港历史结果查询表最新】 【澳门三码三码精准】 【2024澳门天天六开好彩】 【2024澳门天天开好彩大全53期】 【官方辟谣女子为高危妊娠】 【新澳门六开彩开奖网站】
【新澳2024年精准资料期期】 【2024澳门今晚开什么号码1】 【澳门六开彩天天开奖结果生肖卡】 【新奥门特免费资料大全】 【新澳内部资料精准一码】 【2024天天开好彩大全正版】 【澳门一码一肖一待一中】 【新澳天天开奖资料大全】 【澳门天空彩票】 【澳门一码一肖一特一中管家婆】 【2022澳门正版资料全年免费公开】 【2024新澳门天天彩开奖记录】 【2024澳门天天开彩】 【2024年澳门的资料】

下载中心

视频封面

视频名称:新华视点|“月薪两万块打不起羽毛球”?——羽毛球集体涨价的背后

大小: 8.4GB 下载:(316557) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:俄罗斯前反恐部门负责人晚餐时被肉噎住意外去世,年仅50岁

大小: 5.9GB 下载:(856513) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:上海一对夫妻离婚竟都不要长女,法院:不准离!扫地僧的一番话,讲述如何练少林七十二绝技,五大高手都没听懂

大小: 5.2GB 下载:(728435) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:北京大兴机场公务机楼国际通道和维修机库正式启用

大小: 4.7GB 下载:(824451) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:这个冬天,我想念夏天

大小: 1.2GB 下载:(807451) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:乡情 亲情 友情梁山上的第一女将,打败过王英、扈三娘,儿子长大后大败金兀术

大小: 8.1GB 下载:(452612) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:遭到核辐射后的老鼠大如猪,凶如虎

大小: 4.9GB 下载:(669951) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:会滑雪社交的创始人,已经融到了7亿

大小: 4.2GB 下载:(697111) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:为什么去医院看病总是要抽血?抽血能查出哪些疾病?一文解答

大小: 4.6GB 下载:(416843) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:887亿人次!全国铁路暑运发送旅客创历史同期新高如果雄阔海和罗成公平单挑,谁能赢?他们两人的差距到底在哪里?

大小: 9.4GB 下载:(883027) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:内蒙古一男子自缢身亡!警方调查:其曾杀害2人后逃亡32年

大小: 9.8GB 下载:(433073) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:李纯马頔恋情曝光,网友脑洞大开调侃成“马思纯”

大小: 5.1GB 下载:(587242) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:资讯|2024暑期档票房破70亿 《变形金刚:起源》确认引进

大小: 1.2GB 下载:(757282) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《美联储降息:全球经济的挑战与应对》

大小: 1.2GB 下载:(150808) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:张峻豪心脏不舒服 ,穆祉丞碱中毒被急救,网友喊话官方澄清

大小: 8.8GB 下载:(430292) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:星铁23新免费五星光锥,免费就能满叠影,平民玩家的福音!

大小: 9.7GB 下载:(494255) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《西游记后传》如今口碑逆袭,剧中的这些美女角色你还记得吗?她手握24个世界冠军,婚后却被查出癌症,富豪丈夫不离不弃!

大小: 2.6GB 下载:(581001) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:神秘字符致iPhone秒死机:这样做就可解决

大小: 2.9GB 下载:(477843) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:段誉和宝玉

大小: 8.8GB 下载:(492553) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:2024年暑期档总票房11643亿元 38247万场刷新暑期档总场次纪录

大小: 8.3GB 下载:(607092) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:试管变自怀!山东姑娘:我就这样怀上了孩子?

大小: 8.6GB 下载:(174540) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:靠把顾客锁起来,赚了30亿!这个恐怖生意,为何让千万人上瘾?

大小: 4.5GB 下载:(212159) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:阿塞拜疆拒绝“中间人” 欲同亚美尼亚直接和谈七夕,让爱承载纯朴与信念

大小: 1.2GB 下载:(692594) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:内蒙古鄂托克前旗市场监管局聚力“减负增效”深化日常监管领域行风建设

大小: 4.3GB 下载:(699860) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:TF公司惹争议!邀请劣迹辱华韩星当导师,网友喊话别带坏风气!斗罗大陆:唐三拥有多少领域?为了打赢比比东一个也少不了!

大小: 4.6GB 下载:(374241) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“柯文哲地下候审室过夜”,法院即将开羁押庭!

大小: 2.8GB 下载:(434698) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:新赛制欧冠抽签:巴黎进死亡之组 C罗获得欧冠历史最佳射手特别奖

大小: 4.5GB 下载:(787820) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:俞敏洪为“乱七八糟”道歉,A股“备胎”还香吗?

大小: 1.7GB 下载:(635276) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中国健儿出征巴黎,行李箱很“眼熟”

大小: 2.3GB 下载:(380964) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:解码文化自信的城市样本|红色文脉铸根魂——解码革命圣地延安的文化自信样本

大小: 1.1GB 下载:(138549) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)
视频封面

视频名称:TA说成博丨打击“黄牛”,博物馆有何应对?

大小: 1.5GB 下载:(607305) 语言: 中文字幕 最后更新: 2024年09月05日

下载视频 (注:防盗链已开启)

评论

打开APP查看20条评论

少年

1秒前

面对AI幻觉的普遍性和不可避免性,如何应对?

毛润佳

7分钟前

AI幻觉的产生机制涉及多个方面。

若葉竜也

2天前

日前《自然》杂志上的一篇论文《机器行为》指出,人工智能今天已经普遍存在于人类社会,新闻排名算法会影响人们看到的信息,消费算法会影响人们购买什么消费品,打车算法会影响我们的出行模式,智能家庭算法会影响我们的家庭生活,在法律、医疗等领域,人工智能的影响就更为巨大。

发表您的评论: