人工智能模型近亲繁殖引发警示

   新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)...

  近亲繁殖、胡言乱语还是疯狂?关于AI模型的警告声不断升级

新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)

去年,学者贾森·萨多夫斯基(Jathan Sadowski)用一个比喻来描述人工智能程序的衰退,他创造了“哈布斯堡人工智能”(Habsburg AI)这个词。

哈布斯堡家族曾是欧洲最显赫的王室之一,但由于几个世纪的近亲繁殖,他们的血统最终走向了衰败。

近期的研究显示,支持ChatGPT等产品的人工智能程序在反复使用自己的数据时,也会经历类似的崩溃。

萨多夫斯基在接受法新社采访时表示:“我认为‘哈布斯堡人工智能’这个词已经非常贴切了。”他补充说,这个词“将越来越能反映我们对人工智能系统的看法”。

最终的担忧是,人工智能生成的内容可能会淹没网络,使得聊天机器人和图像生成器变得无用,并使一个价值数万亿美元的产业陷入混乱。

然而,其他专家认为这个问题被夸大了,或者是可以解决的。

许多公司热衷于使用所谓的合成数据来训练人工智能程序。这种人工生成的数据用于增强或替代真实数据。它比人工制作的内容更便宜,但也更容易预测。

澳大利亚莫纳什大学(Monash University)的新兴技术讲师萨多夫斯基表示:“对于构建人工智能系统的研究人员和公司来说,一个悬而未决的问题是,多少合成数据才算太多。”

- “疯牛病” -

训练人工智能程序,在业界被称为大型语言模型(LLM),涉及从互联网上抓取大量文本或图像。

这些信息被分解成数万亿个机器可读的小块,称为令牌。

当被问及一个问题时,像ChatGPT这样的程序会选择并组装令牌,以符合其训练数据中最可能的序列。

但即使是最先进的人工智能工具也会产生谎言和胡言乱语,批评者长期以来一直担心,如果一个模型依赖自己的输出会发生什么。

7月下旬,《自然》(Nature)杂志上发表的一篇题为《人工智能模型在接受递归生成的数据训练时崩溃》的论文引发了广泛讨论。

作者描述了模型如何迅速丢弃原始数据集中的稀有元素,输出结果退化为“胡言乱语”。

一周后,莱斯大学和斯坦福大学的研究人员发表了一篇题为“自我消费生成模型发疯”的论文,得出了类似的结论。

他们测试了生成图像的人工智能程序,并表明,当他们将人工智能生成的数据添加到底层模型时,输出变得更加通用,并且充斥着不受欢迎的元素。

他们将这种模型崩溃称为“模型自噬紊乱”(MAD),并将其与疯牛病进行比较。疯牛病是一种致命的疾病,是由将死牛的残留物喂给其他牛而引起的。

- “末日场景” -

这些研究人员担心,人工智能生成的文本、图像和视频正在清除网络上可用的人造数据。

莱斯大学研究报告的作者之一理查德·巴拉尼克在一份声明中说:“如果几代人都不受控制,MAD可能会毒害整个互联网的数据质量和多样性,这是一个世界末日。”

然而,业内人士并不担心。

Anthropic和Hug Face是该领域的两大领导者,他们以对技术采取道德方法而自豪,他们都告诉法新社,他们使用人工智能生成的数据来微调或过滤他们的数据集。

Hug Face公司的机器学习工程师安东·洛日科夫说,《自然》杂志的论文提供了一个有趣的理论视角,但其灾难场景并不现实。

他说:“在现实中,用多轮合成数据进行训练是不可能的。”

然而,他说,研究人员和其他人一样,对互联网的现状感到沮丧。

“互联网上有很大一部分是垃圾,”他说,并补充说,Hug Face公司已经在清理数据方面做出了巨大努力,有时会丢弃多达90%的数据。

他希望网络用户能够通过简单地不参与生成内容来帮助清理互联网。

促销听最新的歌曲,只有在JioSaavn.com

他说:“我坚信,人类将比模型更早看到这些影响,并捕捉到生成的数据。”

本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://pizzeria-subito.net/post/2659.html

(181)

文章推荐

  • 勿忘心安,宁静致远

      勿忘心安:如何保持内心平静  在现代社会,人们的生活节奏越来越快,工作压力和生活压力也越来越大。在这样的环境下,很多人往往感到焦虑不安,内心无法平静。然而,保持内心平静是非常重要的,它可以帮助我们更好地面对挑战,保持身心健康。因此,勿忘心安成为了一种重要的生活态度。  如何保持内心平静

    2024年08月27日
    839
  • HBO是什么意思?探究HBO的含义和起源

      HBO是什么意思?探秘HBO的魅力  前言(图片来源网络,侵删)  在当今数字媒体时代,HBO这个名词已经成为了许多人口中的热门话题。那么,HBO究竟是什么意思呢?本文将为您揭开HBO的神秘面纱,探秘其背后的魅力所在。  HBO是什么意思?  HBO是HomeBoxOffic

    2024年08月28日
    812
  • 2024长春家电以旧换新补贴第三轮第二批活动商家名单公布

      长春一汽大众4s店(经销商)联系方式及地址:  1、长春通立汽车商贸有限公司(图片来源网络,侵删)地址:长春市绿园区普阳街3202号电话:0431-87616222  2、吉林省吉刚汽车贸易有限公司地址:长春市自由大路6308号电话:0431-84671199  3、

    2024年09月05日
    700
  • 阿拉巴马州胚胎统治对学龄前儿童远程学习的影响研究

    今天的下载版已发布,我们的工作日时事通讯为您带来技术领域的每日动态。上周,阿拉巴马州最高法院作出裁决,认定冷冻胚胎为儿童,此判决在生育行业引发了广泛关注,并引起了人们对体外受精与堕胎辩论交织

    2024年09月20日
    536
  • 桃胶多少钱一斤 桃胶的每斤价格是多少?

    桃胶多少钱一斤  桃胶是一种天然的植物胶,因其独特的口感和丰富的营养价值而受到越来越多消费者的青睐。那么,桃胶多少钱一斤呢?根据市场行情,桃胶的价格通常在100元到300元之间,具体价格会因产地、品质和购买渠道的不同而有所差异。一般来说,优质的桃胶价格会相对较高,而一些普通品质的桃胶则会便宜一些

    2024年11月02日
    203
  • Virender Sehwag谈Rohit和他的队友如何应对旋转球的挑战

    印度队在应对旋转球方面一直面临挑战,最近在斯里兰卡的ODI系列赛中再次暴露了这一弱点。在加乌塔姆·甘比尔担任ODI教练的首个系列赛中,印度队在科伦坡的慢速转弯赛道上未能取胜,凸显了他们对抗旋转球的不足。面对旋转球的持续困境,印度队的表现引发了人们的思考:为何这支曾经在旋转球上占据主导

    2024年11月13日
    194
  • 科技视角:俏皮跌破50 DEMA,熊市蜡烛周一的交易策略

      剧情简介日线图和周线图上都出现了熊市蜡烛,这表明Nifty近期上升趋势出现了急剧逆转。目前的职位若在25,000点附近的支撑位附近,本周初可能出现小幅反弹,可能出现逢高卖出的机会。如果决定性地跌破25,000-24,950区间,可能会导致进一步下跌至24,50

    2024年11月25日
    71
  • 缅甸拟限制大米出口以稳定国内市场价格

        内比都,8月25日——一位缅甸大米行业机构的官员今天表示,缅甸计划暂时限制大米出口,以控制国内价格的上涨。在全球大米供应紧张的情况下,缅甸成为了世界上最大的大米出口国之一。  缅甸大米联合会的一位高级成员告诉路透社:“从本月底开始,我们将暂时限制大米出口约4

    2024年11月25日
    82
  • 麦当劳宣布在特朗普访问后不再支持任何政治候选人

      在前总统特朗普在宾夕法尼亚州的一家麦当劳快餐店柜台后工作了一段时间后,麦当劳公司试图重申其政治中立的立场。这家快餐巨头表示,它并不支持任何政治候选人。  该公司在周一发布的声明中指出:“我们的品牌在这个选举周期中成为了一个热门话题,虽然我们并没有刻意追求这一点,但这显示了麦当劳与众多美国人之

    2024年11月25日
    86
  • 首相表示,布城将重新评估应届毕业生与公务员的薪资方案

      威州,8月5日——首相拿督斯里安华将在下周召开委员会会议,专门审查公务员及应届毕业生的薪资方案。  他指出,该委员会已有超过12年未召开会议,而按照惯例,应该每10年进行一次。  “下周的会议上,我们将深入探讨这些问题,”他在一家酒店主持全国经济会议后对记者表示。  在被问及马来西亚

    2024年12月02日
    5

发表回复

本站作者后才能评论

评论列表(4条)

  • svs
    svs 2024年11月11日

    我是的签约作者“svs”!

  • svs
    svs 2024年11月11日

    希望本篇文章《人工智能模型近亲繁殖引发警示》能对你有所帮助!

  • svs
    svs 2024年11月11日

    本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • svs
    svs 2024年11月11日

    本文概览:   新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)...

    联系我们

    邮件:@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们