人工智能模型近亲繁殖引发警示

   新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)...

  近亲繁殖、胡言乱语还是疯狂?关于AI模型的警告声不断升级

新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)

去年,学者贾森·萨多夫斯基(Jathan Sadowski)用一个比喻来描述人工智能程序的衰退,他创造了“哈布斯堡人工智能”(Habsburg AI)这个词。

哈布斯堡家族曾是欧洲最显赫的王室之一,但由于几个世纪的近亲繁殖,他们的血统最终走向了衰败。

近期的研究显示,支持ChatGPT等产品的人工智能程序在反复使用自己的数据时,也会经历类似的崩溃。

萨多夫斯基在接受法新社采访时表示:“我认为‘哈布斯堡人工智能’这个词已经非常贴切了。”他补充说,这个词“将越来越能反映我们对人工智能系统的看法”。

最终的担忧是,人工智能生成的内容可能会淹没网络,使得聊天机器人和图像生成器变得无用,并使一个价值数万亿美元的产业陷入混乱。

然而,其他专家认为这个问题被夸大了,或者是可以解决的。

许多公司热衷于使用所谓的合成数据来训练人工智能程序。这种人工生成的数据用于增强或替代真实数据。它比人工制作的内容更便宜,但也更容易预测。

澳大利亚莫纳什大学(Monash University)的新兴技术讲师萨多夫斯基表示:“对于构建人工智能系统的研究人员和公司来说,一个悬而未决的问题是,多少合成数据才算太多。”

- “疯牛病” -

训练人工智能程序,在业界被称为大型语言模型(LLM),涉及从互联网上抓取大量文本或图像。

这些信息被分解成数万亿个机器可读的小块,称为令牌。

当被问及一个问题时,像ChatGPT这样的程序会选择并组装令牌,以符合其训练数据中最可能的序列。

但即使是最先进的人工智能工具也会产生谎言和胡言乱语,批评者长期以来一直担心,如果一个模型依赖自己的输出会发生什么。

7月下旬,《自然》(Nature)杂志上发表的一篇题为《人工智能模型在接受递归生成的数据训练时崩溃》的论文引发了广泛讨论。

作者描述了模型如何迅速丢弃原始数据集中的稀有元素,输出结果退化为“胡言乱语”。

一周后,莱斯大学和斯坦福大学的研究人员发表了一篇题为“自我消费生成模型发疯”的论文,得出了类似的结论。

他们测试了生成图像的人工智能程序,并表明,当他们将人工智能生成的数据添加到底层模型时,输出变得更加通用,并且充斥着不受欢迎的元素。

他们将这种模型崩溃称为“模型自噬紊乱”(MAD),并将其与疯牛病进行比较。疯牛病是一种致命的疾病,是由将死牛的残留物喂给其他牛而引起的。

- “末日场景” -

这些研究人员担心,人工智能生成的文本、图像和视频正在清除网络上可用的人造数据。

莱斯大学研究报告的作者之一理查德·巴拉尼克在一份声明中说:“如果几代人都不受控制,MAD可能会毒害整个互联网的数据质量和多样性,这是一个世界末日。”

然而,业内人士并不担心。

Anthropic和Hug Face是该领域的两大领导者,他们以对技术采取道德方法而自豪,他们都告诉法新社,他们使用人工智能生成的数据来微调或过滤他们的数据集。

Hug Face公司的机器学习工程师安东·洛日科夫说,《自然》杂志的论文提供了一个有趣的理论视角,但其灾难场景并不现实。

他说:“在现实中,用多轮合成数据进行训练是不可能的。”

然而,他说,研究人员和其他人一样,对互联网的现状感到沮丧。

“互联网上有很大一部分是垃圾,”他说,并补充说,Hug Face公司已经在清理数据方面做出了巨大努力,有时会丢弃多达90%的数据。

他希望网络用户能够通过简单地不参与生成内容来帮助清理互联网。

促销听最新的歌曲,只有在JioSaavn.com

他说:“我坚信,人类将比模型更早看到这些影响,并捕捉到生成的数据。”

本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://pizzeria-subito.net/post/2659.html

(321)

文章推荐

  • 15万预算购车推荐:上汽大众凌渡L,最高优惠3万,绝佳入手时机

      如今的年轻人买车注重什么?除了对动力、智能的高要求以外,颜值也是必须要的。我当初就是因为这一点,在上汽大众凌渡L和一汽大众速腾之间,最终选择了凌渡L。上汽大众凌渡L2024款入门不到15万就能拥有一辆高颜值家用轿跑,这样的品价比,谁不心动呢?我选择的是上汽大众凌渡L酷辣版,不得不说,辨识度非常高

    2024年09月06日
    799
  • 2012款日产轩逸,14万公里,1次过户,3.58万值不值得拿下?

      这款车叫轩逸,是一款紧凑型轿车,自2006年推出以来深受消费者喜爱。它的名字意味着优雅和速度,设计理念是“技术轩逸”,强调科技与舒适性的结合。这款2012款1.6XLCVT豪华版车型搭载了1.6升自然吸气发动机,配合CVT无级变速器,提供了平顺的驾驶体验。外观设计流线型,内饰宽敞舒适。市场行

    2024年09月06日
    848
  • 阿拉伯联盟为何赞扬阿联酋在打击小武器和轻武器非法扩散方面的努力?

      迪拜(阿联酋),9月16日(亚洲通讯社/阿拉伯联合通讯社):阿拉伯国家联盟对阿联酋在推动与欧洲联盟合作打击阿拉伯国家小武器和轻武器非法扩散方面的努力表示赞赏。  这一表彰是在阿联酋参与于开罗阿拉伯联盟总部举行的“打击小武器和轻武器非法贸易及扩散会议”结束时作出的。  阿联酋最高国家安

    2024年09月27日
    885
  • 前警官为何选择对泰尔·尼科尔斯的殴打行为撒谎?

        在美国田纳西州的孟菲斯。(美联社)——一名前警官在周二的证词中表示,当他的两名同事抓住他的手臂并喊“打他”的时候,他对“无助的”泰尔·尼科尔斯至少出拳五次,随后对上司谎称他们在使用武力,这一行为最终导致了尼科尔斯的死亡。  埃米特·马丁三世作证称,2023年1月7日,尼科尔斯

    2024年10月01日
    777
  • 詹姆斯·韦伯新分析:宇宙膨胀速度是否预示“世界末日”?

      自宇宙诞生之日起,它便一直在膨胀,但关于膨胀速度的争议至今未有定论。詹姆斯·韦伯太空望远镜的最新观测数据表明,曾经被认为导致宇宙膨胀的“哈勃张力”可能并不存在。在《天体物理学杂志》上发表的一篇论文中,芝加哥大学的宇宙学家温迪·弗里德曼及其团队分析了美国宇航局的詹姆斯·韦伯太空望远

    2024年11月12日
    322
  • 警方逮捕六人协助调查巴生女孩失踪事件,已确认安全

      沙阿拉姆,10月13日——一名女孩于10月8日在巴生市武吉丁吉1号公寓失踪,经过搜寻,她于昨天下午2点30分被安全找到。巴生南区警察局局长查洪方(ChaHoongFong)表示,监控录像显示,这名12岁的女孩在进入一辆黑色汽车之前正在步行,警方怀疑她是在

    2024年12月01日
    222
  • 特朗普承认选举结果未受操控,称自己在票数上略显不足

      前总统唐纳德·特朗普似乎承认,他输掉的2020年大选并没有像他长期声称的那样“被操纵”,但他的票数“只是少了一点点”。川普星期四在亚利桑那州科奇斯县的一个新闻发布会上发表上述言论。此前,川普访问了美墨边境,声称其他国家正在“清空他们的监狱”,把“数十万”“杀

    2024年12月02日
    217
  • Wisma Putra:没有马来西亚人受到万隆地震影响的报道

      布城,9月19日——周三(9月18日)印度尼西亚万隆发生地震,马来西亚外交部表示,到目前为止,还没有马来西亚人被卷入或受到影响的报告。马来西亚政府在周四的一份声明中说,正通过马来西亚驻雅加达大使馆密切关注地震后的情况。“建议受影响地区的马来西

    2024年12月08日
    172
  • F&O Ban: Zee娱乐周三受到贸易禁令

      剧情概述出口民调显示,莫迪政府有望获得第三个任期,Sensex和Nifty指数均创下历史新高。ZeeEntertainmentEnterprises的F&O成份股未平仓合约OI高企,而成份股交易员未受到影响。o

    2024年12月10日
    163
  • 7岁的女孩在度假时被困在沙滩上挖的沙坑中,不幸身亡

      一名7岁的小女孩在海滩的沙坑坍塌中不幸遇难。这起悲剧发生在斯隆·马丁利和她9岁的哥哥马多克斯在佛罗里达州劳德代尔海滩玩耍时。兄妹俩决定挖一个沙坑,然而不幸的是,坑突然坍塌,斯隆被完全埋住,而马多克斯则部分被埋。父母和路人们拼命尝试将他们救出,有些人甚至用木板

    2024年12月13日
    109

发表回复

本站作者后才能评论

评论列表(4条)

  • svs
    svs 2024年11月11日

    我是的签约作者“svs”!

  • svs
    svs 2024年11月11日

    希望本篇文章《人工智能模型近亲繁殖引发警示》能对你有所帮助!

  • svs
    svs 2024年11月11日

    本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • svs
    svs 2024年11月11日

    本文概览:   新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)...

    联系我们

    邮件:@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们