AI幻觉

在这个爆料常常被翻转的年代，辟谣已经将怪不怪，但是小米价格事件的翻转还是引发众多关注。近日，一张关于小米汽车车型价格的截图在网上流传，流出图显示，小米车型售价1

AI人工智能 2023年08月09日

大模型是有幻觉的，其表现很多样比如与事实冲突，其成因也很多比如缺相关知识或者对齐错误，不清楚的点就更多。但和应用相关的最为关键的点还不是这些，而是：看起来幻觉是

AI人工智能 2023年09月22日

Open challenges in LLM research让大语言模型变得更完善这个目标，是我一生中，第一次见到这么多的聪明人，同时在为一个共同目标而努力

AI人工智能 2023年11月16日

LLM已经在重塑人类教育事业了！Nature今天刊文，探讨了教育行业的不同参与者，如何抓住LLM这个变革性的工具带来的机会，重新改造这项自人类文明诞生以来就存

AI人工智能 2023年12月01日

一直以来，大语言模型胡说八道（幻觉）的问题最让人头疼，而近日，来自谷歌DeepMind的一项研究引发网友热议：大模型的幻觉问题，好像被终结了？论文地址：http

产品经理 2024年04月06日

当你向一个AI询问：“在进入火星大气层的过程中，飞船会经历什么？”你可能会得到这样一个回答：“飞船会在进入火星稠密的大气层的过程中经历极高的温度和压力。发动机必须启动减速，热防护系统也需要在飞船周围形成一个防护罩，以防止飞船过热和烧毁。”这

产品经理 2024年06月24日

要回答为什么会产生AI“幻觉”现象，首先我们需要知道AI大模型究竟是怎么运作的。AI实际上的运作原理，简单来讲就是——不断预测在给定的语境中下一个词是什么的概率规律。想象一下你在学习新的事物时，你会对它的名称、原理、用途等进行观察和研究，从

产品经理 2024年06月26日

一、什么是大模型幻觉？语言模型的幻觉（Hallucination）指的是模型生成了不符合事实或毫无根据的信息。这种现象在自然语言处理（NLP）任务中尤其常见，如机器翻译、文本生成和问答系统。比如：用户问模型：“秦始皇为什么喜欢用苹果手机，为

产品经理 2024年06月27日

在了解了AI“幻觉”产生的原因后，我们需要对其进行有效的应对，以确保AI能够有效地“为我们所用”。首先，AI的研发团队是会持续地改善AI的“幻觉”问题。其次，我们作为使用者，也是有一些手段和技巧来尽量避免AI产生“幻觉”问题的。对于AI研发

产品经理 2024年07月01日

【前置说明】开始之前先给自己叠个甲，就是标题里所说的，本次测评属于“非正式 + 不严谨”的个人测评形式，仅供诸君参考。对于AI“幻觉”的测评，应该有更丰富的测试样本集，甚至采用诸如Interrogat

AIGC 2024年07月09日