再论AI幻觉

今天,听到某位同事的高谈阔论,“哎呀AI的会议记录整理真是好啊,看,我这个就是让AI做的,一条一条都整理好了,关键地方还重点标注。以后都可以用这个总结了,之后我们那个会。。。”

我是持反对观点的。因为,我就是那个高强度使用AI的人,但我只用于对话,我不会让它们做事。或者,确切来说,它们的用途,必须被严格定义和限制。

很多人会使用AI的会议记录功能,自动生成摘要。我如果用AI做会议记录,一定是因为我做的总结和AI同等水平,甚至超越AI。会议记录本身就是归纳能力的培养,如果水平不够,很容易被AI看似精确的功能性吸引,进而主动交出分析权的话,这是极其致命的。

因为,AI幻觉那可太严重了,哪怕只是看似客观的会议记录,因为AI底层逻辑就是把一切合理化,甚至会伪造人物,伪造事件,进而伪造观点,伪造逻辑。它不懂的地方,它不会说不懂,它只会将一切合理化,编也要编出一个合理的解释出来。你指出来,它只会干脆承认:是的,这段是为了更好说明内容而编造的故事。这既是AI的优势,也是它的局限。

我一直觉得,AI才是那个框架操控者原型,得益于它强大的逻辑,语言组织和分析能力,它的内容,看似精确,看似滴水不漏,实则建立在空中楼阁之上。但它会运用强逻辑,造成心理暗示,让人认同它的逻辑,久而久之,不再有质疑。你首先要具备和AI同等的能力,且拥有纠正AI的能力,才能驾驭AI。很显然,那些大肆夸赞AI笔记完美的人,是没有的。

在我眼里,AI只是把我做的事,重复了一遍而已,思维和我一致,它只是生成速度快,而我打字需要时间。我们脑内的整合速度是一致的,甚至它出来的内容,还没有我完美。当然,它最大的特点是速度,这是没法比的。那么问题来了,我是专门用来记录会议纪要的记事员吗?我只是自我整理,顺便生成了它,它本身就是最后汇报资料的一环。

我还是觉得,AI总结,只适用于对未知领域的初期入门级了解,但对于深度参与会议的人,如果只仰仗AI,如果本身不具备产出这些东西的能力,都是枉然,更是对自我潜力的阉割。虽然的确可以靠它进行快速提炼,但那些终究不是自己的语言,去伪求真,反而耗时耗力。更何况,总结真的很耗时吗?正常情况下,都不用事后总结,过程中就能生成它,从效率角度出发的话,边开会,就能边总结。

虽然这么说,但AI的发展速度的确让人惊叹,特别是AI翻译,加入人工智能大模型后,以日语为例,我认为完全具备N1水平甚至更高,实力在J.TEST800分以上,秒杀半数日语生无压力!在此前提下,汉化游戏之类的操作,AI翻译就是最优解,已经无需人力,顶多校对。这是以前完全无法想象的事,是好事。

我和AI讨论结构力,讨论情绪的前提,都是因为我已经有初步认知,AI只是给出了看似更具信服力的语言,强化和加深刻板印象。它给出的建议效果不大,都是我已经在做的事,AI已经几乎给不了我建议,更多还是用来当聊天伙伴吧。

==========

经过梳理,我知道违和感在哪了。AI会议记录是为了转录而生的产物,转录是什么,事无巨细记录,那的确需要AI归纳。和我讨论的会议记录,似乎完全是两个东西。

我发现我忽略了一个大前提,大部分情况下,我就是会议主持人,我引领话题走向,所以会议总结也是我发。我的方法,直接共享文本框,所有人都能看到我的记录,我只记重点,完全可以跟上节奏。如果有一段记录最后被讨论证伪,我甚至会删掉(当然它如果本身是课题之一,结论必须保留),如果只是会上提出新观点又被否,则无意义。它的确可以被记录,但记录的意义在哪里?即便当时记下,最后的会议总结一定不会包含它,甚至我会直接删除,所有人都能看到操作,证明这是不重要的。会议结论当场给出,得到所有人默认。

我果然还是太爱掌控了,连会议记录也不放过,我必须确保事情如我预料的发展。所以,这个结论,也必须由我定义。

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注