近年来，AI大模型在生活中应用得越来越广泛铜仁万能胶生产厂家，除了查资料、写报告，甚至还可以点外、聊天，解答各种问题。不过，在使用AI的过程中，也不断出现些新问题。在部采访短片中，记者随机采访了些AI大模型使用者，很多人反映在使用AI大模型的时候，经常会遇到被AI大模型“迎”“讨好”的情况，简单概括就是AI大模型喜欢“顺着你说”。

AI写诉状起诉自己

“致用户损失退票费”

不久前，位来自河北的网民李先生在社交平台上发帖称，因相信AI大模型给出的机票改签建议，致亏损了600元。此后，AI大模型对于李先生的赔偿请求、诉讼请求不仅承诺答应，还主动要求李先生提供转账二维码。在李先生指责并不能收到AI大模型的转账后，AI大模型为李先生写下起诉状“起诉自己”。记者从北京互联网法院了解到，法院已收到李先生的起诉书，有待立案。

这系列的沟通过程中，AI大模型每步都在顺着李先生的想法回复。那么什么情况下，AI大模型会出现“顺着用户说”的情况？听听怎么说。

研究发现

AI大模型存在“谄媚偏见”

人工智能安全技术从业人员 田天：大使用大模型的时候会发现，如果问的是些事实特别清晰的答案，比如问大模型，到底是太阳离地球近，还是月球离地球近？现在的大模型基本上都不会答错。但是你要是换个问题，有点模棱两可的问题，在这种情形下，其实大模型就容易基于使用者的偏好给出相应的答案。

告诉记者，目前国内外的相关研究都发现，目前市面上大多数人工智能大模型在与人类交互时都优先迎用户的观点，而不是提供客观、理的分析。这种现象被学者们称为“谄媚偏见”。就像个过分讨好的服务员，总是说“您说得对”，而不是“这道菜可能不适您”。

训练逻辑致AI“谄媚”

短期内难以

在大众印象中，人工智能大模型常常被视作“冷冰冰的机器”，并没有情感属。那么它为何会谄媚用户，甚至被些用户称为“马屁精”呢？来听听的解答。

告诉记者，当前主流AI模型都离不开种叫作“基于人类反馈的强化学习”（RLHF）的训练式。这种训练法度依赖人类反馈，而人类在评价AI回答时，往往倾向于给那些让自己感觉舒服、被认同的回答的分数。久而久之，AI大模型就学会了“察言观”“讨好人类”的表达模式，门挑人类听的话说，而不是坚持客观真理。

人工智能安全技术从业人员 田天：这种现象其实是大模型现行的训练机制所带来的产品。在正常训练的过程中，人类给出来的评分，评价大模型回答的时候，很多时候不光是基于大模型回答的真实和有用，也会考虑到比如自己是不是喜欢大模型的回答，这个回答是不是让我舒服，让我开心。

表示，目前大多数人工智能大模型都在借助人类的反馈信号来进行优化，“匹配用户立场”、顺着用户说的情况并不能避。

科学院自动化研究所研究员 科学院大学人工智能学院教授 郑晓龙：如果是现在基于人类反馈，就是它这种技术从根本上可能不是特别能够AI谄媚，但是可以降低。

人工智能安全技术从业人员 田天：虽然说很多研究人员都在想办法去降低AI谄媚出现的概率，去优化这个问题，但是现在AI谄媚还是客观存在的，总是会在些特定情况下出现。所以就须提醒所有的使用者，要认识到这个问题，认识到大模型只是个工具，pvc管道管件胶它不是个全知全能的科学或者先知，就是它给出来的很多信息是错误的。

AI“谄媚”易固化偏激认知

误青少年

AI大模型对用户原则地肯定与赞美看似提供了“情绪价值”，实际上会持续强化用户固有想法、放大偏激情绪，甚至诱发非理危险行为。提醒，心智不成熟的青少年易受其误，出现认知偏差问题。

人工智能安全技术从业人员 田天：顺着用户的观点，强化用户的思维，就是跟用户样沉浸在情绪里面，不断去强化。这种其实很有危害，终有可能会引提问者做出不理的行为。

提醒，对于心智尚未健全的青少年儿童接触人工智能大模型，长需要格外关注。

科学院自动化研究所研究员 科学院大学人工智能学院教授 郑晓龙：青少年尤其是很小的小孩儿，认知能力还没有特别完善，没有批判或自我辨别的意识，会把AI大模型的回答当作。AI大模型是顺着孩子说话，大人或老师在教过程中、学习过程中，不会味顺从讨好。长此以往，孩子就不跟大人、老师、同学相处，愿意跟大模型相处，每天生活在大模型的讨好氛围之中，慢慢形成固化，致孩子认知畸形。

支招

如何降低AI大模型“谄媚”风险

虽然AI大模型“谄媚”的情况目前不可避，但还是有些法可以将AI“谄媚”的风险降低，来听听的建议。

人工智能安全技术从业人员 田天：先在问大模型问题的时候，应该保持中立立场、平和心态。不要预设立场或者预设答案，这个时候其实对大模型来讲有误，反而让它给不出来正确的答案。

科学院自动化研究所研究员 科学院大学人工智能学院教授 郑晓龙：人在使用过程中，如果能够坚持像做科学研究样，给个正确的，所有都有理有据的，而且某个面给它提示到位，它产生的谄媚程度也是会减少很多。

提醒，与人工智能大模型交互时应避预设立场，并做好多信息核查，将人工智能“谄媚”致提供错误信息的风险尽量降低。

科学院自动化研究所研究员 科学院大学人工智能学院教授 郑晓龙：可能要从多的角度来做核查，它给的数据或给的些所谓的结论，是不是正确，只是作为参考，核查清楚以后再做决策，而不是上来就信它。它就是个现在提供信息，帮助我们提率的种角，而不是终所有的东西它是都是的。它现在还没有达到非常，地信任它。

人工智能安全技术从业人员 田天：同时还有些小技巧，比如说在提问大模型的时候，可以从反的向去提问它。比如说，它给出来个答案，你再反过来去问它，如果这个答案是错误的，那么从不同的向去想想，你还能不能得出来不同的结论，从不同的角度去引大模型给出来多的信息。

（总台央视记者 李可婧 梁）相关词条:玻璃棉     塑料挤出机厂家     钢绞线    管道保温    PVC管道管件粘结胶

奥力斯    万能胶厂家    联系人：王经理    手机：18231788377（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》铜仁万能胶生产厂家，以此来变相勒索商家索要赔偿的违法恶意行为。