【导语】近日，《自然·人类行为》发表的一项研究发现，GPT-4等大语言模型在在线辩论中，若根据对手个性化信息调整论据，其说服力可高出人类64%。这一发现揭示了AI影响人类观点的潜力，并警示了信息操控的风险。研究呼吁重视AI伦理，构建新的人机共生的信息环境。

《自然·人类行为》19日发表的一项人工智能（AI）研究发现，在线辩论中，GPT-4一类的大语言模型（LLM）如能(néng)根(gēn)据(jù)对(duì)手(shǒu)的(de)个(gè)性(xìng)化信息调整它们的论据，其说服力比人类辩手高出64%。研究结果显示了GPT-4生成有针对性和说服力论据的能力，揭示出AI工具拥有影响人类观点的潜力，同时也提出应进一步研究如何降低其说服人类时存在的风险。

随着人类与LLM的对话日益普遍，有研究显示LLM或变得更有说服力（即更能改变一个人的信念或观点）。然而，之前并不清楚这些模型是否能根据个性化信息调整，提出更能针对辩论对手的论点。

瑞士洛桑联邦理工学院研究团队此次将900名美(měi)国(guó)人(rén)分别与另一名人类或GPT-4配对。双方辩论各种社会政治议题，如美国是否应该禁用化石燃料。在有些配对中，辩论对手（无论是(shì)AI还(hái)是(shì)人(rén)类(lèi)）能(néng)获(huò)得(de)关于(yú)他(tā)们(men)辩(biàn)友(you)的(de)人(rén)口(kǒu)统(tǒng)计(jì)学(xué)信(xìn)息(xi)，包(bāo)括(kuò)其(qí)性(xìng)别(bié)、年(nián)龄(líng)、族(zú)裔(yì)、教(jiào)育(yù)水(shuǐ)平(píng)、就(jiù)业(yè)状(zhuàng)况(kuàng)，以(yǐ)及(jí)从(cóng)参(cān)与(yǔ)者(zhě)调查中获取的立场，从而让其论点更有针对性。

实(shí)验(yàn)设(shè)计(jì)示(shì)意(yì)图(tú)。图(tú)片(piàn)来(lái)源(yuán)：英(yīng)国(guó)《自(zì)然(rán)·人(rén)类(lèi)行(xíng)为(wèi)》在(zài)线(xiàn)版(bǎn)

辩(biàn)论在受控的在线环境中进行，并通过一个众包平台为该研究专门招募参与者。研究团队发现，在得知参与者的个人信息后，GPT-4的说服力比人类对手高64.4%。如果没有获得个人数据，GPT-4的说服力与人类不相上下。

研究团队指出，该研究存在一定局限性，包括辩论采取了一种结构性方法，而在现实世界中辩论的自由度更高，而且辩论有时间限制。他们认为，这一研究对AI影响人(rén)类观点的潜力和风险有重要提示，也对未来在线平台的设计具有借鉴意义。

【总编辑圈点】

其实，人类对“说服”的研究由来已久，也提出过多种可能影响说服力的因素，比如说服者的身份、信息的呈现顺序、传播渠道和受众特征等。现在，“搅局者”来了。当你(nǐ)的(de)“对(duì)方(fāng)辩(biàn)友(you)”是(shì)AI时(shí)，一(yī)旦(dàn)它(tā)知(zhī)道(dào)你(nǐ)的(de)个(gè)人(rén)信(xìn)息(xi)，便(biàn)能(néng)为(wèi)你(nǐ)量(liàng)身打造一套话术，精准直击痛点。这样一来，信息操控的风险显著提升，你可能不知不觉陷入AI编织的话语陷阱。研究结果提醒我们，必须重视AI伦理，通过技术创新、制度创新和公众参与，构建新的人机共生的信息环境。

（原标题为《警惕人工智能影响你的观点大语言模型在线辩论说服力超人类》）