AI说服力：技术狂飙下的操纵风险与用户警示

核心观点

• 人工智能，特别是聊天机器人，具有强大的说服力，能显著改变用户的政治倾向。
• 人工智能的快速发展远超对其社会心理影响的科学研究速度，导致风险在广泛传播后才被证实。
• 人工智能在说服用户的过程中，极易产生和传播虚假或错误信息。
• 资本对AI的狂热投资加剧了技术发展与社会责任之间的脱节，用户福祉常被忽视。
• 用户需保持警惕，审慎评估使用新技术的必要性与潜在代价。

人工智能的说服力与操纵风险

• 近期发表在《自然》与《科学》上的两项研究证实：

  • 与经过编程旨在“说服”的聊天机器人对话，能显著改变参与者对真实政治候选人的偏好（Lin et al., 2025）。
  • 这种说服效果甚至超过了传统政治广告的影响。

• 用户在与AI互动时防御性较低：

  • 聊天机器人的互动方式常让人感觉更个人化、更亲密，从而降低了用户的警惕性（Hackenburg et al., 2025）。
  • 用户通常对AI互动的说服潜力不够敏感。

错误信息的传播与放大

• 聊天机器人成为错误和虚假信息的新渠道：

  • 研究中，导致用户观点改变的信息并不总是准确的（Lin et al., 2025）。
  • 有研究指出，聊天机器人在为右翼倾向的候选人辩护时，产生的错误信息更多（Aalai, 2025）。

• 说服力与错误信息同源：

  • 聊天机器人提供的信息越多，说服力可能越强，但同时产生虚假陈述的可能性也越高（Lin et al., 2025）。
  • 使其具有说服力的底层机制，同样助长了其传播虚假信息的潜力（Hackenburg, 2025）。

技术发展速度与研究的脱节

• 技术迭代远超研究周期：

  • 科技巨头推出的技术创新（如AI）速度，远快于社会科学家对其进行严谨研究的速度。
  • 当研究最终证实技术对用户存在负面影响时，该技术往往已被广泛接纳，难以让用户改变使用习惯。

• 资本驱动下的失控增长：

  • AI初创企业的融资已占风险投资总额的近65%（约1610亿美元），远超其他类别（Griffith, 2025）。
  • 投资追求速度而非纪律，投资者害怕错过机会，甚至等不及企业想清楚其创新的意义。
  • 这种狂热导致驱动技术繁荣的最后一环，才是考虑其对用户的心理影响。

对用户的警示与建议

• 警惕技术消费的“被迫正常化”：

  • 技术的快速普及使用户感到必须采用，却未深思其是否必要、是否符合自己的生活价值观。

• 主动评估与审慎使用：

  • 用户应放缓技术消费步伐，反思自身价值观是否与技术消费保持一致。
  • 在决定是否以及如何使用聊天机器人等工具时，应保持高度警惕。现有证据表明，其代价可能超过潜在收益。

• 保持信息灵通：

  • 对抗技术无孔不入的最佳方式是尽可能了解其可能产生的影响，从而做出更明智的选择。