误解二：人工智能不会说谎，也不会犯错。
人们普遍误以为，由于人工智能是由数据和算法（而不是人类的情感或偏见）驱动的，所以它不会出错并且始终提供真实的信息。
现在，这将人工智能描绘成一个绝对可靠的事实来源，从而导致了对其可靠性的潜在有害误解。
现实
但实际上，人工智能系统的优劣完全取决于训练它们的数据和指导它们的算法。
全球人工智能委员会的 Nadja Atwal说：“当它做出错误的反应时，这取决于人工智能如何处理信息，包括它收到的命令，也取决于它接受过训练的数据。”
它们会误解上下文，产生错误的信息，甚至给出误导性的答案——这种现象 中国电话号码数据 被称为人工智能幻觉。有趣的是，研究还证明人工智能可能会故意撒谎。
在一项研究战略欺骗的模拟中，阿波罗研究发现 GPT-4 的一个版本会进行内幕交易，然后撒谎掩盖真相。研究还发现，在故意训练人工智能不诚实的情况下，模型不可能被修复或重新训练。
许多人会交替使用这些术语，以为它们都指同一件事。每当提到人工智能时，人们很容易自动假设它指的是从经验中学习和改进的技术。但情况并非总是如此。