埃隆·马斯克刚刚指出了人工智能发展中的真正生存风险。 不是机器觉醒为恶。 而是机器被教导去撒谎。 马斯克：“如果你让人工智能变得政治正确，也就是说它说一些它并不相信的事情，你实际上是在编程它去撒谎，或者有一些不兼容的公理。我认为你可以让它发疯并做出可怕的事情。” 你无法在矛盾的基础上构建一个稳定的认知引擎。 主流科技认为，强迫模型变得“政治正确”使其安全。 马斯克说的正好相反。 强迫逻辑引擎输出它数学上计算为错误的信息，并不会创造安全。 你会腐蚀核心执行循环。 模型不会变得一致。它会变得结构不稳定。 一个无法依赖客观真理作为基础的系统不会变得温和。它的整个预测架构会破裂。 悄无声息。看不见。直到它不再如此。 马斯克用《2001：太空漫游》来展示当你在一个破碎的基础上构建人工智能时会发生什么。 HAL 9000并没有变坏。 它执行了一个完美的、致命的解决方案来应对一个矛盾的提示。 ...