麻省理工学院研究发现AI并无稳定价值观

几个月前，一项研究暗示随着人工智能越来越复杂，其会发展出 “价值体系”，例如优先考虑自身福祉而非人类福祉。但麻省理工学院最近发表的一篇论文却给这种夸张的观点泼了冷水，得出结论是人工智能实际上并没有任何连贯的价值观。麻省理工学院这项研究的合著者表示，他们的研究结果表明，使人工智能系统 “对齐” 可能比通常认为的更具挑战性。他们强调，我们如今所知的人工智能会产生 “幻觉” 并进行模仿，这使得其在许多方面难以预测。他们说，没有任何一个模型在其偏好上是一致的。根据提示的措辞和框架不同，它们会表现出截然不同的观点。

—— TechCrunch

via 风向旗参考快讯 - Telegram Channel