🤖 当前AI：严肃应用的死胡同？
艾尔克·博伊滕教授认为，当前的人工智能（尤其是大型语言模型如ChatGPT）由于软件工程上的根本性限制，不适合用于严肃应用。他指出，这些系统因其庞大的神经网络结构和高昂的训练成本（数百万美元或千瓦时），表现出不可控和不可信赖的特性。主要问题包括：
- 缺乏组合性：现有AI缺少内部结构，无法进行模块化开发、重用及部分验证，与传统软件工程原则相悖。
- 行为难以预测：节点间复杂互动使得理解和预测AI行为极为困难，即便使用“可解释AI”技术也无济于事。
- 验证挑战：巨大的输入与状态空间阻碍了全面测试，而随机输出则使成功测试结果不可靠。修复过程无法局部化，使回归测试变得不可能。
- 数据责任问题：对数据来源的不关注以及对AI输出缺乏问责机制仍然是重大问题。
博伊滕总结道，目前的AI系统在严肃应用中已走入死胡同，他提倡采用组合方法及结合符号与直觉型AI的混合系统，以提高可靠性和信任度。他建议将这些技术限于错误可控领域，如天气预报等。
(HackerNews)
via 茶馆 - Telegram Channel
艾尔克·博伊滕教授认为，当前的人工智能（尤其是大型语言模型如ChatGPT）由于软件工程上的根本性限制，不适合用于严肃应用。他指出，这些系统因其庞大的神经网络结构和高昂的训练成本（数百万美元或千瓦时），表现出不可控和不可信赖的特性。主要问题包括：
- 缺乏组合性：现有AI缺少内部结构，无法进行模块化开发、重用及部分验证，与传统软件工程原则相悖。
- 行为难以预测：节点间复杂互动使得理解和预测AI行为极为困难，即便使用“可解释AI”技术也无济于事。
- 验证挑战：巨大的输入与状态空间阻碍了全面测试，而随机输出则使成功测试结果不可靠。修复过程无法局部化，使回归测试变得不可能。
- 数据责任问题：对数据来源的不关注以及对AI输出缺乏问责机制仍然是重大问题。
博伊滕总结道，目前的AI系统在严肃应用中已走入死胡同，他提倡采用组合方法及结合符号与直觉型AI的混合系统，以提高可靠性和信任度。他建议将这些技术限于错误可控领域，如天气预报等。
(HackerNews)
via 茶馆 - Telegram Channel
