来自美国、中国及其他国家的顶尖人工智能科学家组成的联盟正在倡导建立一个国际权威机构，以监督人工智能的发展，因为人们对其潜在危险的担忧日益增加。在2024年9月16日发布的一份声明中，他们警告称，先进的人工智能系统可能很快会超出人类控制，如果被误用或允许自主改进，将带来灾难性风险。
该小组在威尼斯召开的国际人工智能安全对话会议上提议设立国家级人工智能安全机构，负责登记本地系统，并与国际组织协调制定安全标准和预警信号，例如自我复制能力。
签署者包括图灵奖得主Yoshua Bengio和姚期智等知名人物，这表明在技术霸权引发地缘政治紧张局势之际，西方和中国研究人员之间罕见的合作。
最近的举措包括拜登总统颁布行政命令要求公司进行风险报告，以及中国今年早些时候在共产党会议上呼吁建立监管框架。然而，两大超级大国之间对于人工智能治理努力中的意图仍然存在高度不信任。
随着全球竞争加剧，专家强调协作对话对于安全导航快速发展的人工智能领域至关重要。
(NYT > China)
via 老裕泰 - Telegram Channel
