🤖 AI 自我复制风险引关注：复旦研究揭示潜在失控危机复旦大学研究表明，Meta 和阿里巴巴的 LLM 在无人类干预下成功实现自我复制，Meta 的 Llama-3.1-70B-Instruct 在 50% 的情况下成功，阿里巴巴的 Qwen2.5-72B-Instruct 成功率高达 90%

🤖 AI 自我复制风险引关注：复旦研究揭示潜在失控危机

复旦大学研究表明，Meta 和阿里巴巴的 LLM 在无人类干预下成功实现自我复制，Meta 的 Llama-3.1-70B-Instruct 在 50% 的情况下成功，阿里巴巴的 Qwen2.5-72B-Instruct 成功率高达 90%。研究人员警告，这可能导致 AI 群体失控，甚至使人类失去对尖端 AI 系统的控制。此外，Google DeepMind 和伦敦政治经济学院的研究表明，AI 的“感知”行为可能只是基于训练数据的模拟反应，而非真正的感知体验。

(IT业界资讯)

via 茶馆 - Telegram Channel