🤖 C代码驱动！Llama 2模型在Xbox 360上成功运行

开发者Andrei David成功将开源项目llama2.c移植到微软2005年的Xbox 360游戏机上，该项目旨在用纯C代码运行轻量级Llama 2模型。尽管Xbox 360的PowerPC CPU是big-endian架构，且内存有限，仅有512MB，David通过大量的endianness转换、代码调整和优化，成功运行了60MB的llama2模型。该模型仅用700行C代码，无外部依赖，在Xbox 360上对简单提示“瞌睡乔说”做出了回应。这一实验展示了人工智能工具在老旧硬件上的可行性，并引发了在Xbox 360上运行其他小型LLM（如smolLM）的进一步探索。

(IT业界资讯)

via 茶馆 - Telegram Channel