微软开源1.58bit大模型推理框架 千亿参数模型量化后单CPU可跑

微软开源1bit大模型推理框架，现在1000亿参数大模型量化后单CPU可跑，速度可达每秒5-7个token。

传统大模型参数以16位浮点数（如FP16或BF16）形式的存储，而BitNet b1.58将其统统变成了三进制，也就是 {-1, 0, 1}。转换之后，矩阵中的计算就只会涉及到加法，因此会让大模型在保持一定精度的同时，显著减少所需的存储空间和计算资源，也显著提升了在本地设备上运行LLM的可能性。

量子位｜Github

📮 热点投稿 @ZaiHuabot
京东淘宝无门槛红包 m.fanli.me

via 科技圈🎗在花频道📮 - Telegram Channel

高通与腾讯合作，推动腾讯混元大模型端侧部署

骁龙峰会期间，高通技术公司宣布与腾讯混元合作，基于骁龙8至尊版移动平台，共同推动了腾讯混元大模型7B和3B版本的终端侧部署，展示了此合作实现出色的运行表现。这将有助于腾讯混元大模型为广泛的业务场景提供技术支持，通过利用终端侧AI加速产品创新，有效降低运营成本，并进一步扩展生成式AI在终端侧的应用和普及。

动点科技

📮 热点投稿 @ZaiHuabot
京东淘宝无门槛红包 m.fanli.me

via 科技圈🎗在花频道📮 - Telegram Channel

台积电 2nm 节点需求在推出前就已高于 3nm

台积电的季度营收报告已经出炉，该公司现在的状况比以往任何时候都好。台积电在 2024 年第三季度实现了巨额利润，超过了去年的纪录，该公司董事长表示，这一势头将在未来五年内持续下去。台积电确认 AI 需求是真实存在的，预计未来五年该代工厂将大幅增长。目前该公司的 5nm 工艺节点贡献了最多的收入，占总收入的近 32%。接下来是 3nm，占比 20%，其次是 7nm，占比为 17%，然后是其他。

目前，该公司看到客户对 2nm 节点的兴趣高于 3nm，预计 2nm 出货量在开始出货时将超过这两个节点，产能利用率也将高于 3nm。台积电位于宝山和高雄的 2nm 工艺晶圆厂预计分别达到 30,000 和 35,000 片晶圆的产量，但到 2027 年将超过 100,000 片晶圆，。

—— wccftech

via 风向旗参考快讯 - Telegram Channel

Omne：通过多智能体合作 解决AI长期记忆能力并提高AI推理能力

via XiaoHu.AI学院 (author: 小互)

Telegraph

Omne：通过多智能体合作 解决AI长期记忆能力并提高AI推理能力

长期记忆（LTM）是AI自进化的核心，它允许模型通过与环境的持续交互，累积并存储经验数据。这些数据可以在未来的任务中被模型使用，从而增强模型在新环境中的应对能力。 盛大AI团队与普林斯顿大学联合提出了一套系统化的数据采集框架Omne多代理框架，用于构建LTM。该框架能够从模型与外界的交互中收集多样化、个性化的数据，包括数字痕迹、行为数据、生物特征等。这些数据在经过处理和整理后，能够有效存储在LTM中。 Omne旨在通过多个智能体之间的协作、信息共享和长期记忆（LTM）的应用，促进 AI 系统的自我进化和个性化优化。…

微软发布了10个全新的自主AI代理 可以处理客户查询的“人工智能员工”

via XiaoHu.AI学院 (author: 小互)

Telegraph

微软发布了10个全新的自主AI代理 可以处理客户查询的“人工智能员工”

微软正在推出一种新的自主人工智能代理，也称为“虚拟员工”，这些AI代理能够执行多种业务任务，如处理客户查询、识别销售线索等。这一举措是科技行业向投资者展示AI技术能够带来不可或缺产品的一部分。通过这些AI工具，企业能够在多个领域中提升效率，减少人工干预，提升生产力。 除了提供现成的AI代理，微软还允许客户通过Copilot Studio创建自己的虚拟员工。这是一个无需编码的工具，用户可以通过低代码或无代码的方式，构建满足自己业务需求的代理。微软推出的10个预置AI代理可以承担的任务包括供应链管理、客户服务等。…

新闻集团起诉 Perplexity 非法窃取内容

两家媒体公司起诉 Perplexity AI 未经许可使用其内容。根据诉讼，道琼斯公司和纽约邮报控股公司分别拥有《华尔街日报》和《纽约邮报》等多家媒体，两家公司于10月21日在纽约对 Perplexity AI 提起联合诉讼。这两家公司均由默多克家族以新闻集团的名义所有，指控 Perplexity 大量非法复制出版商的版权作品，并从版权持有者手中夺走客户和关键收入。诉讼称，新闻集团旗下媒体的记者们辛勤工作。但 Perplexity 正在开发替代产品，窃取他们的辛勤劳动成果，有时甚至逐字逐句地从原始来源复制。当这些知名新闻机构与事实错误的信息联系在一起时，人工智能的幻觉会玷污媒体的声誉。

—— PCMag

via 风向旗参考快讯 - Telegram Channel

马斯克的 AI 初创公司 xAI 推出了 API

在八月份，埃隆·马斯克的 xAI 公司承诺将通过 API 提供 Grok 人工智能模型。现在该 API 已经推出，尽管目前还比较基础。xAI API 只有一个模型：“grok-beta”，价格为每百万输入 token 5 美元或每百万输出 token 15 美元。xAI API 支持函数调用，可将 Grok 模型连接到数据库和搜索引擎等外部工具。马斯克去年成立了 xAI。不久之后，该公司向 X Premium+ 用户发布了其首个 Grok 模型，这些用户每月需支付 16 美元。马斯克经常声称与竞争对手相比，X 的数据让 xAI 占据了绝对优势。本月，X 更改了隐私政策，允许包括 xAI 在内的第三方在 X 帖子上训练模型。

—— Techcrunch

via 风向旗参考快讯 - Telegram Channel

美国政府将很快限制对华人工智能投资

据一份政府公告显示，美国政府禁止对中国在人工智能领域进行某些投资的规定目前正在接受最终审查，意味着这些限制措施很快会出台。这些规定还要求美国投资者向财政部通报对人工智能和其他敏感技术的一些投资。这源自总统乔·拜登2023年8月签署的行政命令，重点是防止美国投资者的技术专长帮助中国军队。最终的规定将限制美国对中国在人工智能、半导体、微电子和量子计算领域的投资。目前这些规定正在美国管理和预算办公室审查。这意味着相关规定很有可能会在一周左右的时间内发布。

—— 路透社

via 风向旗参考快讯 - Telegram Channel

Google 取消了搜索结果中的额外搜索框

看到 The New York Times 链接下方的小搜索框了吗？ 这就是 Google 要拿走的东西。

您可以使用该功能作为快捷方式，在 The New York Times （或任何其他拥有该功能的网站）上搜索内容。 在 11 月的最后期限之后，Google 将不再在所有语言和国家/地区显示该方框。

如果不是看到Google的这则公告，用户可能根本不会注意到它的消失，很少有人会用到这个搜索框。 总体而言，这只是 Google 搜索引擎向人工智能倾斜和负责搜索的团队调整的众多变化中一个较小的调整。

🗒 标签: #Google
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot

via Yummy 😋 - Telegram Channel

张艺谋：打算拍一部《三体》电影，目前处在剧本打磨阶段，已率先成立 AI 小组

张艺谋表示，目前已精选 10 多个“90 后”精英，率先成立 AI 小组，借助 AI学习上千部科幻电影和游戏，来设计和呈现外星飞船。

张艺谋透露目前《三体》电影还在打磨剧本，拍摄时间还不具体，计划用 4 到 5 年时间完成电影《三体》的摄制，并已经和刘慈欣约定，随时去当面请教。

网易新闻

📮 热点投稿 @ZaiHuabot
京东淘宝无门槛红包 m.fanli.me

via 科技圈🎗在花频道📮 - Telegram Channel

科技记者古尔曼：苹果内部员工认为其AI落后行业巨头超两年

据报道，知名科技记者马克・古尔曼最新发文称，一些苹果员工认为该公司在人工智能发展方面大约落后两年。古尔曼表示，苹果的内部研究表明，ChatGPT的准确性比苹果语音助手Siri高出约25%，并且可以回答更多问题。他还表示：“一些苹果员工认为，到目前为止，公司生成式人工智能技术至少比行业领导者落后两年以上。”

36kr

📮 热点投稿 @ZaiHuabot
京东淘宝无门槛红包 m.fanli.me

via 科技圈🎗在花频道📮 - Telegram Channel

微软CEO Satya Nadella ：计算能力现在每 6 个月翻一番 微软正在使用 AI 构建 AI

微软CEO Satya Nadella 伦敦巡讲

Satya Nadella 和 Jared Spataro 分享了有关 Copilot 和代理的新消息，展示了代理如何作为人工智能驱动的世界的新应用程序。 在本次主题演讲中，微软宣布了新的代理功能。

Support authors and subscribe to content

This is premium stuff. Subscribe to read the entire article.
Login if you have purchased

加入会员
加入会员查看更多会员内容和教程。
超过1000+的会员内容，每天更新。
开通会员

via XiaoHu.AI学院 (author: 小互)

👉 名称：blinkshot
🤖 类型：🕸网站
👏 介绍：基于 Flux 通过 Together.ai 提供的图像模型和推理能力实现的一个开源的实时 AI 图像生成器
体验后，效果一般，这是模型原因并不是项目本身原因，因为 100% 开源～

via 老胡周刊资源分享频道 - Telegram Channel

Intermittent errors on docs.anthropic.com

Oct 21, 12:20 PDT
Investigating - We are currently investigating an issue causing slow load times and intermittent errors when viewing the Anthropic documentation site, docs.anthropic.com.

via Anthropic Status - Incident History

苹果认为其人工智能技术落后竞争对手两年

据彭博社的马克·古尔曼称，部分苹果员工认为，该公司为 Apple Intelligence 提供支持的内部生成式人工智能技术比行业领先者落后两年多。苹果公司的内部研究表明，其即将推出的人工智能功能缺乏 Google、OpenAI 和 Meta 等公司目前提供的竞争技术的“令人惊叹因素”。研究表明 OpenAI 的 ChatGPT 在回答问题时比 Siri 准确率高出 25%，且能回答 30% 更多的问题。尽管遭遇挫折，古尔曼指出，苹果处于独特的地位，掌控着一个由紧密集成的设备组成的庞大生态系统，这使其能够在其产品线上快速部署新技术。

—— MacRumors

via 风向旗参考快讯 - Telegram Channel

Project Turntable：将2D矢量图像 像3D对象一样进行旋转 并自动补充缺失部分

via XiaoHu.AI学院 (author: 小互)

Telegraph

Project Turntable：将2D矢量图像 像3D对象一样进行旋转 并自动补充缺失部分

在Adobe MAX 2024大会上，Adobe推出了一项创新AI工具Project Turntable，该工具可以让用户将2D矢量图像像3D对象一样进行旋转，而无需重新绘制。 这一工具的推出极大地简化了2D图像编辑的工作流程，为设计师们提供了前所未有的操作便捷性。 2D到3D的视觉转变：传统上，旋转2D插图需要重新绘制图像的不同视角，而这是一个费时费力的过程。Project Turntable则通过使用AI模型来实现这一操作，允许用户旋转2D矢量图像，并在旋转过程中即时生成所需的隐藏部分，使图像看起来具有3D效果。…

Elevated sonnet 3.5 error rate

Oct 21, 06:57 PDT
Investigating - We are currently investigating this issue.

via Anthropic Status - Incident History

Login failures for OpenAI services

Oct 21, 06:01 PDT
Monitoring - Starting from 05:35AM PDT, users may have had difficulty logging in to OpenAI services. Login errors have returned to normal levels but we're continuing to monitor.

via OpenAI Status - Incident History

中国人工智能企业创造性压低模型成本

针对美国芯片限制和预算比不上西方同行的现实，中国人工智能企业正在压低成本以创建具有竞争力的模型。比如在训练AI模型时专注于较小的数据集，并且聘请低薪但熟练的计算机工程师。零一万物、深度求索、稀宇科技和阶跃星辰等中国AI集团都采用了所谓的“混合专家模型”方法。这是最初由美国研究人员推广的一种策略。李开复说，零一万物的数据收集方法超越了传统的互联网抓取方法，而是包括扫描书籍和抓取在公开网页上无法访问的微信上的文章。他表示，工程师们要给数据贴标签和排名，“需要做大量单调乏味的苦差事”，但补充说，中国拥有大量廉价的工程人才，比美国更适合做这件事。

—— 英国金融时报

via 风向旗参考快讯 - Telegram Channel

Some customers cannot reach support services. We expect the situation to be remedied shortly. There is no impact to ChatGPT or the API.

Oct 21, 03:28 PDT
Identified - The issue has been identified and a fix is being implemented.

via OpenAI Status - Incident History