全球首部AI法案生效“不可接受风险”行为被完全禁止
依据新发布的指导方针，企业若滥用AI技术潜意识操控、欺骗误导、“戴有色眼镜”区别对待个人或群体，都有可能被处以最高3500万欧元，或全球总营业额的7%的罚款。同时，指导方针中也提出了一些可豁免处罚的情况，比如涉罪犯抓捕、医学治疗、军事使用、科研、个人非商用等。欧盟这部《人工智能法案》是全球首部全面监管人工智能的法规，该法案把AI应用的风险分为了4类，包括不可接受风险、高风险、透明风险和最低风险。其首批法规本月2日刚正式生效，这意味着法案中规定的“不可接受风险”行为被完全禁止，诸如上文提到的潜意识操控和歧视性对待。整部法案则将于明年的8月1日正式生效。按照欧盟官网的信息，这期间指导方针会根据实际执行经验与技术进步定期更新。该草案链接：https://ec.europa.eu/newsroom/dae/redirection/document/112367一、误导老人付费订阅，未经许可抓取人脸照片，均涉违法基于《人工智能法案》第5条，欧盟界定的禁止性人工智能行为主要有以下6种情形：1、操控、欺骗与剥削使用闪烁的视觉、听觉信号等潜意识技术，在未被察觉情况下影响行为。例如，在广告中插入人眼无法察觉的“闪屏”图像，形成潜意识操控。通过欺骗性技术误导用户，使其在非自愿或未充分知情情况下做出决策。例如，利用情绪分析技术引发用户购买某产品或服务，对用户实施情感操控。利用心理偏见、脆弱性或社会经济因素进行操控或剥削。例如，针对老年人设计误导性界面，诱导点击，从而剥削弱势群体。同时满足以下所有条件，上述情况便构成禁止性人工智能行为。它们分别是使用潜意识、操控性或欺骗性技术；使个人或群体行为发生实质性扭曲，无法做出知情决策；导致显著伤害，或有合理可能性造成伤害。2、社会评分禁止基于社会行为或个性特征，对个人或群体进行分类评分，特别是当评分涉及了以下两种情况，一是数据来自无关社会情境，二是不公平或不成比例的差别对待。例如，禁止某机构通过监控社交媒体行为评分，影响就业机会；禁止使用评分系统限制贷款发放。同时满足以下所有条件，上述情况便构成禁止性人工智能行为。其包括公共或私人机构的评分系统，例如信用评分、教育评级等；也适用于带有歧视性的应用，如基于性别、种族或经济地位评分。3、刑事风险预测禁止仅基于个人特征，包括性格、行为模式等，来预测犯罪风险的人工智能系统，比如基于种族或文化背景预测犯罪倾向。但如果符合以下情况可以予以豁免，即基于客观和可验证事实的人类评估，包括一些直接关联某犯罪活动的证据，例如通过特定数据分析，支持人工审查犯罪行为。4、面部图像无差别抓取禁止通过互联网或监控视频，大规模、无目标抓取面部图像，以建立或扩展面部识别数据库。例如，从社交媒体抓取公众面部照片，用于训练面部识别算法，经用户明确同意的合法抓取的情况除外。5、情感识别禁止在工作场所或教育环境中使用情感识别技术，例如通过摄像头抓取数据，分析学生在课堂上的注意力或情绪。若仅限于医疗诊断或安全目的使用该技术，则可以予以豁免。例如，涉及精神疾病诊断时，所用到的基于情感识别技术的医疗设备。6、实时远程生物特征识别（RBI）禁止在公共场所实时远程生物特征识别（RBI），用于执法目的。但如果是搜寻特定犯罪受害者，如拐卖儿童；预防迫在眉睫的威胁，如恐怖袭击；追踪特定犯罪嫌疑人等情景，则可以予以豁免。二、科研和国安领域不受法案监管，企业最高至少罚2.6亿元适用范围方面，涉及以下3种情况的人工智能系统不适用《人工智能法案》：1、专用于国家安全或军事目的；2、处于科研阶段的人工智能技术，但后续应用于实际场景或流入市场时，需完全符合法案要求；3、个人非商业用途，例如家庭安全监控。法案监督方面，参与《人工智能法案》的成员国需指定市场监督机构，欧盟数据保护监督员负责监管欧盟机构的人工智能系统。处罚条款方面，最高罚款为3500万欧元，或涉事公司全球总营业额的7%。以数额较高者为准。如果是公共机构，罚款上限则为150万欧元。同一行为若违反多个条款，不得重复处罚。结语：全球首部AI法规落地，前方阻力重重欧盟的《人工智能法案》是全球首部管理维度较为全面的人工智能法律框架，但自去年3月最终批准后，仍受到不少科技大厂和AI领域头部公司的反对。据TechCrunch日前报道，Meta、苹果、法国AI大模型独角兽Mistral AI均未签署该法案。另据英国《金融时报》昨日报道，美国现任总统特朗普本月初警告称，他认为欧盟对美国公司采取的任何行动，都是一种“税收形式”。他在达沃斯世界经济论坛（World Economic Forum in Davos）上讲话时称：“我们对欧盟有着非常大的抱怨。”此外，各人工智能系统设计符合《人工智能法案》的同时，也需要遵守《通用数据保护条例》（GDPR）等数据保护法规、广告法、医疗器械法规、数字服务法（DSA）等实际涉及到的法规。 ...
PC版：https://www.cnbeta.com.tw/articles/soft/1476320.htm
手机版：https://m.cnbeta.com.tw/view/1476320.htm
via cnBeta.COM中文业界资讯站 - Telegram Channel
依据新发布的指导方针，企业若滥用AI技术潜意识操控、欺骗误导、“戴有色眼镜”区别对待个人或群体，都有可能被处以最高3500万欧元，或全球总营业额的7%的罚款。同时，指导方针中也提出了一些可豁免处罚的情况，比如涉罪犯抓捕、医学治疗、军事使用、科研、个人非商用等。欧盟这部《人工智能法案》是全球首部全面监管人工智能的法规，该法案把AI应用的风险分为了4类，包括不可接受风险、高风险、透明风险和最低风险。其首批法规本月2日刚正式生效，这意味着法案中规定的“不可接受风险”行为被完全禁止，诸如上文提到的潜意识操控和歧视性对待。整部法案则将于明年的8月1日正式生效。按照欧盟官网的信息，这期间指导方针会根据实际执行经验与技术进步定期更新。该草案链接：https://ec.europa.eu/newsroom/dae/redirection/document/112367一、误导老人付费订阅，未经许可抓取人脸照片，均涉违法基于《人工智能法案》第5条，欧盟界定的禁止性人工智能行为主要有以下6种情形：1、操控、欺骗与剥削使用闪烁的视觉、听觉信号等潜意识技术，在未被察觉情况下影响行为。例如，在广告中插入人眼无法察觉的“闪屏”图像，形成潜意识操控。通过欺骗性技术误导用户，使其在非自愿或未充分知情情况下做出决策。例如，利用情绪分析技术引发用户购买某产品或服务，对用户实施情感操控。利用心理偏见、脆弱性或社会经济因素进行操控或剥削。例如，针对老年人设计误导性界面，诱导点击，从而剥削弱势群体。同时满足以下所有条件，上述情况便构成禁止性人工智能行为。它们分别是使用潜意识、操控性或欺骗性技术；使个人或群体行为发生实质性扭曲，无法做出知情决策；导致显著伤害，或有合理可能性造成伤害。2、社会评分禁止基于社会行为或个性特征，对个人或群体进行分类评分，特别是当评分涉及了以下两种情况，一是数据来自无关社会情境，二是不公平或不成比例的差别对待。例如，禁止某机构通过监控社交媒体行为评分，影响就业机会；禁止使用评分系统限制贷款发放。同时满足以下所有条件，上述情况便构成禁止性人工智能行为。其包括公共或私人机构的评分系统，例如信用评分、教育评级等；也适用于带有歧视性的应用，如基于性别、种族或经济地位评分。3、刑事风险预测禁止仅基于个人特征，包括性格、行为模式等，来预测犯罪风险的人工智能系统，比如基于种族或文化背景预测犯罪倾向。但如果符合以下情况可以予以豁免，即基于客观和可验证事实的人类评估，包括一些直接关联某犯罪活动的证据，例如通过特定数据分析，支持人工审查犯罪行为。4、面部图像无差别抓取禁止通过互联网或监控视频，大规模、无目标抓取面部图像，以建立或扩展面部识别数据库。例如，从社交媒体抓取公众面部照片，用于训练面部识别算法，经用户明确同意的合法抓取的情况除外。5、情感识别禁止在工作场所或教育环境中使用情感识别技术，例如通过摄像头抓取数据，分析学生在课堂上的注意力或情绪。若仅限于医疗诊断或安全目的使用该技术，则可以予以豁免。例如，涉及精神疾病诊断时，所用到的基于情感识别技术的医疗设备。6、实时远程生物特征识别（RBI）禁止在公共场所实时远程生物特征识别（RBI），用于执法目的。但如果是搜寻特定犯罪受害者，如拐卖儿童；预防迫在眉睫的威胁，如恐怖袭击；追踪特定犯罪嫌疑人等情景，则可以予以豁免。二、科研和国安领域不受法案监管，企业最高至少罚2.6亿元适用范围方面，涉及以下3种情况的人工智能系统不适用《人工智能法案》：1、专用于国家安全或军事目的；2、处于科研阶段的人工智能技术，但后续应用于实际场景或流入市场时，需完全符合法案要求；3、个人非商业用途，例如家庭安全监控。法案监督方面，参与《人工智能法案》的成员国需指定市场监督机构，欧盟数据保护监督员负责监管欧盟机构的人工智能系统。处罚条款方面，最高罚款为3500万欧元，或涉事公司全球总营业额的7%。以数额较高者为准。如果是公共机构，罚款上限则为150万欧元。同一行为若违反多个条款，不得重复处罚。结语：全球首部AI法规落地，前方阻力重重欧盟的《人工智能法案》是全球首部管理维度较为全面的人工智能法律框架，但自去年3月最终批准后，仍受到不少科技大厂和AI领域头部公司的反对。据TechCrunch日前报道，Meta、苹果、法国AI大模型独角兽Mistral AI均未签署该法案。另据英国《金融时报》昨日报道，美国现任总统特朗普本月初警告称，他认为欧盟对美国公司采取的任何行动，都是一种“税收形式”。他在达沃斯世界经济论坛（World Economic Forum in Davos）上讲话时称：“我们对欧盟有着非常大的抱怨。”此外，各人工智能系统设计符合《人工智能法案》的同时，也需要遵守《通用数据保护条例》（GDPR）等数据保护法规、广告法、医疗器械法规、数字服务法（DSA）等实际涉及到的法规。 ...
PC版：https://www.cnbeta.com.tw/articles/soft/1476320.htm
手机版：https://m.cnbeta.com.tw/view/1476320.htm
via cnBeta.COM中文业界资讯站 - Telegram Channel
Figure AI宣布因已取得“重大突破”，将终止与OpenAI合作，专注内部人工智能研发。这离Figure AI宣布双方的合作关系不到一年时间。Figure AI称，终止合作是因OpenAI的关注重点不在嵌入式人工智能。另外，据外界推断，OpenAI或已自研硬件。虽然在X上，Figure AI创始人兼CEO Brett Adcock对具体的细节守口如瓶，但他承诺在未来30天内向外界提供“从未在人形机器人上见过的东西”。
36kr｜X
📮投稿 ☘️频道 🌸聊天
via 科技圈🎗在花频道📮 - Telegram Channel
小互: ↩️ 下载链接：https://apps.apple.com/ca/app/apple-invites/id6472498645
----------------------
Wed Feb 05 2025 20:59:35 GMT+0800 (China Standard Time)
via Twitter @小互
----------------------
Wed Feb 05 2025 20:59:35 GMT+0800 (China Standard Time)
via Twitter @小互
----------------------
Wed Feb 05 2025 20:55:27 GMT+0800 (China Standard Time)
via Twitter @小互
