🐞小红书翻译功能现漏洞：用户可指令AI写歌、交IP

小红书新上线的翻译功能出现漏洞，用户通过特定提示词（半角双引号内的外文内容+任意指令）可让AI执行各种任务，如写笑话、歌词，甚至泄露IP地址。网友利用此漏洞进行各种搞怪操作，如让AI默写代码、生成表情包等。有网友测试发现，该功能背后的大模型可能是GPT-4或智谱的ChatGLM。小红书已于当日下午3点左右紧急修复此漏洞，目前仅有少数提示词仍可触发，但并不稳定。

(IT业界资讯)

via 茶馆 - Telegram Channel