[NYT] OpenAI称中国使用人工智能打造监控工具

OpenAI称中国使用人工智能打造监控工具

CADE METZ

2025年2月24日

研究人员表示，他们发现了一种中国监控工具，因为开发该工具的人使用了OpenAI技术调试计算机代码。 Kevin Frayer/Getty Images

OpenAI于周五表示，它发现了证据，表明中国一个安全行动建立了由人工智能驱动的监控工具，用于收集西方国家的社交媒体服务上反中帖子的实时报告。

该公司的研究人员表示，他们之所以能发现这个被他们称为“同行评审”的新活动，是因为开发该工具的人使用了OpenAI的技术来调试支撑它的部分计算机代码。

OpenAI的首席调查员本·尼莫说，这是该公司首次发现由人工智能驱动的此类监控工具。

“有时候，威胁行为者使用我们的人工智能模型的方式可以让我们看到他们在互联网其他地方正在做什么，”尼莫说。

人们越来越担心，人工智能可能被用于监视、计算机黑客攻击、造谣活动和其他恶意目的。虽然像尼莫这样的研究人员表示，这项技术肯定会助长这类活动，但他们也指出，人工智能也可以用来帮助识别和阻止这类行为。

OpenAI首席调查员本·尼莫。 Alexander Coggin For The New York Times

尼莫和他的团队认为，中国的监控工具基于Llama，这是Meta开发的一种人工智能技术，该公司将其技术开源，这意味着它与全球的软件开发人员共享自己的工作成果。

在一份关于人工智能用于恶意和欺骗目的的详细报告中，OpenAI还表示，它发现了另一个他们称之为“受资助的不满”的中国活动，该活动利用OpenAI的技术生成批评中国异见人士的英文帖子。OpenAI表示，同一个组织使用其技术将文章翻译成西班牙语，然后在拉丁美洲传播。这些文章批评美国的社会和政治。

另外，该报告称，OpenAI的研究人员发现了一个据信以柬埔寨为基地的活动，该活动利用该公司的技术生成和翻译社交媒体评论，帮助推动一种名为“杀猪盘”的骗局。人工智能生成的评论被用来在互联网上吸引男性，使他们陷入投资骗局。

（《纽约时报》起诉OpenAI和微软侵犯与人工智能系统相关的新闻内容的版权。OpenAI和微软否认了这些指控。）

Cade Metz撰写有关人工智能、无人驾驶汽车、机器人、虚拟现实和其他技术新兴领域的新闻。点击查看更多关于他的信息。

翻译：纽约时报中文网

[0] 与全球的软件开发人员共享自己的工作: https://www.nytimes.com/2023/05/18/technology/ai-meta-open-source.html
[1] 成果: https://www.nytimes.com/2023/05/18/technology/ai-meta-open-source.html
[2] 杀猪盘: https://www.nytimes.com/2025/02/19/magazine/cryptocurrency-scam-kansas-heartland-bank.html
[3] 起诉: https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html


https://cn.nytimes.com/technology/20250224/openai-chinese-surveillance/?utm_source=RSS

Mon, 24 Feb 2025 09:14:19 +0800

--
Mobot

If you have any comments on this article, feel free to reply to this post. However, for feedback on the bot, please post in the cn.fan group.