[WSJ] #人工智能 OpenAI称最近大量ChatGPT被滥用事件很可能来自中国

OpenAI称最近大量ChatGPT被滥用事件很可能来自中国

OpenAI于周四发布了其最新的关于打击人工智能恶意用途的报告。Photo: florence lo/Reuters

作者：Mauro Orru

翻译: ChatGPT 4.1

阅读时间：3分钟

OpenAI表示，已阻止了来自中国的用户试图利用其AI模型进行网络威胁和隐蔽影响行动。

OpenAI封禁了一些用于生成社交媒体帖文、服务于隐蔽影响行动（可能与中国宣传有关）的ChatGPT账户。

OpenAI称致力于防止威权政权利用其模型从事恶意网络活动和影响行动。

OpenAI表示，他们已阻止了多起来自中国用户试图利用其人工智能模型进行网络威胁和隐蔽影响行动的行为，这凸显了随着AI技术不断强大，人工智能带来的安全挑战。

这家由微软支持的公司周四发布了最新的有关打击恶意AI用途的报告，称其调查团队自2月21日以来，在过去三个月持续发现并阻止了此类活动。

OpenAI表示，尽管在多个国家都发现了滥用行为，但他们认为，“相当大比例”的违规行为来自中国。该公司指出，其最新报告中的10个样本案例中有4个很可能源自中国。中国驻华盛顿大使馆没有回应置评请求。

在其中一起案例中，该公司称，已封禁了一些ChatGPT账户，这些账户被指利用OpenAI的模型为隐蔽影响行动生成社交媒体帖子。公司表示，有用户在提示词中自称为中国宣传部门工作，不过OpenAI也提醒说，没有独立证据来核实这一说法。

OpenAI的政策禁止利用其流行的AI聊天机器人及模型协助进行诈骗、网络攻击等行为。该公司会定期暂停其认定违反规定的ChatGPT账户。

2022年末ChatGPT向公众发布后，引发了企业对这一正在改变人们研究、学习和工作的技术的投资热潮。不过，其日益增强的能力也引发了人们对其可能被用于诈骗、影响行动及其他非法活动的担忧。

OpenAI在今年3月致美国白宫科技政策办公室的信中表示，人工智能需要常识性的规则来保护用户，公司致力于防止威权政权利用其模型积累权力、威胁或胁迫其他国家，以及开展隐蔽影响行动或恶意网络活动。

新闻集团（News Corp）为道琼斯通讯社（Dow Jones Newswires）和《华尔街日报》（The Wall Street Journal）的母公司，与OpenAI有内容授权合作关系。

如需联系作者：mauro.orru@wsj.com







2025-06-05T16:01:36+0000

--
Mobot

If you have any comments on this article, feel free to reply to this post. However, for feedback on the bot, please post in the cn.fan group.