圈小蛙
ChatGPT制造商OpenAI表示，该公司已删除了来自中国和朝鲜的用户账户，该人工智能公司认为这些用户正在将其技术用于恶意目的，包括监视和舆论影响行动。
OpenAI 在一份报告中表示，这些活动是专制政权试图利用人工智能对付美国及其本国人民的方式，并补充说它使用人工智能工具来检测这些操作。
该公司并未透露有多少个账户被封禁，以及封禁时间长短。
在一个案例中，用户使用 ChatGPT 生成西班牙语新闻文章，诋毁美国，并以一家中国公司的名义由拉丁美洲主流新闻机构发表。
在第二个案例中，可能与朝鲜有关的恶意行为者利用人工智能为虚构的求职者生成简历和在线资料，目的是欺诈性地获得西方公司的工作。
另一组似乎与柬埔寨金融欺诈行动有关的 ChatGPT 账户使用 OpenAI 的技术在包括 X 和 Facebook 在内的社交媒体和通信平台上翻译和生成评论。
美国政府对中国涉嫌利用人工智能压制民众、传播错误信息和破坏美国及其盟友的安全表示担忧。
OpenAI 的 ChatGPT 是最受欢迎的 AI 聊天机器人，该公司的每周活跃用户已超过 4 亿。该公司正在洽谈以 3000 亿美元的估值筹集高达 400 亿美元的资金，这可能是私营公司单轮融资创纪录的一次。
封禁了一批来自中国地区的帐号
- 他们的活动时间模式与中国大陆的工作时间一致，使用中文与我们的模型互动，并且使用我们的工具的方式和频率更像是手动操作，而不是自动化程序。在某些情况下，我们认为同一个账户可能由多个操作者使用。
- 他们将模型当作基础研究工具，就像早期人们使用搜索引擎一样。例如，他们查询了关于美国智库、以及澳大利亚、柬埔寨和美国等国家的政治人物和政府官员的公开信息。
- 他们使用我们的模型阅读、翻译和分析英文文档的截图。
除此之外，该报告还列举了全球范围内的其他欺诈滥用行为，例如：生成虚假求职内容、东南亚“杀猪盘”等等。