来自ChatGPT等系统的AI文本可能已经足够先进，以至于OpenAI创建者认为现在是时候在人工智能生成的文本上添加水印，以确保系统的安全。

据报道万博体育登录首页TechCrunchOpenAI的一位客座研究员正在开发一种“在文本输出(人工智能系统)上添加统计水印”的方法。

在一个讲座，计算机科学教授斯科特·阿隆森(Scott Aaronson)表示，每当一个系统，如ChatGPT，生成文本时，该工具将包含一个“不可察觉的秘密信号”，揭示内容的来源。

据Aaronson说，OpenAI已经有了一个水印系统的工作原型，它是由OpenAI的开发者设计的•基什内尔．他说，它似乎运作得相当好。在原型中，几百个标记似乎足以生成一个合理的信号，表明一个句子来自GPT。

限制AI文本

也许你还不知道，人工智能初创公司OpenAI是少数几家成功开发出人工智能文本生成器的公司之一。OpenAI将其文本模型称为GPT，并以编写人工智能所能生成的最先进的文章而闻名。

这个人工智能系统是由一个拥有大约1750亿个参数的大型神经网络组成的，Aaronson说这个神经网络也被称为变压器模型。

读也:埃隆·马斯克称特斯拉竞争对手积极阻止取消订单，Lucid Motors将破产

OpenAI聊天机器人原型使用人工智能(AI)。它因对问题给出彻底的、类似人类的回答而广受欢迎。它可以创建功能代码，并在双方之间生成协议。

更大的新闻是，它可以从根本上改变人们使用搜索引擎的方式，为用户提供浏览链接，解决复杂的问题，并提供深入的响应。

该项目仍处于测试阶段。所以，尽管它的概念很独特，OpenAI承认它的中庸之道可以做得更好，只是有时是准确的。

而且，尽管该系统有大量的应用和突破性的成功，但它提出了明确的伦理问题。ChatGPT，就像之前的许多文本生成系统一样，可能被用来创建高质量的网络钓鱼邮件和破坏性病毒，并欺骗学校系统。

GPT作为一个新近建立的人工智能系统，有时作为问答工具并不可靠。由于这个问题，编程问答网站Stack Overflow禁止ChatGPT回复，直到另行通知。

接下来会发生什么

GPT需要输入和输出，这些输入和输出可以采用“标记”字符串的形式，可以是单词、单词的部分，甚至是标点符号。

GPT基于前一个令牌字符串不断生成下一个令牌的概率分布。在神经网络生成分布之后，OpenAI服务器基于该分布对令牌进行采样。

AI文本水印需要使用加密伪随机函数(其密钥只有OpenAI知道)伪随机选择下一个令牌，而不是随机选择。

Aaronson在演讲中表示，如果OpenAI能够证明水印是有效的，并且对生成文本的质量没有影响，那么它就有可能成为行业标准。

相关文章:纽约艺术家使用从童年日记中获取数据的人工智能与年轻的自己交谈