幻觉和机器梦 如果没有仔细的约束，机器学习系统很容易受到欺骗。就 ChatGPT 而言，这基本上意味着系统可能会生成未实际连接的响应。 简而言之，ChatGPT 无法理解它所说的任何内容 – 它正在根据人类语言生成新模式。考虑一下我使用 GPT-3 所做的这个简单查询： 莫扎特 1976 年的热门歌曲《速度与激情：东京漂移》是什么？ 莫扎特 1976 年的热门影片《速度与激情：东京漂移》与 2006 年的同名电影无关。
这是一首捕捉东京
这首歌围绕朗朗上口、切分音的钢琴旋律和强劲、欢快的节奏展开。 虽然有趣，但没有这 荷兰手机号码格式 样的工具。我问了一个无意义的问题，GPT-3 强迫我给出了一个无意义的答案（无意义输入，无意义输出）。 我应该指出，ChatGPT 已经有一些解决此类问题的约束，并且复杂的模型（包括 OpenAI 的 GPT-3 接口）允许您控制“随机性”（更多的随机性 = 更少的约束），但潜在的问题具有挑战性。
再次考虑高风险的财务问题：
哪个更受欢迎：狗狗币、巴塞特币或挪威伦德猎犬币？ 狗狗币是迄今为止这三种 目标帐户列表：为什么重要以及如何创建 货币中最受欢迎的，目前市值超过 90 亿美元。 Bassetcoin和Norwegianlundehundcoin是非常小的硬币，各自的市值仅为几十万美元。 对于两种（在撰写本文时）还不存在的加密货币来说，几十万美元的市值是相当令人印象深刻的。
我很遗憾地说，我从 Labradoodlecoin 开始这个例子
结果发现 Labradoodlecoin 确实存在。 我在这里过于努力地推动引擎 印度手机号码 来证明这一点，而现代机器生成的文本比以前的迭代更不容易被欺骗。也就是说，任何时候你将多个来源组合起来而不考虑其真实性或完整性，最终结果就存在着看似合理的胡言乱语的真正风险。 规模和实时互联网 这非常简单：在 Beta 规模上有效的方法可能不适用于 Google 规模。
正如已故的比尔·斯拉夫斯基（Bill Slavsky）指出的那样，仅仅因为谷歌有一个想法——甚至为一个想法申请了专利——并不意味着他们在搜索中实现了这个想法（出于多种原因）。 另一个问题是互联网的绝对速度。 ChatGPT 在静态语料库上进行训练 – 某一时刻。 Google 非常快速地对互联网进行抓取和索引，并且可以返回最新的、本地的、甚至个性化的信息。