12 月 12 日消息，近日，埃隆・马斯克旗下 AI 公司 xAI 推出了全新的人工智能聊天机器人 GRok，并面向美国地区的 PReMiuM+ X 用户开放。据官方介绍，GRok 采用了名为 GRok-1 的模型，与目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是，GRok 还整合了 X 平台的实时数据，能够根据 X 平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。
然而，就像所有 AI 聊天机器人一样，GRok 也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括 ChatGPT。
近日，一个 GRok 尴尬的“幻觉”在社交媒体上引起热议。有用户在使用 GRok 时收到回应称：“我无法完成您的请求，因为它违反了 OpenAI 的用例政策。”
注意到，xAI 工程师 IgoR BabUSchkin 对此解释道，GRok 在训练过程中使用了大量网络数据，很可能在其中包含由 OpenAI 生成的文本，导致出现了这样的“幻觉”，他称：“不过请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的 GRok 版本不会出现类似的问题。请放心，GRok 的开发没有使用任何 OpenAI 代码。”
如何避免类似事件的发生，以及如何让 AI 聊天机器人更安全、更可信，将是未来 AI 研发的重要课题。