莫斯软件答疑

问题反馈群

Q:什么是Token

这里涉及到机器学习里的BPE(Byte Pair Encoding)分词算法,AI 在训练过程中会把一句话分成不同的部分。

比如:

用户输入 Token 分割
Hello,World. This is Charming ==Hello====,====World====.====This====is====Ch====arming====.==
你好,我是 Charming。 ==�====�====�====�====�====�====�====�====�====是== ==Ch====arming====。==

可以看到,英文基本是一个单词一个 token;中文比较复杂,一般是一个字1~2个token。

一个有用的经验是,对于普通英文文本,一个 Token 通常对应于 ≈4 个字符的文本。这相当于大约 ¾ 个单词(因此 100 个Token ~= 75 个单词)。

Note: 中文字符属于 unicode 字符。因此一个字符在 BPE 算法里可能会映射到多个标记。因此一个中文字符需要花费更多的 Token。

Q: API Key 模式和 Token 模式的区别

API Key 需要你自己的去 OpenAI 的官网注册账号、充值每月$20(约¥136)且必须要境外信用卡、科学上网、生成 API Key、复制到 App 内,每一步都非常繁琐并且有不小的门槛。而且异常流量还会被 OpenAI 封账号。

Token 方案会省心很多。我们自己对接了 OpenAI 服务,使用了更稳定的线路,并且做到了可以让国内用户可以使用,免去你搭🪜的成本和账号被封的风险,算下来的成本是比自备 API Key 划算很多。因此 Token 模式更推荐。

Q:高级版和 Token 流量包的区别

简单来说,如果使用的是 Token 模式,对话都是要计费的,但每天有4000的免费额度,差不多对话10次,方便轻度用户体验使用。目前所有 chatGPT 方案最后都会走到 OpenAI 那里,所以也没有白嫖的办法。

高级版

高级版只是提供了除 Token 流量之外的更多功能。比如
  • iCloud 同步
  • 导出成文件
  • 执行 JS 代码
  • 语音聊天

等高级功能。如果你是轻度使用玩家,完全不需要用到高级版,直接按需购买 Token 流量包就行。

当然,如果你自备 API Key 了,那么完全不需要购买任务服务,就可以体验更棒的 chatGPT 客户端。免费版包括了以下功能:

免费版

  • 所有基础的聊天功能
  • 支持自定义Host
  • API 全部参数自定义
  • Siri 深度集成
  • 独创的「常用命令」
  • 160+ 内置模板,开箱即用
  • 支持 gtp-4 模型

Q:如何优化Token

聊天框上方有一个是否携带上下文的选项

携带上下文 ☑️ 携带上下文

软件默认选择==携带上下文==。

这样每次对话就会把所有上文塞给 chatGPT,莫斯才能知道你上面说了什么,才能更好的回复。好处是回复会更智能,坏处是 Token 消耗会越来越多。但也不必担心 Token 爆炸,因为 OpenAI 有个输入+输出不能超过 4096 Token 的上限,超过就会报错。

因此 Charming 会在你每次发送之前先帮你提前算一下大概消耗的 Token 值,如果可能超过了会手动帮你裁剪到==最早==的几条。

📎携带==5条==上下文

软件里提供了手动选择几条上文的功能,默认上传==4条==。你可以按需手动调节。也可以一条不带。顺序是从新到旧,比如选择5条,就是最近的5条。

Q:为什么1+1 / 星期几这么简单的问题都会错?

这是大模型语言本质决定的。他和传统的聊天机器人不一样,他是他只是一个语言模型,不是具备逻辑推理能力。它精通文本,但不具备数学计算能力。

ChatGPT 模型只学习了文本之间的关联性,并没有什么逻辑性。体现出来的逻辑性都是通过关联性来模拟的。所有的机器学习 AI,都是基于统计学原理,统计学就会有概率,对于唯一确定的领域就会有问题,尤其是越简单的问题越会出错。

比如他可以理解文本上今天和明天是相差了一天、上午和下午是相差了半天、上周和下周是相差了一周……但他没有绝对时间概念。因此如果你输入:

- Q:今天是2023年3月30号星期三,下周是什么日子

- A: 下周是2023年4月6日星期三

他就能回答对了,

简单说,他只具有通过文本推理的相对时间观,但不具备绝对的时间观。

另外也可以加大难度问一些刁难的或者专业领域的问题。比如用

  • 鲁迅的口吻写一篇奥运会报道
  • 如何用 python 实现一个网络请求
  • 帮我批改一下这段雅思作文并给出修改意见
  • ….

不要留情面,GPT的认知能力会超出你的想象。

Q: 为什么 Token 价格这么高?

因为成本就高,现在市面上的方案基本都是走的 OpenAI 家的接口,成本都一样。

我们通过自建服务,免去了你折腾科学上网、注册、充值、担心账号被封等繁琐的步骤,因此需要承担比较高的成本。整体来说,还是比自己折腾 API Key 来得更省心、更稳定。

这玩意就是赚个辛苦钱,当然你不想买 Token 也是 OK,可以在设置里填入自己的 API Key 就可以免费白嫖软件。目前 Charming 基础版的功能也是远超市面上其他软件多(欢迎PK)。

Q: iPhone/iPad/Mac Token 可以同步吗?

  • 订阅服务(包月流量、包月高级版、包年高级版)可以通过==恢复购买==同步
  • 不可以

Q: 会支持 GPT-4 吗

目前接口已经有了,还需要服务端做一些改造。不过需要提醒的是,==4的成本就是3.5的15~22.5倍==,因此最后售价也很难压缩。具体售价待定。