莫斯软件答疑
问题反馈群
Q:什么是Token
这里涉及到机器学习里的BPE(Byte Pair Encoding)分词算法,AI 在训练过程中会把一句话分成不同的部分。
比如:
用户输入 | Token 分割 |
---|---|
Hello,World. This is Charming | ==Hello====,====World====.====This====is====Ch====arming====.== |
你好,我是 Charming。 | ==�====�====�====�====�====�====�====�====�====是== ==Ch====arming====。== |
可以看到,英文基本是一个单词一个 token;中文比较复杂,一般是一个字1~2个token。
一个有用的经验是,对于普通英文文本,一个 Token 通常对应于 ≈4 个字符的文本。这相当于大约 ¾ 个单词(因此 100 个Token ~= 75 个单词)。
Note: 中文字符属于 unicode 字符。因此一个字符在 BPE 算法里可能会映射到多个标记。因此一个中文字符需要花费更多的 Token。
Q: API Key 模式和 Token 模式的区别
API Key 需要你自己的去 OpenAI 的官网注册账号、充值每月$20(约¥136)
且必须要境外信用卡、科学上网、生成 API Key、复制到 App 内,每一步都非常繁琐并且有不小的门槛。而且异常流量还会被 OpenAI 封账号。
Token 方案会省心很多。我们自己对接了 OpenAI 服务,使用了更稳定的线路,并且做到了可以让国内用户可以使用,免去你搭🪜的成本和账号被封的风险,算下来的成本是比自备 API Key 划算很多。因此 Token 模式更推荐。
Q:高级版和 Token 流量包的区别
简单来说,如果使用的是 Token 模式,对话都是要计费的,但每天有4000的免费额度,差不多对话10次,方便轻度用户体验使用。目前所有 chatGPT 方案最后都会走到 OpenAI 那里,所以也没有白嫖的办法。
高级版
高级版只是提供了除 Token 流量之外的更多功能。比如
iCloud 同步
导出成文件
执行 JS 代码
语音聊天
等高级功能。如果你是轻度使用玩家,完全不需要用到高级版,直接按需购买 Token 流量包就行。
当然,如果你自备 API Key 了,那么完全不需要购买任务服务,就可以体验更棒的 chatGPT 客户端。免费版包括了以下功能:
免费版
所有基础的聊天功能
支持自定义Host
API 全部参数自定义
Siri 深度集成
独创的「常用命令」
160+ 内置模板,开箱即用
支持 gtp-4 模型
Q:如何优化Token
聊天框上方有一个是否携带上下文
的选项
✅ 携带上下文 ☑️ 携带上下文
软件默认选择==携带上下文==。
这样每次对话就会把所有上文塞给 chatGPT,莫斯才能知道你上面说了什么,才能更好的回复。好处是回复会更智能,坏处是 Token 消耗会越来越多。但也不必担心 Token 爆炸,因为 OpenAI 有个输入+输出不能超过 4096 Token 的上限,超过就会报错。
因此 Charming 会在你每次发送之前先帮你提前算一下大概消耗的 Token 值,如果可能超过了会手动帮你裁剪到==最早==的几条。
📎携带==5条==上下文
软件里提供了手动选择几条上文的功能,默认上传==4条==。你可以按需手动调节。也可以一条不带。顺序是从新到旧,比如选择5条,就是最近的5条。
Q:为什么1+1 / 星期几这么简单的问题都会错?
这是大模型语言本质决定的。他和传统的聊天机器人不一样,他是他只是一个语言模型,不是具备逻辑推理能力。它精通文本,但不具备数学计算能力。
ChatGPT 模型只学习了文本之间的关联性,并没有什么逻辑性。体现出来的逻辑性都是通过关联性来模拟的。所有的机器学习 AI,都是基于统计学原理,统计学就会有概率,对于唯一确定的领域就会有问题,尤其是越简单的问题越会出错。
比如他可以理解文本上今天和明天是相差了一天、上午和下午是相差了半天、上周和下周是相差了一周……但他没有绝对时间概念。因此如果你输入:
- Q:今天是2023年3月30号星期三,下周是什么日子
- A: 下周是2023年4月6日星期三
他就能回答对了,
简单说,他只具有通过文本推理的相对时间观,但不具备绝对的时间观。
另外也可以加大难度问一些刁难的或者专业领域的问题。比如用
- 鲁迅的口吻写一篇奥运会报道
- 如何用 python 实现一个网络请求
- 帮我批改一下这段雅思作文并给出修改意见
- ….
不要留情面,GPT的认知能力会超出你的想象。
Q: 为什么 Token 价格这么高?
因为成本就高,现在市面上的方案基本都是走的 OpenAI 家的接口,成本都一样。
我们通过自建服务,免去了你折腾科学上网、注册、充值、担心账号被封等繁琐的步骤,因此需要承担比较高的成本。整体来说,还是比自己折腾 API Key 来得更省心、更稳定。
这玩意就是赚个辛苦钱,当然你不想买 Token 也是 OK,可以在设置里填入自己的 API Key 就可以免费白嫖软件。目前 Charming 基础版的功能也是远超市面上其他软件多(欢迎PK)。
Q: iPhone/iPad/Mac Token 可以同步吗?
- 订阅服务(包月流量、包月高级版、包年高级版)可以通过==恢复购买==同步
- 不可以
Q: 会支持 GPT-4 吗
目前接口已经有了,还需要服务端做一些改造。不过需要提醒的是,==4的成本就是3.5的15~22.5倍==,因此最后售价也很难压缩。具体售价待定。