不过这样跨时一年的对比显然不公平,而且评论区点赞最多的留言认为,百度有自己的网盘所以肯定更懂,应该换个话题:
所以,我这次就换成了「AI工具」问卷调研,并且改用了ChatGPT和文心一言双方的付费版,这下应该公平不少吧?
以下是我用同一个问题得到的结果:
这里有个小插曲,刚开始我问的是:“帮我做一个AI工具的问卷调研,我想要了解AI工具用户的需求及使用习惯”
结果文心一言正常,ChatGPT给的都是一堆问题没有选项。
后来在两句话之间加入一句“包含问题和选项”,再问双方,才得到这两份回答。
我发现ChatGPT比去年进步了不少,果然1年的时间加付费版,影响力是很大的。
但ChatGPT这会比文心一言更强了吗?
接下来我们就来从5个方面对比一下,分别是:完整度、问题类型、人群分析、问题选择和选项设计。
完整度
文心一言有标题、跳转规则和结语:
文心一言
AI工具用户需求及使用习惯调研问卷
*问题一:您是否使用过AI工具?
(如果选择“否”,请跳转至问题十)
……
感谢您参与本次调研!您的反馈对我们非常重要!
ChatGPT虽然没有上面这些,但有2个段落标题。不过,对填写者来说这种段落标题可有可无。
ChatGPT
为了帮助你更好地进行AI工具的问卷调研,我设计了以下的问卷内容,包括问题和选项。你可以根据实际需要调整或补充:
---
### 基本信息
……
### AI工具使用情况
……
### 对AI工具的期待
……
---
此问卷可以通过在线问卷调查平台进行创建和分发,如Google表单、腾讯问卷等。确保在设计问卷时提供清晰的指示,以便参与者能够轻松完成问卷。希望这份问卷能帮助你获得有价值的数据和见解!
从数量上看,文心一言之有10道题,ChatGPT有13道题。也就是说整体问题数量差别不大。
总体来说,我还是觉得文心一言的问卷好点。
问题类型
ChatGPT最后3道题都是开放问答题,这个是文心一言问卷没有的问题类型。
ChatGPT
11. **您希望AI工具未来能提供哪些新功能或有哪些改进?**(开放式问题)
12. **对于AI工具的安全性和隐私保护,您有哪些担忧或建议?**(开放式问题)
13. **您对AI工具有哪些其他的意见或建议?**(开放式问题)
我自己做问卷调研时,其实挺不喜欢开放题的,一是大多人不好好填,二是分析的时候特别麻烦。而且,我感觉第11题和13题有点重复?
所以这三道开放题,对我来说加分不多。
文心一言邀请填写者留下联系方式,可用作邀请访谈或测试,这个是ChatGPT没有的问题类型。
文心一言
问题九:您是否愿意分享您的联系方式以便我们后续提供更多信息或邀请您参与测试新版本?(该信息不强制填写)
如果选择“是”,请填写联系方式:[请在此区域内作答]
我几乎每次做问卷都会尽量在最后加个这种题,收集到的联系方式说不定哪天能用得上,而且到时候可以从问卷样本中挑选最合适的人来访谈或测试。
所以文心一言的这道题,对我来说重要性挺高的。
两相比较,我依旧认为文心一言这次更胜一筹。
人群分析
很多时候,我们做问卷调研是要做人群分析的,例如拿去做用户画像之类的。
这一方面ChatGPT的问卷有个明显的优势——有四道基本信息的题目,询问年龄、性别、职业和学历。
ChatGPT
1. **您的年龄段是?**
- 18岁以下
- 18-24岁
- 25-34岁
- 35-44岁
- 45岁以上
2. **您的性别是?**
- 男
- 女
- 不愿意透露
3. **您的职业是?**(开放式问题)
4. **您的最高教育程度是?**
- 高中及以下
- 专科
- 本科
- 硕士
- 博士及以上
虽然,我通常不会把这些问题放在前面,但有总比没有好。
文心一言的问卷虽然没问这些基本信息,但问了用不用AI工具,如果不用的话就跳转到最后一题询问原因。
文心一言
*问题一:您是否使用过AI工具?
(如果选择“否”,请跳转至问题十)
……
问题十:您未曾使用过AI工具的原因是什么?
不知道如何开始使用
担心数据安全与隐私问题
觉得目前没有必要使用
价格过高
其他:[请在此区域内作答]
我觉得这个问题也挺有用的,我自己做问卷也会这样筛选一下目标人群。
不过,只要问卷标题里有「AI工具」这个关键词,去填的基本都是使用的了,这个筛选就算没特别大影响。
所以这一环节,我认为ChatGPT更胜一筹。
问题选择
ChatGPT的问卷比文心一言多了「AI工具名称」和「使用原因」两个话题:
ChatGPT
7. **您通常使用哪些AI工具?**(开放式问题,可以提供几个例子供参考,如ChatGPT、百度AI等)
8. **选择使用AI工具的主要原因是什么?**(多选)
- 提高工作/学习效率
- 解决特定问题(如翻译、写作等)
- 娱乐(如游戏、音乐推荐等)
- 对AI技术感兴趣
- 其他,请具体说明:
而文心一言的问卷多了「得知途径」和「价格」两个问题:
文心一言
问题五:您通常是如何得知并了解新的AI工具的?
朋友/同事推荐
社交媒体广告
行业研讨会/展览
在线文章/博客
应用商店推荐
其他:[请在此区域内作答]
问题六:您愿意为什么价格的AI工具付费?
免费
100元以下/月
100-500元/月
500-1000元/月
1000元以上/月
究竟哪个更好?
ChatGPT多的那两个问题很适合做竞品研究;而文心一言的那两个问题更适合做市场调研。
我当时提问时,说到这个问卷是为了“了解用户的需求及使用习惯”。
这样看的话,ChatGPT的问题选择更贴切一点点。
如果我做的那些模糊的判断都算数的话,现在是二比二平手了。
这次难分伯仲啊🤔,我们赶快来看看最后一个环节吧。
选项设计
Chatgpt在选项设计上有个令我惊艳的细节,就是在询问「看重的因素」和「遇到过的问题」时,用的是几乎一样的选项:
ChatGPT
9. **使用AI工具时,您最看重的因素是什么?**(多选)
- 准确性
- 用户体验(如界面友好、操作简单等)
- 价格
- 功能多样性
- 隐私保护
- 其他,请具体说明:
10. **使用AI工具过程中,您遇到过哪些问题?**(多选)
- 准确性不高
- 使用复杂
- 价格过高
- 功能不满足需求
- 隐私担忧
- 其他,请具体说明:
虽然文字细节稍有差异,但确实对仗对工整。
我自己设计问卷时,经常这样用类似的选项来问正反问题,这样分析的时候,就很好做图表分析了。我极少见到新手设计问卷想到这一点的,没想到ChatGPT做到了。
文心一言也有类似的问题,但选项没有那样的对应关系:
文心一言
问题四:您在选择AI工具时,最看重哪些因素?(多选)
准确性
易用性
响应速度
安全性
价格
品牌/口碑
用户社区支持
问题七:您认为目前AI工具存在哪些不足?(多选)
准确性不够
操作复杂
学习成本高
缺乏人性化交互
安全性问题
其他:[请在此区域内作答]
好在文心一言的这些选项还挺实际的,尤其「学习成本高」和「缺少人性化交互」这两点,确实切中了目前很多AI工具的问题。
再来看另一个双方类似的问题,是关于使用频率的。
ChatGPT
5. **您使用AI工具的频率是?**
- 每天
- 每周
- 每月
- 偶尔使用
- 从未使用过
二者的前四个选项几乎一样,只有最后一个选项不同。
ChatGPT是“从未用过”,文心一言是“几乎不用”。
应该有些人对AI工具是试过一两次后就再也不用的,这种情况下,文心一言的“几乎不用”显然更贴切一些。
如果是遇到ChatGPT的选项,这些人只能选“偶尔使用”,这样就会跟那些真的时不时用一下AI工具的人混到一起了。
这一回合,ChatGPT有让我惊艳之处,文心一言亦有不错的细节,很难选择啊……我就算个平局吧。
你怎么看待双方能力?
虽然我的分析有很多主观因素,但整体对比下来,文心一言和ChatGPT这两份问卷应该算难分秋色,至少水平不会相差太大。
以我多次问卷调研的教学经验来说,在新手里绝对算优秀。但毕竟AI没有真的做过用户调研,缺少很多重要经验。这两份问卷真的拿去用会遇到一堆问题,然后好几轮试错、修改,才能出结果。
想要不翻来覆去地试错,最好还是来参加我们的训练营,提供我多年经验总结的案例和模板:
老实说,因为网上的舆论几乎都在说ChatGPT多厉害,吊打国内AI之类的。所以我做对比之前,对文心一言几乎没有什么期待。
虽然区区一个问卷调研的测试不够准确,但这个结果明显超出了我原本的预想。
也许有人会觉得,让ChatGPT说中文是为难人家了,要用英文才能真正发挥其实力。
但国内的AI工具用户里,应该没多少会为了迁就ChatGPT而改用英文吧?那还得翻译一下多麻烦?
从价格来看,ChatGPT付费版是文心一言的好几倍,而且在国内还不方便使用。这是不是说,对有些人来说没必要开通ChaGPT,有文心一言就够了?
对于这两款AI工具你都用过吗?欢迎在留言区分享一下你的看法~