“复合AI系统”的概念,是在AI产品交付和大模型本身之间的一个非常关键的应用思考点和架构设计点。
从不同的论文中我们也可以看到相似观点 - 系统性思维下的模型训练、调优,以及与整个AI系统其它组成部分的有机组合,是现在AIGC应用的一个重要思考角度。
不同AI系统需要不同角度的思考,印象笔记关于“复合AI系统”的思考主要有以下几点:
第一,我们的模型采用混合部署策略,以专有模型驱动主要用户服务和交互场景,模型本身具有路由和任务判断能力,同时也具备质量判断和云端一体的路由判断能力。
第二,我们对公域和私域数据的区分处理和保护管理有独特的系统和严密的规则。
第三,智能代理本身的功能是阵列式的,在关键节点分析用户的意图、做任务的拆解,最后还要系统化地接收用户反馈的过程。
模型:印象大模型是高效率、轻量化的专有模型,在知识场景中有着独特的和优异的性能表现。印象大模型端、云部署一体化,并具备一个重要的性能——能够根据意图判断和选择哪一个混合部署中的模型会有更好的处理的效果,也能判断和分析任务本身并在云或端模型中进行选择。
数据:严格区分管理公、私域数据,确保模型训练和AI产品交付中的用户数据隐私保护。
Agent:在混合部署策略下,模块化的Agent阵列能够真正有效地判断用户意图并根据拆解的任务步骤分步执行任务。
“复合AI系统”超越AIGC应用单一模型驱动的思考方式,而在此系统下设计一款成功的AI应用也需要考虑不同的因素,这也是印象笔记在AI产品的打造中比较独特的体会。
首先,我们需要非常明确地分析和判断出这款应用的准确使用场景。
同时,你的AI复合系统如何驱动这个产品给用户进行交付也十分关键。
一个是最合适的AI应用载体在哪——是在云端?在移动端?在某一个第三方平台?还是GPTs或插件?不用的载体在不同的场景和工作流中有着不同的作用。
另一个是何为最适合的交互——自然语言交互还是传统GUI交互?
我们提倡用符合用户直觉的方式进行交互设计,使用户用到AI功能和AI产品的时候是一种最自然的选择和体验。
因此产品的交互不是绝对的LUI或者CUI——例如在纯粹LUI或CUI的交互中,它虽然更自由、更开放,但完全开放的对话窗口也会增加用户的焦虑感 - 用户会停在那里不知道该做什么。
所以产品中既应该有完全开放的交互窗口,也应该有开放交互和传统的GUI相辅相成的Copilot性质的交互设计,同时也应该有降低用户焦虑感的传统限制性菜单处理交互式设计。
因此,在一个“复合AI系统”下打造AI超级应用时,我们认为除了AI系统思维之外,数据、用户、场景、载体、交互等关键的要素也是需要非常慎重考虑的关键点。
回到印象笔记的实践,我们通过自有模型的混合部署,比较早地进行了全面的布局和落地,推出了多种方向的功能:
内容生成与搜索、语义性搜索、大文件理解、多文件理解、与上万篇笔记的私人对话等等。
通过逐步实践,我们总结出了一些令我们感到兴奋的方法和获得了一些较为满意的结果。“印象AI”的推出,对新用户的增长、用户留存和商业化转化的驱动效果都非常显著。呼应我在今天演讲开始提到的观点 - 作为AI从业者,对于核心技术、产品策略、市场投入等方面的实践的检验,最终总要能够回到对ROI的结果的衡量上来。
目前,印象笔记旗下全系列的软件和智能硬件产品都已经在印象大模型的驱动下,完成了AI功能和产品的落地交付。