社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

回复@无风1992:ChatGPT或Notion AI//@无风-20230504215435

宝玉xp • 3 年前 • 471 次点击  

2023-05-04 21:54

回复@无风1992:ChatGPT或Notion AI//@无风1992:请问现在有没有文章润色比较出色的AI应用[可怜]
关于现在如何利用AI对长文进行摘要,主要有四种手段:
1. 直接上GPT-4 32K,基本上大部分文章可以一次性生成摘要,由于没有损耗,效果最好,当然价格挺贵的

2. 对内容进行截断,例如截取前N个字符,或者像字幕这样的,隔行读取,能生成摘要,但是效果会很受影响

3. 递归分段摘要:将长文拆成小段,分别对每一个小段摘要,最后将所有小段摘要合并在一起进行摘要,如果还是超过长度限制,继续递归分段摘要

4. 分段叠加摘要:分段后,先对第一段进行摘要,然后将摘要后的内容和第二段原文一起摘要,得到新的摘要后再和第三段原文一起摘要,依此类推。

这其中方案1用32K是最好的,但也是最贵的;方案2截断最经济,但是损耗严重;方案3效果折中,可以并行操作以提升速度,但分段摘要再合并会损失上下文,导致结果不够准确;方案4相对比方案3效果更好,但token消耗更多,并且只能串行无法并行。

还是需要根据自己情况灵活选择。

更新:

昨天我发布后,推特网友Stephan(twitter.com/stephancptmax)指出还有第四种Refine:🔗twitter.com/stephancptmax/status/1654108575294459911🔗
并提供了LangChain的文章链接作为参考:
网页链接
网页链接

已经更新原文。
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/154491