Py学习  »  Git

昨天尝试用 github.com/gnehs/subtitle--20230504232742

宝玉xp • 2 年前 • 283 次点击  

2023-05-04 23:27

昨天尝试用 github.com/gnehs/subtitle-translator-electron翻译个字幕,之前用GPT-4效果很好,但是有点贵,我抓包看了下,每次只翻译10条,然后Prompt就占了不小的体积。

我于是就想:那一次翻译100条,那不就可以减少重复发送Prompt从而达到省钱的目的么!

说干就干,把代码里面的10改成100,然后重新编译运行,开始翻译后,半天没反应,过了一会出错了,点击重试,一下子100条后果然快了,但是刚翻译一段又出JSON解析的错误了!这时候才翻译大半,2美元已经没了!

稍微思索了一下大概想明白为啥作者要设置成每次10条了,因为使用GPT-4翻译时,作者会把请求的数据拼成JSON数组,并在prompt里面要求GPT-4返回JSON数组,但是但是GPT-4并不是每次都能保证能返回正确的JSON格式,还是有小概率会出错!条数越多出错的概率越高,100条JSON数组有比较大的概率会返回错误格式。

如果只有10条出错,那么重试一下成本不高,100条重试成本就高多了!另外App用了并行翻译,可以提升速度,但是也加大了复杂度,在我失败点击重试的时候,实际上某些请求还没结束,然后又重复运行了。

后来我想不行还是及时止损,改回10条吧,等我改好重新打开,发现之前翻译的结果都没有了!

这就是我昨天3美元的教训😄
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/154493
 
283 次点击