昨天尝试用 github.com/gnehs/subtitle-translator-electron翻译个字幕，之前用GPT-4效果很好，但是有点贵，我抓包看了下，每次只翻译10条，然后Prompt就占了不小的体积。
我于是就想：那一次翻译100条，那不就可以减少重复发送Prompt从而达到省钱的目的么！
说干就干，把代码里面的10改成100，然后重新编译运行，开始翻译后，半天没反应，过了一会出错了，点击重试，一下子100条后果然快了，但是刚翻译一段又出JSON解析的错误了！这时候才翻译大半，2美元已经没了！
稍微思索了一下大概想明白为啥作者要设置成每次10条了，因为使用GPT-4翻译时，作者会把请求的数据拼成JSON数组，并在prompt里面要求GPT-4返回JSON数组，但是但是GPT-4并不是每次都能保证能返回正确的JSON格式，还是有小概率会出错！条数越多出错的概率越高，100条JSON数组有比较大的概率会返回错误格式。
如果只有10条出错，那么重试一下成本不高，100条重试成本就高多了！另外App用了并行翻译，可以提升速度，但是也加大了复杂度，在我失败点击重试的时候，实际上某些请求还没结束，然后又重复运行了。
后来我想不行还是及时止损，改回10条吧，等我改好重新打开，发现之前翻译的结果都没有了！
这就是我昨天3美元的教训😄
我于是就想：那一次翻译100条，那不就可以减少重复发送Prompt从而达到省钱的目的么！
说干就干，把代码里面的10改成100，然后重新编译运行，开始翻译后，半天没反应，过了一会出错了，点击重试，一下子100条后果然快了，但是刚翻译一段又出JSON解析的错误了！这时候才翻译大半，2美元已经没了！
稍微思索了一下大概想明白为啥作者要设置成每次10条了，因为使用GPT-4翻译时，作者会把请求的数据拼成JSON数组，并在prompt里面要求GPT-4返回JSON数组，但是但是GPT-4并不是每次都能保证能返回正确的JSON格式，还是有小概率会出错！条数越多出错的概率越高，100条JSON数组有比较大的概率会返回错误格式。
如果只有10条出错，那么重试一下成本不高，100条重试成本就高多了！另外App用了并行翻译，可以提升速度，但是也加大了复杂度，在我失败点击重试的时候，实际上某些请求还没结束，然后又重复运行了。
后来我想不行还是及时止损，改回10条吧，等我改好重新打开，发现之前翻译的结果都没有了！
这就是我昨天3美元的教训😄
