让 ChatGPT 回答大家喜闻乐见的深度学习部署问题

最近出来个ChatGPT比较火，官网在https://chat.openai.com/chat^[1]，大家有条件的可以试一试，使用教程我放在文章最后了。

ChatGPT是个超级对话模型，可以说是颠覆性的，和前段时间的Stable Diffusion一样，让人眼前一亮。

具体的介绍我也不多介绍了，知乎上有很多，大家可以搜一下：

群里的问题

老潘也好奇这个人工智障究竟咋样，所以也来试试，因为自己想问题也想不出来多少个hh，所以挑一些咱们群里头比较常见的问题试试水：

当然，因为ChatAPT可能会回答错（xjb答），所以每个问题我会简单纠正一下...如果纠正有问题也欢迎大家留言。

以下为我对ChatGPT的提问和以及ChatGPT的回答：

回答的没啥毛病，我复制了几句全网搜了下发现并没有相同的，你要问我也会说看书看视频多实践hh。

这个回答也没毛病，conv+bn是基操了。

这个我没有试过，感觉像是对的。

试了下有些网站是打不开。

说了些，又好像没说啥...

有点扯了，createExecutionContext这个API啥时候能传参数了呃，专门查了下：

    //!  
    //! \brief Create an execution context.  
    //!  
    //! If the engine supports dynamic shapes, each execution context in concurrent use must use a separate optimization  
    //! profile. The first execution context created will call setOptimizationProfile(0) implicitly. For other execution  
    //! contexts, setOptimizationProfile() must be called with unique profile index before calling execute or enqueue.  
    //! If an error recorder has been set for the engine, it will also be passed to the execution context.  
    //!  
    //! \see IExecutionContext.  
    //! \see IExecutionContext::setOptimizationProfile()  
    //!  
    IExecutionContext* createExecutionContext() noexcept  
    {  
        return mImpl->createExecutionContext();  
    }  

另外这个是多线程使用TensorRT的正确方式：

这个回答没问题，我测试过了，这种科普性质的回答一半问题都不大。

中间没写完就卡主不写了，我继续追问下：

这个回答的貌似米有问题，我没有验证过，和我记忆中的一样。

测试单张，显卡要预热，cpu也要预热，肯定是多个准，和预处理没关系，都要算上的，模型加载和卸载一般测模型不会测这个的时间。

这个回答有点扯了，参考意义不大，而且没有回答完。

路唇不对马嘴，对torchscript的回答有点扯，参考性很差。

说的比较模糊，不过TensorRT确实支持多尺度。

没有回答完，对不对我就不评价了。

离了个大谱，torch.fx.script是谁发明出来的。应该是和torch.jit.script混了。不对不对。

这个回答的没毛病，毕竟提问者提问的也不是很具体，所以回答的也比较宽泛。

这个模型数据加密我还是第一次听说。有没有大佬知道？

有点不对，量化工具可以使用NVIDIA出的pytorch-quantization。而且看来ChatGPT挺喜欢ncnn啊，NCNN yes！

没啥毛病，就按这个学。

使用onnxruntime进行C++推理，到时也没问题。

这些论文真的存在吗？

这些课程感兴趣的可以搜搜看哈。

这个不是算法部署的，是入门深度学习的。

好像是对的，我没用过，不过看道理是对着的。

问多了也会有问题。提示没有结果。

灵魂问题

好吧，我要尝试一些大家喜闻乐见的问题：

继续追问！

Pytorch YES！

问下当前最新Pytorch，确定下这个gpt活在第几年：

再问一次

好像穿越了。

这个mmdetection开发者说错了，其他没啥问题。

TensorRT的OP都可以backward了哈哈，我还是头一次看到，亲们TensorRT是用来推理的，后续有没有训练功能我还真没关注。

高难度

啊这，这是编不下去了吧... 再问一次：

调侃

我靠竟然没有我，伤心了hh，但看了下链接全是打不开。

还有很多进阶玩法，老潘还在玩，就暂时写到这里了吧，后续有机会再更新一波。

如何玩ChatGPT

• 首先你有访问 https://chat.openai.com/chat^[2] 的网络（懂的都懂）

• 然后通过 https://sms-activate.org/cn/getNumber^[3] 这个网站去注册个账号，充1美元（可用支付宝），租一个虚拟手机号（印度的就行），这个是可以接收短信（会有页面显示出来）的，大家应该看看就会了

• 然后注册openAI账号https://chat.openai.com/chat^[4] ，其余的都好填，唯独需要国外的手机号做验证，手机号填刚才那个网站给你的，然后OpenAI发送验证码，在那个网站上等待验证码，后填入即可注册，就可以玩了：

参考

• https://www.cnblogs.com/ranxi169/p/16954797.html^[5]
• https://chat.openai.com/chat^[6]
• https://sms-activate.org/cn/getNumber^[7]

参考资料