社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

GitHub 上 3 个爆改显卡神器,算力终于可以榨干了。

开源日记 • 12 小时前 • 22 次点击  


大家好,我是熊叔,今天我们继续去逛GitHub。

最近几天科技圈里最火的话题就是老黄辞职的各种传言,网友们议论纷纷。

八卦归八卦,我这里是严肃的科技频道,不扯八卦,弄点实用的东西。

老黄当年砍下的「精准刀法」卡了不少算力,很多朋友花几千块买张游戏卡跑 AI 画图或大模型,总感觉很慢。

图片

好些人还在怀疑是卡的性能不够。

其实不用怀疑是卡的问题,很早都有人发现显卡被上了「限速锁」。

今天熊叔带大家看 3 个专治各种「封印」的开源神器,看怎么把被锁的性能彻底白嫖回来!


01 一小U盘,就可以把被封印的 AI 算力给救出来了。

很多玩家不知道,手里的 RTX 20/30/40 系游戏卡,跑 AI 时的 Tensor 核心其实只有一般的速度。

nv-uefi-unlocker 的做法堪称天才,不刷VBIOS、不改驱动、无硬件风险。

它是一个 U 盘引导工具,理论解锁上限,官方也给了参考图。

图片

用起来也很方便,在电脑启动的时候一直按 Del 或者 F2 进入主板的BIOS,到安全设置里面把安全启动关掉。

我简单说一下原理,开机后 U 盘会在系统加载之前抢先进入显卡,直接把解锁参数写进显卡,然后把显卡控制权交出去。

有人要担心会不会损坏硬件,因为只写临时寄存器,彻底关机断电立马复原,完全不伤硬件,平时想用的时候,插入 U 盘就可以了,目前支持 4 个系列,大家自己对照。

图片

网友实测数据非常夸张,上面这台 RTX 4060笔记本电脑平时INT8纹丝不动,但是AI核心的FP16算力却猛增了 1.75 倍FP8也实现了 1.89 倍!

再看最多人用的平民神卡 RTX 3060 12GB。

RTX 3060 12GB 解锁前后的基准对照

以前跑 ComfyUI 高清生图是 0.4 it/s,解锁后直接飙到近 0.7 it/s,整整提速 70%!显卡核心温度仅从 61℃ 升到 64℃,多蹭 3 度温差,直接省去大半等待时间。

RTX 4070 Laptop 的 FP16 矩阵乘提升柱状图

手握 RTX 4070 笔记本 的朋友更爽,浮点算力从 33 冲到 64 TFLOPS,性能直接翻倍(+92.2%)!不用花一分钱,一张小 U 盘就换来这种越级体验。

开源地址:https://github.com/physicsdolphin/nv-uefi-unlocker


02 游戏 900P 的画面就变成了4K 300帧。

如果说上面是在生产力上掀桌子,那 OptiScaler 就是在游戏圈砸碎厂商的高墙。

现在很多游戏的优化都比较差,但是却要搞独占,收了赞助只给DLSS,A卡/Intel用户只能干瞪眼;老黄甚至把「帧生成插帧」独占给40系列,手握3080/3090的老玩家全部成了二等公民。

OptiScaler 就是一个潜伏在游戏里的「万能翻译官」。

OptiScaler 的输入输出替换示意

游戏以为自己在调用 DLSS,后台全被它掉包成了全系通用的 FSR 3/4 或是画面更干净的 XeSS,甚至还能给本来不支持插帧的游戏强行打上帧生成补丁。

看一下官方实机到底有多夸张。

图片

显卡其实只在轻轻松松跑 1600×900,毫无压力;但显示器上输出的却是精细的 4K 画面,再加上强行注入的帧生成,渲染时间压到 3.07 毫秒,狂飙出 327.6 FPS 的超高刷!

只要把文件拖进游戏目录,进游戏按一下 Insert 键,屏幕上就会弹出一个悬浮菜单。左边选游戏要的 DLSS,右边选你想给的 FSR 或 XeSS,连游戏都不用重启,画面瞬间从 PPT 变成如丝顺滑。(切记,只在单机游戏里用,别带进带反作弊的网游避免封号!)

开源地址:https://github.com/optiscaler/OptiScaler


03 捡垃圾淘来的 2080 Ti,在 Linux 下彻底释放凶猛野性。

折腾本地大模型,花一千多元买一个「魔改22G显存版RTX 2080Ti」是众所周知的穷鬼神选,因为显存足够大,千元出头就可以把7B、14B的大模型全部装入显存中。

但是很多人买了之后发现,图灵老卡的Tensor核心出厂时也受到了限制。

国内极客打造的 turing-unlock就是给这些 Linux 用户准备的狂暴开关。

不需要插拔U盘,在安装为Linux底层内核模块后,每次启动都会自动移除限速标签,很方便。

图片

官方实测数据直接打破了天花板,老黄当年在白皮书中写到图灵这卡的算力峰值是56.9 TFLOPS,但是这次一解锁,在常用维度上直接飙升到了 91.4 TFLOPS,增长了64%以上!

用 Ollama 或者 vLLM 跑本地模型 ,处理长文本的速度明显加快,进本秒回,推荐有条件的朋友试试。

另外提醒一下记得给小主机做好散热,免得烧机。

开源地址:https://github.com/nlzy/turing-unlock


写在最后

现在不管是服务器算力还是个人电脑算力,都很吃紧。

显卡的价格比之前翻了好几倍,买一个很肉疼。

这 3 个工具对普通人来说,很实用,可以把优先的资源炸出最大的价值。

你真金白银买回家的显卡,算力本来就属于你。厂商为了多卖高价卡加的限速锁,迟早会被各路大神打开。

上千元的 3060 或者二手淘来的 2080 Ti,解开限制后跑 ComfyUI 生图和 7B/14B 大模型完全够用,犯不上盲目花大几万去买高价卡。

算力全开后发热会上升,机箱散热一定要做好。


最后点击下面卡片,关注开源日记。


持续发现有趣的开源项目。感谢阅读,我们下期见!

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/203570