今年初 " 龙虾 " 的爆火掀起了一波个人本地部署 AI 大模型的热潮,但这东西对于钱包的要求还是比较高的,无论是自己组 AI 服务器也好,还是买 Mac mini 也好,没个 1 万的预算都很难搭建起来。
但有 " 正路 " 就有 " 邪修 ",小编在网上就看到一个科技博主发了短视频,内容相当 " 炸裂 ":他花了 1000 块钱在网上买了一个不知道是哪个品牌汽车上的智能驾驶域控制器,用它部署了一个 Qwen3.6 35B 的 AI 大模型。
但话说在前面,本文章仅为案例分享,不包含任何购买以及操作建议,自行尝试后果自负。因为这东西虽然不贵,但对其他方面的要求还是挺高的,比如说:
1、 不要直接购买拆车件或者直接从车上拆这东西拿来用。量产车上的域控制器都是写入了软件锁的,就算拆下来也没法直接用来跑大模型,如果要买请找那种没有锁的工程样品。
2、 这东西采用水冷散热,供电接口为汽车专用的 CAN 接口,如果想从车上拿下来用,需要自己搭建水冷系统以及制作 CAN 转换插头。
3、 刷入系统以及大模型的教程小编这里没有,博主视频里也没说,如果认为自己动手能力强想尝试的网上自己想办法。
说完问题之后,该说这东西的性能优势了。它的核心就是大家很熟悉的英伟达 Orin-X 智能驾驶芯片。拥有 12 核 A78 核心以及 2048 个 CUDA 核心,内存容量高达 32G,所以它能塞下一个完整的 Qwen3.6 35B 大模型,思考速度大概在每秒 25tokens。不得不说,要是动手能力足够强,能把前面的问题都解决,那这东西性价比确实很高。
另外这一番折腾还让博主发现个 " 秘密 ",那就是这颗 Orin-X 芯片被屏蔽了一个 A78 核心,实际上是 11 个 A78 核心在跑。不知道这是车企设置的安全冗余,还是工程样品的 "BUG",不过也不重要,用着差别不大。
不过小编还是要再次提醒,本文章只是案例分享,怎么折腾自己想办法去,操作有风险,后果要自负。