公司最近采购了 2 台服务器,其中一台配备了 2 张 4090 型号 GPU(显存48 * 2),准备拿来搞搞 AI,上周五运维把虚拟机创建好了发给我了,于是周末花了点时间把基础环境给搭建了一下,本文主要记录下在最新 ubuntu22.04 部署 Xinference 教程过程中的笔记手稿整理。

- 阅读全文 -