在 Windows 11/10 系统上,为 GTX 30+ 系列 GPU、16 GB 内存和 10 GB 可用磁盘空间的机器安装 CUDA Toolkit 与 cuDNN,即可为 LocalAI 及其他框架解锁 GPU 加速;本指南涵盖下载、快速安装步骤,以及图像、视频和机器学习工作负载的性能提升。
macOS 通过 Gatekeeper 阻止未验证的应用程序;在 Finder 中右键点击该文件并选择“打开”可一次性将其加入白名单,或者前往“系统设置 > 隐私与安全性”,点击“仍要打开”,也可通过终端启用“任何来源”以获得更广泛的权限(`sudo spctl --master-disable`)。