跳到正文
ApuOS产品文档
目录
本页目录

这是本文档旧的修订版!


AI 模型与运行环境

AI 功能通常由运行环境、模型文件、设备资源与具体应用共同组成。把模型下载到 NAS 只完成准备的一部分,不表示模型已经可以推理或所有应用都能直接使用。

使用前检查

先查看应用支持的运行环境与模型类型,确认主机 CPU、内存、存储与可用加速设备符合要求。不同参数规模与精度的模型对资源要求差异很大,不能只按下载文件大小估算全部运行内存。

通过当前应用提供的入口安装或选择受支持的运行环境,再下载对应模型。保持模型保存目录清晰,避免重复下载多个暂时不用的大文件。模型名称相似不代表架构、量化方式和运行接口相同。

验证可运行

下载完成后启动运行环境,检查模型是否被识别,再使用简单、非敏感的提示测试。只有应用实际返回结果,才应认为当前组合可运行。若提示资源不足或格式不支持,先查看状态和错误信息,再调整模型或环境,反复重新下载通常不能解决兼容性问题。

数据与使用

处理私人文件前确认应用究竟在 NAS 本地运行,还是调用外部服务。不同 AI 应用有不同的数据路径,不能因为入口位于 NAS 桌面就默认所有内容永远不出本机。外部服务的密钥应放在应用指定设置中,避免放入共享文件或社区帖子。

较大任务可能与备份、照片处理争用内存和 CPU。系统响应变慢时先暂停不需要的任务,再观察资源变化。重要文件在交给模型处理前保留原件;模型输出可能不准确,不能替代对实际文件和操作结果的检查。

最近更新 ApuOS · 你的数据,你的空间。