对于日常使用您应该增加

[account_disabled]

升级显卡或选择更快的模型。首先您可以尝试使用年被认为相对强大的计算机不低于且支持指令的处理器、和至少具有内存的显卡。对于爱好者来说运行芯片及以上的机型都可以使用而内存要求是相同的。选择模型时首先要熟悉系统要求。像”这样的搜索查询可以让您评估该模型是否值得在可用硬件上下载。详细研究了内存、和大小对不同模型性能的影响；例如这个。对于无法使用强大硬件的人来说这是个好消息简化的人工智能模型可以执行实际任务即使在较旧的硬件上也是如此。即使您的显卡非常基础且较弱您也可以仅使用来运行启动模型和环境。



根据您必须执行的任务它们的工作效果可能是可以接受的。性能测试各种计算机构建如何与流行语言模型配合使用的示例。选择人工智能模型和量化的魔力如今有多种语言模型可用但其中许多模型的实际应用有限。然而有些易于使 阿曼数据 用、公开可用的人工智能工具适合执行特定任务无论是生成文本例如还是创建代码片段例如。因此在选择模型时请将您的选择限制为几个合适的候选者然后确保您的计算机具有运行它们所需的资源。







在任何神经网络中大部分内存负载都是由权重引起的描述网络中每个神经元功能的数值系数。最初当训练模型时计算权重并将其存储为高精度小数。然而事实证明对训练模型中的权重进行四舍五入可以让人工智能工具在普通计算机上运行​​同时略微降低性能。这个舍入过程称为量化在它的帮助下模型的尺寸可以大大减小；每个权重可以使用八位、四位甚至两位而不是位。根据目前的研究具有更多参数和量化的较大模型有时可以比具有精确权重存储但参数较少的模型给出更好的结果。