亲爱的兔友们,安 AI 大模型 PC 版现已正式发布,并已在安官网上架,诚邀大家前来下载体验。
此软件能够对您电脑的 CPU、GPU 上的 AI 处理能效进行测试,后续还将增添对 NPU 的支持,从而精准地评判电脑的 AI 能力,助您更妥善地规划电脑在 AI 方面的应用场景。
在 CPU 测试方面,通过运行特定的 AI 任务与算法,对 CPU 的计算能力、数据处理速度以及指令执行效率展开评估,涵盖了从小型的简单数学运算,到大型的复杂逻辑推理以及大语言模型问答等众多方面,能够更为全面地呈现 CPU 在各类 AI 应用中的表现。鉴于 CPU 乃是计算机的核心组件,因而在 AI 处理过程中发挥着举足轻重的作用。
GPU 测试部分,和 CPU 测试大致相同,同样是借助特定的 AI 任务和算法,来评估 GPU 的计算能力、处理速度以及指令执行效率。在某些特定的场景下,GPU 能够加快 AI 计算的速度,在处理大规模数据和负载模型方面具有显著优势。
具体的测试门槛如下:
1. 操作系统必须为 Windows 10 及以上版本。
2. 至少预留 10GB 的可用硬盘空间。
3. CPU 最低需支持 AVX2 指令集。
4. 需要充足的内存空间,例如使用猎户星空大模型 14B 时,至少需要 16GB 的 RAM。
5. 需安装正确的 GPU 驱动。
6. 需安装支持 OpenCL 或 CUDA 的软件环境。
具体的使用方法如下:
1. 用户可以从安官网或其他可靠渠道获取安 AI 大模型评测软件的安装程序。
2. 运行安装程序,并按照提示步骤进行操作。
3. 开启软件后,软件会自动适配适宜的大模型资源,点击下载并安装。
4. 耐心等待安装完成。
5. 大模型安装完毕后,用户可依据自身需求,选择进行 CPU 测试或 GPU 测试。
6. 点击开始测试按钮,软件会自动检测设备是否满足测试要求,若符合则开始进行测试。
倘若在测试过程中出现异常情况,或许与可用内存和可用显存的限制有关。建议在开始测试前,先关闭不必要的后台应用以释放更多内存,或者重启设备以清理临时内存占用。
此外,在软件测试前会检查大模型的资源完整性,若文件受损或保存位置有误,也会致使无法进行测试。解决办法是退出并重启程序,再次下载大模型资源包。
当您使用安 AI 大模型评测软件完成测试后,结果页将展示详尽的信息,例如页面顶端所显示的是所测项目中的最高分,此分数体现了电脑在 CPU 和 GPU 测试中的最优表现。
若得分在 10 万分以下,则表明设备可能难以高效地处理复杂 AI 任务;得分在 10 万 - 50 万分之间,意味着设备性能良好,能够应对大多数常见的 AI 任务;而 50 万分以上则说明您的设备在 AI 处理方面表现极为出色,适合处理要求较高的 AI 应用。
与此同时,结果页会明确标明本次测试所使用的大模型是猎户星空大模型 14B 还是通义千问大模型 7B。
当然,结果页还会显示您电脑的 CPU 和 GPU 型号,以便您在对比不同设备性能时,能够拥有更为具体的参考依据。
倘若在测试过程中出现异常,结果页会提供相应的说明,协助您了解问题所在并采取解决措施。例如显存不足、显卡未安装、驱动程序不兼容等。
需要注意的是,结果页显示的“速度:xx tokens/s”是 Primpt 推理和生成速度的平均值,并非单一大模型的推理速度或生成速度。此速度值越高,表明您的设备在处理 AI 任务时的效率越高。
由于目前安 AI 大模型评测 PC 版仍处于测试阶段,后续将会持续对算法进行优化,因此大家在使用过程中可能会遇到一些问题,若出现 Bug 情况,欢迎大家进行评论反馈,我们会尽快予以解决。