LLM

在安卓、苹果手机上运行3B及以下AI LLM大语言模型APP

AI LLM 信息技术

PocketAI是一个可以在移动设备上离线本地运行小型语言模型的软件,软件内可以直接下载Meta、阿里等3B及以下的语言模型,同时支持本地导入其他语言模型。 目前软件内提供: 实测iPhone 12 Pro Max可以运行,但随着对话条数增多响应明显卡顿,未卸载语言模型切换后台任务直接卡死无响应。8G 运行内存M2芯片的iPad可以流畅运 […]

2 月前
0 1,611

Gorq推出iOS应用

AI LLM 信息技术

推理速度超级快的 Gorq iOS 应用已经推出,旨在为用户提供快速高效的输出服务,该应用支持的模型有 安装地址: https://testflight.apple.com/join/Y9X0wGsi Gorq的处理速度在 App 端的体验会更直观,LLM 响应对话内容推理时间在1s 内,再加上语音合成时间,实时对话就更流畅了。 这款应用

7 月前
35 7,546

本地运行大型语言模型ollama

AI LLM 信息技术

ollama 一款可以在本地启动并运行大型语言模型。 不需要有AI专业知识,不需要用到矩阵,一键运行大公司训练好的大语言模型。 docker隔离,不需要破坏环境。 GitHub:https://github.com/ollama/ollama 使用方法 Docker Linux下运行docker命令 或者 Windows WSL2下运行d

10 月前
3,048 18,060
滚动至顶部