Post image

PocketPal AI 是一款袖珍型 AI 助手，由可直接在手机上运行的小型语言模型 (SLM) 驱动。PocketPal AI 专为 iOS 和 Android 系统设计，让您无需网络连接即可与各种 SLM 进行交互。

安装iOS部署非常简单，无需任何设置，点点手指头下载安装就能搞定！

iOS版下载：【点击前往】

Android 版下载:【点击前往】

APK 安装包下载：【点击前往】、如果你不在海外，就选择👉【网盘下载】

PocketPal AI

开源项目 【官方仓库】

特征

  • 离线 AI 辅助：无需互联网连接即可直接在您的设备上运行语言模型。

  • 模型灵活性：下载并在多个 SLM 之间交换，包括DeepSeek R1、 Danube 2 和 3、Phi、Gemma 2 和 Qwen等。

  • 自动卸载/加载：当应用程序在后台运行时，通过卸载模型自动管理内存。

  • 推理设置：自定义模型参数，如系统提示、温度、BOS 令牌和聊天模板。

  • 实时性能指标：在 AI 响应生成期间查看每秒令牌数和每个令牌的毫秒数。

PocketPal AI 最新版现已与 Hugging Face 模型中心集成！在应用程序内直接从 Hugging Face Hub 浏览、下载和运行模型，在手机本地离线AI大模型，非常的方便！大家可以根据自己手机的配置大小来选择适合自己的AI模型！

从 App Store 下载 PocketPal AI：

在 App Store 下载

安卓

在 Google Play 上获取 PocketPal AI：

在 Google Play 上获取

用法

有关如何使用 PocketPal AI 的详细指南，请查看入门指南。

下载模型

  1. 打开应用程序并点击菜单图标 (☰)。

  2. 导航到模型页面。

  3. 从列表中选择一个模型并点击下载。

加载模型

  • 下载后，点击模型旁边的“加载”将其载入内存。

高级设置

点击模型旁边的 V 形图标 (v) 可访问高级设置，如温度、BOS 代币和聊天模板。

与模特聊天

  1. 确保模型已加载。

  2. 从菜单导航到聊天页面。

  3. 开始与您的 AI 助手交谈！

复制文本

  • 复制整个回复：点击 AI 回复气泡底部的复制图标。

  • 复制特定段落：长按某个段落即可复制其内容。