这是一个创建于 106 天前的主题，其中的信息可能已经有所发展或是发生改变。
https://flashai.com.cn/model/gemma2_2b
不用 GPU ，在 12 代 i7cpu 也能跑出 20+token/秒的速度
无需任何配置，开箱即用
支持 win10,win11 ，mac11+
图形界面，不用自己安装 webgui
自带 embedding 库，支持上传 pdf,docx,txt,md 创建知识库
文档翻译工作流，一次翻译整本书
知识树，从大模型压榨数据
离线使用，大模型基础功能永久免费
7 条回复 • 2024-10-22 16:43:26 +08:00
 |
1
asaworld 106 天前 via iPhone
看着不错，有没有老哥测试下
|
 |
2
zhs227 106 天前
mac 11.6.1 启动报错，大概就是执行模型加载错误了
|
|
3
zhs227 106 天前
"/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model gemma2:2b-instruct-q4_K_M -path "/Applications/FlashAI B2.app/Contents/Resources/embeddings"
zsh: segmentation fault "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model -pat |
|
5
zhs227 106 天前
启了无数次都是一样的。报 segmentation fault ，应该是哪里内存越界了。
|
 |
6
mumbler OP @zhs227 可以在 flashai.com.cn 主页扫二维码进交流群，帮你看看
|
 |
7
Pepsigold 30 天前 via Android
3090 部署的话，并发支持多少？
|
Select Language