本地部署bolt.diy
安装ollama
到ollama官网下载对应系统的安装包,安装完成后,再安装适合的开源大模型。
官网地址:https://ollama.com
cmd命令安装示例如下:
cmd
ollam run qwen-code2.5:7b大模型安装完成后保持ollama的运行,在浏览器输入运行地址看到ollama is running就表示大模型安装成功。
安装bolt.diy
bolt.diy的官方开源项目地址是:https://github.com/stackblitz-labs/bolt.diy
克隆到本地后删除pnpm-lock.yaml。cnpm命令安装所需依赖
cmd
cnpm install 项目根目录新建.env.local文件,添加环境变量,如下:
json
OLLAMA_API_BASE_URL=http://localhost:11434 终端使用命令cnpm run dev启动项目。
cmd
cnpm run dev可能的问题
1、启动项目可能报错,可通过以下措施解决:
windows的visual c++环境导致的,到官网下载系统对应的安装包安装后重启电脑再运行即可。
包地址:https://learn.microsoft.com/en-us/cpp/windows/latest-supported-vc-redist?view=msvc-170
