VEVEVE

欢迎光临
我们一直在努力

最新发布 第13页

显示文字显示文字显示文字显示文字
WPS免费版本合集-VE

WPS免费版本合集

WPS Office（Writer, Presentation and Spreadsheets，作家和演示文稿和电子表格）是由金山软件股份有限公司发布的一款办公软件，用于办公软件最常用的文字编辑、表格、演示稿等功能。覆盖Windows、M...

赞(7)shiweishiwei资源分享 阅读(58)评论(4)
  • 网站公告
  • 会员中心

快讯

  • 零代码搭建本地大模型个人知识库系统

    踩坑 3 天；搭建了一套个人专属知识库;用的是 dify + ollama；写一篇文章记录下搭建步骤以及踩的坑如何填的；教程需懂些许Linux的操作；不完全是零小白教程

    所用软件

    VMware 虚拟机、centos8、dify、ollama；

    软件介绍

    VMware 虚拟机：用于在操作系统上同时运行其他系统的一款软件 centos8：linux 系统；用于安装 docker；不推荐在 windows 系统上安装 docker； dify：Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。 ollama：Ollama 是一个开源框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。非专业用户也能方便地管理和运行这些复杂的模型。

    软件安装

    虚拟机系统安装

    安装好VMware和centos8; centos8镜像下载：https://mirrors.aliyun.com/centos/8/isos/x86_64/?spm=a2c6h.25603864.0.0.75d11ce4lQBfTP 不会安装的可以看视频教程：【虚拟机安装centos7系统 - IT菜鸟丶阿森 | 小红书 - 你的生活指南】 😆

    docker安装

    进入centos系统；先将yum换源；

    cd /etc/yum.repos.d
# 找到 CentOS-AppStream.repo、CentOS-Base.repo、CentOS-Extras.repo文件
# 注释掉原来的地址mirrorlist=http://mirrorlist.centos.org/?
# 在下面添加一行对应的阿里云地址
#AppStream.repo
baseurl=https://mirrors.aliyun.com/centos/$releasever-stream/AppStream/$basearch/os/
#Base.repo
baseurl=https://mirrors.aliyun.com/centos/$releasever-stream/BaseOS/$basearch/os/
#Extras.repo
baseurl=https://mirrors.aliyun.com/centos/$releasever-stream/extras/$basearch/os/

    修改之后执行 yum clean all && yum makecache 再执行下方的命令安装docker

    yum install -y yum-utils device-mapper-persistent-data lvm2
# 添加docker源
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
#更新索引
yum makecache fast
# 安装 docker-ce
yum install -y docker-ce
# 启动动 docker，并设置开机自启
systemctl start docker
systemctl enable docker

    docker镜像源配置 目前未失效，阿里云的镜像我试过无用（坑1）

    vi /etc/docker/daemon.json
{
  "registry-mirrors" : [
    "https://register.liberx.info",
    "https://dockerpull.com",
    "https://docker.anyhub.us.kg",
    "https://dockerhub.jobcher.com",
    "https://dockerhub.icu",
    "https://docker.awsl9527.cn"
  ],
  "ipv6" : false
}
# 保存好后执行
systemctl daemon-reload
systemctl restart docker

    ollama安装

    在自己的windows系统上安装ollama；下载地址：https://ollama.com/；下载windows版本的安装即可；

    注：安装好了ollama需要在环境变量里面配置模型下载路径；否则下载的模型是在C盘；OLLAMA_MODELS为模型下载路径；OLLAMA_HOST代表访问ollama大模型api的IP；配置为0.0.0.0会监听所有可用的网络接口；如果设置成127.0.0.1则只能本地访问(坑2)

    环境变量

    安装好了；可以用ip+端口号在浏览器中查看下；

    打开终端；使用ollama命令操作ollama；

    命令 作用
    ollama pull model_name 拉取大模型 如qwen2.5
    ollama list 列出下载好的大模型
    ollama run model_name 运行大模型

    图例

    模型列表地址：https://ollama.com/library

    dify安装

    安装

    dify官网：http://difyai.com/ 我们使用docker compose方式来快速安装dify 克隆dify代码到本地git clone https://github.com/langgenius/dify.git 推荐先从windows下载；然后用xftp工具将项目文件夹拷贝到centos中；

    进入 Dify 源代码的 Docker 目录cd dify/docker 复制环境配置文件 cp .env.example .env 启动容器 docker compose up -d

    注：这里要保证docker compose的版本要大于2.24版本;不然有坑，启动不了dify。使用docker compose version 命令检查版本（坑3）

    执行完启动命令后，应该会看到类似以下的输出，显示所有容器的状态和端口映射：

    检查容器是否运行docker compose ps

    更新

    cd dify/docker
docker compose down
# 这里还是需要从windows更新好；把文件夹复制到虚拟机
git pull origin main
docker compose pull
docker compose up -d
    • 如果 .env.example 文件有更新，请务必同步修改您本地的 .env 文件。
    • 检查 .env 文件中的所有配置项，确保它们与您的实际运行环境相匹配。您可能需要将 .env.example 中的新变量添加到 .env 文件中，并更新已更改的任何值。

    访问

    访问虚拟机的ip地址；小编是192.168.171.168； 访问http://192.168.171.168/install初始化管理员账户密码

    设置好管理员账户密码就可以登录进去了

    配置知识库应用

    配置之前要先安装两个大模型，一个是LLM模型；一个是textEmbed ，小编安装的是QWEN2.5和shaw/dmeta-embedding-zh-small; 一个是用来对话的；一个用来自动智能分割文件形成知识库；用 ollama pull 命令

    配置模型供应商

    右上角用户点击设置

    添加ollama模型供应商

    • 模型类型是LLM；
    • 模型名称填自己下载的模型名称如：QWEN2.5;
    • URL填windows系统在虚拟机网络下的ip；如：http://192.168.171.1:11434，ollama的默认端口是11434

    再次添加Text Embedding模型,跟LLM添加是一样的；模型名称为shaw/dmeta-embedding-zh-small;

    注：这里windows防火墙要配置端口入站规则；或者关闭防火墙；在防火墙高级配置里添加一个入站规则；名称为ollama，类型为端口；端口为11434；然后一直默认下一步即可；否则dify会提示连接大模型超时；添加不了。(坑4)

    配置知识库

    创建知识库

    选择一个pdf文档；点击下一步 ；分段设置选择自动分段，索引方式选择高质量；模型就选择添加好的Embedding模型，检索设置为混合检索即可，点保存并处理

    到100%即处理完成

    配置应用

    以聊天助手为例

    上下文添加要引用的知识库

    即可开始对话

  • 小技巧：禁用系统更新

    Windows更新禁用的方法

    远景网友@chiannet编写的批处理，既可以禁用Windows更新，还可以禁用Defender / OneDrive / XblGameSave / Edge更新，一键操作非常简单。近日进行了更新。

    下载地址：

    https://wwi.lanzoup.com/b00ow468f 密码:ep8n

    <

  • 【漫画中的文化】“认错蚂蚱”这个道具，为什么非得是“蚂蚱”呢？

    在单行本第一卷有一则名为《认错蚂蚱》的短篇故事，在这个故事里，哆啦A梦拿出了一个名为“认错蚂蚱”的道具，一旦有人吸入这个道具，就会使这个人觉得自己有错，把自己见不得光的所作所为都“供认”出来，但是有时可能会让吸入的人产生妄想，严重者甚至会想不开，并“以死谢罪”。

    那么这个道具为什么会是“蚂蚱”呢？

    答案其实就藏在这个道具的名称里‍

    “认错蚂蚱”这个道具的名称，日语为“ペコペコバッタ”，这个名字的前半部“ペコペコ”在日语里就是不断低头行礼、道歉的意思。而后半部“バッタ”就是蝗虫，也就是蚂蚱。

    蚂蚱这种昆虫，有着强壮的后肢，移动的时候，利用这对强壮的后肢，可以实现大幅度的跳跃。日本人认为，这种不断向前跳跃，很像人不断地重复鞠躬，所以日语中有个词，叫做“こめつきばった”，这个词既是指的一种蝗虫，同时也有来嘲讽那些为了讨好上司，不断点头哈腰，阿谀奉承的人。

  • 世界，您好！

    欢迎使用 WordPress。这是您的第一篇文章。编辑或删除它，然后开始写作吧！

  • 男生回避！少女沐浴私房写真

    男生回避！少女沐浴私房写真！

  • 七猫免费小说 v7.4解锁会员去广告

    软件介绍

    一款备受欢迎的免费小说阅读软件，致力于为用户提供优质、免费的阅读体验。无论你喜欢哪种类型的小说，七猫都能满足你的需求。

    软件截图

    绿化说明

    【测试系统】Xiaomi HyperOS Ansroid 14，亲测纯净无广告无弹窗。

    下载地址

    [reply][c-downbtn type="default" url="https://share.feijipan.com/s/E8Awdlrw" pwd=""]7猫免费小说[/c-downbtn][/reply]

    特别说明

    1.必须先卸载之前的七猫免费小说，再下载安装。 2.下载后安装必须选择【原安装包】安装，不要选择应用市场的。 3.在手机的《应用商店》里关闭或忽略自动更新。 4.安装后不要更新软件，不小心更新就卸载从装即可!

热门文章

网站统计

  • 日志总数：369
  • 评论总数：696
  • 最后更新：2024-10-17

登录

找回密码

注册