Dify 上的 Ollama 不支持 Rerank 模型
在 Dify Cloud 平台调用各大平台的大模型 API 一直都没发现这个问题,随着开始折腾本地化使用,才发现 Ollama 部署大模型虽然方便,但是 RAG 中 Dify 知识库混合检索,需要 Rerank 模型时,这一点上,Ollama 居然是不支持 Rerank 模型的。

在 Dify Cloud 平台调用各大平台的大模型 API 一直都没发现这个问题,随着开始折腾本地化使用,才发现 Ollama 部署大模型虽然方便,但是 RAG 中 Dify 知识库混合检索,需要 Rerank 模型时,这一点上,Ollama 居然是不支持 Rerank 模型的。

在 Python-3.6.9 中测试 Cheetah 包的时候遇到了找不到 libpython3.6m.so.1.0 静态库,记录一下填坑。
事情起因是在 R 语言中调用 png 包的 readPNG 读取 png 图片的时候,碰到了错误:libpng error: Incompatible libpng version in application and library。
> library(png)
> p1 = readPNG("/bioinfo/polyA/circos.png")
Error in readPNG("/bioinfo/polyA/circos.png") :
libpng error: Incompatible libpng version in application and library
In addition: Warning messages:
1: In readPNG("/bioinfo/polyA/circos.png") :
libpng warning: Application was compiled with png.h from libpng-1.6.37
2: In readPNG("/bioinfo/polyA/circos.png") :
libpng warning: Application is running with png.c from libpng-1.2.49
>
这个问题,其实在 《RamiGO 安装及库依赖解决备忘》曾经遇到过,当时的解决方法,在现在看起来其实是并不完善的。所以,在问题解决前,我们先来看看这个问题到底是怎么导致的。