host.docker.internal访问宿主机，docker使用宿主机声卡？

本文目录一览：

• 1、oneapi添加ollama后,测试报错
• 2、Nginx在宿主机代理Docker容器内PHP-FPM程序的实践指南
• 3、飞牛NAS跑大模型Docker+Openwebui+Ollama

oneapi添加ollama后,测试报错

1、修改配置后，重新启动oneAPI服务。再次点击测试按钮，确认连接是否成功。补充说明：如果ollama在宿主机上使用了非默认端口，确保在配置中指定正确的端口号。如果宿主机有防火墙，确保允许来自Docker容器的连接。

2、开源模型启动与导入：vLLM和Ollama是代表性项目。vLLM：大模型推理加速框架，支持多模型并提供OpenAI风格API服务。Ollama：介绍GGUF格式及其降低模型使用门槛的能力，提供API文档和Docker部署指南。GGUF量化方法：设计目的：为大型语言模型设计，允许在CPU上运行并利用GPU加速。

3、针对闭源 API 转换成 OpenAI 风格的方式，本文将重点介绍开源模型如何以 OpenAI Style 启动并导入到 OneAPI 统一管理。其中，vLLM 和 Ollama 是代表性的项目，vLLM 是一个大模型推理加速框架，通过 PagedAttention 高效管理 attention 缓存，实现高吞吐量。

4、测试和优化：对搭建好的本地知识库问答系统进行测试，确保各项功能正常。根据测试结果，对模型参数、知识库内容等进行优化，以提高问答系统的准确性和效率。通过以上步骤，你可以在Ubuntu本地成功部署基于开源大模型的OLLAMA、FastGPT、OneAPI和m3eEmbedding，构建一个功能强大的本地知识库问答系统。

Nginx在宿主机代理Docker容器内PHP-FPM程序的实践指南

宿主机独立Nginx代理Docker容器PHP-FPM适用场景：开发环境、单机部署或非容器编排场景。

在宿主机Nginx中代理Docker容器内的PHP-FPM程序，需通过端口映射实现Nginx与容器内PHP-FPM的通信，核心步骤包括配置PHP-FPM容器端口映射和设置Nginx的FastCGI代理。

已经解决，关键在于理解fpm进程在容器中寻找对应的php文件进行解析，而不是在宿主机上。解决方法是，在启动容器时，指定目录挂载。这样能够确保fpm进程在容器内正确地找到并解析php文件。在使用Docker构建运行环境时，常常需要整合nginx和php-fpm。

飞牛NAS跑大模型Docker+Openwebui+Ollama

执行命令 安装完成后，执行ollama提供的启动命令，即可启动本地大模型服务。

安装参考：详见《大模型本地部署开源框架 Ollama 介绍》。

安装Docker：找到下载的安装文件包，按照提示步骤进行安装。

可以通过Open WebUI访问Ollama接口。具体操作和注意事项如下：Ollama管理平台：Ollama是一个集中式管理平台，用于简化本地开源大模型的下载、加载和管理过程。通过Ollama，用户可以像使用Docker一样快速调用模型，无需复杂的代码编写。

部署本地知识库可通过以下方法实现，具体选择需结合硬件配置与功能需求： Ollama部署本地大模型+Open WebUI构建知识库步骤：下载并安装Ollama软件（官网选择对应操作系统版本），通过终端输入ollama run [模型名称]（如ollama run llama3）启动本地大模型。