智能摘要 文章介绍了在RTX 5070ti显卡上部署Gpustack和最新版本VLLM的注意事项和具体步骤。由于版本依赖较强，需使用CUDA 12.8以避免出现sm_120不可用的错误。作者推荐使用NVIDIA官网下载CUDA 12.8.1并以runfile方式安装，避免覆盖已有的显卡驱动。随后通过配置环境变量和创建虚拟环境安装VLLM，并通过软链接将VLLM接入GPUstack的指定路径以成功运行后端服务。整个流程强调版本适配和安装方法选择。— 此摘要由AI生成仅供参考。 对于50系显卡，我的是5070ti，cu…
智能摘要 文章讨论了在构建RAG（检索增强生成）知识库问答系统时的关键策略与优化方法。虽然低代码平台如Dify、Coze提供了便捷的配置方式，但在企业级场景中，其问答精准度往往只能达到50、60分，难以满足高要求。文章分别介绍了知识提取、分块、嵌入、存储与索引、检索、生成与效果评估各环节中的技术和最佳实践。重点指出，需通过多个细致优化步骤提升系统性能，并推荐结合文档实际情况和生成目标选择合适的处理方式，持续关注新兴技术，如Self-RAG，以实现更高质量的知识库问答系统。— 此摘要由AI生成仅供参考。 像Dify、…
智能摘要 文章介绍如何搭建一个全自动AI短视频生成工厂。流程包括部署n8n工作流，使用Google Gemini模型撰写文案并配置API密钥，下载并部署开源项目MoneyPrinterTurbo实现视频生成，通过Pexels获取素材，利用web页面或API完成视频生成测试。文章还列出了常见异常解决方式，例如代理设置和网络问题。最后，通过添加YouTube等平台的上传节点，完成多平台自动化发布。— 此摘要由AI生成仅供参考。 目标 输入一个标题，自动生成对应的一个短视频。 环境要求 1、部署n8n 2、梯子必要要求，…
智能摘要 本文系统对比了 **LangChain、Coze、Dify、Flowise、LlamaIndex** 五种 AI 应用开发框架。不同框架在技术门槛、企业级功能、中文支持等方面各有侧重，适用于不同开发场景和团队类型。企业级系统开发建议使用 **Dify**，强安全合规和私有化能力契合政府与金融行业需求；个人和小团队快速开发推荐 **Coze**，依托字节生态可5分钟内创建机器人；科研与文档处理推荐 **LlamaIndex**，可视化工作流建议使用 **Flowise**；深度定制Agent则适合具备编程能…
智能摘要 监督微调（SFT）使用标注数据优化模型，使其适应特定任务，适用于对话模型初步优化，但依赖高质量数据，无法处理主观目标。强化学习（RL）则通过奖励信号优化模型，尤其在RLHF中结合人类反馈提升对话质量，适用于复杂目标和动态环境，但训练不稳定。SFT与RL常结合使用，先用SFT训练模型，再用RL进行微调。GPU利用率指标SM Activity用于衡量流式多处理器在执行任务时的活跃程度，当GPU利用率长期偏低时，会影响性能。— 此摘要由AI生成仅供参考。 1. SFT 和 RL 机器学习训练的区别： 1. 监督…
智能摘要 介绍了使用 ComfyUI 通过 ControlNet 插件实现图片转换的进阶方法。可通过 Canny 节点将普通图片转化为边缘图，用于 ControlNet 生成。同时，可使用 DWPose Estimation 节点将已有图片转换为人物姿势图，便于精准控制生成结果。还可借助 ReferenceOnlySimple 节点实现参考图设计。此外，还提供了边绘制边生成的实时应用技巧，例如使用 SDXL Turbo 模型和 Auto Queue 设置自动生图流程。— 此摘要由AI生成仅供参考。 在 Contro…
正式开始学习本章前，请先下载以下模型，并将模型文件放到对应的文件夹内： Dreamshaper(opens in a new tab)：将其放到 ComfyUI 里的 models/checkpoints 文件夹内。 ControlNet Scribble(opens in a new tab)：将其放到 ComfyUI 里的 models/controlnet 文件夹内。 ControlNet Openpose(opens in a new tab): 将其放到 ComfyUI 里的 models/control…
正式开始学习本章前，请先下载以下模型，并将模型文件放到对应的文件夹内： Dreamshaper 8-inpainting(opens in a new tab)：将其放到 ComfyUI 里的 models/checkpoints 文件夹内。 Inpainting workflow 我以下面这个场景为例解释下如何搭建 Inpainting，左侧这张图是我先用文生图功能生成的，我对图中人物的发色不满意，于是我用 ComfyUI 在原图的基础上重新生成了红色头发的人物，且对比原图，新图片除了头发外，其他地方都没有发生变…
原理介绍 按照惯例，我们先来简单聊下 Upscale 的原理。目前主流的 upscale 的方法有两种： Upscale pixel：将可视的图直接 upscale。如果拿 ComfyUI 节点解释，这个节点输入的是 image，输出的是 upscale 后的 image。 Upscale latent：另一种是将不可视的潜空间图像 upscale，如果拿 ComfyUI 节点解释，这个节点输入的是 latent 输出的是 upscale 后的 latent，最后需要经过 decode 才能变成可视的图片。 这两种…
