官方提供的 UI 界面做得还算不错，不过测试时基本没用上，因为更关注的是代码层面的实现。 .env 配置文件的参数非常丰富，需要根据实际使用的工具链做适配。为了调用本地模型，我这里用Ollama 做了相应调整。 虽然 .env 文件里有参数可以配置 input 文件夹 ...

你是否曾想过让强大的开源大模型更懂你的专业领域，或者更能模仿你的写作风格？微调就是实现这一目标的钥匙。过去，微调是资源雄厚的大公司的专利，动辄需要数十张GPU和复杂的分布式训练知识。 但现在，感谢 Ollama 和 Python 生态的强大工具，这一切变得 ...

你是否曾想过让强大的开源大模型（LLM）更懂你的专业领域，或者更能模仿你的写作风格？微调（Fine-Tuning）就是实现这一目标的钥匙。过去，微调是资源雄厚的大公司的专利，动辄需要数十张GPU和复杂的分布式训练知识。 但现在，感谢 Ollama 和 Python 生态的强大 ...

作为一名对 AI 和机器学习充满热情的人，我花了不少时间研究怎么让强大的语言模型更好地完成特定任务。今天，我想分享一份详细的指南，教你如何用 Python 微调 LLM（大型语言模型），然后用 Ollama 这个工具在本地运行微调后的模型。这份指南基于我看到的 ...

IT之家5 月 17 日消息，科技媒体 WinBuzzer 昨日（5 月 16 日）发布博文，报道称开源大语言模型服务工具 Ollama 推出自主研发的多模态 AI 定制引擎，摆脱对 llama.cpp 框架的直接依赖。 llama.cpp 项目近期通过 libmtmd 库整合了全面视觉支持，而 Ollama 与其关系也引发社区 ...

Hello folks，我是 Luga，今天我们来聊一下人工智能应用场景 - 构建高效、灵活的计算架构的模型推理框架。 在人工智能领域，模型的推理能力是衡量其性能的核心指标之一，直接影响其在复杂任务中的表现。随着自然语言处理（NLP）和大规模语言模型 ...

探索AI智能体的设计原理与现实应用。 神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。 编者按：2025年是AI智能体元年。本系列文章旨在介绍AI智能体的概念、类型、原理、架构、开发等，为进一步 ...

在本文中，我们将简单介绍如何在 Python 中使用 Ollama API。无论你是想进行简单的聊天对话、使用流式响应处理大数据、还是希望在本地进行模型的创建、复制、删除等操作，本文都可以为你提供指导。此外，我们还展示了如何使用自定义客户端和异步编程来优化 ...

用Python和Ollama的Llama 3.2-Vision模型搭建自己的OCR应用。 光学字符识别技术，简称OCR，目前是数字化印刷文本和提取图像信息的核心手段，其重要性正日益凸显。如今，有了AI的加持，尤其是像Llama 3.2-Vision这样的模型，OCR变得更加强大。本文教会大家用Python和 ...

借助 Ollama，在 AMD 系统上本地运行大型语言模型（LLM）变得更加便捷。本指南将重点介绍 Meta 于 2024 年 9 月 25 日发布的最新 Llama 3.2 模型。Meta 的 Llama 3.2 提供 1B、3B、11B 和 90B 模型，兼具小规模和多模态特性。以下是如何在各种 AMD 硬件配置上运行这些模型，并 ...