1. 什么是提示词？

提示词（prompt）是引导 LLM 进行内容生成的命令，它可以是任何内容：一句话，一个问题，或者一个计算公式。当 LLM 收到提示词以后便开始根据提示词和之前训练的数据，生成相关的回应。

Cherry Studio 是一款开源、跨平台的多模型 AI 对话客户端，支持 Windows、macOS 和 Linux 系统，未来还将扩展至移动端。它集成了多种主流大语言模型（如 OpenAI、DeepSeek、Anthropic、Gemini 等）以及本地模型运行功能，并提供丰富的 AI 助手、知识库管理、联网搜索等特性，适用于专业用户、开发者和普通 AI 爱好者。

在 Dify 中配置 self-hosted vllm 模型 作为模型供应商时，应选择 OpenAI-API-compatible

Dify 是一款开源的大语言模型（LLM）应用开发平台，融合了后端即服务（Backend as a Service, BaaS）和 LLMOps 的理念，旨在帮助开发者快速构建和部署生成式 AI 应用。本篇文章将带您了解如何在本地环境中部署 Dify。通过本地部署，您可以更好地掌控数据和应用的运行环境，同时体验 Dify 强大的功能和灵活性。无论您是开发者还是对生成式 AI 应用感兴趣的技术爱好者，这篇指南都将为您提供清晰的步骤和实用的建议。

MCP（Model Context Protocol）作为一种新兴的通信协议，正在迅速改变 AI 应用的开发方式。本文旨在为开发者和技术爱好者提供一份全面的 MCP 资源指南，帮助大家更好地理解和使用 MCP 协议。无论是初学者还是资深开发者，都可以通过本文找到适合自己的工具、平台和学习资源，从而更高效地构建智能化应用。

本文主要讲述如何使用 vLLM 部署 千问 3 大语言模型。本文使用的是 Qwen3-0.6B 一个参数较小的模型，主要是为了体验整个部署过程。另外大模型运行在 CPU 上(因为支持 GPU 的 VPS 普遍较贵， 一直是用爱发电，能省则省).最后我们安装了一个 open-webui 用于和 self-hosted 的千问模型以图形界面的方式与模型进行对话。整个部署过程非常丝滑，适合有一定动手能力的用户，部署体验, 成本非常低， 仅需一台 8U32G 的 VPS， 不需要显卡。在本文的基础上略做修改也可以用于开发自己的 AI Agentic 应用。

vLLM 是一个专为 高性能推理 优化的大型语言模型（LLM）推理引擎，它由 UC Berkeley、CMU(卡内基梅隆大学)、Stanford 等高校的研究人员联合开发，旨在解决当前 LLM 推理中的效率与资源浪费问题。vLLM (virtualized Large Language Model) 是一个项目名称，其含义更侧重于强调它的虚拟化 + 大语言模型（LLM） 特性。virtualized 指的是该项目核心技术 —— 利用一种“虚拟内存”式的 KV 缓存管理机制（PagedAttention）。

Gemini AI 是 Google DeepMind 正在开发的大型语言模型 (LLM)。它仍在开发中，但预计会比目前最先进的 ChatGPT 4 更强大。Gemini AI 是建立在 DeepMind 于 2016 年开发的早期人工智能系统 AlphaGo 中使用的技术和技巧之上的。这意味着 Gemini AI 预计将拥有强大的计划和解决问题的能力。

Gemini AI 是一个强大的工具，有潜力用于各种应用。Gemini AI 的一些潜在用例包括：

聊天机器人：Gemini AI 可用于创建更现实、更有吸引力的聊天机器人。
虚拟助理：Gemini AI 可用于创建虚拟助理，帮助用户完成安排预约、预订和查找信息等任务。
内容生成：Gemini AI 可用于生成创意内容，例如文章、博客文章和脚本。
数据分析：Gemini AI 可用于分析大型数据集并识别模式和趋势。
医疗诊断：Gemini AI 可以帮助医生诊断疾病。
金融交易：Gemini AI 可用于做出交易决策。

1. 说明

AWS的CodeWhisperer是Amazon于2021年12月推出的一款代码补全工具, 与GitHub Copilot类似。与Copilot不同的是CodeWhisperer对于个人用户免费, 也是其优势所在. CodeWhisperer是一款基于机器学习的通用代码生成器，由Amazon出品，可以给我们提供代码建议, 可以帮助程序员更快、更安全地编写代码的工具，可以在他们的开发环境中实时提供代码建议和推荐。