大模型开发

一、概述在使用大模型（LLM）做应用开发时，LangChain是一个主流的开发框架，通过它来构建Agent，根据用户查询访问企业私有数据，调用自定义或者第三方工具库，然后再调用LLM，利用其推理…

一、什么是迭代式的prompt开发对于一些复杂的任务来说，如果只编写一次prompt来调用模型，不一定能够得到理想的效果，那么可以采用迭代开发的方式，基于每一次使用当前版本的prompt调用模型的效果来不断调整优化prompt，…

一、关于chaining prompts与CoT的比较前面谈到的CoT的推理过程，可以比作是一次性就烹调好一顿大餐，那么接下来要说的“chaining prompts”，其背后的理念是分多次来完成这样一项复杂任务，每次只完成其中一步或者一个子任务。核心…

一． 如何评估prompts是否包含有害内容用户在与ChatGPT交互时提供的prompts可能会包括有害内容，这时可以通过调用OpenAI提供的API来进行判断，接下来给出示例，通过调用模型“gpt-3.5-turbo”来演示这个过程。 prompt示例如下&…

一、chaining prompts应用解析及输出文本的设定由于输入和输出都是字符串形式的自然语言，为了方便输入和输出信息与系统设定使用的JSON格式之间进行转换，接下来定义从输入字符串转为JSON list的方法： 定义从JSON list转为输出字符串的方法&…

一、基于LangChain源码react来解析prompt engineering 在LangChain源码中一个特别重要的部分就是react，它的基本概念是，LLM在推理时会产生很多中间步骤而不是直接产生结果，这些中间步骤可以被用来与外界进行交互，然后产生new con…

一． 什么是归纳总结式的prompt开发有时候需要对一段文本进行归纳总结，那么可以采取以下的方案： -按照给定单词、句子或者字符的数量限制来让模型裁剪文本，使内容更精炼 -基于聚焦的主题进行总结 -只根据需求抽取相关的文本信…

一、什么是推理式的prompt开发有时候需要针对一些产品的评论文本进行分析，常见的做法如对每段评论所表达的情感倾向进行推理判断，识别用户对这个产品的使用体验是否满意，那么可以编写相关的prompt来做这样的推理分析。另外，针对…

一、如何编写有效的prompt 对于大语言模型来说，编写出有效的prompt能够帮助模型更好地理解用户的意图(intents)，生成针对用户提问来说是有效的答案，避免用户与模型之间来来回回对话多次但是用户不能从LLM那里得到有意义的反馈。本文通过具体…

一、如何开发prompts实现个性化的对话方式通过设置“system”和“user”等roles，可以实现个性化的对话方式，并且可以结合参数“temperature”的设定来差异化LLM的输出内容。在此基础上，通过构建一个餐馆订餐对话机器人来具体演示对话过程。…