首页
技术日记
编程
旅游
数码
登录
标签
LLM
LLM 的推理优化技术纵览
作者:紫气东来原文:https:zhuanlan.zhihup642412124转载者:杨夕【LLMs九层妖塔】 : https:githubkm1994LL
技术
LLM
admin
7月前
112
0
社区版Dify实现文生视频 LLM+ComfyUI+混元视频
社区版Dify实现文生视频 LLMComfyUI混元视频一、 社区版Dify实现私有化混元视频效果二、为什么社区版Dify可以在对话框实现文生视频?LLMComfyUI混元视频 实现流程图(重点&
视频
社区
ComfyUI
Dify
LLM
admin
7月前
95
0
Meta:LLM人机协作数据标注框架MILO
人机
框架
数据
Meta
LLM
admin
7月前
78
0
LLM部署,并发控制,流式响应(Python,Qwen2+FastAPI)
前言 随着生成式人工智能的快速发展,部分场景希望能过自主部署大型语言模型(LLM)服务器用于推理服务,而相关教程博文尽管很多,但
流式
LLM
python
FASTAPI
admin
7月前
106
0
LLM部署实战:基于Qwen2+FastAPI的并发控制与流式响应实现
前言 随着生成式人工智能的快速发展,部分场景希望能过自主部署大型语言模型(LLM)服务器用于推理服务,而相关教程博文尽管很多,但
实战
流式
LLM
FASTAPI
admin
7月前
98
0
LLM漫谈(八)| OpenAI 12天直播集锦
声明:本文是收集了网上关于OpenAI 12天直播的博文,若有侵权,联系我删除,感谢各位博主的奉献。此次 OpenAI 将发布会拆分为 12 天直播,是一次内容与形式的双重创新。这种形式通过延长发布周期,不断吸引观众注意力,
集锦
LLM
OpenAI
admin
7月前
71
0
[LLM-Agents]浅析Agent工具使用框架:MM-ReAct
上文LLM-Agents]详解Agent中工具使用Workflow提到MM-ReAct框架,通过结合ChatGPT 与视觉专家模型来解决复杂的视觉理解任务的框架。通过设计文本提示(prompt d
框架
工具
agents
LLM
Agent
admin
7月前
87
0
LLMs:《Building LLM applications for production构建用于生产的LLM应用程序》翻译与解读
LLMs:《Building LLM applications for production构建用于生产的LLM应用程序》翻译与解读 LLMs:构建用于生产的LLM应用程序的挑战与案例经验总结—
应用程序
building
LLMs
LLM
production
admin
7月前
113
0
一文读懂LLM的「幻觉」问题
如何解决大模型的「幻觉」问题? 参考论文 论文1:《Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models》 论文2:《Cogniti
一文
幻觉
读懂
LLM
admin
7月前
63
0
【LLM】Agent设计和开源框架汇总 | 记忆模块构建
note 开源Agent分为积累:自动agent(autoGPT、loopGPT、babyAGI)、半自动agent(camel)
开源
框架
模块
记忆
LLM
admin
7月前
143
0
AI原生应用架构演进:LLM带来的变革与挑战
AI原生应用架构演进:LLM驱动的范式转变与工程挑战 关键词 AI原生架构 | 大语言模型(LLM) | 应用架构范式 | 智能交互系统 | 提示工程 | 向量数据库 | 认知架构 | 多模态融合 | 模型编排 摘要 本分析深入探讨
架构
AI
LLM
admin
7月前
69
0
【LLM】OpenAI 的DAY12汇总和o3介绍
noteo3 体现出的编程和数学能力,不仅达到了 AGI 的门槛,甚至摸到了 ASI(超级人工智能)的边。Day 1:o1完全
OpenAI
LLM
admin
7月前
84
0
MCP Bridge: A Lightweight, LLM-Agnostic RESTful Proxy for Model Context Protocol Servers
MCP Bridge: A Lightweight, LLM-Agnostic RESTful Proxy for Model Context ProtocolServersArash Ahmadi , Sarah Sharif ,
LLM
Agnostic
lightweight
MCP
Bridge
admin
7月前
84
0
100 个 LLM ChatGPT Prompt 最佳实践指南:LET‘s THINK STEP BY STEP
欢迎您的阅读,接下来我将为您一步步分析:100 个 LLM ChatGPT Prompt 最佳实践指南。让我们通过多个角度来探讨这个主题,以确保全面和深入的理解。 100
指南
LLM
ChatGpt
step
Prompt
admin
7月前
73
0
LLM 大模型学习必知必会:大模型基础知识篇
魔搭 ModelScope 开源的 LLM 模型 魔搭 ModelScope 欢迎各个开源的 LLM 模型在社区上做开源分享。目前社区上已经承载了来自各个机构贡献的不同系列的 LLM 模型。并且社区的开发者也在这些模型的基础上&#
模型
基础知识
必会
LLM
admin
7月前
84
0
【LLM学习笔记】关于Prompt
一、相关定义 文献:The Prompt Report: A Systematic Survey of Prompting Techniques] 1. Prompt A prompt is an input t
学习笔记
LLM
Prompt
admin
7月前
100
0
#LLM入门|Prompt#1.8_聊天机器人_Chatbot
聊天机器人设计 以会话形式进行交互,接受一系列消息作为输入,并返回模型生成的消息作为输出。 原本设计用于简便多轮对话,但同样适用于单轮任务。 设计思路 个性化特性:通过定制模型的训练数据和参数,使机器人拥有特定的个性化特点。 专门任务设计:
机器人
入门
LLM
Prompt
Chatbot
admin
7月前
81
0
小黑黑尝试了解langchain:使用 Langchain 的 LLM 的对话记忆ConversationChain
初始化模型from langchain.schema import SystemMessage, HumanMessagefrom langchain_openai import ChatOpenAIlangchain_keyls
记忆
langchain
ConversationChain
LLM
admin
7月前
93
0
#LLM入门|Prompt#3.3_存储_Memory
在与语言模型交互时,一个关键问题:记忆缺失使得对话缺乏真正的连续性。 因此,接下来介绍 LangChain 中的储存模块,即如何将先前的对话嵌入到语言模
入门
LLM
Prompt
memory
admin
7月前
77
0
4. 使用LangChain的LLM对话记忆
对话记忆是聊天机器人如何以对话方式响应多个query的机制。他使得对话连贯,没有他,每个query都是当做完全独立的输入、而不考虑过去的交互。 上面的图代表了LLM有对话记忆和没有对话记忆。蓝色的
记忆
langchain
LLM
admin
7月前
104
0
«
1
2
3
»