如何监控vLLM等大模型推理性能? 近两年来,随着大语言模型(LLM)的快速普及,AI 推理应用的需求呈指数级增长。以 DeepSeek 为代表的开源大模型凭借其卓越的推理性能和准确性,在开发者社区中迅速走红。 技术开发 2025年03月18日 0 点赞 0 评论 547 浏览
Java与Go差别在哪,谁要被时代抛弃? 本文将针对 Golang 与 Java 的基础语法、结构体函数、异常处理、并发编程及垃圾回收、资源消耗等各方面的差异进行对比总结,有不准确、不到位的地方还请大家不吝赐教。 技术开发 2025年03月18日 0 点赞 0 评论 496 浏览
这款堪称编程界的“自动驾驶”利器,集开发、调试、提PR、联调、部署于一体 近期 Cursor 在圈内圈外越来越火,加之我又用它实现了个工具,也跟周围人“科普”过,觉得还是值得写篇文章再介绍一下,让非技术同学也知道可以尝试开发一些小工具、小程序或小应用。 技术开发 2025年03月17日 0 点赞 0 评论 754 浏览
探秘京东外卖幕后:地图&轨迹技术探寻 在数字化浪潮的席卷下,地图轨迹的应用早已渗透进生活的方方面面。日常出行时,导航软件精准记录我们的行程路线,为下次出行提供优化参考; 商业产品 2025年03月17日 1 点赞 0 评论 672 浏览
23招教你掌握大模型提示词技巧 推理成本直降80%的Deepseek-R1横空出世,OpenAI对GPT-4o进行了迭代更新,马斯克的xAI推出Grok 3模型并声称性能超越ChatGPT ......在这场技术地震中,最引人注目的当属完全开源的DeepSeek。 技术开发 2025年03月17日 0 点赞 0 评论 735 浏览
超详细版!DeepSeek核心技术大揭秘 以多视角剖析DS不同版本技术亮点以及发展历程。特别是结合每个版本迭代中的 diff 技术变更进行剖析,探索DeepSeek V1到R1 的卓越之处。 技术开发 2025年03月14日 0 点赞 0 评论 721 浏览
主流多智能体框架设计原理 本文描述了关于智能体(Agents)和多智能体系统(Multi-Agent Systems, MAS)的详尽介绍,涵盖了从定义、分类到具体实现框架的多个方面。 技术开发 2025年03月14日 0 点赞 0 评论 730 浏览
详解大模型应用可观测全链路 近日,随着阿里通义千问推出的 QwQ 系列深度思考模型爆火全球,以其令人赞叹的推理能力强、性价比突出等特点,一经发布就引发广泛关注,从资本市场与工业界走进大众视野中。 技术开发 2025年03月13日 0 点赞 0 评论 819 浏览
万字长文讲透 RAG在实际落地场景中的优化 检索增强生成(RAG,Retrieval-Augmented Generation)技术逐渐成为提升智能体的核心组成部分。通过结合检索与生成的双重能力,RAG能够引入外部知识,从而为大模型在复杂场景中的应用提供更多可能性。但是在实际落地场景中,往往会存在检索准确率低,噪音干扰多,召回完整性,专业性不够,导致LLM幻觉严重的问题。本次分享会聚焦RAG在实际落地场景中的知识加工和检索细节,如何去优化RAG Pineline链路,最终提升召回准确率。 技术开发 2025年03月12日 0 点赞 0 评论 755 浏览