发布了文章1 月 2 日
1. 定义 生物神经网络是由大量神经元(Neuron)通过突触(Synapse)相互连接而成的复杂信息处理系统。它是生物体神经系统的核心结构,负责接收外界刺激、处理信息、产生反应和控制行为。
发布了文章2025-12-30
1. 前言前面介绍训练时通过设置 plots=True参数, 在训练后不仅有数值指标,还能有可视化的结果,方便:快速定位数据集问题(labels.jpg、train_batch*.jpg)分析模型性能(results.png、confusion_matrix.png)直观查看预测效果(val_batch*_pred.jpg)生成的文件如...
发布了文章2025-12-14
还是继那篇文章,提出要调大 max.partition.fetch.bytes、message.max.bytes 的参数值。但是不能调太大,调太大之后,同样带来新的问题。
发布了文章2025-12-07
介绍过 YOLO 的背景、起源等知识后,今天就将如何使用 YOLO 进行 目标检测(Object Detection)。安装就不说了,ultralytics 官网 提供多种安装方式可选择。
发布了文章2025-12-06
前面讲解了 PaddleOCR,都是基于 OCR(Optical Character Recognition,光学字符识别) 的技术。今天介绍 YOLO,是一种目标检测(Object Detection)算法。
发布了文章2025-11-16
VL模型确实好用,但在实际使用后也有很大的缺点。NLP 模型就已经很慢了, VL模型的推理速度更慢,token 费用还是 NLP模型的好几倍。很难在实际项目中大规模使用。
发布了文章2025-11-06
1. 问题描述最近在接入一个新的埋点 Kafka Topic 后,遇到一个非常隐蔽的问题:新 Topic 一直消费不到消息;在公司 MQ 平台上查看 Topic,查不到消费组的注册信息;日志平台没有任何 Error 日志。消费端的逻辑是典型的主动拉取模式,由异步线程循环执行:poll() 拉取...
发布了文章2025-11-02
在大语言模型(LLM)的浪潮下,“Agent”成为一个炙手可热的关键词。 所谓 LLM Agent,就是让语言模型不仅能对话,还能自主决策、调用工具、执行任务。过去两年,围绕 Agent 的研究涌现了多个经典框架:ReAct、Plan-Act-Reflect、Toolformer、Multi-Agent Collaboratio...
发布了文章2025-11-02
在早期的 LLM 应用中,很多系统采用单模型单任务的方式:一个大型语言模型(如 GPT-4、Claude)接收用户请求,然后直接生成结果。 这种方式的优点是简单,但缺点也明显:
发布了文章2025-10-19
1. 背景为了让 LLM 不只是一次性对话,而是能自主执行任务、与外部工具交互、保持上下文状态,人们提出了 LLM Agent 概念。真实世界任务往往不是一次性完成,需要多轮交互、跨会话处理,甚至长时间跟踪任务进度。为什么单纯的 LLM 不够原生的 LLM 通常只有短期上下文...
发布了文章2025-10-19
关于 LLM Agent 框架中,如何调用外部工具,之前有介绍 ReAct、Plan-Act-Reflect 的设计方案。这次介绍一种和前面完全不同的设计:Toolformer,特点是让 LLM 自己有调用外部工具的能力。
发布了文章2025-10-12
Plan-Act-Reflect 框架代表了LLM应用向更高层次智能迈进的方向。它通过引入:前瞻性的规划(Plan)有条理的执行(Act)至关重要的自我修正(Reflect)使得LLM能够处理那些不确定性高、路径长、易偏离目标的复杂任务。它将LLM从一个“反应式问题解决者”提升到了一个“主...
发布了文章2025-10-12
ReAct 是一个将 Reasoning(推理) 和 Acting(行动) 相结合的范式,旨在让 LLM 与外部工具(如搜索引擎、计算器、数据库、API等)进行交互,从而更可靠、更准确地解决任务。
发布了文章2025-08-03
很多公司使用的 JDK 还停留在 JDK8,JDK8、JDK11、JDK17、JDK21 都是 LTS 版本。不想升级 JDK11、JDK17 的人,大多是觉得没有特别值得更新的新特性。但就算每个版本都是小迭代,经历了这么多版本了,JDK21 相较于 JDK8,也是有不少值得升级的闪光点。
发布了文章2025-08-03
可以理解为,ReAct 是 LLM Agent 的一种设计框架或范式,而 OpenAI Function Calling 是基于该设计范式的具体实现。
发布了文章2025-08-02
思维链(Chain-of-Thought, CoT)是一种通过引导模型分步推理来提升复杂问题解决能力的提示技术。与直接提问相比,CoT要求模型生成中间推理步骤,模拟人类“逐步思考”的过程,从而更准确地推导出最终答案。
发布了文章2025-07-31
并行计算能力: AI的核心运算(如矩阵乘法、卷积等)需要处理海量数据,而GPU的数千个计算核心(如NVIDIA CUDA核心)擅长并行计算,比CPU(通常几个到几十个核心)更适合加速这类任务。
发布了文章2025-07-17
1. HNSW索引 分层可导航小世界1.1. 定义HNSW(Hierarchical Navigable Small World,分层可导航小世界)的核心思想是构建一个分层图结构:分层结构:每个数据点随机分配一个层级,层级越高的数据点越少。小世界图:每层是一个“邻接图”,每个点只和部分点相连,图结构...
发布了文章2025-07-17
在向量数据库中,度量方式(Metric, Distance/Similarity Metric)指的是用于衡量两个向量之间“相似度”或“距离”的数学方法。
发布了文章2025-07-17
1. 大模型知识更新的痛点大模型的知识源于预训练阶段。通过大量的无监督数据,利用下一个词预测任务来完成训练。待训练完成之后,模型便能将大量的知识压缩到自身的参数中。然而,在互联网时代,知识更新迅速,导致大模型难以实时更新所蕴含的知识。由于存在知识更新...