Blog

Page 5 - Showing 5 of 89 posts

  • Bilibili下载器:AI编程真的那么香吗
    Bilibili下载器:AI编程真的那么香吗
    Arrow right

    本文探讨了Rust语言与AI编程结合的实践,通过开发Bilibili下载器项目,分析了AI在编程不同阶段的表现。初期AI高效解决语法和基础逻辑问题,但随代码复杂度提升,出现上下文理解不足、重复造轮子、补丁式代码等问题。文章评估了Rust学习曲线、AI工具价值及软件工程师角色转型,指出当前AI更适合处理明确且有限的任务范围。

    🕒1 min read
      Rust所有权系统异步操作错误处理AI上下文窗口限制补丁式代码生成设计模式可扩展性并发下载优化策略B站API逆向工程
  • LLM什么时候才能输出固定格式(JSON?)
    LLM什么时候才能输出固定格式(JSON?)
    Arrow right

    本文探讨了如何让LLM输出固定格式(如JSON)的方法,包括万能prompt大法、推理后处理方案(正则表达式)和推理中处理方案(动态限制解码)。文章分析了每种方法的优缺点及适用场景,并指出当前研究的局限性。

    🕒1 min read
      LLM固定格式输出JSON生成Prompt工程正则表达式后处理动态解码控制token概率调整
  • AI时代,流式传输哪家强
    AI时代,流式传输哪家强
    Arrow right

    本文探讨了AI时代下流式传输技术的必要性,对比分析了SSE、WebSocket和gRPC三种主流方案的技术实现与适用场景。重点阐述LLM响应延迟问题对传统HTTP请求的局限性,以及server端主动推送机制的核心价值。通过对比各技术在协议基础、通信模式、性能开销和心智负担等方面的差异,明确gRPC在Agent应用中的性能优势及浏览器兼容性限制。

    🕒1 min read
      流式传输Server-Sent Events(SSE)WebSocket心跳维护gRPC多路复用HTTP2性能优化长连接超时处理
  • HMM简介
    HMM简介
    Arrow right

    本文介绍了隐马尔可夫模型(HMM)的基本原理、前提假设以及三个核心问题:评估问题、预测问题和学习问题的解决方法。详细阐述了HMM的联合概率函数建模,包括初始状态概率分布π、状态转移概率矩阵A和发射概率矩阵B。针对评估问题,提到了前向算法;对于预测问题,讨论了贪心算法和维特比算法;在学习问题上,区分了有监督学习和无监督学习场景,并指出无监督学习中常用EM算法来估计模型参数。

    🕒2 min read
      隐马尔可夫模型马尔科夫性观测独立性联合概率函数初始状态概率分布π状态转移概率矩阵A发射概率矩阵B评估问题前向算法预测问题维特比算法学习问题EM算法
  • MCP和Function Calling的区别
    MCP和Function Calling的区别
    Arrow right

    AI摘要: 本文深入探讨了MCP(函数调用协议)在提升LLM稳定性和灵活性方面的作用。通过统一函数描述规范,解决了因描述风格差异导致的调用不稳定问题;采用客户端-服务器模式动态获取参数信息,实现了接口升级时的无缝适配。文章从基础功能调用到多风格兼容、参数动态化等技术难点展开,揭示了MCP如何构建标准化的函数调用体系,为LLM与外部系统交互提供可靠框架。

    🕒1 min read