<rss xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title>AI实践 - category - 沐木</title><link>https://oldletter.cn/categories/ai%E5%AE%9E%E8%B7%B5/</link><description>AI实践 - category - 沐木</description><generator>Hugo -- gohugo.io</generator><language>zh-cn</language><lastBuildDate>Sun, 07 Jun 2026 00:00:00 +0000</lastBuildDate><atom:link href="https://oldletter.cn/categories/ai%E5%AE%9E%E8%B7%B5/" rel="self" type="application/rss+xml"/><item><title>Java 后端的 LLM 实战路线：微调、RAG、Agent 全链路拆解</title><link>https://oldletter.cn/posts/ai-02-llm-practice-roadmap/</link><pubDate>Thu, 28 May 2026 00:00:00 +0000</pubDate><author>mumu</author><guid>https://oldletter.cn/posts/ai-02-llm-practice-roadmap/</guid><description><![CDATA[<blockquote>
<p>📅 2026-05-28 | 🏷️ LLM, LoRA, RAG, Agent | 📖 阅读约 25 分钟</p></blockquote>
<hr>
<h2 id="写作背景">写作背景</h2>
<p>这篇文章站在 Java 后端的视角写。我的切入点并非训练框架本身，重点是把模型能力接进已有系统：接口怎么设计，流式响应怎么落地，知识库怎么更新，工具调用怎么审计。Python 示例能解释原理，真正上线时还要回到鉴权、限流、日志、回滚和成本控制。
后端同学学习 LLM 时，可以先抓住工程边界：模型负责生成，应用负责上下文、权限、状态和证据。只要这个边界稳住，后续换模型、换向量库、换 Agent 框架都不会牵动整套业务。
Java 生态资料少，不代表 Java 不适合做 AI 应用。训练和实验可以交给 Python，在线服务、管理后台、任务调度、数据治理仍然是 Java 很熟悉的战场。
这篇文章按落地顺序展开：先会调用模型，再做 RAG，再理解微调和 Agent，末尾补评估、部署和安全。
数学细节可以以后补，工程上先把数据链路、接口契约和验证方法跑通。</p>
<hr>
<h2 id="一全景图llm-落地的四层架构">一、全景图：LLM 落地的四层架构</h2>
<div class="mermaid" id="id-11" data-mermaid-definition="Zmxvd2NoYXJ0IFRCCiAgICBBcHBbIuW6lOeUqOWxgu&#43;8muWvueivneOAgeWuouacjeOAgeefpeivhuW6k&#43;OAgeaWh&#43;aho&#43;WKqeaJiyJdCiAgICBPcmNoZXN0cmF0aW9uWyLnvJbmjpLlsYLvvJrlt6XkvZzmtYHjgIHlt6Xlhbfot6/nlLHjgIHkvJror53nirbmgIEiXQogICAgQ2FwYWJpbGl0eVsi6IO95Yqb5bGC77ya5qOA57Si44CB6YeN5o6S44CBRW1iZWRkaW5n44CB6K&#43;E5rWLIl0KICAgIE1vZGVsWyLmqKHlnovlsYLvvJpMTE0gQVBJIOaIluiHqumDqOe9suaOqOeQhuacjeWKoSJdCiAgICBJbmZyYVsi5Z&#43;656GA6K6&#43;5pa977ya5ZCR6YeP57Si5byV44CB5Lia5Yqh5bqT44CB5a&#43;56LGh5a2Y5YKo44CBR1BVIl0KICAgIEFwcCAtLT4gT3JjaGVzdHJhdGlvbgogICAgT3JjaGVzdHJhdGlvbiAtLT4gQ2FwYWJpbGl0eQogICAgT3JjaGVzdHJhdGlvbiAtLT4gTW9kZWwKICAgIENhcGFiaWxpdHkgLS0&#43;IE1vZGVsCiAgICBDYXBhYmlsaXR5IC0tPiBJbmZyYQogICAgTW9kZWwgLS0&#43;IEluZnJh">flowchart TB
    App[&#34;应用层：对话、客服、知识库、文档助手&#34;]
    Orchestration[&#34;编排层：工作流、工具路由、会话状态&#34;]
    Capability[&#34;能力层：检索、重排、Embedding、评测&#34;]
    Model[&#34;模型层：LLM API 或自部署推理服务&#34;]
    Infra[&#34;基础设施：向量索引、业务库、对象存储、GPU&#34;]
    App --&gt; Orchestration
    Orchestration --&gt; Capability
    Orchestration --&gt; Model
    Capability --&gt; Model
    Capability --&gt; Infra
    Model --&gt; Infra</div><p>Java 后端开发者的优势在<strong>应用层和编排层</strong>，你已经会 Spring Boot、会设计 API、会做系统集成。
需要补的是<strong>能力层</strong>（怎么用 RAG/微调提升效果）和<strong>基座层</strong>（怎么选模型、怎么部署）。</p>]]></description></item><item><title>小白也能看懂的 Codex 入门指南：从安装到实战全流程</title><link>https://oldletter.cn/posts/ai-03-codex-guide/</link><pubDate>Sun, 07 Jun 2026 00:00:00 +0000</pubDate><author>mumu</author><guid>https://oldletter.cn/posts/ai-03-codex-guide/</guid><description><![CDATA[<blockquote>
<p>📅 2026-06-07 | 🏷️ Codex, AI Agent, Skill | 📖 阅读约 25 分钟</p></blockquote>
<p>Codex 是面向代码工作的 AI Agent。它和普通聊天工具的区别在于：它能读取本地仓库、运行命令、修改文件、跑测试，并把过程和结果留在同一个任务里。对开发者来说，它更接近一个可审计的工程助手。</p>
<p>本文只保留可长期维护的接入方式和安全边界。账号、模型、客户端能力会变化，涉及登录、计费、可用区域和模型名称时，以 OpenAI 官方文档和客户端当前提示为准。</p>
<h2 id="一codex-能做什么">一、Codex 能做什么</h2>
<p>Codex 的核心能力可以按四类理解。</p>
<table>
  <thead>
      <tr>
          <th>能力</th>
          <th>适用场景</th>
          <th>注意点</th>
      </tr>
  </thead>
  <tbody>
      <tr>
          <td>代码阅读</td>
          <td>梳理项目结构、解释模块、定位调用链</td>
          <td>给它明确目标和范围</td>
      </tr>
      <tr>
          <td>代码修改</td>
          <td>修 bug、补功能、重构、补测试</td>
          <td>修改后要跑测试和 diff 检查</td>
      </tr>
      <tr>
          <td>命令执行</td>
          <td>构建、测试、格式化、启动本地服务</td>
          <td>高风险命令要确认影响面</td>
      </tr>
      <tr>
          <td>浏览器与桌面协作</td>
          <td>前端预览、截图检查、表单验证</td>
          <td>不要让它接触无关账号和隐私页面</td>
      </tr>
  </tbody>
</table>
<p>日常使用时，我会把任务拆成“读代码、给判断、改文件、跑验证、交付结果”五步。这样既能利用 Agent 的连续工作能力，也能避免它在需求不清时扩大改动范围。</p>
<h2 id="二安装与登录">二、安装与登录</h2>
<p>Codex 常见形态包括桌面端、CLI 和 IDE 扩展。安装方式请以官方页面为准；不同系统、不同发行渠道会变。安装完成后，优先使用官方支持的登录方式。</p>
<p>常见路径有两类：</p>
<ol>
<li>ChatGPT 账号登录。适合已经有对应账号和权限的用户，登录流程由官方客户端引导。</li>
<li>API Key 或兼容 API 接入。适合希望按 API 方式管理模型、额度和计费的用户。</li>
</ol>
<p>不建议复制、购买、共享或备份他人的登录态文件。登录态文件等同于账号凭据，一旦泄露，可能带来账号被占用、额度被消耗、数据被读取等风险。任何要求你导入陌生登录态、运行闭源脚本修补登录状态、提交 Cookie 或 Token 的方案，都应当视为高风险。</p>
<h2 id="三代理与网络">三、代理与网络</h2>
<p>国内网络环境下，官方账号登录、客户端资源加载、模型接口访问可能受到网络条件影响。处理这类问题时，先分层定位：</p>
<table>
  <thead>
      <tr>
          <th>层级</th>
          <th>检查项</th>
      </tr>
  </thead>
  <tbody>
      <tr>
          <td>系统网络</td>
          <td>DNS、代理客户端、证书、系统时间</td>
      </tr>
      <tr>
          <td>终端环境</td>
          <td><code>HTTP_PROXY</code>、<code>HTTPS_PROXY</code>、<code>NO_PROXY</code></td>
      </tr>
      <tr>
          <td>Codex 配置</td>
          <td>当前任务权限、MCP、插件、模型配置</td>
      </tr>
      <tr>
          <td>供应商接口</td>
          <td>base URL、API Key、模型名称、额度</td>
      </tr>
  </tbody>
</table>
<p>代理配置不要写进项目仓库，也不要贴到博客或 issue 里。涉及 Token、订阅地址、内部网关域名的内容都要脱敏。</p>]]></description></item></channel></rss>