内容类型
教程实践
拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。
近 30 天 15 条共 21 条精选收录 146 条
精选新闻
Amazon Bedrock 开放权重模型提示词缓存配置教程
AWS 介绍如何在 Amazon Bedrock 的开放权重模型上使用提示词缓存,并演示通过 Chat Completions API 配置隐式和显式缓存。示例涵盖基于产品手册的问答助手和 OpenCode 编码智能体会话,并说明如何从响应用量字段读取缓存读写情况。
AWS Machine Learning Blog
Amazon Bedrock Managed Knowledge Base 支持按租户定制回答
AWS 介绍了 Amazon Bedrock Managed Knowledge Base 的检索指令功能,可为不同租户设置回答语气、格式、检索指引和回答策略,并通过固定版本逐租户更新。检索指令本身不隔离数据,文章示范了如何用基于已认证租户的元数据过滤器或独立知识库限制可检索内容,并通过追踪事件记录所用指令版本。
AWS Machine Learning Blog
Claude Code 团队如何设计验证流程:约 90% 代码由 Claude 编写
Addy Osmani 撰文介绍 Claude Code 团队的验证实践:团队约 90% 的代码由 Claude 编写和审查,因此需要让智能体用证据自我验证。
Addy Osmani
Together AI 复盘从 megakernel 到 Together Compiler 的推理优化路径
Together AI 复盘其推理优化路线:去年构建的 megakernel 在 Llama 1B 上达到 990 TPS,但最终只支持一个模型、一个 batch size 和一个客户。
Together AI Blog
Google 发布开源 AI-Hypercomputer/tpu-codesign TPU 模型设计与优化指南
Google 发布开源 AI-Hypercomputer/tpu-codesign 指南,帮助开发者针对 TPU 设计和优化 LLM、MoE 及其他硬件密集型模型。
Google Developers Blog
Google 在 TPU 上用 Zero-TIM 实现训练与推理逐位一致
Google 在 Tunix 中实现 Zero-TIM,使采样器解码、服务预填充与训练器前向在相同权重下对同一动作给出逐位相同的 logprob,并在 64 颗 TPU v5p(DP8×TP8)多主机环境验证。
Google Developers Blog
实测 MiniMax H3 Image:四类玩法与12组提示词效果
作者连夜实测 MiniMax 刚开源的 H3 Image,按分镜与解构爆炸图、3A 游戏与动漫资产、超长文本排版、跨风格融合四类共 12 组案例逐一展示效果,并附上自己打磨的详细提示词。
卡尔的AI沃茨
vLLM 在 Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash:单 GPU 1.7M tokens/s,较 GB300 NVL72 提升 58 倍
vLLM 团队在 NVIDIA Vera Rubin NVL72 单机架上服务 DeepSeek-V4.1-Flash,实现每 GPU 1.7M tokens/s、单用户 387 tokens/s,吞吐为 GB300 NVL72 的 58 倍,峰值吞吐 2.52M tokens/s、单用户最高 1,810 tokens/s。
vLLM Blog
Meta 与 vLLM 在 TPU v7 上将 0.6B 稠密模型 RL 全周期从约 100 分钟优化到 56 秒
Meta 与 vLLM 团队在 64 芯片 Google Cloud TPU v7 切片上,用 Qwen3-0.6B 跑 GRPO 真 8K 负载,把一次 rollout 到权重更新的完整周期从约 100 分钟降到 56 秒(20 步中位数 57.9 秒),解码吞吐从约 4K 提升到约 183K tokens/s。
vLLM Blog
Meta 详解 TLX:面向生产 ML 的硬件原生 GPU 编译器
Meta 工程团队详解 TLX(Triton Low-Level Extensions),它在 Triton 之上加入 warp-group 与 cluster 级显式编排,让开发者直接使用 TMA、TMEM 等新硬件能力。
Meta Engineering
Anthropic 拆解智能体记忆的组成部分与 dreaming 机制
Anthropic 工程博客梳理了 Claude 智能体记忆的设计思路,把记忆笔记、dreaming 反思和 wiki 表示拆成可评估的组件。
Anthropic Engineering
Google 研究:代码库遗留 TODO 如何分散编码智能体的注意力
Google 基于数千名工程师、数亿次智能体步骤的分布式追踪,量化了代码库中遗留 TODO(bug/...) 注释对编码智能体的干扰。
Google Developers Blog
Meta 详解 JiTTests 生产部署:用 LLM 生成测试在代码合入前抓 Bug
Meta 公布 Catching JiTTests 已从研究原型进入生产基础设施,用 LLM 为每个代码 diff 自动生成可执行测试,在代码合入前暴露行为差异。
Meta Engineering
Kling 4.0 使用指南:30 秒生成、10 关键帧与 21:9 画幅
Replicate 发布 Kling 4.0 使用指南,介绍快手这一新版本单次可生成 3 至 30 秒、720p 或 1080p 视频,支持 16:9、9:16、1:1 和新增的 21:9 四种画幅,提示词上限 26000 字符。
Replicate Blog
Cloudflare 如何把 AI 代码审查成本降低 68%
Cloudflare 通过优化 AI 代码审查器,把单次审查平均成本从 2.43 美元降到 0.77 美元,降幅 68%,中位耗时从 4 分 09 秒缩短到 1 分 32 秒。
Cloudflare Blog · AI
Anthropic 如何重新设计源码管理系统 Scion
Anthropic 介绍其自研版本控制系统 Scion,并在五个月内把 monorepo 从 git 完整迁移过去。其合并代码量从 2026 年 5 月的日均约 2,500 次增至 9 月的日均超 30,000 次,主分支历史近 100 GB,每天约 2,500 万次代码检出。
Anthropic Engineering
FLUX 3 使用指南:文生视频、首尾帧过渡与视频续写实测
Replicate 发布 FLUX 3 使用指南,介绍 Black Forest Labs 这款统一架构多模态基础模型在文生视频、图像生视频和视频续写上的表现。
Replicate Blog
如何用 Seedance 2.0 制作视频:参考素材、原生音频与时间码分镜
Replicate 博客介绍用 Seedance 2.0 生成视频的实操方法,该模型可同时接收最多 9 张图片、3 段视频、3 个音频和一段文本提示词,并用 [Image1]、[Audio1] 等标记在提示词中引用。文章称其音频与画面出自同一套架构、可毫秒级同步,单次生成最长 15 秒并支持多镜头,还给出用时间码逐段指定镜头、机位与转场的写法示例。
Replicate Blog
Anthropic 工程博客:用生成器与评估器架构支撑长时间应用开发
Anthropic 工程博客介绍一种受 GAN 启发的多智能体 harness 设计,用生成器与评估器分离来解决 Claude 自评偏宽松的问题。前端设计实验中作者制定设计质量、原创性、工艺、功能四项评分标准,评估器借助 Playwright MCP 实际操作页面后打分,单次生成跑 5 到 15 轮、最长约四小时。
Anthropic Engineering
Replicate 总结 Seedream 5.0 提示词写法
Replicate 实测字节跳动 Seedream 5.0 后总结了提示词写法,涵盖摄影语言、示例式编辑、风格迁移、逻辑推理、文字渲染和多图生成等能力。示例式编辑只需给出前后对比图和第三张图,模型就能推断变化并套用,无需用文字描述效果。作者建议用自然语言而非关键词堆叠,需要渲染的文字用双引号包裹,复杂编辑可在图上画箭头或色块标记位置。
Replicate Blog
