36氪 · 文章· AI前线·· 13 小时前精选AI 评分84
字节Seed团队论文揭示DeepSeek-V4长文本检索“周期性盲区”技术缺陷
字节Seed实习生曝DeepSeek-V4技术缺陷:长文本检索陷入“周期性盲区”
AI 导读
字节跳动 Seed 团队联合多所高校发布论文,指出 DeepSeek-V4 因采用分块 KV 缓存压缩机制导致长文本检索存在“相位敏感性”缺陷,在128K上下文实验中不同 Token 位置的检索准确率落差高达 40.23 个百分点。
推荐理由
原文通过字节Seed团队对DeepSeek-V4长文本检索缺陷的技术溯源,揭示了分块KV缓存压缩机制导致的相位敏感性及其对模型评测盲区的影响。
来源:36氪 · 文章 · 36kr.com