与传统方法相比，SIMoE还引入了一种“防内卷协议”，实现了专家之间的协作与专业化的完美平衡。这一机制通过正交约束确保了专家在共享知识基础上形成互补能力，从而避免了知识碎片化和参数冗余的问题。实验结果表明，SIMoE在多项基准测试中表现出色，尤其在视 ...

在2025世界人工智能大会上，上海交通大学于7月26日发布了全球首个 端侧原生稀疏大模型 ，这一技术创新标志着智能终端领域的重大突破。随着人工智能技术的不断演进，如何在保证数据隐私的前提下，提升智能设备的计算能力，成为了行业发展的关键议题。

我们参考 KV 稀疏这一方向最近一年的学术论文，结合 vLLM 框架本身的优化特性，例如 Continuous Batching、FlashAttention、PagedAttention 等，对 VLLM 框架进行 ...

导语：本文研究了模型中所有层级的稀疏变量，并提出了-Scaling Transformers。 大型模型在许多任务上都产生了令人印象深刻的结果，但是训练和微调的 ...

稀疏促进动态模态分解（SPDMD）的核心思想是如何找到最具代表性的DMD模态来捕捉系统的基本动力学。 这个问题看似简单，但实际上比人们最初想象 ...

本文针对毫米波混合MIMO系统中信道估计的实时性与精度平衡难题，提出了一种融合稀疏增强惩罚（SEP）的快速块最小均方（SEP-FBCLMS）算法。研究通过引入基于log-sum函数的SEP机制，有效规避了传统l0-norm近似方法的多参数调谐问题，在保证计算效率的同时显著提升稀疏信道估计精度。仿真结果表明 ...

针对这一技术空白，研究人员提出退化学习空间稀疏变换展开网络 (DLSSTUN)。 该研究首次将深度展开 (DU)框架应用于R-CASSI系统，通过U型初始化网络替代传统随机初始化，构建基于Swin Transformer的空间稀疏变换 (SST)模块，创新性引入动态梯度下降 (DGD)机制补偿硬件退化效应。

墨芯的稀疏化硬件架构可以通过对已有模型的激活来提高吞吐量，或者在同等吞吐量下降低功耗；也可以训练更大的稀疏模型，在同等模型参数量 ...

快科技2月13日消息，据报道，字节跳动豆包大模型Foundation团队近日宣布了一项重要创新成果——UltraMem稀疏模型架构。 这一架构通过将计算和参数解 ...

证券之星消息，根据天眼查APP数据显示XD长江通（600345）新获得一项发明专利授权，专利名为“一种基于稀疏轨迹的车辆运营行为类型识别方法”，专利申请号为CN202111293639.X，授权日为2025年7月18日。

IT之家 2 月 12 日消息，豆包大模型团队今日宣布，字节跳动豆包大模型团队提出了全新的稀疏模型架构 UltraMem，该架构有效解决了 MoE 推理时高额的 ...

原标题：老人为何头发稀疏？ 随着年龄增加，人们的头发会逐渐稀疏。 日本东京医科齿科大学的研究人员发现，这是由于维持毛囊干细胞功能的一种重要蛋白质被分解，导致毛囊逐渐萎缩并消失。 这一发现将有助于开发治疗脱发的新方法。