在深度学习领域，Transformer模型是由Vaswani等人在2017年提出的。该模型的一大创新在于去掉了传统序列模型中的递归结构，采用了一种全新的自注意力机制。自此之后，Transformer不仅在自然语言处理上大放异彩，还逐步扩展到了计算机视觉、音乐创作、金融数据分析等众多领域。

Transformer模型的跨界奇迹 ...

Syntiant Corp. has announced the upcoming demonstration of its multimodal vision transformer (ViT) security solution, which ...

机器之心报道机器之心编辑部何恺明又双叒叕发新作了，这次还是与图灵奖得主 Yann LeCun 合作。这项研究的主题是没有归一化层的 Transformer（Transformers without Normalization），并已被 CVPR 2025 会议接收。Meta FAIR ...

The new security solution will be demoed at Syntiant’s suite and Ambarella’s booth (Veronese Ballroom #2403 at The Venetian Convention & Expo Center) from April 2-4 at ISC West 2025. Contact ...

为解决肺结核精准诊断难题，研究人员开展基于视觉 Transformer（ViT）和 Grad-CAM 的研究，结果显示诊断准确率高，有助于临床应用。 为了攻克这些难题，来自印度和埃塞俄比亚等多个机构的研究人员展开了深入研究。他们将研究成果发表在《BMC Medical Imaging》上。这项研究旨在利用视觉 Transformer（Vision ...

但在不同的视觉任务上，Vision Transformer (ViT) 和卷积神经网络 (CNN) 架构的骨干网络，仍然优于基于Mamba的视觉模型。 而这一次，英伟达高级工程师Ali ...

编辑：编辑部 ZYJ 【新智元导读】Transformer架构迎来历史性突破！刚刚，何恺明LeCun、清华姚班刘壮联手，用9行代码砍掉了Transformer「标配」归一化层，创造了性能不减反增的奇迹。 就在刚刚，何恺明和LeCun两大巨头联手，彻底改变了Tranformer架构！

梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI 何恺明LeCun联手：Transformer不要归一化了，论文已入选CVPR2025。 归一化长期以来一直被认为是必不可少的，在现代神经网络中无处不在。 但团队认为可以换用一种非常简单的技术，他们提出DyT（Dynamic Tanh)，直接替代Layer Norm或RMSNorm，性能达到或超过标准Transformer。 DyT模块可以 ...