S
HalfSugar
全部标签

#Transformer

共 4 篇文章

·多模态, 论文解读
1 分钟0

UMM论文解读01-基础奠基篇：从Transformer到VQGAN，七篇论文构建统一多模态的知识底座

> 本系列将 UMM（Unified Multimodal Model，理解与生成统一模型）学习路径中涉及的每一篇论文，逐一读取原文、提炼核心思想、标注关键贡献。第一篇聚焦 2017-2023 年间七篇奠基性工作，它们不是统一模型本身，却共同构成了今天所有统一模型的知识底座。 !UMM论文解读系

#UMM#Transformer#CLIP#LLaVA#DDPM#DiT#VQ-VAE#VQGAN#论文解读
·AI技术, 深度学习
1 分钟0

注意力机制深度技术解析：从数学原理到Transformer架构演进

注意力机制深度技术解析：从数学原理到 Transformer 架构演进 > 本文是注意力机制的完整技术指南，从数学推导到架构演进，适合有一定深度学习基础的读者。 --- 一、为什么需要注意力机制？ 1.1 序列建模的困境 在处理序列数据（文本、语音、时间序列）时，传统方法

#注意力机制#Transformer#自注意力#多头注意力#线性注意力