SwinIR中相关基础Torch操作
概念 归一化 将不同尺度或单位的数据，按一定规则转换到相同尺度下，常用于数据预处理，使其具有统一的分布范围或特性，便于后续的处理或分析。 归一化主要是为了加速收敛（不同特征数值范围差异大时梯度下降会震荡）、避免数值问题（防止某些特征因数值过大而主导梯度更新）。 常见的归一化方法： 最大最小归一化（Min-Max） 把数据线性放缩到 [0,1] 区间，保留原始分布形状，但对异常值敏感 Z-score 标准化 把数据转换成均值为 0、标准差为 1 的分布 N(0,1)，对异常值更鲁棒。PyTorch 中的 normalization 默认用这个。 L2 归一化 将向量归一化到单位球面上，常用于特征向量归一化 相关函数 nn.LayerNorm 输入是 [B, N, D] B：Batch size，一个批次中的样本数量 N：Sequence length，一个样本中的 token 数量 D：Embedding dimension，每个 token 的 embedding 维度 LayerNorm 对每个样本的每个 token 的 embedding 向量独立做...
计算机高级系统结构
第一章 量化设计与分析基础 计算机分类类别 嵌入式作为一个系统的一部分，还应考虑其实时性 计算机系统结构定义和计算机的设计任务：指令集结构概念以及要素 实现的技术趋势：技术发展趋势 cache用的是sram 主存用的是dram 集成电路功耗的趋势：功耗的概念 可靠性：计算可靠性的方法 测量、报告和总结计算机性能：计算机主要性能指标 如果一个是RISC一个CISC这种MIPS的比较方法就不公平 （CPI可能不一样） 可以先算IPS每秒执行多少指令，然后再除1million（1后面6个0） 计算机设计的量化原则：Amdahl定律 陷阱 第二章 指令系统原理与实例 指令集系统结构的分类：指令集系统的不同结构 存储器寻址：大小端模式及地址对齐 MIPS系统结构：MIPS指令集结构 其他 所以跳转指令中imm 在sign后要<<2 因为表示的是指令个数，一个指令4字节 第三章 单周期MIPS处理器的设计 add, sub,...