草庐IT

Llama 美洲鸵(大羊驼)改进之一:均方层归一化RMSNorm

LayerNormalization(LayerNorm)RootMeanSquareLayerNormalization(RMSNorm)原理对特征张量按照某一维度或某几个维度进行0均值,1方差的归一化操作LayerNorm是一种标准化方法,它计算一个样本的均值和方差,然后使用这些来对样本进行归一化。这种方法是独立于批量大小的,使得模型更加稳定。RMSNorm是对LayerNorm的一个改进,没有做re-center操作(移除了其中的均值项),可以看作LayerNorm在均值为0时的一个特例。论文通过实验证明,re-center操作不重要。RMSNorm也是一种标准化方法,但与LayerNo

75岁彪马再发NFT 复活美洲狮IP

在“运动品牌+Web3”的潮流里,彪马(PUMA)绝对算是发烧友级别。2月22日,这家德国服装品牌的新NFT又来了,总量10000个SuperPUMANFT中,将有4000个以0.15ETH(约为255美元)价格正式公售。借“庆祝75周年”这个由头,彪马的2023年Web3之旅开始了。这段旅程,彪马其实也仅走了一年,但较跑得更早的竞品品牌耐克和阿迪达斯,它不仅花样百出还十分坚定。刚刚过去的2022年,彪马不仅发行过NFT,还把官方推特改成了以太坊域名的样式。它是真有以太坊钱包,钱包里收集了各种猫主题的NFT。这一次,SuperPUMA直接容纳了更大的计划——造IP。以1986年推出的同名漫画里

75岁彪马再发NFT 复活美洲狮IP

在“运动品牌+Web3”的潮流里,彪马(PUMA)绝对算是发烧友级别。2月22日,这家德国服装品牌的新NFT又来了,总量10000个SuperPUMANFT中,将有4000个以0.15ETH(约为255美元)价格正式公售。借“庆祝75周年”这个由头,彪马的2023年Web3之旅开始了。这段旅程,彪马其实也仅走了一年,但较跑得更早的竞品品牌耐克和阿迪达斯,它不仅花样百出还十分坚定。刚刚过去的2022年,彪马不仅发行过NFT,还把官方推特改成了以太坊域名的样式。它是真有以太坊钱包,钱包里收集了各种猫主题的NFT。这一次,SuperPUMA直接容纳了更大的计划——造IP。以1986年推出的同名漫画里