torch.numel 第2页

提示学习系列:P-tuning v2微调BERT实现文本多分类

关键词：提示学习，P-tuningv2，BERT前言P-tuningv2是清华团队在P-tuning基础上提出的一种提示微调大模型方法，它旨在解决提示学习在小尺寸模型上效果不佳，以及无法对下游NLU任务通用的问题，本文对该方法进行简要介绍和实践。...

Pytorch学习记录-使用RNN训练短语表示用于统计机器翻译

Pytorch学习记录-torchtext和Pytorch的实例20.PyTorchSeq2Seq项目介绍在完成基本的torchtext之后，找到了这个教程，《基于Pytorch和torchtext来理解和实现seq2seq模型》。这个项目主要包括了6个子项目...

Pytorch学习记录-Seq2Seq打包填充序列、掩码和推理模型训练

Pytorch学习记录-torchtext和Pytorch的实例40.PyTorchSeq2Seq项目介绍在完成基本的torchtext之后，找到了这个教程，《基于Pytorch和torchtext来理解和实现seq2seq模型》。这个项目主要包括了6个子项目...

手把手教你:LLama2原始权重转HF模型

LLama2是meta最新开源的语言大模型，训练数据集2万亿token，上下文长度由llama的2048扩展到4096，可以理解和生成更长的文本，包括7B、13B和70B三个模型，在各种基准集的测试上表现突出，该模型可用于研究和商业用途。...

深度学习框架pytorch中的张量tensor有哪些属性?

专栏限时打折...

深度学习框架pytorch中的张量tensor的一些属性介绍

专栏限时打折...

使用Torchmetrics快速进行验证指标的计算

TorchMetrics可以为我们提供一种简单、干净、高效的方式来处理验证指标。TorchMetrics提供了许多现成的指标实现，如Accuracy,Dice,F1Score,Recall,MAE等等，几乎最常见的指标都可以在里面找到。torchmetrics目前已经包好了80+任务评价指...

两行代码统计模型参数量与FLOPs，这个PyTorch小工具值得一试

机器之心报道参与：思源你的模型到底有多少参数，每秒的浮点运算到底有多少，这些你都知道吗？近日，GitHub开源了一个小工具，它可以统计PyTorch模型的参数量与每秒浮点运算数（FLOPs）。有了这两种信息，模型大小控制也就更合理了。...

深度学习-Pytorch框架学习之模型定义与简单操作

前言这一篇文章主要简单的了解下在Pytorch框架下，卷积神经网络的一些设置和应用，如有遗漏或错误，欢迎指出，不甚感激，互相学习！简单的两层卷积网络...

PyTorch 模型性能分析和优化 - 第 3 部分

这[1]是关于使用PyTorchProfiler和TensorBoard分析和优化PyTorch模型主题的系列文章的第三部分。我们的目的是强调基于GPU的训练工作负载的性能分析和优化的好处及其对训练速度和成本的潜在影响。特别是，我们希望向所有机器学习开发人员展示PyTorchP...