René's URL Explorer Experiment


Title: dragonbra's Blog

Keywords:

Generator: Hexo 5.4.0

direct link

Domain: dragonbra.github.io

Noneie=edge
theme-color#2f4154
authorDragonbra He

Links:

 Dragonbra's Blog https://dragonbra.github.io/
首页 https://dragonbra.github.io/
归档 https://dragonbra.github.io/archives/
分类 https://dragonbra.github.io/categories/
标签 https://dragonbra.github.io/tags/
关于 https://dragonbra.github.io/about/
友链 https://dragonbra.github.io/links/
https://dragonbra.github.io/2022-04-15-Attention-Redundancy-Notes/
On Attention Redundancy, A Comprehensive Study 论文笔记 https://dragonbra.github.io/2022-04-15-Attention-Redundancy-Notes/
On Attention Redundancy: A Comprehensive Study 论文笔记论文主要信息 标题：On Attention Redundancy: A Comprehensive Study 作者：Yuchen Bian, Jiaji Huang, Xingyu Cai, Jiahong Yuan, and Kenneth Church. 机构：Baidu Researc https://dragonbra.github.io/2022-04-15-Attention-Redundancy-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
自然语言处理 NLPhttps://dragonbra.github.io/tags/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86-NLP/
Transformerhttps://dragonbra.github.io/tags/Transformer/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
剪枝 Pruninghttps://dragonbra.github.io/tags/%E5%89%AA%E6%9E%9D-Pruning/
https://dragonbra.github.io/2022-04-12-AnalyzingMH-Notes/
Analyzing Multi-Head Self-Attention 论文笔记 https://dragonbra.github.io/2022-04-12-AnalyzingMH-Notes/
Analyzing Multi-Head Self-Attention 论文笔记论文主要信息 标题：Analyzing Multi-Head Self-Attention: Specialized Heads Do the Heavy Lifting, the Rest Can Be Pruned 作者：Elena Voita, David Talbot, Fedor Moiseev, Rico https://dragonbra.github.io/2022-04-12-AnalyzingMH-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
自然语言处理 NLPhttps://dragonbra.github.io/tags/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86-NLP/
Transformerhttps://dragonbra.github.io/tags/Transformer/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
剪枝 Pruninghttps://dragonbra.github.io/tags/%E5%89%AA%E6%9E%9D-Pruning/
https://dragonbra.github.io/2022-04-03-Pruning-Notes/
Pruning 泛读论文笔记 https://dragonbra.github.io/2022-04-03-Pruning-Notes/
Pruning 泛读论文笔记目录 序号 Tree Type Short 发表日期 会议期刊 论文名 代码链接 备注 1 Pruning NLP压缩 2019.10.14 Arxiv Structured Pruning of a BERT-based Question Answering Model 2 Pruning NLP压缩 RPP 2019.9.27 Arxiv Re https://dragonbra.github.io/2022-04-03-Pruning-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
自然语言处理 NLPhttps://dragonbra.github.io/tags/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86-NLP/
Transformerhttps://dragonbra.github.io/tags/Transformer/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
BERThttps://dragonbra.github.io/tags/BERT/
剪枝 Pruninghttps://dragonbra.github.io/tags/%E5%89%AA%E6%9E%9D-Pruning/
模型压缩https://dragonbra.github.io/tags/%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9/
https://dragonbra.github.io/2022-03-26-BERT-Notes/
BERT 论文笔记 https://dragonbra.github.io/2022-03-26-BERT-Notes/
BERT 论文笔记论文主要信息 标题：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 作者：Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova 机构：Google AI Language 来源：NAACL-HLT 2 https://dragonbra.github.io/2022-03-26-BERT-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
自然语言处理 NLPhttps://dragonbra.github.io/tags/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86-NLP/
Transformerhttps://dragonbra.github.io/tags/Transformer/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
BERThttps://dragonbra.github.io/tags/BERT/
https://dragonbra.github.io/2022-03-27-GPT-Notes/
GPT、GPT-2、GPT-3 论文笔记 https://dragonbra.github.io/2022-03-27-GPT-Notes/
GPT、GPT-2、GPT-3 论文笔记论文主要信息 标题： Improving Language Understanding by Generative Pre-Training（GPT） Language Models are Unsupervised Multitask Learners （GPT-2） Language Models are Few-Shot Learners（GPT-3 https://dragonbra.github.io/2022-03-27-GPT-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
自然语言处理 NLPhttps://dragonbra.github.io/tags/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86-NLP/
Transformerhttps://dragonbra.github.io/tags/Transformer/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
GPThttps://dragonbra.github.io/tags/GPT/
https://dragonbra.github.io/2022-03-12-Transformer-Notes/
Transformer 论文笔记 https://dragonbra.github.io/2022-03-12-Transformer-Notes/
Transformer 论文笔记论文主要信息 标题：Attention Is All You Need 作者：Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin 机构：Google Brain, Google https://dragonbra.github.io/2022-03-12-Transformer-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
自然语言处理 NLPhttps://dragonbra.github.io/tags/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86-NLP/
Transformerhttps://dragonbra.github.io/tags/Transformer/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
https://dragonbra.github.io/2022-03-06-ResNet-Notes/
ResNet 论文笔记 https://dragonbra.github.io/2022-03-06-ResNet-Notes/
ResNet 论文笔记论文主要信息 标题：Deep Residual Learning for Image Recognition 简称：ResNet 作者：Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun 机构：Microsoft Research 来源：CVPR 2015 代码：https://github.com/pytorch/visio https://dragonbra.github.io/2022-03-06-ResNet-Notes/
论文阅读笔记https://dragonbra.github.io/categories/%E8%AE%BA%E6%96%87%E9%98%85%E8%AF%BB%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
论文笔记https://dragonbra.github.io/tags/%E8%AE%BA%E6%96%87%E7%AC%94%E8%AE%B0/
计算机视觉 CVhttps://dragonbra.github.io/tags/%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%A7%86%E8%A7%89-CV/
ResNethttps://dragonbra.github.io/tags/ResNet/
《动手学深度学习》学习笔记 Ch.2 - 预备知识 （2.4-2.7） https://dragonbra.github.io/2022-02-25-D2L-Ch2-2/
2.4. 微积分我们可以将拟合模型的任务分解为两个关键问题： 优化（optimization）：用模型拟合观测数据的过程； 泛化（generalization）：数学原理和实践者的智慧，能够指导我们生成出有效性超出用于训练的数据集本身的模型。 2.4.1. 导数和微分假设我们有一个函数$f:R^n→R$，其输入和输出都是标量。 如果ff的导数存在，这个极限被定义为$$f’(x) = \lim_ https://dragonbra.github.io/2022-02-25-D2L-Ch2-2/
《动手学深度学习》学习笔记https://dragonbra.github.io/categories/%E3%80%8A%E5%8A%A8%E6%89%8B%E5%AD%A6%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E3%80%8B%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
学习笔记https://dragonbra.github.io/tags/%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/
《动手学深度学习》学习笔记 Ch.2 - 预备知识 （2.1-2.3） https://dragonbra.github.io/2022-02-22-D2L-Ch2-1/
2. 预备知识要学习深度学习，首先需要先掌握一些基本技能。 所有机器学习方法都涉及从数据中提取信息。 因此，我们先学习一些关于数据的实用技能，包括存储、操作和预处理数据。 2.1. 数据操作首先，我们介绍$n$维数组，也称为张量（tensor）。 使用过Python中NumPy计算包的读者会对本部分很熟悉。 无论使用哪个深度学习框架，它的张量类（在MXNet中为ndarray， 在PyTorch和 https://dragonbra.github.io/2022-02-22-D2L-Ch2-1/
《动手学深度学习》学习笔记https://dragonbra.github.io/categories/%E3%80%8A%E5%8A%A8%E6%89%8B%E5%AD%A6%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E3%80%8B%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
学习笔记https://dragonbra.github.io/tags/%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/
《动手学深度学习》学习笔记 Ch.1 - 前言 https://dragonbra.github.io/2022-02-20-D2L-Ch1/
1. 前言1.1. 日常生活中的机器学习如图所示，训练过程通常包含如下步骤： 从一个随机初始化参数的模型开始，这个模型基本毫不“智能”。 获取一些数据样本（例如，音频片段以及对应的{是,否}{是,否}标签）。 调整参数，使模型在这些样本中表现得更好。 重复第2步和第3步，直到模型在任务中的表现令你满意。 1.2. 关键组件 我们可以学习的数据（data）。 如何转换数据的模型（model）。 https://dragonbra.github.io/2022-02-20-D2L-Ch1/
《动手学深度学习》学习笔记https://dragonbra.github.io/categories/%E3%80%8A%E5%8A%A8%E6%89%8B%E5%AD%A6%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E3%80%8B%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/
深度学习https://dragonbra.github.io/tags/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/
学习笔记https://dragonbra.github.io/tags/%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/
2https://dragonbra.github.io/page/2/#board
https://dragonbra.github.io/page/2/#board
https://dragonbra.github.io
Dragonbrahttps://github.com/dragonbra
Hexohttps://hexo.io
Fluidhttps://github.com/fluid-dev/hexo-theme-fluid

Viewport: width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no, shrink-to-fit=no

URLs of crawlers that visited me.