李宏毅机器学习课程笔记-15.2无监督学习之主成分分析
主成分分析即Principal Component Analysis，PCA，它是一种线性降维方法。
主成分分析(1)PCA即主成分分析(Principe Component Analysis)。PCA假设降维函数是一个linear function，即输入$x$和输出$z$之间是linear tr
...
李宏毅机器学习课程笔记-15.1无监督学习简介
无监督学习(Unsupervised Learning)可以分为两类：
化繁为简
聚类(Clustering)
降维(Dimension Reduction)
无中生有
生成(Generation)
在无监督学习(Unsupervised Learning)中，数据集中通常只有$(x,\
...
Boundary Aware PoolNet(3)：Boundary Aware PoolNet模型与代码介绍
Boundary Aware PoolNet = PoolNet + BASNet，即使用BASNet中的Deep Supervision策略和Hybrid Loss改进PoolNet。
前面两篇文章分别介绍了PoolNet的模型及其代码、BASNet中的深度监督策略和混合损失函数，现在让我们看向P
...
Boundary Aware PoolNet(2)：BASNet模型与代码介绍
Boundary Aware PoolNet = PoolNet + BASNet，即使用BASNet中的Deep Supervision策略和Hybrid Loss改进PoolNet。
为理解Boundary Aware PoolNet，我们并不需要学习整个BASNet，只需要了解其中的Deep
...
Boundary Aware PoolNet(1)：PoolNet模型与代码介绍
Boundary Aware PoolNet = PoolNet + BASNet，即使用BASNet中的Deep Supervision策略和Hybrid Loss改进PoolNet。
为理解Boundary Aware PoolNet还是需要全面理解PoolNet的，因此本文将对PoolNet的
...
Boundary Aware PoolNet：基于PoolNet和BASNet的显著性目标检测
Boundary-Aware-PoolNetBoundary Aware PoolNet = PoolNet + BASNet : Deeply supervised PoolNet using the hybrid loss in BASNet for Salient Object Detecti
...
李宏毅机器学习课程笔记-14.4 Seq2Seq：Transformer
transformer最知名的应用就是BERT，BERT就是无监督训练的transformer，transformer就是具有Self-attention的Seq2Seq模型。
RNN常用于处理输入和输出都是sequence的任务，因为RNN是通过遍历输入的sequence而逐步输出一个sequen
...
李宏毅机器学习课程笔记-14.3 Seq2Seq：Tips for Generation
在训练一个可以产生句子的网络时，有哪些技巧呢？
Bad Attention假如要做video的caption generation，某视频有4个frame，即有4个时刻的图片。
用$\alpha^i_t$表示attention weight，其上标表示frame的索引、下标表示时刻的索引。在第1个
...
李宏毅机器学习课程笔记-14.2 Seq2Seq：Attention
输入和输出都是sequence的任务都是一种Sequence-to-sequence Learning，简称Seq2Seq。
Attention其实是一种Dynamic Conditional Generation。在前文描述的Conditional Generation中，我们在每个时间点都将En
...
李宏毅机器学习课程笔记-14.1 Seq2Seq：Conditional Generation
基于RNN的Generation可以用RNN生成一个word、sentence、图片等等。
一个word有多个character组成，因此RNN每次生成一个character。一个sentence由多个word组成，因此RNN每次生成一个word。一张图片由多个像素组成，因此RNN每次生成一个像素。
...