ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

MIT 6.S184 Flow Matching and Diffusion Models 课程笔记

MIT 6.S184 Flow Matching and Diffusion Models 课程笔记 “突然记起来csdn密码不定期更新一些思考希望没有熟人看到当做是自己的互联网笔记了”这个是最近看到flow matching 课程 的笔记我觉得很有意思的内容所以就写点笔记希望能不要忘记all the class and slides are available athttps://diffusion.csail.mit.edu/2026/index.htmlLecture1 note我们训练扩散模型的本质就是需要计算一个概率密度就是狗在这个概率分布里有多容易出现这里面的d可能属于{xyz}并不一定是一个一维的向量可以理解为这是一个向量池我每次取一定的我所需的出来然后计算相关的概率条件概率和Conditional Generation 假设我已经限定范围为一只猫那么我多余的词就会变成引导这个y的信息所有的图都是从初始噪声开始的初始噪声一般是一张高斯分布图为什么是高斯分布图呢其实原因就是diffusion前向的过程是一种高斯分布我们首先应该去理解什么是轨迹trajectory什么是向量场vector filed轨迹是相当于你给定任意t我知道二维平面的坐标是一条轨迹向量场是给定x和t我知道x对应的vector x的表示相当于在t时间下x位置向量那么这里的ode其实给到的一个方程dx/dt就相当于t时间x运动的量可以简单理解为速度归纳一下这里所谓的flow就是给定一个ode这个ode在任意时间下的位置是确定的这个轨迹就叫做流Note:常微分方程解不唯一的例子接上文为什么需要这页里的柯西-利普希茨定理Cauchy-Lipschitz Theorem就和上面写的那个式子一样为什么上面不符合这个定理(连续可导)是因为2sqrt(x)在求导的时候x趋近于0的情况下导数为正无穷意思就是导数变化太大了只有在柯-利定理满足时(连续可导)我们才认为这个ode是有唯一解的上式写的其实不是很完整这里的微分求完应该是 XtC exp-θxt 代入初始条件得到C x0所以会有这个式子如果两边对t求导其实应该是x0应该变成某个变量所以这里才能用链式求导法则这里其实是在说明流flow就是ode的一个解并且带有初始条件的解这里是一个flow model的前向过程我可以理解为我传统的ode比如我要在t时间内走完路程那我这个路程就是连续的但是我在计算机中需要把他离散开来意思是啥呢就是说我必须要把步数离散成1/n相当于每次走一点点这样去循环模拟这个过程。这里面重要的得带公式其实可以理解为当前状态向量向量偏移量每次都是走一点点然后最后之后去到哪里
返回列表