• 苏剑林 : BN的目的就是保持在一个较大的值不要下降,所以单看你这个现象并...
  • 苏剑林 : 是的,感谢指出。
  • 苏剑林 : 因为$\boldsymbol{\mu}$从$\boldsymb...
  • 苏剑林 : 你都说“除非正好训练集在这里的引力抵消”了,模式坍缩就是“除非...
  • 苏剑林 : 事实上,有些人写的教材都乱七八糟。
  • 苏剑林 : 就本文所关心的主题来说,应该是的。
  • 苏剑林 : 谢谢推荐,不过这个也不是我自己悟出来的了,也是从别的地方看到,...
  • 苏剑林 : 这是keras对loss函数的约定,参考 https://ke...
  • 麦当 : 苏神我懂您想表达的意思,但是我目前的理解是$(33)$并不是$...
  • 明明 : 你好,想请教一下,如果说全量数据的情况下只微调embeddin...
  • 为何正17边形能够用尺规作出来?要如何作? 先别急,请看下面的解释:

    一个正质数多边形可以用标尺作图的充分和必要条件是,该多边形的边数必定是一个费马质数。 换句话说,只有正三边形、正五边形、正十七边形、正257边形和正63357边形可以用尺规作出来,其它的正质数多边形就不可以了。(除非我们再发现另一个费马质数。)

    正17边形的尺规作法是高斯在1796年得出的,他也因此决心要成为数学家。 关于费马质数,是指形如$2^{2^n}+1$的质数,一开始费马认为对于所有的n,这种形式的数都是质数。可是这似乎是上天的玩笑, 目前 只发现了当n=0,1,2,3,4的时候$2^{2^n}+1$是质数,其余都是合数。

    点击阅读全文...

    分类: 数学研究 标签: 正多边形 , 尺规作图 , flash

    在网上查找到的,好像有三个不同的版本,全部摘录在此。

    关于正17边形的尺规作图方法,请看:
    http://kexue.fm/article.asp?id=104

    本文章只是证明它的存在(就是求出$\cos ({2\pi}/{17})$)。

    点击阅读全文...

    分类: 数学研究 标签: 证明 , 多边形 , 尺规作图

    这一次又是 数联天地论坛 上的问题,这个数学论坛做的挺好的。^_^

    已知五个定点A、B、C、D、E,求作五边形FGHIJ,使每一边的中点分别为5定点。

    五边形问题

    点击阅读全文...

    分类: 数学研究 标签: 多边形 , 尺规作图

    如图是一个三角形,要求三角形的外角和。外角和定义为“多边形每一个内角的补角之和”,比如这里的∠DAC+∠FCB+∠EBA。当然,这里一般指的是凸多边形。

    三角形的外角和 (1)

    显然,这并不是一个什么大难题,答案是360度,方法有很多,直接用内角和公式计算、想象成旋转一周甚至你亲自去测量一下都行。但我觉得最妙的方法无疑是下面的方法。

    点击阅读全文...

    分类: 数学研究 标签: 几何 , 欣赏

    印象中我在初一曾从一个美术生好朋友那里学到了一个画椭圆的方法:选取一个矩形,取一组邻边的中点,连接并切除得到的三角形;在剩下的五边形中,继续取邻边中点,连接,切除,得到一个如下图的图形;然后作一个尽可能与下图AG、GH、HI、IJ相切的弧,这个弧就大概为四分之一的椭圆了。

    椭圆的美术画法

    点击阅读全文...

    分类: 数学研究 标签: 极限 , 椭圆 , 曲线

    历史总是惊人地相似。当初笔者在写 《生成扩散模型漫谈(十四):构建ODE的一般步骤(上)》 (当时还没有“上”这个后缀)时,以为自己已经搞清楚了构建ODE式扩散的一般步骤,结果读者 @gaohuazuo 就给出了一个新的直观有效的方案,这直接导致了后续 《生成扩散模型漫谈(十四):构建ODE的一般步骤(中)》 (当时后缀是“下”)。而当笔者以为事情已经终结时,却发现ICLR2023的论文 《Flow Straight and Fast: Learning to Generate and Transfer Data with Rectified Flow》 又给出了一个构建ODE式扩散模型的新方案,其简洁、直观的程度简直前所未有,令人拍案叫绝。所以笔者只好默默将前一篇的后缀改为“中”,然后写了这个“下”篇来分享这一新的结果。

    直观结果

    我们知道,扩散模型是一个$\boldsymbol{x}_T\to \boldsymbol{x}_0$的演化过程,而ODE式扩散模型则指定演化过程按照如下ODE进行:
    \begin{equation}\frac{d\boldsymbol{x}_t}{dt}=\boldsymbol{f}_t(\boldsymbol{x}_t)\label{eq:ode}\end{equation}
    而所谓构建ODE式扩散模型,就是要设计一个函数$\boldsymbol{f}_t(\boldsymbol{x}_t)$,使其对应的演化轨迹构成给定分布$p_T(\boldsymbol{x}_T)$、$p_0(\boldsymbol{x}_0)$之间的一个变换。说白了,我们希望从$p_T(\boldsymbol{x}_T)$中随机采样一个$\boldsymbol{x}_T$,然后按照上述ODE向后演化得到的$\boldsymbol{x}_0$是$\sim p_0(\boldsymbol{x}_0)$的。

    点击阅读全文...

    分类: 信息时代 标签: 概率 , 微分方程 , 生成模型 , 扩散 50 评论

    9月意味着秋的到来,而十月更加是秋高气爽的季节,这样的气候对于天文爱好者来说是莫大的喜讯。而中秋和国庆的同喜,则更加令人高兴。在此提前祝愿大家国庆快乐、中秋快乐!大家想好去哪里玩了吗?
    在玩之前,不妨关注下10月的天象。近期主要有三个方面的星象可供天文爱好者们观测,其中包含两场流星雨、行星合月和行星相合。喜欢拍照的朋友一定会喜欢的。

    主要天象:

    ◆10月◆ 太阳由室女座运行到天秤座
    03日 中秋快乐!
    06日 水星西大距
    08日 月掩昴星团;水星合土星
    09日 天龙座流星雨极大(00:40, ZHR=20)
    12日 月掩火星
    13日 金星合土星
    14日 金星合木星
    18日 双子座ε流星雨极大(ZHR=2)
    21日 月掩心宿二;猎户座流星雨极大(ZHR=30)
    23日 小狮座流星雨极大(ZHR=2)
    27日 木星合月

    点击阅读全文...

    分类: 天文探索 标签: 彗星 , 天象 , 2009 , 流星 , 掩星 , 大距 , 观测
    苏剑林|BoJone ,科学空间博主,数学、天文、理论物理、写作、阅读、计算机、中国象棋、厨房爱好者......目前30岁,还在单调递增。正在追一科技打杂,并致力于分享科学之美~
    你也许会关心:
  • 科学空间|Scientific Spaces 介绍
  • 科学空间QQ交流群:808623966
  • 科学空间微信交流群: spaces_ac_cn
  • 常见问题集: 《科学空间FAQ》
  • 苏剑林 : BN的目的就是保持在一个较大的值不要下降,所以单看你这个现象并没有分析。你可以具体分析一下kl...
  • 苏剑林 : 是的,感谢指出。
  • 苏剑林 : 因为$\boldsymbol{\mu}$从$\boldsymbol{\mu}_{t-1}$变成...
  • 苏剑林 : 你都说“除非正好训练集在这里的引力抵消”了,模式坍缩就是“除非”的后果。也许你觉得没有那么巧正...
  • 苏剑林 : 事实上,有些人写的教材都乱七八糟。
  • 苏剑林 : 就本文所关心的主题来说,应该是的。
  • 苏剑林 : 谢谢推荐,不过这个也不是我自己悟出来的了,也是从别的地方看到,然后补上自己的理解。
  • 苏剑林 : 这是keras对loss函数的约定,参考 https://kexue.fm/archives/...
  • 麦当 : 苏神我懂您想表达的意思,但是我目前的理解是$(33)$并不是$(30)$的特例,因为$(31)...
  • 明明 : 你好,想请教一下,如果说全量数据的情况下只微调embedding的少量参数容易欠拟合,那么如何...
  •