Math on DoDoRo的梦想空间-码农,数学,算法,哲学,园艺

[转]NLP模型与深度学习

Thu, 02 Dec 2021 00:00:00 +0000

1、自然语言处理简介

根据工业界的估计，仅有21% 的数据是以结构化的形式展现的[1]。在日常生活中，大量的数据是以文本、语音的方式产生（例如短信、微博、录音、聊天记录等等），这种方式是高度无结构化的。如何去对这些文本数据进行系统化分析、理解、以及做信息提取，就是自然语言处理（Natural Language Processing，NLP）需要做的事情。

在NLP中，常见的任务包括：自动摘要、机器翻译、命名体识别（NER）、关系提取、情感分析、语音识别、主题分割等。

在NLP与深度学习系列文章中，不会逐一解释各个NLP任务，而是主要介绍深度学习模型在NLP中的应用。整体分为以下几点：

首先介绍NLP基本流程以及在数据预处理方面的技术；而后会介绍最初期使用的神经网络：SimpleRNN、LSTM；继而引入使得文本处理性能得到很大提升的Attention机制以及Transformer模型；最后介绍近几年非常热门的预训练模型BERT，以及如何使用BERT预训练模型的例子

下面首先介绍的NLP任务的一个基本工作流程。

2、NLP 任务流程

典型的NLP任务分为以下几步：

数据收集
数据标注
文本标准化（Normalization）
文本向量化/特征化（Vectorization/Featuring）
建模

前期主要是数据收集，并根据任务类型对数据做标注（例如情感分析中，对好、坏评价做标注）。接下来的2个步骤均是对文本进行预处理的步骤，为了提取文本中隐含的信息，最后通过机器学习建模，达到任务目标。其中 3 – 5 这几步是迭代的流程，为了模型的精度更准确，需要迭代这个过程，进行不断尝试。

数据收集以及标注并非在本文讨论范围内，接下来介绍文本标准化的目标与方法。

3、文本标准化

由于文本数据在可用的数据中是非常无结构的，它内部会包含很多不同类型的噪点。所以在对文本进行预处理之前，它暂时是不适合被用于做直接分析的。

文本预处理过程主要是对文本数据进行清洗与标准化。这个过程会让我们的数据没有噪声，并可以对它直接做分析。

而文本标准化是NLP任务里的一个数据预处理过程。它的主要目标与常规数据预处理的目标一致：提升文本质量，使得文本数据更便于模型训练。

文本标准化主要包含4个步骤：

大小写标准化（Case Normalization）
分词（Tokenization）与 停止词移除（stop word removal）
词性（Parts-of-Speech，POS）标注（Tagging）
词干提取（Stemming）

3.1 大小写标准化

大小写标准化是将大写字符转为小写字符，一般在西语中会用到。但是对于中文，不需要做此操作。而且Case Normalization 也并非是在所有任务场景中都有用，例如在英文垃圾邮件分类中，一般一个明显的特征就是充斥着大写单词，所以在这种情况下，并不需要将单词转为小写。

3.2 分词

文本数据一般序列的形式存在，分词是为了将文本转为单词列表，这个过程称为分词（tokenization），转为的单词称为token。根据任务的类别，单词并非是分词的最小单位，最小单位为字符。在一个英语单词序列中，例如 ride a bike，单词分词的结果为 [ride, a, bkie]。字符分词的结果为[r, i, d, e, a, b, k, e]。

在中文中，分词的最小单元可以不是单个字，而是词语。

3.3 停止词移除

停止词移除是将文本中的标点、停顿词（例如 is，in，of等等）、特殊符号（如@、#等）移除。大部分情况下，此步骤能提升模型效果，但也并非在任何时候都有用。例如在骚扰邮件、垃圾邮件识别中，特殊字符相对较多，对于分辨是否是垃圾邮件有一定帮助。

3.4 词性标注

语言是有语法结构的，在大部分语言中，单词可以被大体分为动词、名词、形容词、副词等等。词性标注的目的就是就是为了一条语句中的单词标注它的词性。

3.5 词干提取

在部分语言中，例如英语，一个单词会有多种表示形式。例如play，它的不同形式有played，plays，playing等，都是play的变种。虽然他们的意思稍微有些区别，但是大部分情况下它们的意思是相近的。词干提取就是提取出词根（例如play 就是它各种不同形式的单词的词根），这样可以减少词库的大小，并且增加单词匹配的精度。

这些文本标准化的步骤，可以用于对文本进行预处理。在进一步基于这些文本数据进行分析时，我们需要将它转化为特征。根据使用用途不同，文本特征可以根据各种技术建立而成。如：句法分析（Syntactical Parsing），N元语法（N-grams），基于单词计数的特征，统计学特征，以及词向量（word embeddings）等。

微分方程模型之传染病数学模型

Mon, 05 Jul 2021 00:00:00 +0000

关于传染病的数学模型，在许多年前数学界早已做过研究，根据传染病的传播速度不同，空间范围各异，传播途径多样，动力学机理等各种因素，对传染病模型按照传染病的类型划分为 SI，SIR，SIRS，SEIR 模型。如果是按照连续时间来划分，那么这些模型基本上可以划分为常微分方程（Ordinary Differential Equation），偏微分方程（Partial Differential Equation）等多种方程模型；如果是基于离散的时间来划分，那么就是所谓的差分方程（Difference Equation）。差分模型其实是微分模型的离散形式，所以我们只讨论微风方程模型。

首先要介绍一些常用的符号：在时间戳上，可以定义以下几种人群：

•易感者（susceptible）：用符号来表示；

•感染者（infective）：用符号来表示；

•康复者（Recoverd）：用符号来表示；

其次，在时间戳t上，总人口是。如果暂时不考虑人口增加和死亡的情况，那么N(t)是一个恒定的常数值。

除此之外，

•r表示在单位时间内感染者接触到的易感者人数；

•传染率：表示感染者接触到易感者之后，易感者得病的概率；

•康复率：表示感染者康复的概率，有可能变成易感者（可再感染），也有可能变成康复者（不再感染）。

在进行下面的分析之前，先讲一个常微分方程的解。

一、SI 模型（Susceptible-Infective Model）

在 SI 模型里面，只考虑了易感者和感染者，并且感染者不能够恢复，此类病症有 HIV 等，模型如下：

其微分方程就是：

这个微风方程近似解法如下：

通过数值模拟的结果：

在SI模型的假设下，全部人群到最后都会被感染。

二、SIS模型（Susceptible-Infectious-Susceptible Model）

除了HIV这种比较严重的病之外，还有很多小病可以恢复并且反复感染，例如日常的感冒，发烧等。在这种情况下，感染者就有一定的几率重新转化成易感者。如下图所示：

其微分方程是：

初始值：，。

这个方程的数值近似解：

三、SIR 模型（Susceptible-Infectious-Recovered Model）

很多时候，感染者在康复了之后就有抗体，于是后续就不再会获得此类病症，这种时候就需要考虑SIR模型。此类病症有麻疹，腮腺炎，风疹等。我们熟悉的SIR模型是基于疫情流行区域的总人数、感染人数、易感人数、病愈人数和时间之间的如下关系：

其微分方程是：

这些方程里的参数和为常数，反映了特定疫情的特征。这些方程貌似简单，但由于常数和是同一数量级，导致方程属于高度耦合的非线性类型，实际上无法求解析解，需要用数值解来提供预测结果。在疫情扩散过程中的早期，由于开始时易感人群也就是总人数，即 ≈ ，我们可以简化感染人数和时间的关系为：

由此可得到感染人数的近似解为：

这一关系表明，近似的感染人数总数是时间的指数函数。这里的常数和应该根据疫情的特点来确定，从而实现感染人数的估计。当然，疫情防控措施也会影响这些参数，反过来也反映了防控措施的效果。这些参数一般是根据流行病学的统计结果得到的，会在疫情的流行过程中得到反映。也就是说，我们也可以根据实际疫情报告来决定这些参数。由于我们已经积累了一些疫情实际数据，基于SIR分析的回溯拟合可以精确地确定这些参数。

SIR模型的一些近似结果（预测新冠病毒的有症状的确诊病例）：

四、总结

最后，除了以上的 SI，SIS，SIR 模型中，还考虑进去。除此之外，如果把潜伏期、潜伏期的传染情况也加进去考虑，还有SIRS模型，SEIR模型等，但是不管怎么变化都是基于SIR这个微分模型，而且有时候考虑的参数越多不一定越准确，比较本身参数就不是绝对精确。

隐形马尔可夫模型(HMM)

Mon, 07 Jun 2021 00:00:00 +0000

什么是熵(Entropy)

简单来说，熵是表示物质系统状态的一种度量，用它老表征系统的无序程度。熵越大，系统越无序，意味着系统结构和运动的不确定和无规则；反之，，熵越小，系统越有序，意味着具有确定和有规则的运动状态。熵的中文意思是热量被温度除的商。负熵是物质系统有序化，组织化，复杂化状态的一种度量。

熵最早来原于物理学. 德国物理学家鲁道夫·克劳修斯首次提出熵的概念，用来表示任何一种能量在空间中分布的均匀程度，能量分布得越均匀，熵就越大。

一滴墨水滴在清水中，部成了一杯淡蓝色溶液热水晾在空气中，热量会传到空气中，最后使得温度一致更多的一些生活中的例子:

熵力的一个例子是耳机线，我们将耳机线整理好放进口袋，下次再拿出来已经乱了。让耳机线乱掉的看不见的“力”就是熵力，耳机线喜欢变成更混乱。熵力另一个具体的例子是弹性力。一根弹簧的力，就是熵力。胡克定律其实也是一种熵力的表现。万有引力也是熵力的一种(热烈讨论的话题)。浑水澄清

于是从微观看，熵就表现了这个系统所处状态的不确定性程度。香农，描述一个信息系统的时候就借用了熵的概念，这里熵表示的是这个信息系统的平均信息量(平均不确定程度)。

最大熵模型

我们在投资时常常讲不要把所有的鸡蛋放在一个篮子里，这样可以降低风险。在信息处理中，这个原理同样适用。在数学上，这个原理称为最大熵原理(the maximum entropy principle)。

让我们看一个拼音转汉字的简单的例子。假如输入的拼音是"wang-xiao-bo"，利用语言模型，根据有限的上下文(比如前两个词)，我们能给出两个最常见的名字“王小波”和“王晓波 ”。至于要唯一确定是哪个名字就难了，即使利用较长的上下文也做不到。当然，我们知道如果通篇文章是介绍文学的，作家王小波的可能性就较大；而在讨论两岸关系时，台湾学者王晓波的可能性会较大。在上面的例子中，我们只需要综合两类不同的信息，即主题信息和上下文信息。虽然有不少凑合的办法，比如：分成成千上万种的不同的主题单独处理，或者对每种信息的作用加权平均等等，但都不能准确而圆满地解决问题，这样好比以前我们谈到的行星运动模型中的小圆套大圆打补丁的方法。在很多应用中，我们需要综合几十甚至上百种不同的信息，这种小圆套大圆的方法显然行不通。

数学上最漂亮的办法是最大熵(maximum entropy)模型，它相当于行星运动的椭圆模型。“最大熵”这个名词听起来很深奥，但是它的原理很简单，我们每天都在用。说白了，就是要保留全部的不确定性，将风险降到最小。

回到我们刚才谈到的拼音转汉字的例子，我们已知两种信息，第一，根据语言模型，wangxiao-bo可以被转换成王晓波和王小波；第二，根据主题，王小波是作家，《黄金时代》的作者等等，而王晓波是台湾研究两岸关系的学者。因此，我们就可以建立一个最大熵模型，同时满足这两种信息。现在的问题是，这样一个模型是否存在。匈牙利著名数学家、信息论最高奖香农奖得主希萨（Csiszar）证明，对任何一组不自相矛盾的信息，这个最大熵模型不仅存在，而且是唯一的。而且它们都有同一个非常简单的形式 – 指数函数。下面公式是根据上下文（前两个词）和主题预测下一个词的最大熵模型，其中 w3 是要预测的词（王晓波或者王小波）w1 和 w2 是它的前两个字（比如说它们分别是“出版”，和“”），也就是其上下文的一个大致估计，subject 表示主题。

我们看到，在上面的公式中，有几个参数lambda和Z，他们需要通过观测数据训练出来。最大熵模型在形式上是最漂亮的统计模型，而在实现上是最复杂的模型之一。

我们上次谈到用最大熵模型可以将各种信息综合在一起。我们留下一个问题没有回答，就是如何构造最大熵模型。我们已经所有的最大熵模型都是指数函数的形式，现在只需要确定指数函数的参数就可以了，这个过程称为模型的训练。

最原始的最大熵模型的训练方法是一种称为通用迭代算法 GIS(generalized iterative scaling) 的迭代算法。GIS 的原理并不复杂，大致可以概括为以下几个步骤：

假定第零次迭代的初始模型为等概率的均匀分布。
用第 N 次迭代的模型来估算每种信息特征在训练数据中的分布，如果超过了实际的，就把相应的模型参数变小；否则，将它们便大。
重复步骤 2 直到收敛。

GIS 最早是由 Darroch 和 Ratcliff 在七十年代提出的。但是，这两人没有能对这种算法的物理含义进行很好地解释。后来是由数学家希萨（Csiszar)解释清楚的，因此，人们在谈到这个算法时，总是同时引用 Darroch 和Ratcliff 以及希萨的两篇论文。GIS 算法每次迭代的时间都很长，需要迭代很多次才能收敛，而且不太稳定，即使在 64 位计算机上都会出现溢出。因此，在实际应用中很少有人真正使用 GIS。大家只是通过它来了解最大熵模型的算法。

八十年代，很有天才的孪生兄弟的达拉皮垂(Della Pietra)在 IBM 对 GIS 算法进行了两方面的改进，提出了改进迭代算法 IIS（improved iterative scaling）。这使得最大熵模型的训练时间缩短了一到两个数量级。这样最大熵模型才有可能变得实用。即使如此，在当时也只有 IBM 有条件是用最大熵模型。

由于最大熵模型在数学上十分完美，对科学家们有很大的诱惑力，因此不少研究者试图把自己的问题用一个类似最大熵的近似模型去套。谁知这一近似，最大熵模型就变得不完美了，结果可想而知，比打补丁的凑合的方法也好不了多少。于是，不少热心人又放弃了这种方法。第一个在实际信息处理应用中验证了最大熵模型的优势的，是宾夕法尼亚大学马库斯的另一个高徒原 IBM 现微软的研究员拉纳帕提(Adwait Ratnaparkhi)。拉纳帕提的聪明之处在于他没有对最大熵模型进行近似，而是找到了几个最适合用最大熵模型、而计算量相对不太大的自然语言处理问题，比如词性标注和句法分析。拉纳帕提成功地将上下文信息、词性（名词、动词和形容词等）、句子成分（主谓宾）通过最大熵模型结合起来，做出了当时世界上最好的词性标识系统和句法分析器。拉纳帕提的论文发表后让人们耳目一新。拉纳帕提的词性标注系统，至今仍然是使用单一方法最好的系统。科学家们从拉纳帕提的成就中，又看到了用最大熵模型解决复杂的文字信息处理的希望。

马尔可夫链(Markov Chain)

Mon, 24 May 2021 00:00:00 +0000

马尔可夫链是一种非常重要的随机过程模型，在排队论、预测等方面有非常多的应用，当年我考数学系的时候就是冲着学校有一位马尔可夫领域的顶级数学家，不过后来自己越走越偏，也没有来得及进修这个算法。

随机过程

讲马尔可夫链不得不提到随机过程。顾名思义，它其实就是个过程，比如今天下雨，那么明天下不下雨呢？后天下不下雨呢？从今天下雨到明天不下雨再到后天下雨，这就是个过程。那么怎么预测N天后到底下不下雨呢？这其实是可以利用公式进行计算的，随机过程就是这样一个工具，把整个过程进行量化处理，用公式就可以推导出来N天后的天气状况，下雨的概率是多少，不下雨的概率是多少。

说白了，随机过程就是一些统计模型，利用这些统计模型可以对自然界的一些事物进行预测和处理，比如天气预报，比如股票，比如市场分析，比如人工智能。它的应用还真是多了去了。

马尔可夫链（Markov Chain）

马尔可夫链（Markov Chain）是随机过程中的一种过程，到底是哪一种过程呢？好像一两句话也说不清楚，还是先看个例子吧。

比如一个人，每天中午12点的标配，仨状态：吃，玩，睡。这就是传说中的状态分布。

你想知道他n天后中午12点的状态么？是在吃，还是在玩，还是在睡？这些状态发生的概率分别都是多少？

先看个假设，他每个状态的转移都是有概率的，比如今天玩，明天睡的概率是几，今天玩，明天也玩的概率是几几，看图更清楚一点。

这个矩阵就是转移概率矩阵P，并且它是保持不变的，就是说第一天到第二天的转移概率矩阵跟第二天到第三天的转移概率矩阵是一样的。（这个叫时齐，不细说了，有兴趣的同学自行百度）。

有了这个矩阵，再加上已知的第一天的状态分布，就可以计算出第N天的状态分布了。

S1 是4月1号中午12点的的状态分布矩阵 [0.6, 0.2, 0.2]，里面的数字分别代表吃的概率，玩的概率，睡的概率。

那么

4月2号的状态分布矩阵 S2 = S1 * P (俩矩阵相乘)。

4月3号的状态分布矩阵 S3 = S2 * P (跟S1无关，只跟S2有关)。

4月4号的状态分布矩阵 S4 = S3 * P (跟S1，S2无关，只跟S3有关)。

…

4月n号的状态分布矩阵 Sn = Sn-1 * P (只跟它前面一个状态Sn-1有关)。

总结

马尔可夫链就是这样一个任性的过程，它将来的状态分布只取决于现在，跟过去无关！就把下面这幅图想象成是一个马尔可夫链吧。实际上就是一个随机变量随时间按照Markov性进行变化的过程。

贝叶斯算法-垃圾邮件过滤器

Thu, 20 May 2021 00:00:00 +0000

垃圾邮件是一种令人头痛的顽症，困扰着所有的互联网用户。

正确识别垃圾邮件的技术难度非常大。传统的垃圾邮件过滤方法，主要有"关键词法"和"校验码法"等。前者的过滤依据是特定的词语；后者则是计算邮件文本的校验码，再与已知的垃圾邮件进行对比。它们的识别效果都不理想，而且很容易规避。

2002年，Paul Graham提出使用"贝叶斯推断"过滤垃圾邮件。他说，这样做的效果，好得不可思议。1000封垃圾邮件可以过滤掉995封，且没有一个误判。

另外，这种过滤器还具有自我学习的功能，会根据新收到的邮件，不断调整。收到的垃圾邮件越多，它的准确率就越高。

贝叶斯过滤器是一种统计学过滤器，建立在已有的统计结果之上。所以，我们必须预先提供两组已经识别好的邮件，一组是正常邮件，另一组是垃圾邮件。

我们用这两组邮件，对过滤器进行"训练"。这两组邮件的规模越大，训练效果就越好。Paul Graham使用的邮件规模，是正常邮件和垃圾邮件各4000封。

“训练"过程很简单。首先，解析所有邮件，提取每一个词。然后，计算每个词语在正常邮件和垃圾邮件中的出现频率。比如，我们假定"sex"这个词，在4000封垃圾邮件中，有200封包含这个词，那么它的出现频率就是5%；而在4000封正常邮件中，只有2封包含这个词，那么出现频率就是0.05%。（【注释】如果某个词只出现在垃圾邮件中，Paul Graham就假定，它在正常邮件的出现频率是1%，反之亦然。这样做是为了避免概率为0。随着邮件数量的增加，计算结果会自动调整。）

有了这个初步的统计结果，过滤器就可以投入使用了。

现在，我们收到了一封新邮件。在未经统计分析之前，我们假定它是垃圾邮件的概率为50%。（【注释】有研究表明，用户收到的电子邮件中，80%是垃圾邮件。但是，这里仍然假定垃圾邮件的"先验概率"为50%。）

我们用S表示垃圾邮件（spam），H表示正常邮件（healthy）。因此，P(S)和P(H)的先验概率，都是50%。

然后，对这封邮件进行解析，发现其中包含了sex这个词，请问这封邮件属于垃圾邮件的概率有多高？

我们用W表示"sex"这个词，那么问题就变成了如何计算P(S|W)的值，即在某个词语（W）已经存在的条件下，垃圾邮件（S）的概率有多大。

根据条件概率公式，马上可以写出

公式中，P(W|S)和P(W|H)的含义是，这个词语在垃圾邮件和正常邮件中，分别出现的概率。这两个值可以从历史资料库中得到，对sex这个词来说，上文假定它们分别等于5%和0.05%。另外，P(S)和P(H)的值，前面说过都等于50%。所以，马上可以计算P(S|W)的值：

因此，这封新邮件是垃圾邮件的概率等于99%。这说明，sex这个词的推断能力很强，将50%的"先验概率"一下子提高到了99%的"后验概率”。

做完上面一步，请问我们能否得出结论，这封新邮件就是垃圾邮件？

回答是不能。因为一封邮件包含很多词语，一些词语（比如sex）说这是垃圾邮件，另一些说这不是。你怎么知道以哪个词为准？

Paul Graham的做法是，选出这封信中P(S|W)最高的15个词，计算它们的联合概率。（【注释】如果有的词是第一次出现，无法计算P(S|W)，Paul Graham就假定这个值等于0.4。因为垃圾邮件用的往往都是某些固定的词语，所以如果你从来没见过某个词，它多半是一个正常的词。）

所谓联合概率，就是指在多个事件发生的情况下，另一个事件发生概率有多大。比如，已知W1和W2是两个不同的词语，它们都出现在某封电子邮件之中，那么这封邮件是垃圾邮件的概率，就是联合概率。

在已知W1和W2的情况下，无非就是两种结果：垃圾邮件（事件E1）或正常邮件（事件E2）。

其中，W1、W2和垃圾邮件的概率分别如下：

如果假定所有事件都是独立事件（【注释】严格地说，这个假定不成立，但是这里可以忽略），那么就可以计算P(E1)和P(E2)：

又由于在W1和W2已经发生的情况下，垃圾邮件的概率等于下面的式子：

即

将P(S)等于0.5代入，得到

将P(S|W1)记为P1，P(S|W2)记为P2，公式就变成

这就是联合概率的计算公式。

将上面的公式扩展到15个词的情况，就得到了最终的概率计算公式：

一封邮件是不是垃圾邮件，就用这个式子进行计算。这时我们还需要一个用于比较的门槛值。Paul Graham的门槛值是0.9，概率大于0.9，表示15个词联合认定，这封邮件有90%以上的可能属于垃圾邮件；概率小于0.9，就表示是正常邮件。

有了这个公式以后，一封正常的信件即使出现sex这个词，也不会被认定为垃圾邮件了。

贝叶斯算法-医患诊断模型

Tue, 18 May 2021 00:00:00 +0000

1、背景材料及引言

7岁女孩晓宇（化名）患急性支气管炎,在武汉市儿童医院住院4天，医生为确诊病情，为她抽血化验了32个指标，仅化验费就花费1130元。晓宇的家长质疑：医院如此看病，是过度检查。晓宇的接诊医生李志超说：“晓宇入院时,根据其家长自述病情，我认为孩子的情况有些严重,于是确定了上述化验指标”。该院四内科副主任李医生说：在当时情况下,李志超对患者的病情判断、以及开出的化验指标,都是有道理的。但如果是我接诊，会以自己的经验有针对性地进行化验检查,可能不会一下开出这么多化验指标。该科主任温玟莉主任医师称：一次抽血化验32个指标，是因为李志超当时怀疑孩子得了败血症，这样处理没有问题。但最后的检查结果并不是败血症，这只能说明李志超较年轻，缺乏丰富的临床经验，只有通过全面检查才能确诊。

在医患关系紧张，看病难、看病贵的现实情况下，我们应如何看待这个颇有争议的案例，医生看病是应该有针对性地开方,还是列出“算法式”的化验指标进行排查，本研究以贝叶斯公式为依据，从中国现行的医疗体制出发,对此类问题进行了有益的探索，以期建立一种定量化的诊断模型。

2、模型建立

设“患者有某种病症”为事件A，引起事件A的病因为样本空间Ω。B1，B2，…Bn为Ω的一个分划，即Bi∩Bj=Φ，i≠j,Ｕni=1Bi=Ω，并假定P(Bi)>0。由贝叶斯公式，由某病因引起事件A的概率为：

P（Bi|A)=P(Bi)P(A|Bi)/n/j=1P(Bj)P(A⌒Bj)(1)

公式(1)为医生有针对性地确诊提供了参考。

在疹疗过程中，医生要根据临床经验对各种病因Bi进行权衡。如果误诊，则有可能承担相应的医疗事故风险，相应的误诊概率记为P′(Bi)，并设因可能承担风险而承担的赔偿费用为C′i，患者承担医生针对病因Bi开出的疹疗方案的费用为Ci，于是在一次诊治过程中患者承担的平均费用为：

E(A)=ni=1P(Bi)Ci(2)

医生可能承担的平均赔偿金额为：

E′(A)=ni=1P′(Bi)C′i(3)

我们称该模型为诊断模型，并以δ1≤E(A)-E′(A)≤δ2为标准来衡量诊断方案的合理性，其中δ1≥0,δ2为某一不是特别大的正数。即患者所承担的平均医疗费用应比医生可能承担的平均赔偿金要多，但两者不应差别太大。

3、模型检验

我们以发热和上腹疼痛两个病症的相关数据对该模型进行检验。设原假设为H0：诊断是合理的。备择假设为H1，诊断合理与否需要进一步考查。

对表1和表2中相关数据的说明：中国2002年9月1日实施的《医疗事故处理条例》(以下简称《条例》)第五十条对赔偿项目和标准的规定与当地上一年度职工平均工资水平紧密挂钩，实行一次性结算。表1和表2中的工资水平参考了2007年2月湖北省第十届人民代表大会上的湖北省政府工作报告中的数据：2006年城镇居民人均可支配收入为9803元。对发热症状中的“非典”及“某种类似非典的突发疾病”所可能带来的医疗事故我们以一级医疗事故中的死亡来处理，赔偿金额按<国家赔偿法>第二十七条的规定，检查费用以一次全身检查所需费用10000元进行计算；对“心肺功能缺陷”所可能带来的医疗事故我们按二级医疗事故处理，赔偿金额取202110，检查费用按心电图20元次，心脏彩超180元次,心肌酶谱60元次，肺检查80元次进行计算，药费以相应检查费用的0.8计算。对上腹疼痛症状中的“胃癌”及“心、膈等器官有病变”可能带来的医疗事故我们按二级医疗事故来处理,赔偿金额取202110，对B3的检查费用以B超40元次，催C120元次，胃镜(无痛)240元次进行计算，药费以相应检查费用的0.8计算，对B4的检查费用以胃镜(无痛)240元次和心脏彩超180元次进行计算，药费以相应检查费用的0.8计算。对两种症状中“其它”原因对患者可能造成的损害我们以《条例》第三十三条(三)的规定进行处理：在现有医学科学技术条件下，发生无法预料或者不能防范的不良后果的，不属于医疗事故。对两种症状中“其它”原因，患者的一次医疗费用我们取城镇居民人均可支配收入的5%，即490元进行计算。所有医疗费用均指一次诊治的检查费和药费之和,不包括后续治疗的费用。检查费用以武汉市某三级甲等医院的相关标准为参考。表1发热症状诊断模型的相关数据注:B1=人体生理功能的正常表现：B4=某种类似非典的突发疾病；B5=心肺功能缺陷。表2上腹疼痛症状诊断模型的相关数据注，B2=胃溃疡、十二指肠溃疡；B4=心、膈等器官有病变。

设“发热症状”为事件A1，“上腹疼痛症状”为事件A2，由表1和表2的数据计算得(四舍五入精确到元)：

E（A1）=121，E′（A1）=187165；E（A2）=265，E′（A2）=22232

我们会发现原假设H0：诊断是合理的，是不成立的。这些数据告诉我们医生这个职业的确是个高风险的职业，在中国建立医疗责任保险制度有着必要性与迫切性。

4、模型评价

该模型在合理假设的基础上,对“对症下药”进行量化,对诊疗方案的合理性给出了一个量化的标准，有一定的合理性与临床参考价值。特别是在用数据对模型检验后，证实了医生的确是个高风险的职业，也显示了在中国建立医疗责任保险制度的必要性和紧迫性。但在模型应用过程中还需要注意以下几个方面：①病因的复杂性。病因的复杂性会导致样本空间的分划的个数n比较大，因此需要结合医学规律对样本空间分划进行合理的选择。②患者体质的差别。不同的患者对同类的医疗事故，由于体质的差别可能带来不同程度的损害。③医生临床诊断水平的差异。不同的医生，由于经验等方面的因素，误诊概率可能有较大的差别。④医院的潜规则。有的医院把医生的收入与其给医院的创收挂钩，这样同一病症在不同的医院治疗，诊疗费用会有较大的差别。⑤实际赔偿金的差别。不同地区上一年度人均收入差别较大,加之实际赔偿金还与实际谈判能力有关系，这样就可能导致同类医疗事故在不同地区及不同的患者(或家属)身上，实际赔偿金差别也较大。⑥现行医疗体制对模型的影响。下面对此进行较详细的分析。

中国现行的医疗事故赔偿责任者只有一个，就是医疗机构，但医疗机构作为理性人，会尽量减少其自身的医疗成本以实现利益的最大化。医疗机构会将其自身受到的损失通过以下三种主要方式进行转移：一是利用价格机制，提高医疗费用，即将损失分散于所有的就医者身上；二是由具体责任人承担风险，即将损失的一部分转移给与事故直接相关的医务人员；三是通过责任保险机制，将损失转移给保险公司。但长期以来，在中国实际上只有第一种和第二种途径在发挥着作用,责任保险机制可以说作用甚微。

这样,就很容易导致医疗费用上涨，引发医患关系紧张。医学的专业化使得医疗机构和患者之间存在巨大的信息差，医疗机构有动机也有能力通过使患者进行重复或者不必要的检查项目等方法多收费用,弥补自身损失.因此模型作用的发挥,还需要以下几方面的配合：

①重视医德建设,提高医护人员自身修养。裘法祖院士在文献里有很深刻的认识。

②加强医患之间的沟通，进行换位思考，让医生理解患者的苦衷，让患者理解诊疗的风险。

③加强误诊规律的研究。医疗技术的进步从来都是和风险相并存的，从某种程度上说误诊是不可避免的，但作为医护人员要提高生命权保护意识，不断提高自身的临床思维能力诊断能力力争把误诊率降到最低。

④加强医护人员临床思维能力和临床经验的提高。医学很大程度上是经验学科,医学理论最终还要内化为医护人员的实际诊断能力才能发挥作用。公式(1)为医护人员提高诊断水平提供了一个很好的参考。

⑤探索适合中国国情的、于患于医均有益的医疗责任保险制度。尤其是在生命意识越来越受到重视的今天，只有切实的降低行医的风险，才能从根本上解决医患关系紧张的现状，实现医患关系的和谐。

贝叶斯算法概述

Sun, 16 May 2021 00:00:00 +0000

简介

假设B是由相互独立的事件组成的概率空间{B1,b2，…bn}。则P(A)可以用全概率公式展开：P(A)=P （A|B1)P(B1)+P（A|B2)P(B2)+..P（A|Bn)P(Bn)。贝叶斯公式表示成：P(Bi|A)=P(A|Bi)P(Bi)/(P(A|B1)P(B1)+P(A|B2)P(B2)+..P(A|Bn)P(Bn))；常常把P(Bi|A)称作后验概率，而P（A|Bn)P(Bn)为先验概率。而P(Bi)又叫做基础概率。

贝叶斯公式：

贝叶斯公式看起来很简单，但是在自然科学领域应用范围及其广泛。同时理论本身蕴含了深刻的思想。

贝叶斯概率的历史

贝叶斯理论和贝叶斯概率以托马斯·贝叶斯（1702－1761）命名，他证明了现在称为贝叶斯定理的一个特例。术语贝叶斯却是在1950年左右开始使用，很难说贝叶斯本人是否会支持这个以他命名的概率非常广义的解释。拉普拉斯证明了贝叶斯定理的一个更普遍的版本，并将之用于解决天体力学、医学统计中的问题，在有些情况下，甚至用于法理学。但是拉普拉斯并不认为该定理对于概率论很重要。他还是坚持使用了概率的经典解释。

弗兰克·普伦普顿·拉姆齐在《数学基础》（1931年）中首次建议将主观置信度作为概率的一种解释。Ramsey视这种解释为概率的频率解释的一个补充，而频率解释在当时更为广泛接受。统计学家Bruno de Finetti于1937年采纳了Ramsey的观点，将之作为概率的频率解释的一种可能的代替。L. J. Savage在《统计学基础》（1954年）中拓展了这个思想。

有人试图将“置信度”的直观概念进行形式化的定义和应用。最普通的应用是基于打赌:置信度反映在行为主体愿意在命题上下注的意愿上。

当信任有程度的时候，概率计算的定理测量信任的理性程度，就像一阶逻辑的定理测量信任的理性程度一样。很多人将置信度视为经典的真值（真或假）的一种扩展。

Harold Jeffreys, Richard T. Cox, Edwin Jaynes和I. J. Good研探了贝叶斯理论。其他著名贝叶斯理论的支持者包括John Maynard Keynes和B.O. Koopman。

贝叶斯法则的原理

通常，事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率是不一样的；然而，这两者是有确定的关系,贝叶斯法则就是这种关系的陈述。

作为一个规范的原理，贝叶斯法则对于所有概率的解释是有效的；然而，频率主义者和贝叶斯主义者对于在应用中概率如何被赋值有着不同的看法：频率主义者根据随机事件发生的频率，或者总体样本里面的个数来赋值概率；贝叶斯主义者要根据未知的命题来赋值概率。一个结果就是，贝叶斯主义者有更多的机会使用贝叶斯法则。

贝叶斯法则是关于随机事件A和B的条件概率和边缘概率的。其中L(A|B)是在B发生的情况下A发生的可能性。

在贝叶斯法则中，每个名词都有约定俗成的名称：

Pr(A)是A的先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。

Pr(A|B)是已知B发生后A的条件概率，也由于得自B的取值而被称作A的后验概率。

Pr(B|A)是已知A发生后B的条件概率，也由于得自A的取值而被称作B的后验概率。

Pr(B)是B的先验概率或边缘概率，也作标准化常量（normalized constant）。

按这些术语，Bayes法则可表述为：

后验概率 = (似然度 * 先验概率)/标准化常量也就是说，后验概率与先验概率和似然度的乘积成正比。

另外，比例Pr(B|A)/Pr(B)也有时被称作标准似然度（standardised likelihood），Bayes法则可表述为：

后验概率 = 标准似然度 * 先验概率

要理解贝叶斯推断，必须先理解贝叶斯定理。后者实际上就是计算"条件概率"的公式。

所谓"条件概率"（Conditional probability），就是指在事件B发生的情况下，事件A发生的概率，用P(A|B)来表示。

根据文氏图，可以很清楚地看到在事件B发生的情况下，事件A发生的概率就是P(A∩B)除以P(B)。

因此，

同理可得，

所以，

即，

这就是条件概率的计算公式。

全概率公式

由于后面要用到，所以除了条件概率以外，这里还要推导全概率公式。

假定样本空间S，是两个事件A与A’的和。

上图中，红色部分是事件A，绿色部分是事件A’，它们共同构成了样本空间S。

在这种情况下，事件B可以划分成两个部分。

数学基础、集合论和选择公理

Fri, 03 Jul 2020 00:00:00 +0000

这几天又重新学习复习了一下数学基础：逻辑主义、形式主义和直觉主义。我自己当然更倾向于基于公理化集合论的逻辑主义，这也是目前大部分数学家的选择。

一、数学基础

数学上，数学基础一词有时候用于数学的特定领域，例如数理逻辑，公理化集合论，证明论，模型论，和递归论（可计算性理论）。但是寻求数学的基础也是数学哲学的中心问题：在什么终极基础上命题可以称为真? 目前占统治地位的数学范式是基于公理化集合论和形式逻辑的。实际上，几乎所有现在的数学定理都可以表述为集合论下的定理。在这个观点下，所谓数学命题的真实性，不过就是该命题可以从集合论公理使用形式逻辑推导出来。

二、公理化集合论

基础集合论可以用非正式的、直觉的方式学习，在小学中就可以用文氏图说明。基础集合论直观地假设集合就是一群符合任意特定条件的对象的组合，但此假设会造成悖论。最简单及著名的是罗素悖论及布拉利-福尔蒂悖论。公理集合论的形成就是为了避免这些集合论的悖论。许多数学家研究的公理集合论系统假设所有的集合形成累计层次。这类的系统可分为二类： 1、只由集合构成：这类系统包括最常用的公理集合论：含选择公理的策梅洛-弗兰克尔集合论（ZFC），由亚伯拉罕·弗兰克尔和陶拉尔夫·斯科伦扩展了策梅罗集合论所得。其他和ZFC有关的集合论有： 1）、策梅洛集合论是由德国数学家恩斯特·策梅洛创立，将分类公理代替替代公理。 2）、广义集合论，策梅洛集合论的一小部分，已足以处理皮亚诺公理及有限集合。 3）、克里普克-普拉特克集理论，省略了无穷公理、幂集公理和选择公理，削弱了分类公理和替代公理的公理架构。 2、由集合和真类构成：这类系统包括冯·诺伊曼-博内斯-哥德尔集合论，是设计生成同 ZFC同样结果的集合论公理系统，但只有有限数目的公理而不使用公理模式。单论只涉及集合的内容，此理论的强度和ZFC相当。另外比ZFC强的Morse-Kelley集合论及Tarski–Grothendieck集合论也属于这一类。

三、选择公理

选择公理：对于所有的集族，均存在选择函数。罗素解释：假设有许多（甚至是无限）双鞋子，则我们可以选取每双鞋左边的鞋子构成一个具体的选择。然而，假设有无限双袜子（假设每双袜子都没有可区分的特征），在对于所有的集族，均存在选择函数。哥德尔证明了选择公理与ZF的相对协调性。保罗·寇恩用力迫法证明了选择公理独立于ZF。也就是说：哥德尔和寇恩证明了，无论接受选择公理与否，都不会导致矛盾，只是身处不同的『数学世界』而已。不过，除了一些研究集合论的数学家和逻辑学家以外，大部分数学家都选择接受选择公理，因为在含有选择公理的数学世界里，事情会简单一些。

数学最重要的公式

Tue, 02 Jun 2020 00:00:00 +0000

一、费马大定理

$$ x^n+y^n=z^n \mbox{(n=2,为毕达哥拉斯定理)} $$

二、欧拉公式

$$e^{i\pi} + 1 = 0$$

三、牛顿-莱布尼茨公式

$$ \int_a^bf(x){\rm d}x=F(b)-F(a) $$

四、黎曼zeta函数

整数形式

$$\zeta(p) = \sum_{n=1}^{\infty}{\frac{1}{n^p}}$$

复数形式

$$\zeta(s) = \sum_{n=1}^{\infty}{\frac{1}{n^s}} \mbox{ （其中，} s \in C \mbox{，且 } Re(z) > 1 \mbox{）}$$

数学模型概述

Thu, 28 May 2020 00:00:00 +0000

这一个多月以来，我投入了大量的时间回顾和复习本科基础数学课程，重点是《数学分析》、《高等代数》、《解析几何》、《概率论与数理统计》、《数值分析》、《数学模型》，并且延申阅读了这几个学科的历史。我最关心的是数学模型，这个也是我大学里除了三门基础课程之外学得最好的一门课程，而且我投入了大量时间数学模型的学习，并且参加了校级、国级和美国数学建模比赛，分别获得一等奖、二等奖和一等奖。

所谓数学模型，其实简单地说就是：使用数学方法解决实际应用问题。除了常见的数学模型，还有其他大量地借用数学方法来解决实际问题的例子，比如爱因斯坦的相对论，其实就是借用非欧几何的数学理论来解决物理问题。关于常见的数学模型，已经有人进行了非常好的整理：线性规划、整数规划、非线性规划、图与网络模型、插值与拟合、微分方程建模、数理统计、时间序列、支持向量机、多元分析、偏最小二乘回归分析、现代优化算法（模拟退火、遗传算法）、数字图像处理、综合评价与决策方法、预测方法（微分方程、灰色度预测、差分方程、马尔可夫预测、插值与拟合、神经网络）。

我后续会比较深入地重新捡起这些算法和模型，并且运用到实际生活中，我这里的实际生活，就是针对实实在在发生和进行的事情。

关于所学的数学学科介绍

Thu, 21 May 2020 00:00:00 +0000

一、前言

我已经毕业十多年了，大学本科数学四年，前两年我的大部分精力都投入到数学学习，特别是数学分析、高等代数和解析几何，这三门课程我学得非常好，另外运筹学和数学模型学得也还可以，复变函数我自认为理解很好，但是考试分数很差。后两年我开始对编程感兴趣，只有一半多的时间放在专业课上，专业课程包括概率论、实变函数、数值分析、抽象代数、数学物理方程、数论基础、应用数理统计、最优化原理与算法、偏微分方程数值解和泛函分析，这些课程里除了概率论和数理统计，其他的课程学得就没有前两年那么深入。

这段时间重新翻了翻大学的课程，印象最深的还是那三大基础课程：数学分析、高等代数和解析几何，加上概率论和数学模型，我基本都还能捡回来。我感叹大学的自己曾经一只脚迈进现代数学大门，后来抽身离开；现在还想打开这扇门，虽然里面风景独好，但是发现已经迈不进去了。我重新阅读这些图书，一方面是促进自己在算法和建模方面的工作，另一方面是希望对数学史了解更深刻。

二、数学分析

这门学科可以追溯到古希腊欧多克索斯，他提出的穷竭法第一次引出极限理论，另一位伟大的数学家阿基米德则真正让微积分初现萌芽，他是用穷竭法求出了抛物线弓形的面积。由于欧洲罗马帝国和中世纪对古希腊文明的摧残，一直到17世纪文艺复兴之后，微积分才开始得到发展，帕斯卡、费马、沃利斯和巴罗都触及到了微积分的边缘，他们的一些工作其实已经反映出了微积分思想。

真正创立微积分的人是牛顿和莱布尼茨，牛顿为了研究物理发明微积分，他采用的是流数术；莱布尼茨则采用更加数学的方法创立了微积分，他的方法一直保留至今。客观公正的说，他们两位都是分别独立创立了微积分。这时候的微积分是建立在不严密的基础之上，特别是对于无穷量小这个概念非常模糊，虽然如此，但是基于不严密的微积分，欧拉、拉格朗日、拉普拉斯、勒让德和傅立叶深刻发展了微积分，并且获得了大量原创性成果。

微积分严密化工作一直到了19世纪才完成，从波尔查诺、阿贝尔和柯西开始，一直到维尔斯特拉斯、戴德金、黎曼和达布，他们先摆脱了无穷小量的幽魂，建立实数理论，完成极限的严格定义和证明，最终完成现代数学分析体系的建立。大学本科的数学分析也只是讲到了19世纪末。

20世纪的分析学最深刻的变革是勒贝格开创测度论，以此发展出了实变函数，以此衍生了理论化的概率论和随机过程，同时复数的引入，也发展出了基于复变函数的复分析。而以函数空间为基础的泛函和算子理论，则发展出了泛函分析，泛函分析里的希尔伯特空间、巴拿赫空间和广义函数论在物理学获得应用。三角级数发展成傅立叶分析。多变量函数和多维空间的曲面的研究，则发展出了微分几何学、偏微分方程和流形分析。一元线性空间（即线性方程组）理论问题基本都被解决，非线性分析则成为最活跃的数学分析分支之一。这里值得一提的是：罗宾逊将实数推广到超实数，引出了非标准分析。目前，无穷维的微积分理论并没有建立，注意：这里的无穷维并不是指N维空间，因为一般意义上的N维空间并不是无穷维。

现在活跃的纯数学分析研究方向主要是非线性分析和偏微分方程，这个方向可以产生大量的论文，但是很难产出原创性的理论。另外一方向就是无限维微积分的研究，但也仅限于巴拿赫空间的大量研究，更普遍的无限维微积分似乎已经超出人类的智力范围。非纯粹的数学分析主要就是和其他数学学科的混合研究，比如调和分析。

三、高等代数

代数是数学史上最古老的一门学科之一，甚至可以说曾经的代数就代表数学，从最基础的整数和算术到方程，再到统一的线性代数，直至抽象代数，代数的发展一直伴随着人类文明的历史。人类最开始结绳计数就开始和代数(即算术)打交道，而5000多年之前的两河流域文明就出现算术系统，特别是巴比伦文明已经开始研究代数方程。古埃及人、古希腊人和古代中国从几何角度去探讨过方程求解，毕达哥拉斯则认为“万物皆数”，欧几里德证明素数无限。一直到了古罗马时期，被誉为“代数之父”之一的丢番图正式研究不定方程。

波斯帝国诞生了另外一位也被尊为“代数之父”的花拉子米，他的《代数学》是第一本解决一次方程及一元二次方程的系统著作。中世纪的欧洲，东方数学家在代数方面取得辉煌成就。古波斯的欧玛尔·海亚姆发展出代数几何，并且且找出了三次方程的一般几何解法；古印度的摩诃吠罗和婆什迦罗与古中国的朱世杰解出了许多特定的三次、四次、五次方程的解；古中国的秦九韶甚至证明了中国剩余定理，即关于互素和模的定理。

文艺复兴之后的欧洲开始研究从东方传来的方程求解，逐渐打开代数大门，特别是对高次方程的一般解法的研究，阿贝尔和迦罗华做出突出贡献，阿贝尔证明五次方程的根式解的不可能性并在椭圆函数的研究中提出阿贝尔方程式，英年早逝的迦罗华则发展出了群论。莱布尼茨继续发展了日本数学家关孝和提出的行列式概念，并通过矩阵来解出线性方程组，加布里尔·克拉默则在更一般情景研究矩阵和行列式上。到了埃米诺特，基于迦罗华理论引伸出了更抽象更一般的群、环、域，并提出了抽象代数。

抽象代数是人类智慧的集中体现，它使得“代数”这个词在数学世界的意义，从“方程理论”换变成“代数结构理论”，大量天才数学家对抽象代数进行研究。恩斯特·斯坦尼兹研究过一般的域、大卫·希尔伯特、埃米尔·阿廷与埃米·诺特研究过可交换群与一般的环，恩斯特·库默尔、利奥波德·克罗内克与理察·戴德金研究过可交换环的理想，以及费迪南德·格奥尔格·弗罗贝尼乌斯与伊赛·舒尔研究过群的表示理论。

数论其实也算是代数的一个分支，数论被认为是最纯粹的数学，而数量的核心研究对象是素数，真正让数论成为一们学科是由费马、梅森、欧拉、高斯、勒让德、黎曼、希尔伯特等人发展而来。目前数论的研究围绕几个大的猜想，特别是黎曼猜想，黎曼猜想不仅涵盖了素数分布，还包含了复分析、解析数论等知识。

我大学所学的高等代数，由一元线性方程组的研究，先引出了向量空间、矩阵，接着探讨线性空间和线性变换，然后抽象出欧氏空间和酉空间，最后从抽象的角度探讨线性代数、几何和分析三者的关联。下图高度概括这种关系：

四、解析几何

几何的诞生和人类文明同时发展，无论是尼罗河边上的古埃及人、古希腊哲人，还是两河流域的巴比伦人和古代中国人，都对几和进行了或多或少的研究，但是真正数学意义上的几何则来自古希腊人。公元前六世纪泰勒斯的时代，西方世界开始将几何学视为数学的一部分。公元前三世纪，几何学中加入欧几里德的公理，产生的欧几里得几何是往后几个世纪的几何学标准。阿基米德发展了计算面积及体积的方法，许多都用到积分的概念。阿波罗尼奥斯完成圆锥曲线理论，这些工作为一千八百多年后开普勒、牛顿、哈雷等数理天文学家研究行星和彗星轨道提供了数学基础。

欧洲中世纪期间因为对天文学的研究，所以保留了几何知识的学习，但都是掌握在神父手上，并没有取得任何进展。天文学中有关恒星和行星在天球上的相对位置，以及其相对运动的关系，都是后续一千五百年中探讨的主题。几何和天文都列在西方博雅教育中的四术中，是中古世纪西方大学教授的内容之一。

勒内·笛卡儿发明的坐标系以及当时代数的发展让几何学进入新的阶段，像平面曲线等几何图形可以由函数或是方程等解析的方式表示。这对于十七世纪微积分的引入有重要的影响。透视投影的理论让人们知道，几何学不只是物体的度量属性而已，透视投影后来衍生出射影几何。欧拉及高斯开始有关几何物件本体性质的研究，使几何的主题继续扩充，最后产生了拓扑学及微分几何。现代概念上的几何其抽象程度和一般化程度大幅提高，并与分析、抽象代数和拓扑学紧密结合。

这里重点提出非欧几何（或者叫罗巴切夫斯基几何），这是人类颠覆传统欧几里德几何观念的一次巨大思维飞跃，也是几何学发展的新里程碑。非欧几何曾经在高斯的脑子里酝酿，但他没有深入研究，最终是波约尔和罗巴切夫斯基创立，而因为罗巴切夫斯基的方式更完美，做的工作也更多，所以也叫罗巴切夫斯基几何。非欧几何后续又由黎曼、庞加莱等数学家发展和改进，并且需求数学逻辑上的理论支持，最终在20世纪初被爱因斯坦运用于广义相对论，非欧几何的应用于广义相对论与微积分应用于经典物理学一样值得称颂。

解析几何是欧几里德几何的现代版本，20世纪下半叶中有大幅的进展，主要是因为让-皮埃尔·塞尔及亚历山大·格罗森迪克的贡献，这也产生了概形以及代数拓扑学一些方法的重视，包括许多的上同调理论。千禧年大奖难题中的霍奇猜想就是解析几何学的问题。

低维度代数簇、代数曲线及代数曲面的研究以及三维代数簇（algebraic threefolds）的研究都有很多进展。Gröbner基理论及实代数几何应用在现在解析几何的一些子领域中。算术几何（Arithmetic geometry）是结合了解析几何及数论的一个新的领域。另外一个研究方向是模空间及复几何。代数几何的方法广泛的用在弦理论及膜宇宙理论中。

我所学习的解析几何主要是先从向量代数出发，建立仿射坐标系，并研究空间的直线、平面和曲面，同时学习仿射坐标变换、二次曲面的仿射理论，放射变化和保距变换。最后还学习了射影几何的基本知识。

【转】数学体系解读

Thu, 14 May 2020 00:00:00 +0000

这篇文章作者是机器学习方面的专家爱林达华先生，他不是数学科班出身，但是能从深入了解数学各个体系，并且意识到数学是获得计算机突破的理论基础，还是挺不错的。他这篇文章里提到的体系有一定的缺陷，但是可以为非数学专业学生提供一个直观的视角。

数学体系解读

by MIT 林达华

目录 (Contents)

1 为什么要深入数学的世界

2 集合论：现代数学的共同基础

3 分析：在极限基础上建立的宏伟大厦

3.1 微积分：分析的古典时代——从牛顿到柯西

3.2 实分析：在实数理论和测度理论上建立起现代分析

3.3 拓扑学：分析从实数轴推广到一般空间——现代分析的抽象基础

3.4 微分几何：流形上的分析——在拓扑空间上引入微分结构

4 代数：一个抽象的世界

4.1 关于抽象代数

4.2 线性代数：“线性”的基础地位

4.3 泛函分析：从有限维向无限维迈进

4.4 继续往前：巴拿赫代数，调和分析，和李代数

5 现代概率论：在现代分析基础上再生

为什么要深入数学的世界

作为计算机的学生，我没有任何企图要成为一个数学家。我学习数学的目的，是要想爬上巨人的肩膀，希望站在更高的高度，能把我自己研究的东西看得更深广一些。说起来，我在刚来这个学校的时候，并没有预料到我将会有一个深入数学的旅程。我的导师最初希望我去做的题目，是对appearance和motion建立一个unified的model。这个题目在当今Computer Vision中百花齐放的世界中并没有任何特别的地方。事实上，使用各种Graphical Model把各种东西联合在一起framework，在近年的论文中并不少见。

我不否认现在广泛流行的Graphical Model是对复杂现象建模的有力工具，但是，我认为它不是panacea，并不能取代对于所研究的问题的深入的钻研。如果统计学习包治百病，那么很多 “下游”的学科也就没有存在的必要了。事实上，开始的时候，我也是和Vision中很多人一样，想着去做一个Graphical Model——我的导师指出，这样的做法只是重复一些标准的流程，并没有很大的价值。经过很长时间的反复，另外一个路径慢慢被确立下来——我们相信，一个图像是通过大量“原子”的某种空间分布构成的，原子群的运动形成了动态的可视过程。微观意义下的单个原子运动，和宏观意义下的整体分布的变换存在着深刻的联系——这需要我们去发掘。

在深入探索这个题目的过程中，遇到了很多很多的问题，如何描述一个一般的运动过程，如何建立一个稳定并且广泛适用的原子表达，如何刻画微观运动和宏观分布变换的联系，还有很多。在这个过程中，我发现了两个事情：

我原有的数学基础已经远远不能适应我对这些问题的深入研究。在数学中，有很多思想和工具，是非常适合解决这些问题的，只是没有被很多的应用科学的研究者重视。于是，我决心开始深入数学这个浩瀚大海，希望在我再次走出来的时候，我已经有了更强大的武器去面对这些问题的挑战。

我的游历并没有结束，我的视野相比于这个博大精深的世界的依旧显得非常狭窄。在这里，我只是说说，在我的眼中，数学如何一步步从初级向高级发展，更高级别的数学对于具体应用究竟有何好处。

集合论：现代数学的共同基础

现代数学有数不清的分支，但是，它们都有一个共同的基础——集合论——因为它，数学这个庞大的家族有个共同的语言。集合论中有一些最基本的概念：集合(set)，关系(relation)，函数(function)，等价 (equivalence)，是在其它数学分支的语言中几乎必然存在的。对于这些简单概念的理解，是进一步学些别的数学的基础。我相信，理工科大学生对于这些都不会陌生。

不过，有一个很重要的东西就不见得那么家喻户晓了——那就是“选择公理” (Axiom of Choice)。这个公理的意思是“任意的一群非空集合，一定可以从每个集合中各拿出一个元素。”——似乎是显然得不能再显然的命题。不过，这个貌似平常的公理却能演绎出一些比较奇怪的结论，比如巴拿赫-塔斯基分球定理——“一个球，能分成五个部分，对它们进行一系列刚性变换（平移旋转）后，能组合成两个一样大小的球”。正因为这些完全有悖常识的结论，导致数学界曾经在相当长时间里对于是否接受它有着激烈争论。现在，主流数学家对于它应该是基本接受的，因为很多数学分支的重要定理都依赖于它。在我们后面要回说到的学科里面，下面的定理依赖于选择公理：

拓扑学：Baire Category Theorem 实分析（测度理论）：Lebesgue 不可测集的存在性泛函分析四个主要定理：Hahn-Banach Extension Theorem, Banach-Steinhaus Theorem (Uniform boundedness principle), Open Mapping Theorem, Closed Graph Theorem 在集合论的基础上，现代数学有两大家族：分析(Analysis)和代数(Algebra)。至于其它的，比如几何和概率论，在古典数学时代，它们是和代数并列的，但是它们的现代版本则基本是建立在分析或者代数的基础上，因此从现代意义说，它们和分析与代数并不是平行的关系。

中国古代数学家

Wed, 06 May 2020 00:00:00 +0000

一、写在前面的话

数学是一门非常悠久的学科，它和其他自然科学一样，诞生于人类文明发展过程之中；数学是一门利用符号语言研究数量、结构、变化以及空间等概念的一门学科，它是自然科学的工具和语言。

我第一次接触数学史是在初中，那时候第一本启蒙书是《数学演义》（作者不是王树和），目前已经找不到这本书。我很确定书名是“数学演义”，读这本书的时候大约是在1999年左右，里面讲了大量关于四大文明古国的数学史，包含了初等数学、微积分和数论的知识，从这本书我第一次听说了希尔伯特、费马、莱布尼茨、欧拉、高斯、庞加莱、黎曼等数学家。除了这本书，我还读了大百科全书里面的数学部分，以及其他图书馆能找到的数学科普书籍，从此以后我坚定了立志长大之后成为一名数学家。

中考结束后的暑假，我阅读了《费马大定理—一个困惑了世间智者358年的谜》，怀尔斯取代华罗庚成为我的偶像。高中时期我在县城的重点高中上学，读了大量数学史和数学家方面的书籍，期间还因此涉猎相对论和理论物理学等方面的知识，我甚至自己推到了洛伦茨变换——这是狭义相对立的基础。

高考之后，我如愿进入985大学的数学专业，期间系统地学习了本科数学，我自认为数学分析、高等代数、解析几何等基础课程我学得很好，只是没有彻底打开复变函数和泛函分析的大门(前两年已经补了一些回来)。我没有错过浩瀚无边的大学图书馆，阅读了大量数学史和数学思想方面的书籍。对我影响最大的是克莱因，特别是他的那本《数学：确定性的丧失》，这是一本介于数学和哲学的书，我读了好几遍，以前我也是抱着完美纯数学观点，这本书改变了我很多看法，深刻影响了我对数学的理解，甚至间接促成了我最终选择了设计算法和写代码。

大学阶段的后阶段，我徘徊在理想(数学)与现实(编程)之间。最终倾向理智的我皈依了现实，毕业后从事软件开发工作，十几年来，倒是也接触数学算法和数学模型。我一直觉得自己曾经一只脚迈进现代数学大门，后来抽身离开；现在回过头来还想打开这扇门，虽然里面风景独好，但是发现已经迈不进去了。

二、中国古代数学家

今年以来读（重读）了大量数学史方面的书籍：李约瑟的《中国科学技术史-数学》、李迪的《中国数学史简编》、吴文俊主编的《中国数学史大系》、克莱因的《古今数学思想》、斯科特的《数学史》、张奠宙《20世纪数学经纬》、李文林的《数学史概论》。读完书之后我对整个世界数学史和中国数学史有了更深刻的了解，这也是我重新系统地思考中国古代数学和数学家。

综合各类文献，如果以真正意义上的数学（即数学定义为：透过抽象化和逻辑推理的使用，由计数、计算、量度和对物体形状及运动的观察而产生），我觉得首位中国古代数学家是赵爽(赵君卿)或者刘徽（因两者生卒年不详所以很难定义谁是第一位），他们两位有比较详实的文献记载，并且所作的工作符合真正意义上的数学工作，赵爽在注解《周髀算经》中严格证明了毕达哥拉斯定理（或勾股定理），刘徽则在注解《九章算术》中做了大量原创新的数学发现，他还写了一部《海岛算经》。至于国内学者推断的张苍、桑弘羊、耿寿昌、许商、刘歆、郑玄，这些人要么在史书传略里没有提到他们的作品，要么只是作为政府官员参与编著古代算经，并没有可靠的历史文献证明他们的数学才华。当然，我并不完全否认这些人可能做出的数学贡献，有如我不否认公元4000年左右前为了修建埃及金字塔而做出数学贡献的无名氏，以及公元3000年左右前在巴比伦泥巴刻下勾股数和公式的无名氏。

这里我不得不提一下商高，看到一些研究者努力去证明商高是第一位数学家，或者商高证明了勾股定理，我对此完全不敢苟同。首先，商高和周公的对话是否真的证明了勾股定理，我还是抱怀疑态度；其次，周公和商高的对话首次出现在《周髀算经》，但是这本书大概率是成书于西汉年间（甚至更晚），我不否认《周髀算经》是汉代之前积累而成，但是具体源头到哪里目前没有任何实证，我更倾向于相信这本书和《九章算术》一样是在汉代经过多人汇集先前的知识汇编而成，并且大部分真正意义的数学知识是在汉代的时候产生。

中国古代数学真正繁荣时期是汉代(含三国魏晋)和宋代两个时期，这段时间产生大量原创性极高的数学，还有很有造诣的数学家，清代末期西方数学传入，加上西学东渐，中国人开始真正研究现代数学。历数中国古代数学家（标注红色是比较纯粹研究数学的数学家），除了上面提到的赵爽和刘徽，还有：具有独创精神的王孝通，努力汇编算经、勉强可以称数学家的李淳风和的张丘建，有详细记载但著作失传的祖冲之和祖暅（只能怪动荡的南北朝），发明大衍术的僧一行，学会开三次方的贾宪，著作失传的刘益和蒋周，身兼科学家的沈括，古中国数论大师、证明中国剩余定理的秦九韶，精通算经的杨辉，发明天元术的李治，精于天文算术的王恂，善于解线性方程的朱世杰，编写《九章算法类比大全》的隐士吴敬和珠算先驱王文素，重新挖掘《九章算术》的珠算大师程大位，翻译《几何原本》的徐光启，接触西方数学的李子金和杜知耕，会通中西数学的梅文鼎，研究三角函数的明安图，研究古代算经的李锐，系统介绍和研究西方数学的李善兰和华蘅芳，清代末期数学研究工作者夏鸾翔、丁取忠、时曰醇、黄宗宪、席淦、陈志坚，还有发掘古中国数学经书的刘彝程，发起和创建中国数学协会的周达。

数学学科分类(MSC标准)

Fri, 16 Nov 2012 00:00:00 +0000

MSC的顶级主题分类，但下面的几个分组并不是MSC分类的一部分，它们仅仅是为了能够更有条理地划分。

一、通用及基础

00: 通用，包括趣味数学，数学哲学，数学建模等。 01: 数学史 and 数学家传记。 03: 数理逻辑和数学基础，包括模型论，可计算性理论，集合论，证明论，代数逻辑等。

二、代数(及离散数学)

05: 组合数学 06: 序理论 08: 通用代数系统 11: 数论 12: 场论和多项式 13: 交换环和交换代数 14: 代数几何 15: 线性代数和多重线性代数；矩阵 16: 环论和结合代数 17: 非结合环和非结合代数 18: 范畴论; 同调代数 19: K-理论 20: 群论及推广 22: 拓扑群，李群和基于它们的分析

三、分析

26: 实变函数，包括导数和积分 28: 测度及其积分 30: 复变函数，包括复数中的近似值理论 31: 位势论 32: 多复变数和解析空间 33: 特殊函数 34: 常微分方程 35: 偏微分方程 37: 动力系统和遍历理论 39: 差分方程和泛函方程 40: 序列，级数, 发散级数 41: 近似值理论及其拓展 42: 调和分析，包括傅里叶分析，傅里叶变换，傅里叶级数，三角插值，和正交函数 43: 抽象调和分析 44: 积分变换，运算微积 45: 积分方程 46: 泛函分析，包括infinite-dimensional holomorphy，分布 (数学分析)中的积分变换 47: 算子理论 49: 变分法和最优控制；最优化(包括同源性整合理论)

数学英雄：欧拉

Fri, 26 Oct 2012 00:00:00 +0000

一、简介

莱昂哈德·保罗·欧拉（Leonhard Paul Euler，1707年4月15日－1783年9月18日）是一位瑞士数学家和物理学家，近代数学先驱之一，他一生大部分时间在俄罗斯帝国和普鲁士度过。欧拉在数学的多个领域，包括微积分和图论都做出过重大发现。他引进的许多数学术语和书写格式，例如函数的记法"f(x)"，一直沿用至今。此外，他还在力学、光学和天文学等学科有突出的贡献。欧拉是18世纪杰出的数学家，同时也是有史以来最伟大的数学家之一。他也是一位多产作者，其文学著作约有60-80册。法国数学家皮埃尔-西蒙·拉普拉斯曾这样评价欧拉对于数学的贡献：“读欧拉的著作吧，在任何意义上，他都是我们的大师”

二、生平

1、早年

欧拉出生于瑞士巴塞尔(Basel)的一个牧师家庭，父亲保罗·欧拉（Paul Euler）是基督教加尔文宗的牧师，保罗·欧拉早年在巴塞尔大学学习神学，后娶了一位牧师的女儿玛格丽特·布鲁克（Marguerite Brucker），也就是欧拉的母亲。欧拉是他们6个孩子中的长子。在欧拉出生后不久，他们全家就从巴塞尔搬迁至郊外的里恩（Riehen）,在那里欧拉度过了他童年的大部分时光。

欧拉最早是从他的父亲那里接触到一些数学，后来欧拉搬回巴塞尔和他的外祖母住在一起，并在那里开始了他的正式学业，在中学时期，由于欧拉所在的学校并不教授数学，他便私下里从一位大学生那里学习。

欧拉13岁时进入了巴塞尔大学，主修哲学和法律，但在每周星期六下午便跟当时欧洲最优秀的数学家约翰·伯努利（Johann Bernoulli）学习数学。欧拉于1723年取得了他的哲学硕士学位，学位论文的内容是笛卡尔哲学和牛顿哲学的比较研究。之后，欧拉遵从了他父亲的意愿进入了神学系，学习神学，希腊语和希伯来语（欧拉的父亲希望欧拉成为一名牧师），但最终约翰·伯努利说服欧拉的父亲允许欧拉学习数学，并使他相信欧拉注定能成为一位伟大的数学家。1726年，欧拉完成了他的博士学位论文De Sono，内容是研究声音的传播。1727年，欧拉参加了法国科学院主办的有奖征文竞赛，当年的问题是找出船上的桅杆的最优放置方法。结果他得了二等奖，一等奖为被誉为“舰船建造学之父”的皮埃尔·布格（Pierre Bouguer）所获得，不过欧拉随后在他一生中一共12次赢得该奖。

2、在圣彼得堡

这一时期，约翰·伯努利的两个儿子——丹尼尔·伯努利（Daniel Bernoulli）和尼古拉·伯努利（Nicolas Bernoulli）——在位于俄国圣彼得堡的俄国皇家科学院工作，在尼古拉因阑尾炎于1726年7月去世后（此时距他来到俄国仅一年），丹尼尔便接替了他在数学/物理学所的职位，同时推荐欧拉来接替他自己在生理学所空出的职位。欧拉于1726年11月欣然接受了邀请，但并没有立即动身前往圣彼得堡，而是先申请巴塞尔大学的物理学教授，不过没有成功。

前苏联于1957年发行的邮票，纪念欧拉诞辰250周年。文字内容为：欧拉，伟大的数学家和学者，诞辰250周年。

欧拉于1727年5月17日抵达圣彼得堡，在丹尼尔等人的请求下，科学院将欧拉指派到数学/物理学所工作，而不是起初的生理学所。欧拉与丹尼尔保持着密切的合作关系，并且与丹尼尔住在一起。在1727年至1730年间，欧拉还担任了俄国海军医官的职务。

俄国皇家科学院由彼得大帝于1724年创建，在彼得大帝和他的继任者凯瑟琳女皇主政时期，科学院是一个对外国学者具有吸引力的地方。科学院有充足的资金来源和一个规模庞大的综合图书馆，并且只招收非常少的学生，以减轻教授们的教学负担。科学院还非常重视研究，给予教授们充分的时间及自由，让他们探究科学问题。

凯瑟琳女皇，同时也是科学院的资助者，于欧拉到达圣彼得堡的当天去世。其后彼得二世继位，彼得二世是个软弱的君主，实际权力由俄国贵族掌握。贵族们对科学院的外国科学家心存戒心，于是他们切断了对欧拉及其同事们的财政资助，并且在其它方面找他们的麻烦。

情况在彼得二世去世（1730年）后有所好转，欧拉在科学院迅速得到提升，并于1731年获得物理学教授的职位。两年后，由于受不了在圣彼得堡受到的种种审查和敌视，丹尼尔·伯努利返回了巴塞尔，欧拉于是接替丹尼尔成为数学所所长[10] 。1735年，欧拉还在科学院地理所担任职务，协助编制俄国第一张全境地图。

1734年1月7日，欧拉迎娶了科学院附属中学的美术教师，瑞士人乔治·葛塞尔（Georg Gsell）的女儿，柯黛琳娜·葛塞尔（Katharina Gsell，1707-1773），两人共育有13个子女，其中仅有5个活到成年。

3、视力恶化

在欧拉的数学生涯中，他的视力一直在恶化。在1735年一次几乎致命的发热后的三年，他的右眼近乎失明，但他把这归咎于他为圣彼得堡科学院进行的辛苦的地图学工作。视力在他在德国期间也持续恶化，以至于弗雷德里克把他誉为“独眼巨人”。欧拉的原本正常的左眼后来又遭受了白内障的困扰。在他于1766年被查出有白内障的几个星期后，导致了他的近乎完全失明。即便如此，病痛似乎并未影响到欧拉的学术生产力，这大概归因于他的心算能力和超群的记忆力。比如，欧拉可以从头到尾不犹豫地背诵维吉尔的史诗《埃涅阿斯纪》，并能指出他所背诵的那个版本的每一页的第一行和最后一行是什么。在书记员的帮助下，欧拉在多个领域的研究其实变得更加高产了。在1775年，他平均每周就完成一篇数学论文。

4、其他

欧拉年轻时曾研读神学，他一生虔诚、笃信上帝，并不能容许任何诋毁上帝的言论在他面前发表。有一个广泛流传的传说说到，欧拉在叶卡捷琳娜二世的宫廷里，挑战当时造访宫廷的无神论者德尼·狄德罗：“先生，，所以上帝存在，请回答！”不懂数学的德尼完全不知怎么应对，只好投降。但是由于狄德罗事实上也是一位有作为的数学家，这个传说有可能属于虚构。

欧拉是史上发表论文数第二多的数学家，全集共计75卷；他的纪录一直到了20世纪才被保羅·埃尔德什打破。他发表的论文达1475篇，著作有32部。产量之多，无人能及。欧拉实际上支配了18世纪至现在的数学；对于当时新发明的微积分，他推导出了很多结果。很多数学的分枝，也是由欧拉所创或因而有大大的进展。

在1765年至1771年据说是因欧拉双眼直接观察太阳，双眼先后失明。尽管人生最后7年，欧拉的双目完全失明，他还是以惊人的速度产出了生平一半的著作。

1783年9月18日，晚餐后，欧拉一边喝着茶，一边和小孙女玩耍，突然之间，烟斗从他手中掉了下来。他说了一声：“我的烟斗”，并弯腰去捡，结果再也没有站起来，他抱着头说了一句：“我死了”。“欧拉停止了生命和计算”。后面这句经常被数学史家引用的话，出自法国哲学家兼数学家孔多塞之口：“…il cessa de calculer et de vivre”（he ceased to calculate and to live）。

三、成就

欧拉的数学符号引进和推广，并通过他的许多教科书广为流传。最值得注意的是，他介绍了一个运行概念是先写函数F（x）表示函数f参数x的应用他还介绍了三角函数现代符号，为自然对数的底（现在也称为欧拉数已知），对求和希腊字母Σ和字母i字母E来表示虚数单位。(该使用希腊字母π来表示一个圆的周长和直径之比也由欧拉普及，但它并不是由他发明。)

欧拉和丹尼尔·伯努利一起，建立了弹性体的力矩定律：作用在弹性细长杆上的力矩正比于物质的弹性和通过质心轴和垂直于两者的截面的转动惯量。他还直接从牛顿运动定律出发，建立了流体力学里的欧拉方程。这些方程组在形式上等价于粘度为0的纳维-斯托克斯方程。人们对这些方程的主要兴趣在于它们能被用来研究冲击波。

他对微分方程理论作出了重要贡献。他还是欧拉近似法的创始人，这些计算法被用于计算力学中。此中最有名的被称为欧拉方法。在数论里他引入了欧拉函数。自然数的欧拉函数被定义为小于并且与互质的自然数的个数。在计算机领域中广泛使用的RSA公钥密码算法也正是以欧拉函数为基础的。

在分析领域，是欧拉综合了莱布尼兹的微分与牛顿的流数。他在1735年由于解决了长期悬而未决的贝塞尔问题而获得名声：

其中是黎曼函数。

欧拉将虚数的幂定义为如下公式

这就是欧拉公式，它成为指数函数的中心。在初等分析中，从本质上来说，要么是指数函数的变种，要么是多项式，两者必居其一。被理查德·费曼称为“最卓越的数学公式”的则是欧拉公式的一个简单推论（通常被称为欧拉恒等式）：

他在1735年定义了微分方程中的欧拉-马歇罗尼常数，也是欧拉-马歇罗尼公式的发现者之一，这一公式在计算难于计算的积分、求和与级数的时候极为有效：

欧拉还发现了公式的V型é f键= 2的数量与顶点，边和面的凸多面体，因此，对一个平面图形。此公式中的常数是现在被称为欧拉示性数的图形（或其他数学对象），是有关属的对象。研究和推广这一公式，特别是通过柯西和欧莱雅Huillier，是在原点的拓扑结构。

欧拉在1736年解决了柯尼斯堡七桥问题，并且发表了论文《关于位置几何问题的解法》（Solutio problematis ad geometriam situs pertinentis），对一笔画问题进行了阐述，是最早运用图论和拓扑学的典范。

在1739年，欧拉写下了《音乐新理论的尝试（Tentamen novae theoriae musicae）》，书中试图把数学和音乐结合起来。一位传记作家写道：这是一部“为精通数学的音乐家和精通音乐的数学家而写的”著作。

数学王子：高斯

Thu, 25 Oct 2012 00:00:00 +0000

一、引言

高斯无疑是迄今为止最伟大的数学家，同时他也是我最喜欢和最崇拜的数学家，作为数学史上最有才华的数学家之一，并且他把自己的才华最大限度应用到数学上，产生大量的数学研究成果，在数论方面更是拥有超凡的天赋、悟性和创造力。

二、简介

高斯（Johann Carl Friedrich Gauss）（1777年4月30日－1855年2月23日），生于不伦瑞克，卒于哥廷根，德国著名数学家、物理学家、天文学家、大地测量学家。高斯被认为是最重要的数学家，并拥有数学王子的美誉。 1792年，15岁的高斯进入布伦瑞克（Braunschweig）学院。在那里，高斯开始对高等数学作研究。独立发现了二项式定理的一般形式、数论上的“二次互反律”（Law of Quadratic Reciprocity)、质数分布定理（prime numer theorem)及算术几何平均(arithmetic-geometric mean)。

1795年高斯进入哥廷根大学。1796年，19岁的高斯得到了一个数学史上极重要的结果，就是《正十七边形尺规作图之理论与方法》。

1855年2月23日清晨，高斯于睡梦中去世。

三、生平

卡尔·弗里德里希·高斯是一对普通夫妇的儿子。他的母亲是一个贫穷石匠的女儿，虽然十分聪明，但却没有接受过教育，近似于文盲。在成为高斯父亲的第二个妻子之前，她从事女佣工作。他的父亲曾做过园丁，工头，商人的助手和一个小保险公司的评估师。当高斯三岁时便能够纠正他父亲的借债账目的事情，已经成为一个轶事流传至今。他曾说，他在麦仙翁堆上学会计算。能够在头脑中进行复杂的计算，是上帝赐予他一生的天赋。

高斯用很短的时间计算出了小学老师布置的任务：对自然数从1到100的求和。他所使用的方法是：对50对构造成和101的数列求和（1+100，2+99，3+98……），同时得到结果：5050。这一年，高斯9岁。父亲格尔恰尔德·迪德里赫对高斯要求极为严厉，甚至有些过份，常常喜欢凭自己的经验为年幼的高斯规划人生。高斯尊重他的父亲，并且秉承了其父诚实、谨慎的性格。

在成长过程中，幼年的高斯主要得力于母亲和舅舅：高斯的母亲罗捷雅、舅舅弗利德里希（Friederich）。弗利德里希富有智慧，为人热情而又聪明能干投身于纺织贸易颇有成就。他发现姐姐的儿子聪明伶利，因此他就把一部分精力花在这位小天才身上，用生动活泼的方式开发高斯的智力。若干年后，已成年并成就显赫的高斯回想起舅舅为他所做的一切，深感对他成才之重要，他想到舅舅多产的思想，不无伤感地说，舅舅去世使"我们失去了一位天才"。正是由于弗利德里希慧眼识英才，经常劝导姐夫让孩子向学者方面发展，才使得高斯没有成为园丁或者泥瓦匠。

在数学史上，很少有人象高斯一样很幸运地有一位鼎力支持他成才的母亲。罗捷雅直到34岁才出嫁，生下高斯时已有35岁了。她性格坚强、聪明贤慧、富有幽默感。高斯一生下来，就对一切现象和事物十分好奇，而且决心弄个水落石出，这已经超出了一个孩子能被许可的范围。当丈夫为此训斥孩子时，她总是支持高斯，坚决反对顽固的丈夫想把儿子变得跟他一样无知。

罗捷雅真地希望儿子能干出一番伟大的事业，对高斯的才华极为珍视。然而，她也不敢轻易地让儿子投入当时尚不能养家糊口的数学研究中。在高斯19岁那年，尽管他已做出了许多伟大的数学成就，但她仍向数学界的朋友W.波尔约（W.Bolyai，非欧几何创立者之一J.波尔约之父）问道：高斯将来会有出息吗？W.波尔约说她的儿子将是"欧洲最伟大的数学家"，为此她激动得热泪盈眶。

7岁那年，高斯第一次上学了。头两年没有什么特殊的事情。1787年高斯10岁，他进入了学习数学的班次，这是一个首次创办的班，孩子们在这之前都没有听说过算术这么一门课程。数学教师是布特纳，他对高斯的成长也起了一定作用。

当然，这也是一个等差数列的求和问题。当布特纳刚一写完时，高斯也算完并把写有答案的小石板交了上去。E．T．贝尔写道，高斯晚年经常喜欢向人们谈论这件事，说当时只有他写的答案是正确的，而其他的孩子们都错了。高斯没有明确地讲过，他是用什么方法那么快就解决了这个问题。数学史家们倾向于认为，高斯当时已掌握了等差数列求和的方法。一位年仅10岁的孩子，能独立发现这一数学方法实属很不平常。贝尔根据高斯本人晚年的说法而叙述的史实，应该是比较可信的。而且，这更能反映高斯从小就注意把握更本质的数学方法这一特点。

高斯的计算能力，更主要地是高斯独到的数学方法、非同一般的创造力，使布特纳对他刮目相看。他特意从汉堡买了最好的算术书送给高斯，说：“你已经超过了我，我没有什么东西可以教你了。”接着，高斯与布特纳的助手巴特尔斯建立了真诚的友谊，直到巴特尔斯逝世。他们一起学习，互相帮助，高斯由此开始了真正的数学研究。

1788年，11岁的高斯进入了文科学校，他在新的学校里，所有的功课都极好，特别是古典文学、数学尤为突出。经过巴特尔斯等人的引荐，布伦兹维克公爵召见了14岁的高斯。这位朴实、聪明但家境贫寒的孩子赢得了公爵的同情，公爵慷慨地提出愿意作高斯的资助人，让他继续学习。布伦兹维克公爵在高斯的成才过程中起了举足轻重的作用。不仅如此，这种作用实际上反映了欧洲近代科学发展的一种模式，表明在科学研究社会化以前，私人的资助是科学发展的重要推动因素之一。高斯正处于私人资助科学研究与科学研究社会化的转变时期。

1792年高斯进入布伦兹维克的卡罗琳学院继续学习。1795年，公爵又为他支付各种费用，送他入德国著名的哥丁根大学，这样就使得高斯得以按照自己的理想，勤奋地学习和开始进行创造性的研究。1799年，高斯完成了博士论文，回到家乡布伦兹维克，正当他为自己的前途、生计担忧而病倒时─虽然他的博士论文顺利通过了，已被授予博士学位，同时获得了讲师职位，但他没有能成功地吸引学生，因此只能回老家-又是公爵伸手救援他。公爵为高斯付诸了长篇博士论文的印刷费用，送给他一幢公寓，又为他印刷了《算术研究》，使该书得以在1801年问世；还负担了高斯的所有生活费用。所有这一切，令高斯十分感动。他在博士论文和《算术研究》中，写下了情真意切的献词：“献给大公”，“你的仁慈，将我从所有烦恼中解放出来，使我能从事这种独特的研究”。

1806年，公爵在抵抗拿破仑统帅的法军时不幸阵亡，这给高斯以沉重打击。他悲痛欲绝，长时间对法国人有一种深深的敌意。大公的去世给高斯带来了经济上的拮据，德国处于法军奴役下的不幸，以及第一个妻子的逝世，这一切使得高斯有些心灰意冷，但他是位刚强的汉子，从不向他人透露自己的窘况，也不让朋友安慰自己的不幸。人们只是在19世纪整理他的未公布于众的数学手稿时才得知他那时的心态。在一篇讨论椭圆函数的手搞中，突然插入了一段细微的铅笔字：“对我来说，死去也比这样的生活更好受些。”

为了不使德国失去最伟大的天才，德国著名学者洪堡（B.A.Von Humboldt）联合其他学者和政界人物，为高斯争取到了享有特权的哥丁根大学数学和天文学教授，以及哥丁根天文台台长的职位。1807年，高斯赴哥丁根就职，全家迁居于此。从这时起，除了一次到柏林去参加科学会议以外，他一直住在哥丁根。洪堡等人的努力，不仅使得高斯一家人有了舒适的生活环境，高斯本人可以充分发挥其天才，而且为哥丁根数学学派的创立、德国成为世界科学中心和数学中心创造了条件。同时，这也标志着科学研究社会化的一个良好开端。

高斯的数学研究几乎遍及所有领域，在数论、代数学、非欧几何、复变函数和微分几何等方面都做出了开创性的贡献。他还把数学应用于天文学、大地测量学和磁学的研究，发明了最小二乘法原理。十分注重数学的应用，并且在对天文学、大地测量学和磁学的研究中也偏重于用数学方法进行研究。

高斯开辟了许多新的数学领域，从最抽象的代数数论到内蕴几何学，都留下了他的足迹。从研究风格、方法乃至所取得的具体成就方面，他都是18─19世纪之交的中坚人物。如果我们把18世纪的数学家想象为一系列的高山峻岭，那么最后一个令人肃然起敬的巅峰就是高斯；如果把19世纪的数学家想象为一条条江河，那么其源头就是高斯。

高斯于公元1805年10月5日与来自Braunschweig的Johanna Elisabeth Rosina Osthoff小姐（1780-1809）结婚。在公元1806年8月21日迎来了他生命中的第一个孩子约瑟。此后，他又有两个孩子。Wilhelmine（1809－1840）和Louis（1809－1810）。1807年高斯成为哥廷根大学的教授和当地天文台的台长。

虽然高斯作为一个数学家而闻名于世，但这并不意味着他热爱教书。尽管如此，他越来越多的学生成为有影响的数学家，如后来闻名于世的Richard Dedekind和黎曼。

高斯非常信教且保守。他的父亲死于1808年4月14日，晚些时候的1809年10月11日，他的第一位妻子Johanna也离开人世。次年8月4日高斯迎娶第二位妻子Friederica Wilhelmine （1788-1831）。他们又有三个孩子：Eugen （1811-1896）,Wilhelm （1813-1883）和 Therese （1816-1864）。1831年9月12日她的第二位妻子也死去，1837年高斯开始学习俄语。1839年4月18日，他的母亲在哥廷根逝世，享年95岁。高斯于1855年2月23日凌晨1点在哥廷根去世。他的很多散布在给朋友的书信或笔记发现于1898年。

数学与应用数学专业介绍，顺便给数学院学生的建议

Wed, 21 May 2008 00:00:00 +0000

数学与应用数学专业是一个已经开设了很久的专业，国家教育部在这个学科的教育研究上积累了很多极为宝贵的经验，大学在上个世纪五十年代就开设了数学与应用数学专业，在培养人才上有很丰富的经验，在科研上也取得许多优秀的成果，现在该专业已经成功获得了设立博士点的资格。数学与应用数学专业是一个厚基础、宽口径并注重一定工程实践训练的理科专业，设置有应用数学与应用软件专业、计算数学与应用软件专业两个方向。本专业的学生主要学习数学与应用数学的基础理论、基本方法，受到数学模型、计算机和应用软件方面的基本训练，具有较好的科学素养。数学与应用数学专业开设了大量的数学课程和跟软件开发的相关课程，这些课程都由优秀的教授来上课。大一学习最重要最基础的数学专业基础课，任课教师水平都很高，这些课程直接请博士生导师（至少是硕士生导师）上课，教学质量相当高；大二开设学习数学专业课程，最主要的有三门专业必修课：数学模型、运筹学和数学软件，前两门课程对培养学生应用数学能力和很大的帮助，后一门课程让学生懂得利用强大的数学软件去解决应用问题，还有其他一些课程是专业基础课程，对学生未来学习作用非常大；大三主要是专业选修课，学生可以根据自己的需要和自己的人生规划来选择这些课程，如果以后想从事软件开发的可以多选计算机软件开发相关的课程，如果想读研究生或者以后从事科研可以多选数学相关的课程。大四还有一些专业选修课（如何选择跟大三的原则一样），另外还有一个很重要的任务，就是做毕业设计。学生在大二的时候还可以参加目前全国最大的大学生课外科技竞赛–全国数学建模比赛，这是一项将数学知识直接应用到实际问题的比赛，参与者可以得到各方面的训练，对未来的发展有非常大的作用，用参加过的前辈们的话就是“一次参加，终岁受益”，而且获得全国奖的可以免试保送研究生，大学在数学建模比赛成绩也是非常好的，每年都有好几个队获全国奖。目前大学本科正在越来越注重基础教育，许多家长希望自己的孩子本科毕业后继续就读研究生。如果在大学本科阶段把数学与应用数学专业学好了，也就是把研究生（除了数学专业）课程中的数学专业都学好了，在读研或者进行更高的深造的时候非常轻松。所以现在一些有见识的家长都选择让自己的孩子在本科阶段先读数学与应用数学，把基础打好。现在大学里很多非数学院的导师都希望数学院的学生报考他们的研究生，也非常欢迎数学专业的学生在读研究生的时候在他们院读。即使不想读研究生，数学与应用数学专业也是一个很值得选择的专业，因为这个专业和计算机联系非常密切，本专业开设的关于计算机软件方面的课程和计算机专业基本一样（可能比计算机专业还多），学生通过数学思维的训练和熏陶之后从事软件开发是非常有前途的，目前在计算机应用领域中很强的人要么都是应用数学系毕业或者数学功底非常好的人。就算不从事软件开发，通过本专业的培养，可以很大地提高学生在工作后的后劲力，因为大学阶段已经把实际中常用到的几乎所有数学理论都疏通了，实际工作遇到的话应付起来就得心应手了。当然本专业有一个特点就是开设课程比较多，学习也比较困难，但这并不影响学好这个专业。在大学，有优秀的教师和丰富的图书馆资源，如果脚踏实地跟老师好好学习，是几乎每个人都可以学好的（用老师的话说：以能考上大学的人的智商都可以学好）。来到数学学院，来到数学与应用数学专业后，找到自己的定位，发现自己的热爱，然后踏踏实实把每一个步走稳，毕业的时候，你就会发现自己真的实现人生理想了。

数学史上孤独而伟大的数学家们

Wed, 21 May 2008 00:00:00 +0000

“这群孤独的人，他们在黑暗中探索，他们拔开笼罩在人类人类头上的迷雾，让真理的阳光照进人类的心灵。” “你是否知道，一千八百年前，一个伟大的希腊数学家构建起完美的圆锥曲线理论，曾经被人遗忘在历史角落。然而在近代科学的发展中，它成了行星运动理论的基础。” “也许你不知道加罗华、阿贝尔这两个名字，他们是数学王国里英年早逝的天才。在他们的时代里他们的伟大理论没有得到别人的认可，但是谁会知道，它们是现代数学的根基和量子物理学的理论基础。” “拉马努扬，一个生被贫困纠缠的传奇数学家，在印度那个小小的村庄里写下了一个一个轰动数学界的公式、定理。” “非欧几何的创立者之一，亚．鲍耶，因为追求自己的理论被作为数学家的父亲赶出家门，却依然不放弃。” “我们完全有理由相信，人类智慧碰撞出来的火花终有一天会将世界燃起。” “我们不应该忘记他们的名字，更不能忘记他们的精神。”

为基础数学而写：关于基础数学的若干想法

Mon, 21 May 2007 00:00:00 +0000

从数学分析、高等代数、解析几何走来，经过常微分方程、复变函数的洗礼，正在实变函数、抽象代数、概率论中摸索，还将走向数论、拓扑学、泛函分析。这一路上经历了太多的彷徨，但是我最终还是不愿放弃这些优美的符号和公式。数学分析，这门被称为数学系最重要最基础也是最容易学的课程，先建立了无懈可击的实数理论，然后引出严密的极限理论，进而是连续、导数、微分积分等概念，再向多维、向更抽象的函数概念出发，最后结成这门课程丰硕的成果。高等代数，数学高度抽象性的典型代表，代数方程、多项式、向量、矩阵、线形空间、线形变换、欧氏空间、辛空间等等这些字眼中还包括更加抽象的概念。但是前人们找到了研究它们的方法，代数方程的根、矩阵性质、不变子空间、商空间，把握了这四个东西就好了。解析几何，数形结合的经典，忘不了的是用向量法和坐标法来研究几何，最让我难忘的是引入坐标变换法将二次曲面问题归为一个方程来研究，特别是只用短短几页书把高中的解析几何讲完了。常微分方程，作为数学科学中永远不会衰竭的领域，微分方程无处不在。方程模型、解析解、数值解、稳定性分析，这是研究它的模式。复变函数，又称解析函数论，工程运用必不可少的工具，从复数的实部虚部之间的关系找到一类有良好性质的函数，然后去研究它们得到许多深刻的定理，便创造了一门漂亮的学科。拉普拉斯变换、留数、黎曼猜想光彩照人。实变函数，建立在公理侧度理论上的微积分，以勒贝格积分为基础，引出了这门号称最难学的课程（数学系的学生都认为是“天书”），现在还在学习中。抽象代数，这门由女数学家埃米.诺特建立起来的理论，研究群、环、域，现在还在学习中。概率论，数理统计的基础，随即事件的数学化，研究随即现象的规律性，现在还在学习中。数论、拓扑学、泛函分析还等待着我去领略它们的精妙。

为应用数学而写：关于应用数学的若干想法

Mon, 21 May 2007 00:00:00 +0000

应用数学主要就是三大块：统计、优化和数值分析。数学模型，交给我了建模的思想和方法，特别让我知道了如何将数学理论实际化，数学建模给予我的是太多太多，一言难尽。数学软件，Matlab几乎是无法超越的，数值计算的老大；Mathematica也不甘落后，符号计算的强者；SPSS是统计软件中正在称霸天下的霸主。数软节省了我的很多时间，并且交我要另外一种角度思考数学。运筹学，优化计算是实际中必不可少的，并且带来的就是经济收益。线形规划、非线性规划、动态规划、网络计划图、库存论、排队论等都是经典理论。数值分析：科学与工程计算的基础，在韩旭里老师这位计算数学“牛人”的指导下，现在正在学习中。多元统计分析：自然科学与社会科学比不可少的分析工具，拥有了这个工具，再大的海量数据也可以找到眉目．另外还有数值计算三大非经典算法：模拟退火算法、遗传算法、神经网络算法，为鲁莽计算提供了方法；以及图论、科学与工程计算、数据挖掘应用数学分支，下一学年即将学习。应用数学，现在学得都还很肤浅，所以未来两年的任务就是这方面了。

数学建模比赛之后的感想

Mon, 21 May 2007 00:00:00 +0000

作为数学院的一员，像其他很多有梦想有激情的同学一样，刚刚来到大学的时候，我也是怀着自己半成熟的激情和梦想，在一片掌声走进大学的校门。来到一个新的环境，新奇、激动，那种心理是只有新生才可以体会的。当慢慢静下心来，在匆匆的、缓慢的、平静的、热烈的大学校园里，我选择做一个观看者，同时也在寻找自己大学的立足点。看着很多同学进学生会我也蠢蠢欲动，看着别人加入某某协会我也想加入进去，看着大家努力地学习我也背着书包往自习室图书馆跑．．．．．．在经历了一段时间的大学生活的洗涤后，经过自己的漫漫寻求，我遇到了数学建模，我兴奋，怀着饱满的热情，我全力投入，我为她通宵达旦，为她成为图书馆的常客、成为数模论坛的网虫．．．．．．为她我投入了是很多很多，一步一步摸索，向前辈学习，和同学（我的同班同学小蔡）讨论，然后慢慢地走进了数模的世界。于是我真的找到了自己大学的热爱，并且她真的给了我很多，在学习中我掌握了网上快速收集资料的能力，包括在Google、Baidu、论坛、网页；在准备数模的过程中，我看到了应用数学的重要性，更看到了计算机软件在数学的强大作用，Mathlab、Mathematica、Maple、Lingo无疑是延长数学工作者寿命的良方、是搞科研的强有力工具；在参与数模中我学会了队员之间的团结协作，懂得了什么叫团队，而且更重要的是我的人生画下了重重的一笔，因为国赛那三天三夜的全力投入中我只睡了八个小时，而且也挺了过来，在美赛的那四天四夜我带领队友走过一道道坎，在想要放弃的时候走出低谷，打开路子．．．．．．数模结束了，但是对我来说又是一个开始，对于参赛的队员也是如此，不管是否获奖，结束后都是一个新的旅程。在我探索数模的过程中，我多么希望有一群人在一起讨论，有人给我提示和解读数模。我是有想法就要尽力实现的人，所有决定在自己参加数模之后组织数模的热爱者，创立我们自己的组织，并且要传承下去，让后来者能够获得益处。于是有了今天的这份策划，希望参与过的和想参与的人员加入进来，这里是参赛过的队员实现自己梦想的又一个天地，这里是没有参加过数模的人的起点。 “一次参与，终生受益”这不是我自己说的，这是中国科技大学的第一、二批参赛过的队员的获奖感言中提出来的，而后来者，每每问到参加数模最大感想是什么，他们都说：一次参赛，终生受益。年轻是资本，但我们不能挥霍，梦想需要有承载她的东西，加入我们吧，不管现在人家怎么评论数模，说她变质，说她没有能反映能力，但是请记住：这是连续几年国内最大课外科技竞赛活动、参与者逐年上升、她的获奖排名是大学排名的专项指标、几乎每个高校都为获奖者提供很多机会继续深造，而最重要的是：在你参与的过程中，你已经学到了极为价值的东西（只要你是抱着学习的心态，当然获奖是每个人的目标）。作为过来人，我可以保证，只要你用心投入，真正去体会数模的真谛，在这里你一定可以放飞你的理想，当你参与进来，并且坚持到最后的时候，回头看看自己走过的路，你会发现你已经成功了。

Math on DoDoRo的梦想空间-码农,数学,算法,哲学,园艺

[转]NLP模型与深度学习

1、自然语言处理简介

2、NLP 任务流程

3、文本标准化

3.1 大小写标准化

3.2 分词

3.3 停止词移除

3.4 词性标注

3.5 词干提取

微分方程模型之传染病数学模型

一、SI 模型（Susceptible-Infective Model）

二、SIS模型（Susceptible-Infectious-Susceptible Model）

三、SIR 模型（Susceptible-Infectious-Recovered Model）

四、总结

隐形马尔可夫模型(HMM)

什么是熵(Entropy)

最大熵模型

马尔可夫链(Markov Chain)

随机过程

马尔可夫链 （Markov Chain）

总结

贝叶斯算法-垃圾邮件过滤器

贝叶斯算法-医患诊断模型

1、背景材料及引言

2、模型建立

3、模型检验

4、模型评价

贝叶斯算法概述

简介

贝叶斯概率的历史

贝叶斯法则的原理

全概率公式

数学基础、集合论和选择公理

一、数学基础

二、公理化集合论

三、选择公理

数学最重要的公式

一、费马大定理

二、欧拉公式

三、牛顿-莱布尼茨公式

四、黎曼zeta函数

整数形式

复数形式

数学模型概述

关于所学的数学学科介绍

一、前言

二、数学分析

三、高等代数

四、解析几何

【转】数学体系解读

为什么要深入数学的世界

集合论：现代数学的共同基础

中国古代数学家

一、写在前面的话

二、中国古代数学家

数学学科分类(MSC标准)

一、通用及基础

二、代数(及离散数学)

三、分析

数学英雄：欧拉

数学王子：高斯

数学与应用数学专业介绍，顺便给数学院学生的建议

数学史上孤独而伟大的数学家们

为基础数学而写：关于基础数学的若干想法

为应用数学而写：关于应用数学的若干想法

数学建模比赛之后的感想

马尔可夫链（Markov Chain）