10
12

成为深度学习专家的七个步骤

0
归档:2017年12月分类:深度学习

1、对机器学习有基本的理解,最好的材料是Andrew Ng在coursera上的公开课程,看过教程能让你对机器学习有基本的认识,完成课程中的任务会让你对机器学习有更深入的理解;

2、接下来需要培养对神经网络的感觉,实现一个神经网络,并利用它做点事情;

3、理解神经网络的原理很重要,但简单的神经网络并不足以解决最有趣的问题。神经网络的变体-卷积神经网络(CNN)非常适合于图像识别类的任务,斯坦福大学的有关资料如下:CS231n 用于图像识别的卷积神经网络(笔记)和课件。另外两个参考资料如下CNN 参考资料1和CNN 参考资料1。

4、接下来需要在自己的电脑上运行CNN;

step1:买一块GPU,安装CUDA开发工具包
step2:安装Caffe和GUI包Digit
step3:安装Boinc,这个工具对你理解深度学习并没有帮助,但能够让其他研究人员在闲暇时间利用你的GPU做科研

5、Digit提供了少量算法,比如用于字符识别的lenet算法和用于图像分类的Googlenet算法。要想运行这些算法,需要下载相应的数据集lenet数据集和Googlenet数据集。你也可以修改算法来执行其他的图像识别任务,比如我们的工作;

6、对于自然语言处理任务,递归神经网络RNN更适合。学习RNN最好的材料是斯坦福的讲座及笔记,也可以下载Tensorflow来构建RNN;

7、现在你可以尝试用深度学习来解决各种各样的难题了,比如面部识别、语音识别和自动驾驶等;

如果你认真完成以上步骤,那么祝贺你,可以去Google、Baidu、Microsoft, Facebook或Amazon申请职位。

31
8

我们萌生Migration的念头了

0
归档:2017年8月分类:点滴生活

女儿出生之后,我思考了很多关于未来的事情,这一年来读了不少政治哲学方面的图书,对自己的价值体系进行重构。今年起我陆陆续续有migration的念头,最大的驱动是三个:1、子女的教育和未来(我们不是京户,虽然这个问题可以取道天津,但总觉得心里不舒服;而如果走国际校,成本先不说,最终子女还是要往外走);2、这两年帝都的雾霾(准确的说是整个国内的雾霾)让人窒息;3、对每天地铁以及所从事的工作开始有些厌烦,当然也是中年危机之前想给自己找点事情做。

想migrate第一步肯定是先考英语,而我已经10年不学了。我选择PTE考试,因为估计雅思4个7我是绝对过不了。考试今天是我第一次参加PTE考试(相当于雅思),听5.5,说5,读6,写 6,总 6,这个成绩离4个7好遥远....但是既然决定了,真的考不过就当学英语吧,未来一年好好学习英语。

04
6

深度学习随感

0
归档:2017年6月分类:深度学习

"深度学习是一个激情澎湃却又相对单一的领域。有一些深刻的想法,一些主要的学术会议,其中若干会议之间也存在着很多重叠。然后,一篇篇的论文在不断地提升和完善同样的一些基本想法:使用SGD(或者类似的变体)来优化一个代价函数。这些想法非常成功。但是我们现在还没有看到这个领域的健康发展,每个人在研究自己的深刻想法,将深度学习推向很多的方向。所以,根据社会复杂性度量,忽略文字游戏,深度学习仍然是一个相当粗浅的领域。现在还是可以完全地掌握该领域大多数的深刻想法的。" via:Michael Nielsen

上世纪50、60年代神经网络曾经非常火爆,局限于计算能力和算法束缚,没有获得商用,迅速进入寒冬,但Hinton和Yann Lecun坚持做了二十多年,去年以来媒体对AI大肆渲染,而这两位深度学习的领袖却保持很理性的认识。下面是Yann Lecun在facebook的声明:AlphaGo战胜李世石后,Slashdot上有帖子帖子宣称:“我们现在知道,我们不需要任何大的新的突破,以获得真正的AI”。
这是完全,完全,可笑的错误。

正如我在前面的陈述中所说的:大多数人类和动物学习是无监督的学习。 如果智力是一个蛋糕,无监督学习将是蛋糕,监督学习将是蛋糕上的糖霜,强化学习将是蛋糕上的樱桃。 我们知道如何做结冰和樱桃,但我们不知道如何做蛋糕。在我们想获得真正的AI之前,需要先解决无监督的学习问题。 这只是我们知道的一个障碍。还有大量的我们不知道的障碍。

最近几年deep learning使得机器对图像,语音,人类语言的认知能力获得了质的飞跃,在图像识别方面甚至已经超越人类,出现了很多看起来是黑科技并且非常实用的技术,比如人脸识别,图片自动标注描述,机器翻译,无人车等等。但不应该去夸大AI,媒体的大肆宣传,会让大家都以为实现科幻电影里出现的强AI,这样只会换来失望,从而导致AI的下一个寒冬。当然,乐观的来讲,深度学习对于弱AI的发展起到了非常大的作用,而且也有理由相信未来(我觉得还需要近上百年的发展)肯定会诞生强AI。

04
5

深度学习猜想

0
归档:2017年5月分类:深度学习

推荐所有立志从事机器学习特别是深度神经网络学习算法的人认真研读这本书。书评:作者从最根本最朴素的思想开始,结合实践进入深度神经网络,这本书堪称神经网络的几何原本。另外,第二章有非常多的多元微积分公式和证明,作者说可以跳过,但建议数学系毕业的人认真研读并完成证明,因为只有了解这些才可能进行算法的创新。

80cbafcd89f8a0aa86db40ac53b825d0

如果拉马努金在世,他应该能从上帝那里拿来神奇的公式,让深度学习的算法更优。另外,我猜想基于欧拉公式设计逻辑神经元的算法,或许会彻底改变神经网络算法—因为现在的S型神经元只包含自然对数e,英应该要加入pi,i,0和-1才是优美的。哦,这只是天马行空的猜想。

42035f67eb75144096dcc210cee0bd35

 

Page1of1

公告栏

欢迎大家来到我的博客,我是dodoro,希望我的博客能给你带来帮助。