优化机器学习模型
。通常,机器学习涉及大量线性代数、积分或寻找非线性函数的最小值,这往往会占用
密集的计算资源
。因此,作者希望通过解释概率数值计算背后的原理,让我们了解“能量消耗的原因”。模型,从而更好地优化模型。
对于本书,爱丁堡大学机器学习讲师 Antonio Vergari 点赞:
数值计算集成不仅是机器学习的核心,而且人工智能,还有工程和物理领域。核。
除了从数值分析的角度来看,从模型推理和传播不确定性等方面也非常有价值。
这本书有什么用?
在计算机中,许多问题都涉及复杂系统的求解。
比如用计算机预测天气、癌细胞基因突变等,都与复杂系统有关。因为这样的系统很容易引入
不确定性
求解时,会导致计算问题。资源浪费.在机器学习中,模型给出的预测结果不一定可靠,各种因素也会导致输出结果的不确定性。
目前,随着数据精度的提高,不确定性带来的计算量还在进一步增加。
从数学的角度来说,如何量化这种不确定性,减少计算资源的浪费,涉及到概率值的理论和方法(概率统计、数值分析等)。
如果你能掌握它的理论技能,计算机就可以更高效地处理数据,并可以利用这种不确定性为计算做出最优决策,包括使用贝叶斯推理等理论,构建更灵活、更高效、和个性化算法。
书中作者不仅全面讲解了概率数值计算的原理,还通过练习题进一步教你如何优化一个机器学习模型,所有重要习题均配有解决方案。
这点得到了网友的好评。
正如作者在介绍中所说:
我们对所有的人都使用数值这本书是由一个很重要的人写的,无论是天体物理学家还是深度学习黑客。
我们希望本书对那些正在或计划成为数值计算领域的开发人员,以及正在学习机器学习的人感兴趣。
这本书是关于什么的?
随着机器学习的快速发展,本书旨在对新兴的概率数值领域进行概述。
本书的内容主要从以下几个方面展开:
1.数学基础
概率数值计算是机器学习与应用数学之间的桥梁,如果要学习机器学习,数学是一个不可回避的话题。
本章介绍了后面会用到的概率推理、高斯函数、回归、线性代数等关键概念。
有统计学或机器学习背景的读者会觉得非常容易阅读~
2,积分
本章使用积分的基本概念,介绍概率数值计算的核心——贝叶斯积分公式、经典求积公式等理论,重构现有的数值求积规则,���在现有方法上开发新功能。3.线性代数
线性代数运算可以说是最基本的数值计算。与矩阵运算和向量运算一样,它们是当代计算领域几乎所有重量级运算的基石。因此,该领域的研究非常深入。
首先,你需要了解一些线性代数的基础知识——向量化矩阵、克罗内克积、正定矩阵、Frobenius范数等。
其次,本书是致力于发展对线性代数的直观理解,这有助于我们更好地理解数学的本质,理解复杂公式背后的最简单的例程。
4.局部优化
在数值计算过程中,建模不当会导致很多问题,这在深度学习等领域尤为明显。
本章重点介绍非线性优化问题,以步选择为例进行讲解。
5.全局优化
本章介绍一种非常有效的全局优化算法——贝叶斯优化,可以不受限制地使用。解决计算成本高、导数未知以及能够以尽可能少的步骤找到全局最小值的问题。
6.常微分方程解法
在研究常微分方程的过程中,需要辩证地看待常微分方程与偏微分方程的关系。并且需要及时转换。这样,我们就可以灵活地求解常微分方程。
本章主要介绍经典的 ODE 求解器、ODE 滤波器和平滑器。
7.前景
概率数值的未来是广阔的,该领域的许多基础数学、工程和哲学问题仍有待解决。在本章中,我们将关注至少在未来十年可能影响学术界发展的一些未决问题。
8.运动与答案
除了上述文字材料外,本书还提供了许多带有答案的习题。
三位作者是谁?
作者之一 Michael A. Osborne 昨天在 Twitter 上分享说:“我们从 2015 年开始编写这个关于机器学习的新计算基础。� 书,现在它已经像我的孩子一样长大了”。
Michael A. Osborne,牛津大学机器学习教授和 Mind Foundry Ltd. 的联合创始人。 p>< p>Osborne 专注于机器学习领域的主动学习、贝叶斯优化和贝叶斯集成,对新兴的数值概率领域充满热情。
Philipp Hennig,机器学习方法,蒂宾根大学他还是 MPII(马克斯普朗克智能系统研究所)的兼职研究员,以及学习机器理论、算法和计算方面的 ELLIS(欧洲学习和智能系统实验室)研究项目的联合主任。
< ;p>概率的数值方法一直是他职业生涯的主要研究方向之一。 Hennig 的研究得到了 Emmy Noether、Max Planck 和 ERC 奖学金的支持。 p>Hans P. Kersting 是 INRIA(法国国家信息与自动化研究所)和 ENS( Paris École Normale Supérieure),从事机器学习工作,主要从事贝叶斯推理、动态系统优化
最后,“概率值”的免费电子版附上作者提供。有兴趣的朋友快来看看吧!
“概率数值”:https://www.probabilisticnumerics.org/assets/ProbabilisticNumerics.pdf
—结束—
量子比特QbitAI今日头条号合约