- · 《数理化解题研究》栏目[05/29]
- · 《数理化解题研究》数据[05/29]
- · 《数理化解题研究》收稿[05/29]
- · 《数理化解题研究》投稿[05/29]
- · 《数理化解题研究》征稿[05/29]
- · 《数理化解题研究》刊物[05/29]
哲理数理技理的机器学习教学方法研究(2)
作者:网站采编关键词:
摘要:(二)案例讲解-“哲理+数理+技理”方法讲授多层感知机 本节我们以多层感知机为例介绍哲理+数理+技理的机器学习教学法。首先,为了能够深入理解感知
(二)案例讲解-“哲理+数理+技理”方法讲授多层感知机
本节我们以多层感知机为例介绍哲理+数理+技理的机器学习教学法。首先,为了能够深入理解感知机方法,按照哲理数理技理的方法,先讲解哲理层面的知识,包括什么是感知机,多层感知机这个方法的提出的动机是什么?其原理如何?其次,在数理层面进行讲解,如何在数学层面进行建模,如何进行参数求解和使用等问题。最后,在技理层面讲解如何编程实现。
1.哲理层面讲授多层感知机
图1 哲理+数理+技理的教学方法
(1)多层感知机的提出。感知机(perceptron)是有监督的线性分类模型,利用输入的特征向量,基于误分类的损失函数,训练一个判别模型,将输入空间中的实例划分为正负(+1或-1)两类的分离超平面。感知机的一个缺陷是,必须要求输入空间存在明显的线性可分的超平面,当遇到图2所示的情况下,感知机无法得到一个超平面使之两个不同的类线性可分。当数据分布如图2所示时,一个线性平面是无法将其分开的。为了解决这个问题,因而提出了多层感知机的方法。
图2 感知机分类示例图
(2)多层感知机原理。多层感知机的目标是拟合一个非线性的分类函数f(θ;x),通过优化给定的目标函数来调整参数θ 值,使得最终可以使用y=f(θ;x)预测一个未知的x 的类别标签。
图3 多层感知机示例图
多层感知机在输入层和输出层之间嵌入了隐含层。每一层都由多个神经元构成,每一层的神经元依次排列并采用全连接的方式,从而构成了图3的多层感知机模型。
多层感知机的基本单位是神经元,神经元由输入、阈值、激活函数,输出构成。了实现非线性分类,多层感知机的激活函数是非线性的。对输入空间做非线性变换,映射到高维空间,将非线性问题变为线性问题,解决线性不可分的问题。
2.数理层面讲授多层感知机
假设输入数据集为即一个输入样本l个,每个样本有m个属性值,输出共有k个类别。对于图4所示的多层感知机模型,为了方便讨论,我们先做如下定义。w12:输入层第1个神经元与隐含层第2个神经元的之间的连接权重。隐含层第2个神经元的输入为;同理,输出层第k个神经元的输入为,其中bh为隐含层第h个神经元的输出。多层感知机的训练过程分为前向传播过程和反向传播过程。
图4给出了一个拥有d个输入神经元,l个输出神经元,q个隐层神经元的多层前馈网络结构。输出层第i个与隐层第h个神经元之间的连接权重为vih,记隐层第h个神经元收到的输入为,输出层第j个神经元接受到的输入为,其中bh为隐层第h个神经元。多层感知机的训练过程分为前向传播过程和反向传播过程。
图4 多层感知机训练示例图
前向过程:假定输入样本i为(xi,yi),输出为,则样本i在多层感知机上的误差函数为:。从输入到输出、再从输出到误差函数的计算称之为前向过程。
反向传播过程:最小化小误差函数至可接受的范围。为了调整参数的值,需要把误差函数反馈到输入端,使得参数朝着降低误差函数的方向改变。后向传播算法是最常用的误差反馈算法。前述的误差函数是参数的函数,为了降低误差函数,将网络参数朝着负梯度方向变化,从而减小误差函数,提高模型精度,即:,η为学习速率。由链式法,可得:,根据定义有。假设激活函数为Sigmoid函数,由Sigmoid函数特征,得。用上式迭代更新网络参数,使得均方误差逐步减小。此过程称之为反向传播过程。
最后,完成对多层感知机的哲理和数理层面的讲述,对多层感知机的变成实验对照哲理和数理进行讲解、分析。
四、结语
本文针对机器学习课程教学过程中存在的问题,提出了在“哲理-数理-技理”的教学方法。该方法重视课程元问题的讲解,重视每个知识点的元问题的讲解,使得学生理解课堂教学内容的目的,依托每一个机器学习方法的哲理、数理、技理层面的讲授,激发学生学习机器学习知识的动力,较好的实现了机器学习的课堂效果。
[1] 闵锋,鲁统伟.“机器学习”课程教学探索与实践[J].教育教学论坛,2014,(53).
[2] 陈琳.高校《机器学习》课程教学改革探索[J].教育现代化,2018,5(6).
[3] 胡雪蕾,孙明明,孙廷凯,陆建峰.研究生“机器学习”课程教学改革实践与探讨[J].煤炭高等教育,2012,30(01).
文章来源:《数理化解题研究》 网址: http://www.slhjtyj.cn/qikandaodu/2021/0225/538.html
上一篇:室二事
下一篇:发展读图能力探究数学数理