AHUT-DOC0-2014年机器学习试卷-20151127-0-QJS解读.doc

机器学习2014/15集合试卷 管仕敏2016.12.8 安徽马鞍山 NO.1 1. Explain with an example what is classification problem. 用一个例子说明分类问题。 例子：你有许多的客户，你想编写一个软件去测试客户的账户。判断每个账户它是否被盗过。 解答：我们用0表示没有被盗过，用1表示被盗过，我们用一个算法推测账户是0还是1.输出的结果只是少数的离散值。结果是一组离散的值得问题是分类问题。 2. Explain with an example what is regression problem. 用一个例子回归问题 例子：假设你有一大批货物，想象一下，你有成千上万的货物等待出售，预测你接下来的三个月能卖出多少件？ 解答：我有数千件物品等待出售，我把它看成实数，一个连续的值。那么接下来三个月售出的货物也是连续数。推出的结果是一组连续的输出是回归的问题。 3. Explain with an example what is Supervised Learning. 用一个例子说明监督学习 例子：收集一些房子的卖价信息，然后根据这些信息预测某个房子的价格。 监督学习：给算法提供“标准答案”，即房子价格，希望算法学习输入与“标准答案”之间的关系，并尝试为我们输出这个房子的价格。 4. Explain with an example what is Unsupervised Learning. 用一个例子说明非监督学习。 例子：假如你平常喜欢发送Email，我们是否能够自动给出朋友的分组，要求在一个分组内的朋友都相互认识。 非监督学习：给算法大量的发送Email的信息，通过算法自动将朋友划分到一个个分组中。只是给算法大量数据，让算法给我们找出某种结构。 No. 2 Linear regression with one variable 1. Write out Hypothesis, Parameters, Cost Function and Goal. Hypothesis(假设函数)： x Parameters(参数)： 和 Cost Function(代价函数)： Goal(目标)： 2. Write out Gradient descent algorithm with the detailed partial derivative. Gradient descent algorithm（梯度下降算法）： 对θ赋值，使得J(θ)按梯度下降最快方向进行，一直迭代下去，最终得到局部最小值。其中α 是学习率（learning rate），它决定了我们沿着能让代价函数下降程度最大的方向向下迈出的步子有多大。 3 Explain the results when α is too small and α is too large respectively. 梯度下降算法中，最合适即每次跟着参数θ变化的时候，J(θ)的值都应该下降 到目前为止，我们还没有介绍如何选择学历速率α，梯度下降算法每次迭代，都会受到学习速率α的影响 如果α较小，则达到收敛所需要迭代的次数就会非常高； 如果α较大，则每次迭代可能不会减小代价函数的结果，甚至会超过局部最小值导致无法收敛。如下图所示情况 所以，在为梯度下降算法选择合适的学习速率 α 时，可以大致按3的倍数再按10的倍数来选取一系列α值，直到我们找到一个值它不能再小了，同时找到另一个值，它不能再大了。其中最大的那个 α 值，或者一个比最大值略小一些的α 值 就是我们期望的最终α 值。 No. 3 Explain with an example what is Feature Scaling. 我们以房价的问题为例子，假设我们使用两个特征，房屋的价格和房间的数量，尺寸的大小范围为0-2000平方英尺，房间的数量为0-5，以两个参数为横纵坐标绘制等高线，绘制出来的图形显得很扁，梯度算法需要迭代多次才能收敛。我们使用的特征缩放(Feature Scaling)的方法是将所有的特征范围缩放到(-1，1)。 No. 4 Logistic regression with one variable 1. Write out Hypothesis, Parameters and Cost Function. Hypothesis(假设函数)： (常用的逻辑函数为S形函数，其公式为： ，带入为) Parameters(参数)： Cost Function(代价函数)： 其中： 2. Write out Gradient descent algorithm wit