机器学习入门

基本参数与概念误差函数这应该表明自己对样本数据集的差。根据我们需要的效果，我们会用不同的函数来表达这个程度。计算公式为样本预测量减去实际值。然后我们会用一个预测函数来放大这值。有以下几类状态

0-1就是只记住符合还是不符合的，了解一点类与量的关系的，都能理解：这是很适合非定量数据的一种计量方法

绝对值和平方得值为差的平方，或者绝对值。没什么好说的

对数没什么好说的，之后都没用到；本质上还是单调函数

经验误差经验函数的本质就是误差的相加。把各个点的误差相加，然后除以样本总数；就跟游戏里面的综合战败点一样吧。当样本的量接近于无穷的时候，经验误差会接近于理想误差。但是，再样本误差很小的情况，当模型复杂度增加，会出现经验误差减小。当复杂度到达一定临界值，测试误差会上升，出现过拟合现象。为了应对这种情况，我们在，经验误差中加入了L函数。

L由于模型的复杂度上升，很容易出现过拟合的情况。L函数是一种描述模型复杂度的函数，它有三种类型，点，正方体，圆

交叉验证这里推荐五折验证，就是把数据随机分成五份，留下了一份用来验证，剩下的用来验证

决策树决策树是一种可以用来回归和分类的方法，它是根据贪心算法进行的，根据信息熵用模型计算后求最小值的一种算法。它会根据贪心算法，一步一步给每一个树叶分类，直到不能再小为止

信息熵什么是信息熵这就是描述一个混乱程度的指标。什么是混乱程度，你可以去联想一下你的房间，在整洁的状态下，东西很好找，混乱则相反。可是，数据集没有空间位置之分啊。我们可以在联想房间，你的东西种类越多，就越难找。再比如说，当大物件比较多的时候，虽然小东西难找，但大物件很方便。

信息熵的程度描述H（x） = Elog2（p（i））*-p（i），其中H表示信息熵，p（i）表示某件事发生的概率

经典模型ID3ID3的特点就是根据信息增益的最大来取根节点。什么是信息增益，就是原本的信息熵减去（分类后所有类型的信息熵之和）的值。很容易看出来，这样子如果我们按照那些独特性很强的变量，比如名字，编号，一下子信息熵就归零了。但是这样分了又等于没有分

ID4.5为了应对上面那种情况，加入了信息增益率

练习v关于2022年C题原题目丝绸之路是古代中西方文化交流的通道，其中玻璃是早期贸易往来的宝贵物证。早期的玻璃在西亚和埃及地区常被制作成珠形饰品传入我国，我国古代玻璃吸收其技术后在本土就地取材制作，因此与外来的玻璃制品外观相似，但化学成分却不相同。玻璃的主要原料是石英砂，主要化学成分是二氧化硅（SiO2）。由于纯石英砂的熔点较高，为了降低熔化温度，在炼制时需要添加助熔剂。古代常用的助熔剂有草木灰、天然泡碱、硝石和铅矿石等，并添加石灰石作为稳定剂，石灰石煅烧以后转化为氧化钙（CaO）。添加的助熔剂不同，其主要化学成分也不同。例如，铅钡玻璃在烧制过程中加入铅矿石作为助熔剂，其氧化铅（PbO）、氧化钡（BaO）的含量较高，通常被认为是我国自己发明的玻璃品种，楚文化的玻璃就是以铅钡玻璃为主。钾玻璃是以含钾量高的物质如草木灰作为助熔剂烧制而成的，主要流行于我国岭南以及东南亚和印度等区域。古代玻璃极易受埋藏环境的影响而风化。在风化过程中，内部元素与环境元素进行大量交换，导致其成分比例发生变化，从而影响对其类别的正确判断。

现有一批我国古代玻璃制品的相关数据，考古工作者依据这些文物样品的化学成分和其他检测手段已将其分为高钾玻璃和铅钡玻璃两种类型。附件表单 1 给出了这些文物的分类信息，附件表单 2 给出了相应的主要成分所占比例（空白处表示未检测到该成分）。这些数据的特点是成分性，即各成分比例的累加和应为 100%，但因检测手段等原因可能导致其成分比例的累加和非 100%的情况。本题中将成分比例累加和介于 85%~105%之间的数据视为有效数据。请你们团队依据附件中的相关数据进行分析建模，解决以下问题：问题 1 对这些玻璃文物的表面风化与其玻璃类型、纹饰和颜色的关系进行分析；结合玻璃的类型，分析文物样品表面有无风化化学成分含量的统计规律，并根据风化点检测数据，预测其风化前的化学成分含量。问题 2 依据附件数据分析高钾玻璃、铅钡玻璃的分类规律；对于每个类别选择合适的化学成分对其进行亚类划分，给出具体的划分方法及划分结果，并对分类结果的合理性和敏感性进行分析。问题 3 对附件表单 3 中未知类别玻璃文物的化学成分进行分析，鉴别其所属类型，并对分类结果的敏感性进行分析。问题 4 针对不同类别的玻璃文物样品，分析其化学成分之间的关联关系，并比较不同类别之间的化学成分关联关系的差异性。

数据处理观察所给材料，由于成分少，样本数据缺失，因此不需要使用降维处理。按照将分类数据转化为定量数据或者编码后，即可进行操作。（虽然之前弄过好多次，可是对元胞数组，表之类的还是有点糊

第一题处理相关性，已知的相关性模型有卡方，多元，皮尔斯系数。。。。。我记得也有用多元来搞定类回归的。。。。还有一个是根据最大数似然；这些东西我最熟的就只有皮尔斯了。但这道题明显是一个定类数据的问题-》可能的点，方差估计遇到的问题，知网找不到论文。。。

概率模型的练习尝试使用regress模型，成功，发现系数，系数信度，残差，和残差信度还有综合统计值（r，F值来表示拟合优度的）

关于实践我想试着用新学到的模型来分析股票涨落，首先，拟合要被率先排除，因为拟合从长远看一定是趋于无限大或者无限小的，这对于股票来说不科学。然后，我要爬取股票的相关信息。我能不能爬取新闻中的有用情报呢。这需要文本分析，然