当与区块链数据集一起使用时，机器学习模型往往会过拟合。什么是过度拟合以及如何解决？
乍一看，使用机器学习来分析区块链数据集的想法听起来非常吸引人，但这是充满挑战的道路。在这些挑战中，当将机器学习方法应用于区块链数据集时，缺少标记数据集仍然是要克服的最大难题。这些局限性导致许多机器学习模型使用非常小的数据样本进行操作，以训练和过度优化那些引起过拟合现象的模型。今天，我想深入探讨区块链分析中的过度拟合挑战，并提出一些解决方案。
过度拟合被认为是现代深度学习应用程序中的最大挑战之一。从概念上讲，当模型生成的假设过于适合特定数据集的假设而无法适应新数据集时，就会发生过度拟合。理解过度拟合的一个有用类比是将其视为模型中的幻觉。本质上，模型从数据集中推断出错误的假设时会产生幻觉/过度拟合。自从机器学习的早期以来，已经有很多关于过拟合的文章，所以我不认为有任何聪明的方法来解释它。对于区块链数据集，过度拟合是缺少标记数据的直接结果。
区块链是大型的半匿名数据结构，其中的所有事物都使用一组通用的构造表示，例如交易，地址和区块。从这个角度来看，有最少的信息可以证明区块链记录。这是转账还是付款交易？这是个人投资者钱包或交易所冷钱包的地址？这些限定符对于机器学习模型至关重要。
想象一下，我们正在创建一个模型来检测一组区块链中的交换地址。这个过程需要我们使用现有的区块链地址数据集训练模型，我们都知道这不是很常见。如果我们使用来自EtherScan或其他来源的小型数据集，则该模型可能会过度拟合并做出错误的分类。
灰度资产管理总规模达456亿美元:金色财经报道，据官方推特消息，截至美东时间3月31日，灰度资产管理总规模达456亿美元。比特币信托基金（GBTC）交易价格为每份50.04美元，较前一日下跌1.53%；以太坊信托基金（ETHE）交易价格为每份17.89美元，较前一日上涨3.29%。[2021/4/1 19:35:24]
使过拟合变得如此具有挑战性的方面之一是很难在不同的深度学习技术中进行概括。卷积神经网络倾向于形成过拟合模式，该模式与观察到的与生成模型不同的递归神经网络不同，该模式可以外推到任何类型的深度学习模型。具有讽刺意味的是，过度拟合的倾向随着深度学习模型的计算能力线性增加。由于深度学习主体几乎可以免费产生复杂的假设，因此过拟合的可能性增加了。
在机器学习模型中，过度拟合是一个持续的挑战，但是在使用区块链数据集时，这几乎是必然的。解决过度拟合的明显答案是使用更大的训练数据集，但这并不总是一种选择。在IntoTheBlock，我们经常遇到过度拟合的挑战，我们依靠一系列基本方法来解决问题。
对抗区块链数据集过拟合的三种简单策略
对抗过度拟合的第一个规则是认识到这一点。虽然没有防止过度拟合的灵丹妙药，但实践经验表明，一些简单的，几乎是常识的规则可以帮助防止在深度学习应用中出现这种现象。为了防止过度拟合，已经发布了数十种最佳实践，其中包含三个基本概念。
加密勒索软件导致美国乔治亚地区2020年大选数据库瘫痪:近日，美国乔治亚州霍尔县遭遇勒索软件攻击，多个服务受到影响，攻击者都要求用比特币付款，用于2020年大选的乔治亚政府数据库也因勒索软件攻击而瘫痪。（Decrypt）[2020/10/23]
数据/假设比率
当模型产生太多假设而没有相应的数据来验证它们时，通常会发生过度拟合。因此，深度学习应用程序应尝试在测试数据集和应评估的假设之间保持适当的比率。但是，这并不总是一种选择。
有许多深度学习算法（例如归纳学习）依赖于不断生成新的，有时是更复杂的假设。在这些情况下，有一些统计技术可以帮助估计正确的假设数量，以优化找到接近正确的假设的机会。尽管此方法无法提供确切的答案，但可以帮助在假设数量和数据集组成之间保持统计平衡的比率。哈佛大学教授莱斯利·瓦利安特（Leslie Valiant）在他的《大概是正确的》一书中出色地解释了这一概念。
进行区块链分析时，数据/假设比率非常明显。假设我们正在基于一年的区块链交易构建预测算法。因为我们不确定要测试哪种机器学习模型，所以我们使用了一种神经架构搜索（NAS）方法，该方法针对区块链数据集测试了数百种模型。假设数据集仅包含一年的交易，则NAS方法可能会产生一个完全适合训练数据集的模型。
支持简单假设
防止深度学习模型过度拟合的概念上琐碎但技术上困难的想法是不断生成更简单的假设。当然！简单总是更好，不是吗？但是在深度学习算法的背景下，一个更简单的假设是什么？如果我们需要将其减少到一个定量因素，我会说深度学习假设中的属性数量与它的复杂度成正比。
简单的假设往往比其他具有大量计算和认知属性的假设更易于评估。因此，与复杂模型相比，较简单的模型通常不易过拟合。现在，下一个明显的难题是弄清楚如何在深度学习模型中生成更简单的假设。一种不太明显的技术是基于估计的复杂度将某种形式的惩罚附加到算法上。该机制倾向于倾向于更简单，近似准确的假设，而不是在出现新数据集时可能会崩溃的更复杂（有时甚至更准确）的假设。
为了在区块链分析的背景下解释这个想法，让我们想象一下我们正在建立一个模型，用于对区块链中的支付交易进行分类。该模型使用一个复杂的深度神经网络，该网络会生成1000个特征以执行分类。如果将其应用于较小的区块链（例如Dash或Litecoin），则该模型很可能会过拟合。
偏差/方差余额
偏差和方差是深度学习模型中的两个关键估计量。从概念上讲，偏差是模型的平均预测与我们试图预测的正确值之间的差。具有高偏差的模型很少关注训练数据，从而简化了模型。总是会导致培训和测试数据的错误率很高。或者，方差是指给定数据点的模型预测的可变性或一个告诉我们数据分布的值。具有高方差的模型将大量注意力放在训练数据上，并且没有对以前从未见过的数据进行概括。结果，这样的模型在训练数据上表现很好，但是在测试数据上有很高的错误率。
偏差和方差与过度拟合如何相关？用超简单的术语来说，可以通过减少模型的偏差而不增加其方差来概括泛化的技巧。深度学习的一种良好做法是对它进行建模，以定期将产生的假设与测试数据集进行比较并评估结果。如果假设继续输出相同的错误，则说明我们存在很大的偏差问题，需要调整或替换算法。相反，如果没有明确的错误模式，则问题在于差异，我们需要更多数据。
综上所述
• 任何低复杂度模型-由于高偏差和低方差，容易出现拟合不足。
• 任何高复杂度模型（深度神经网络）-由于低偏差和高方差，容易出现过度拟合。
在区块链分析的背景下，偏差方差摩擦无处不在。让我们回到我们的算法，该算法尝试使用许多区块链因素来预测价格。如果我们使用简单的线性回归方法，则该模型可能不合适。但是，如果我们使用具有少量数据集的超复杂神经网络，则该模型可能会过拟合。
使用机器学习来分析区块链数据是一个新生的空间。结果，大多数模型在机器学习应用程序中都遇到了传统挑战。根本上，由于缺乏标记数据和训练有素的模型，过度拟合是区块链分析中无所不在的挑战之一
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。