训练集准确率最后接近100%，测试集准确率在60%，随着训练step的增加不再增长。过拟合了，怎么办？

情况如上图所示，第一张图为准确率变化函数，第二章为loss函数变化曲线。橙色线是训练集，蓝色线是测试集。改如何调参呢？？？应该是过拟合了，使用了数据增强，dropout,L2, batch norm,可是还没有用，怎么办？数据集为6万多的图片，用的VGG-16。

热心的小回应 · 2020-12-23 08:20:57

单从描述上看不是很清楚你的情况，不过可以看看以下方法是否有效：
1、神经网络是CNN吗？深度是多少层呢？如果层数太深可以适当减少，学习速率可以先调大一点看是不是落在局部最优解了，另外可以试着换一下优化函数;
2、数据增强后泛化能力还是很差，那有一种可能是训练集和测试集完全不相关，可以适当对调一下训练集和测试集的数据，使得网络可以记住一些测试集的特征。

热心的小回应 · 2020-12-23 08:20:58

结合这段时间自己遇到的问题大概说下自己怎么做的 .
1.首先是模型方面，l1, l2, bn, dropout, 层数,神经单元个数都调整下试试，但是感觉很大可能不是这部分的问题，可实验也需要做充分了才能去验证是不是数据的问题。
2.训练数据随机划分，好比分为5份，拿四份训练另外一份，对比模型输出标签和真实标注标签的差异，验证是不是训练数据问题。
3.拿测试数据作为训练数据，训练数据作为测试集，看看准确率。
4.看看learning curve 看看训练数据量和模型准确率的关系。

其实这种情况大多是数据的问题。