调参狗好烦

写在前面:深度学习调参真是玄学。


测试集正确率很高但是训练集正确率不高说明过拟合。


过拟合有两种改进方法,一种是减小网络复杂度,一种是调整测试集。


测试集加噪幅度不够,测试集加噪数量不够,都有可能出问题,因此我要从这两个方向下手增加样本。


加噪可以选择高斯白噪声或var库,先测试白噪声,数量增加试一波,功率增加试一波。


但还是取得了一些进展,在调整了learning rate和迭代算法之后,可以在训练集上过拟合了(99%)之前一直怀疑程序有问题,现在看来是设置过于保守,收敛太慢。也可能是之前没加噪,总之我也说不清,都有可能吧。


等今晚网络迭代完看下结果。


先这样吧,睡个好觉。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容