keras 学习率设置「建议收藏」

keras 学习率设置「建议收藏」转载自https://blog.csdn.net/zzc15806/article/details/79711114Keras提供两种学习率适应方法,可通过回调函数实现。1.LearningRateSchedulerkeras.callbacks.LearningRateScheduler(schedule)该回调函数是学习率调度器.参数   schedule:函数,该函数…

大家好,又见面了,我是你们的朋友全栈君。

转载自https://blog.csdn.net/zzc15806/article/details/79711114

Keras提供两种学习率适应方法,可通过回调函数实现。
1. LearningRateScheduler

keras.callbacks.LearningRateScheduler(schedule)

该回调函数是学习率调度器.
参数

    schedule:函数,该函数以epoch号为参数(从0算起的整数),返回一个新学习率(浮点数)

代码

   

import keras.backend as K
    from keras.callbacks import LearningRateScheduler
     
    def scheduler(epoch):
        # 每隔100个epoch,学习率减小为原来的1/10
        if epoch % 100 == 0 and epoch != 0:
            lr = K.get_value(model.optimizer.lr)
            K.set_value(model.optimizer.lr, lr * 0.1)
            print("lr changed to {}".format(lr * 0.1))
        return K.get_value(model.optimizer.lr)
     
    reduce_lr = LearningRateScheduler(scheduler)
    model.fit(train_x, train_y, batch_size=32, epochs=5, callbacks=[reduce_lr])

2. ReduceLROnPlateau

keras.callbacks.ReduceLROnPlateau(monitor=’val_loss’, factor=0.1, patience=10, verbose=0, mode=’auto’, epsilon=0.0001, cooldown=0, min_lr=0)

当评价指标不在提升时,减少学习率

当学习停滞时,减少2倍或10倍的学习率常常能获得较好的效果。该回调函数检测指标的情况,如果在patience个epoch中看不到模型性能提升,则减少学习率
参数

    monitor:被监测的量
    factor:每次减少学习率的因子,学习率将以lr = lr*factor的形式被减少
    patience:当patience个epoch过去而模型性能不提升时,学习率减少的动作会被触发
    mode:‘auto’,‘min’,‘max’之一,在min模式下,如果检测值触发学习率减少。在max模式下,当检测值不再上升则触发学习率减少。
    epsilon:阈值,用来确定是否进入检测值的“平原区”
    cooldown:学习率减少后,会经过cooldown个epoch才重新进行正常操作
    min_lr:学习率的下限

 代码

    from keras.callbacks import ReduceLROnPlateau
    reduce_lr = ReduceLROnPlateau(monitor='val_loss', patience=10, mode='auto')
    model.fit(train_x, train_y, batch_size=32, epochs=5, validation_split=0.1, callbacks=[reduce_lr])

———————
作者:z小白
来源:CSDN
原文:https://blog.csdn.net/zzc15806/article/details/79711114
版权声明:本文为博主原创文章,转载请附上博文链接!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/142715.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • serverTimeZone_the server disconnected before

    serverTimeZone_the server disconnected beforejdbc连接MySQL时出现Theservertimezonevalue‘?й???’isunrecognized。。。错误:https://blog.csdn.net/YaphetS__YJ/article/details/77774874博文提到:jdbc-mysql6.0以上的版本必须配置serverTimezone参数。我的版本在此之上,构建URL时没配置所以报错解决…

  • IntelliJ IDEA(简称IJ)建立JAVA项目详解

    IntelliJ IDEA(简称IJ)建立JAVA项目详解IntelliJIDEA作为新一代流行IDE,代替eclipse,有社区版和付费版,练练代码,我们当然用社区版拉。当我新建Java控制台项目的,遇到网上教程不清晰的问题,摸索了以后也发一贴详细的。下载链接,官网https://www.jetbrains.com/idea/安装后,我们像eclipse一样来新建一个Java控制台项目,createnewproject,这个不

  • clearfix_Clear クリア

    clearfix_Clear クリア.clearfix:after{content:”.”;display:block;height:0;clear:both;visibility:hidden;}.clearfix{display:inline-block;}/*HidesfromIE-mac\*/*html.clearfix{he

    2022年10月21日
  • Windows server WSUS补丁服务器搭建

    写在前面关于微软Windows操作系统补丁更新,针对于客户生产环境补丁更新,为了安全起见不得不建议搭建相应的补丁服务器,利用自动或者手动更新指定服务器的最新补丁。借用闲暇时间做相应的总结,方便后期工作中参考。搭建条件首先安装相应的.NET环境,IIS环境, 存放补丁包,需要充裕的磁盘空间。搭建过程首先下载Wsus3.0的安装文件,这里给出简体中文版的下载地址,…

  • 黑苹果收集

    黑苹果收集

  • Centos7安装mysql+keepalived 高可用环境[通俗易懂]

    Centos7安装mysql+keepalived 高可用环境[通俗易懂]一、环境准备1.节点信息节点IP 节点名称 系统 软件及版本 192.168.51.187 node187 CentOS7 keepalived-1.3.5 mysql-5.7.24 192.168.51.226 node226 CentOS7 2.虚拟VIP虚拟VIP 192.168.51.170 3.初始化,在两个节点上进行常用工具的安装yuminstallgccgcc…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号