fp8で学習するとgpu余裕が出るけど少し遅くなる
gradient check pointing OFFにしたりバッチ数上げたりするとfp16より早く質も良いのが出来たりするかな?
レス:1-200 201-400 401-600 601-800 801-1000 ALL
このスレへの固定リンク: http://5chb.net/r/liveuranus/1708146801/
![]() ![]() ![]() |
---|
07:26:47 up 118 days, 8:25, 0 users, load average: 75.10, 48.78, 40.79
in 0.51640295982361 sec
@0.51640295982361@0b7 on 081320 |