Skip to content

mixed precision training

2018.11.06 07:56

WHRIA 조회 수:1757

train (math) 는 FP16 으로 하고 storage 는 FP32 로 해서 BVLC Caffe 에서도 잘 동작하는듯.

정확도는 아직 더 test 해봐야한다. scale factor 는 100~1000 이 적당한듯.

 

NVCaffe 에서 trainval.prototxt 에 아래와 같이 추가 

default_forward_type: FLOAT16
default_backward_type: FLOAT16
default_forward_math: FLOAT
default_backward_math: FLOAT

global_grad_scale:100

번호 제목 글쓴이 날짜 조회 수
1716 mAP 계산법 WHRIA 2019.02.24 45262
1715 epitope spreading han 2006.05.09 40968
1714 encfs WHRIA 2020.05.17 32760
1713 Heinrich Law (1:29:300 Law) WHRIA 2007.08.12 24963
1712 일본 주소 [2] WHRIA 2008.06.28 24013
1711 사주팔자 프로그램 file 한승석 2003.02.16 20304
1710 simple adblock file WHRIA 2012.04.13 18071
1709 도란사민 WHRIA 2011.04.19 18067
1708 탤런트 이윤지씨와 함께 file WHRIA 2010.02.04 17006
1707 penicillin han 2003.12.10 15672
1706 SSH tunnel WHRIA 2007.10.01 15078
1705 geexbox [1] han 2006.12.01 14601
1704 아이피부과 개원 WHRIA 2010.01.18 14407
1703 세무회계 WHRIA 2010.01.31 14380
1702 증명사진 WHRIA 2010.03.14 14308

Powered by Xpress Engine / Designed by Sketchbook

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소