fp16반정밀도 부동소수점

fp16은 IEEE 754 표준이 정한 16비트 반정밀도 부동소수점 형식으로, 부호 1비트, 지수 5비트, 가수 10비트로 이루어진다. 32비트 형식인 fp32보다 값 하나에 드는 메모리가 절반이어서 AI 모델의 학습과 추론에 쓰인다. 같은 16비트 형식인 bf16과 비교하면 표현할 수 있는 수의 범위는 좁지만 가수에 배정된 비트가 많아 정밀도는 높다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.