#gpu
gpu 태그가 붙은 글 2편. · 전체 태그 보기
- 나눗셈 한 번으로 모델 후보 절반을 걸렀다 DGX Spark의 메모리 대역폭을 실측하니 231GB/s. 활성 파라미터로 나누면 디코드 상한이 나오고, dense 모델은 계산만으로 전부 탈락했다
- 컨테이너 메모리 제한을 걸어놨는데 장비가 통째로 멈췄다 DGX Spark에서 도커 메모리 제한이 통하지 않아 26B LoRA 학습이 장비를 통째로 멈춘 15시간짜리 사고와 두 겹 방어 기록
gpu 태그가 붙은 글 2편. · 전체 태그 보기