eugenie-lee / trouble-shooting Goto Github PK

• situation
  • notebook keeps dead.
• Possible reason
  • Since I was running a huge data and saved lots of intermediate data, I thought it would be memory issue
  • free -mh check memory
  • memory was almost full
• What I did
  • du -sh /etc check directories memory
    • while checking memories with du -sh /etc/*, I found a huge memory in the place where I didn't expected, log folder.
  • Remove all the useless data
  • Linux Trash path: cd /home/user/.local/share/Trash/
  • rm -rf delete
• However

** Actions **

1. 어디서 에러 났는지 알아야함

• 통쨰로 돌리지말고 line by line으로 확인하기
• 코드 중간중간에 print
  ** 이거 꼭 하기 **

2. 이 경우 노트북 시작후 큰 데이터메모리 할당할떄 코드가 돌다가 멈춤

• 할당이 너무 커서 문제라고생각 -> 데이터를 3분할하여 돌렸더니 됌

3. 하지만 이후 노트북에서 할당도 안돼는 지경이 됌

• 우선 메모리 지움

원인 파악

• 디스크 용량 확인
• 메모리 용량 확인
  • 데이터르 ㄹ엄청 지웠는데도 줄지 않음
• 어쩔수 없이 사수한테 SOS
• 알고보니 여태 사용했던 노트북을 끄기만해서 그 커널들이 살아있어서 였음.

알게된 지식

• 노트북 종료시 그냥 [x]만 누르면 커널은 그대로 남아있어. 그게 많이 쌓여서 메모리가 부족해짐
• 노트북 닫을때 control + shift + q로 종료하면 노트북도 닫히고 커널도 닫힘
• Jupyter 메모리 체크하는 패키지와 모니터링 하는 패키지 소개
  • https://github.com/jupyter-server/jupyter-resource-usage