AI를 쓰다 보면 메모리가 자주 터진다.
학습을 시키는 것도 아니고, 거대한 모델을 직접 돌리는 것도 아닌데 어느 순간 PC가 버벅이기 시작한다.
참 황당하기 그지없다.
그렇다고 특별한 해결책이 있는 것도 아니다.
CLI로 AI 도구들을 여러 개 켜두고 있었다면, 일단 CLI들을 껐다가 다시 켜는 수밖에 없다.
문서 작업을 많이 했다면 문서들도 한 번 닫았다가 다시 여는 편이 낫다.
아, 물론 Codex도 마찬가지다.
다만 그냥 창을 닫는다고 해서 메모리가 바로 회수되지 않을 때도 있다.
그럴 때는 결국 작업 관리자에 들어가서 남아 있는 프로세스를 직접 종료해야 한다.
대단한 방법은 아닌데, 실제로는 이게 제일 빠를 때가 많았다.
메모리 말고도 하나 더 있다.
어느 순간 저장공간이 기하급수적으로 줄어들 때가 있다.
처음에는 뭘 많이 받은 것도 아닌데 왜 이러나 싶다.
그럴 때는 그냥 AI에게 어디에서 용량을 많이 쓰고 있는 것 같냐고 물어보면 꽤 잘 찾아준다.
로그, 캐시, 임시 파일, 빌드 결과물 같은 것들이 생각보다 조용히 쌓여 있는 경우가 많다.
문득 이런 생각도 든다.
AI를 쓰면서 가장 먼저 체감되는 병목이 메모리라면, 그다음에 체감하게 될 병목은 SSD가 아닐까 싶다.
AI 도구를 쓴다는 건 단순히 질문을 던지는 일이 아니라, 계속해서 파일을 만들고 읽고 캐시하고 다시 실행하는 일이기도 하다.
결국 AI를 잘 쓰려면 프롬프트만 잘 쓰는 게 아니라 작업 환경도 같이 관리해야 하는 것 같다.
AI를 쓰다 보면 오히려 컴퓨터 기본 관리에 신경 쓰게 된다.
그러다 보니 메모리를 덜 쓰면서, 내가 필요한 기능들만 수행하는 프로그램도 만들게 됐다..