맥미니, 올라마, 오픈클로, 헤르메스

맥미니 32gb에 오픈클로, 헤르메스 에이전트, 젬마4 26b 올려서 

로컬 LLM환경으로 돌리고 있다.

 

32기가 램이 충분할 것 같지만,

맥미니의 맥오에스가 램을 6기가정도 기본으로 잡아먹고,

올라마 + 젬마4 26b 가 21기가를 잡아먹기 때문에

 

남는 램은 5기가 정도 인데,
컨텍스트 크기거 커지거나 브라우저 불러올 일이 있으면

빠듯한 상황임.

 

32b 돌리기는 램부족하고, 속도도 느려져서 어렵다.

 

이정도가 딱 적당하다.