자체 LLM 구축 솔루션 Ollama (윈도우도 가능) 정보
자체 LLM 구축 솔루션 Ollama (윈도우도 가능)
본문
위 사진에 설명된 것처럼 macOS, Linux, Windows에서 실행가능한 자체 LLM 구축 솔루션입니다.
저는 윈도우에서 실행해 봤는데, 되긴 한데 답변이 넘 느리네요 ㅠㅠ GPU가 딸려서 그런지...
추천
1
1
댓글 3개
전시회때 본것처럼 최소 RTS40시리즈 한 4대 연결해놓고 돌려야하지않을까요 ? 저는 그래서 SLM으로 방향을 선회했습니다.
@techstar 오 SLM은 덕분에 처음 알게 되었습니다.
RTX40 4대... 어마어마한 자금이 필요하겠군요 ㅠㅠ
저만의 자비스를 만들어 보려고 하는데 SLM이 뭔지 한 번 공부해 봐야겠습니다.
감사합니다.
@부산곰돌이 SLM이나 SLLM을 검색해보시면 좀더 도움이 되실꺼 같습니다. ^^