📌 내 PC에서 구동하는 로컬 LLM: Ollama 실전 연재 목차 1편. 내 PC에서 무료로 돌리는 로컬 AI, Ollama란 무엇인가? (개념 및 특징)> -2편. Windows 11 환경 Ollama 설치 및 첫 모델 다운로드 & 구동 가이드> -[현재글] 3편. Ollama 실전 활용법: CLI 고급 팁부터 WebUI 및 API 연동까지 앞서 1편과 2편을 통해 폐쇄망 환경에서 로컬 LLM의 필요성을 확인하고, Windows 11 환경에 Ollama를 설치하여 첫 번째 경량 모델을 터미널에서 구동해보았습니다. 이번 3편에서는 Ollama를 실무 엔지니어링 환경에서 효과적으로 활용하기 위한 실전 연동 방안을 정리합니다. ...
📌 내 PC에서 구동하는 로컬 LLM: Ollama 실전 연재 목차 1편. 내 PC에서 무료로 돌리는 로컬 AI, Ollama란 무엇인가? (개념 및 특징)> -[현재글] 2편. Windows 11 환경 Ollama 설치 및 첫 모델 다운로드 & 구동 가이드> -3편. Ollama 실전 활용법: 터미널 대화부터 WebUI & API 연동까지 앞서 1편에서 에어갭(Air-gap, 폐쇄망) 환경에서 로컬 LLM이 필요한 이유와 일반 업무용 노트북에 적합한 2B ~ 3B 소형 모델의 특징을 살펴보았습니다. 이번 글에서는 Windows 11 노트북 환경에 Ollama를 직접 설치하고, 첫 번째 경량 모델을 다운로드하여 터미널 인터랙티브 프롬프트에서 구동하는 절차를 정리합니다. ...
📌 내 PC에서 구동하는 로컬 LLM: Ollama 실전 연재 목차 [현재글] 1편. 내 PC에서 무료로 돌리는 로컬 AI, Ollama란 무엇인가? (개념 및 특징)> -2편. Windows 11 환경 Ollama 설치 및 첫 모델 다운로드 & 구동 가이드> -3편. Ollama 실전 활용법: 터미널 대화부터 WebUI & API 연동까지 생성형 AI가 보편화되었지만, 인프라 엔지니어들이 작업하는 현장 환경은 여전히 녹록지 않습니다. 금융권 전산실, 공공기관, 발전소, 국방 분야 등 보안이 엄격한 사이트는 외부 인터넷이 원천 차단된 폐쇄망(Air-gap)인 경우가 대부분입니다. ...