🤖 AI / LLMOps
LLMOps 플랫폼 아키텍처: LLM 기능을 운영 환경에서 굴리는 방법
요청 라우팅, 프롬프트 버전 관리, 추적성, 폴백 전략, 평가 루프, 비용 제어, 운영 책임 분리를 포함한 LLMOps 아키텍처를 설명합니다.
Tag Archive
#monitoring
이 태그는 현재 2개의 포스트와 연결되어 있습니다. 같은 문제를 다른 관점에서 다룬 글까지 함께 따라가면 주제 이해가 훨씬 빠르게 넓어집니다.
Expand The Topic
함께 많이 등장하는 태그
🚀 DevOps
Prometheus + Grafana로 서버 모니터링 구축하기
Prometheus와 Grafana를 설치 가이드가 아니라 관측 가능성 설계 관점에서 정리합니다. 메트릭 수집, 라벨 전략, PromQL, 대시보드, 알림, 흔한 안티패턴까지 Spring Boot 기준으로 설명합니다.