🤖 AI / LLMOps
LLM 컨텍스트 윈도우 예산 설계
토큰을 많이 넣는 것이 항상 좋은 것은 아닙니다. 실전 AI 서비스에서 컨텍스트 윈도우를 어떻게 예산화하고 운영해야 하는지 정리합니다.
Tag Archive
#context-window
이 태그는 현재 1개의 포스트와 연결되어 있습니다. 같은 문제를 다른 관점에서 다룬 글까지 함께 따라가면 주제 이해가 훨씬 빠르게 넓어집니다.
Expand The Topic
AI DevOps Korea
aidevops.kr에서 LLMOps, RAG, AI Agent, 관측성, 평가, 비용-성능 최적화를 실전 운영 관점으로 정리합니다.
Tag Archive
이 태그는 현재 1개의 포스트와 연결되어 있습니다. 같은 문제를 다른 관점에서 다룬 글까지 함께 따라가면 주제 이해가 훨씬 빠르게 넓어집니다.
Expand The Topic
토큰을 많이 넣는 것이 항상 좋은 것은 아닙니다. 실전 AI 서비스에서 컨텍스트 윈도우를 어떻게 예산화하고 운영해야 하는지 정리합니다.