소형 모델이 제품 아키텍처를 바꾸는 방식
최근 AI 제품 흐름에서 중요한 변화 중 하나는 더 큰 모델만이 아니라, 작은 모델을 어디에 배치할지에 대한 설계가 중요해지고 있다는 점입니다.
AI DevOps Korea
aidevops.kr에서 LLMOps, RAG, AI Agent, 관측성, 평가, 비용-성능 최적화를 실전 운영 관점으로 정리합니다.
Tag Archive
이 태그는 현재 9개의 포스트와 연결되어 있습니다. 같은 문제를 다른 관점에서 다룬 글까지 함께 따라가면 주제 이해가 훨씬 빠르게 넓어집니다.
Expand The Topic
최근 AI 제품 흐름에서 중요한 변화 중 하나는 더 큰 모델만이 아니라, 작은 모델을 어디에 배치할지에 대한 설계가 중요해지고 있다는 점입니다.
오프라인 퍼스트 앱은 저장보다 충돌 해결이 더 어렵습니다. 모바일 동기화에서 실전적으로 써야 할 충돌 처리 기준을 정리합니다.
한때는 '그럴듯한 문장 완성기'처럼 보였던 LLM이 왜 이제는 소프트웨어 인터페이스 전체를 다시 쓰는 존재처럼 여겨질까. 그 변화의 이야기를 따라갑니다.
처음에는 인류를 위한 개방적 AI 연구를 말하던 조직이, 왜 이제는 세계에서 가장 주목받는 AI 제품 회사처럼 보이게 되었을까. 그 긴장을 따라가 봅니다.
2022년 11월 30일 공개된 ChatGPT는 단순한 제품 출시를 넘어, 사람들이 AI를 일상 속 도구로 받아들이기 시작한 전환점이었습니다.
서버 주도 UI가 도움이 되는 경우와 오히려 제품 플랫폼을 느리게 만드는 경우를 실전 관점에서 정리합니다.
AI 보조, 검토 루프, 구조화된 escalation을 전제로 제품 운영 방식이 어떻게 바뀌는지 정리합니다.
플랫폼 팀이 티켓 기반 지원 조직에서 내부 제품 팀으로 이동하는 흐름을 실전 관점에서 정리합니다.
Model Spec 같은 모델 행동 정책을 실제 AI 제품의 거버넌스 레이어로 연결하는 실무 관점의 가이드입니다.