Headroom 사용법 2026 – LLM 토큰 비용 줄이는 로컬 프록시는 어디에 붙일까
Headroom은 2026년 6월 2일 기준 GitHub README에서 AI 에이전트가 읽는 도구 출력, 로그, RAG 조각, 파일, 대화 기록을 모델 호출 전에 압축하는 로컬 우선 컨텍스트 압축 계층으로 설명된다. 설치 방식은 …
Headroom은 2026년 6월 2일 기준 GitHub README에서 AI 에이전트가 읽는 도구 출력, 로그, RAG 조각, 파일, 대화 기록을 모델 호출 전에 압축하는 로컬 우선 컨텍스트 압축 계층으로 설명된다. 설치 방식은 …
LLM을 검색창처럼만 쓰면 금방 한계가 온다. 질문을 던지고 답을 받는 방식은 편하지만, 실무 생산성을 크게 바꾸는 순간은 보통 다른 곳에서 나온다. 내 생각을 반박하게 만들고, 오류 로그를 해설하게 하고, 계약서의 …
PDF를 LLM에 넣었는데 문장은 살아 있는데 표가 흐트러지고, 슬라이드는 읽히는데 레이아웃이 다 눌려버리는 경험, 한 번쯤 했을 거다. 이럴 때 사람은 보통 두 갈래로 간다. 한쪽은 그냥 OCR 더 센 …
Moltbot 써보니까 API 호출이 생각보다 많더라고요. Claude API, GPT API… 매달 청구서 보면서 “이거 맞나?” 싶었어요. 혹시 로컬 LLM 생각해보신 적 있죠? 저도 그래서 3일 정도 직접 다 테스트해봤어요. 코딩 …
여러분, Cursor나 Copilot이 똑똑하게 코드 짜주는 거 보면서 “대체 이게 어떻게 가능한 거지?” 궁금하지 않으셨나요? 안녕하세요! 요즘 저도 Cursor를 매일같이 쓰면서 ‘이거 그냥 마법 아냐?’ 싶은 순간이 많아요. 근데 알고 …
LLM(Local Large Language Model)을 내 PC에서 직접 실행하고 싶지만, 명령어 설정이 어렵거나 복잡한 설치 과정 때문에 망설여지나요?👉 Open WebUI + Docker를 활용하면 누구나 쉽게 ChatGPT 스타일의 웹 인터페이스에서 AI 모델을 실행할 수 …
AI를 활용할 때 좋은 프롬프트를 작성하는 것은 원하는 답변을 얻는 데 결정적인 역할을 합니다. 특히, AI의 환각(hallucination)과 편향(bias)을 줄이고, 보다 신뢰도 높은 답변을 얻으려면 효과적인 프롬프트 작성법을 익히는 것이 중요합니다. 이번 글에서는 AI …
DeepSeek(딥시크)은 무료로 제공되는 오픈소스 AI 모델로, ChatGPT 수준의 성능을 갖추고 있어 누구나 쉽게 활용할 수 있습니다. 웹 검색 기능, 코딩 지원, 논리적 답변을 제공하며, 직장인, 학생, 개발자, 콘텐츠 크리에이터 등 …
LLM 애플리케이션 아키텍처, 어렵게 들리지만 사실상 미래의 트렌드를 따라가고 싶다면 꼭 알아야 할 핵심 중 하나입니다. 왜냐고요? 2024년은 AI 에이전트와 오픈 소스 혁명이 본격화된 해이기 때문입니다! 이 글에서는 최신 트렌드, 이를 활용하는 …
오늘은 구글의 최신 이미지 생성 AI인 Imagen 3를 활용해 여러분의 상상력을 현실로 만드는 마법 같은 방법을 소개해드리려고 합니다. 이 글을 통해 여러분은 Imagen 3의 잠재력을 최대한 끌어내는 프롬프트 작성법을 배우게 …