1년 전과 지금의 가격표저는 작년 이맘때 GPT-4 토큰 가격을 처음 정리해 봤습니다. 1M 입력 토큰에 30달러 정도였어요. 그게 지금은 같은 등급 모델 기준 2~3달러 선까지 내려왔습니다. 같은 모델이 더 싸진 게 아니라, 새 세대 모델이 한 자릿수 가격으로 등장한 결과입니다.여러분도 비슷한 변화 느끼셨을 거예요. 작년에는 한 번 호출에 부담이 컸는데, 올해는 에이전트 한 세션 안에서 수십 번 호출해도 비용이 감당 가능한 수준입니다.모델 자체가 아니라 서빙 구조가 바뀐 결과가격 인하의 핵심은 단순한 GPU 가격 하락이 아닙니다. 추론 인프라 쪽에서 일어난 두세 가지 큰 변화가 누적된 효과입니다.KV 캐시 효율화 — 같은 시스템 프롬프트를 쓰는 요청이 많으면, 그 prefix의 KV 상태를 캐시해서 다..
시니어 엔지니어로서 배운 것들 (2021) 저는 이미 여러 년간 프로젝트에 참여하면서 다양한 경험을 쌓았습니다. 그러나 이런 경험이 저에게 많은 것을 가르쳐주었습니다. 오늘은 그 중 몇 가지를 여러분과 나누어 보겠습니다. 💡 인사이트 박스 오래 남아 있는 코드는 깊은 이해를 필요로 합니다. LLM의 최신 동향 최근 여러 기술 트렌드가 주목받고 있습니다. 그 중 하나는 대형 언어 모델 (LLM)입니다. LLM은 고급 AI 시스템으로, 자연어 처리와 텍스트 생성 분야에서 뛰어난 능력을 보여주고 있습니다. 최근에는 여러 회사들이 이 기술을 활용하여 다양한 서비스를 개선하고 있습니다. 출처: Picsum / LLM과 대형 언어 모델의 기능 LLM ..
AI 크롤러 시대, 로그 파일 분석으로 검색 가시성의 사각지대를 읽는 법 최근 AI 검색 시스템들이 웹을 크롤링하고 답변을 생성하는 시대로 변화하면서, 구글 서치 콘솔처럼 AI 플랫폼이 내 사이트를 분석하는 과정을 이해하는 것이 중요해졌습니다. 이 글에서는 이러한 새로운 상황에서 로그 파일 분석의 중요성과 활용법에 대해 설명하겠습니다. AI 크롤러가 웹을 어떻게 탐색하고 있는가? AI 크롤러는 구글이나 네이버처럼 인터넷을 탐색하되, AI 기반의 문제 해결 능력을 갖추고 있습니다. 이들은 자연어 처리(NLP)와 머신 러닝(ML)을 통해 웹 페이지를 분석하고 정보를 추출합니다. AI 크롤러가 내 사이트에 어떻게 접근하는가? AI 크롤러는 일반적으로 구글과 동일한 방식으로 웹..
LLM으로 할 수 있는 비주얼한 일 7가지 요즘 가장 큰 화두 중 하나인 LLM(Large Language Model)은 단순히 챗봇이나 검색 도구 이상의 역할을 할 수 있습니다. 다양한 분야에서 개발자들이 새로운 시도를 하고 있으며, 오늘은 그 과정과 함께 LLM을 활용하는 7가지 비주얼한 일들을 소개하겠습니다. 💡 인사이트 박스 LLM은 자연어 처리 기술을 바탕으로, 인간과 유사한 대화를 할 수 있는 능력을 갖추고 있습니다. 비주얼한 일 1: 데이터 분석 LLM은 텍스트 분석을 통해 데이터를 쉽게 이해할 수 있는 시각화로 변환시키는 역할을 합니다. 출처: Picsum / 데이터를 시각화하여 이해하기 쉬운 형식으로 변환 비주..
요즘 개발자 커뮤니티에서 DeepSeek 이야기가 자주 보입니다. 그냥 또 하나의 오픈소스 LLM이겠거니 했는데, v4 소식이 나오면서 다시 한번 주목하게 되었습니다. 솔직히 처음 DeepSeek v2, v3 얘기를 들었을 때는 "중국산 LLM이 얼마나 대단하겠어"라는 편견이 있었습니다. 그런데 막상 써보고, 벤치마크를 들여다보고, 실제 코딩에 써본 분들의 후기를 읽다 보니... 생각이 꽤 달라졌습니다. DeepSeek v4 소식이 나온 오늘, 이 모델이 개발자인 저희에게 어떤 의미를 가지는지 같이 고민해볼 수 있는 글이 되었으면 합니다 😊 AI 모델 경쟁이 가속화되는 2026년 DeepSeek v4가 왜 또 화제인가 DeepSeek는 중국의 헤지펀드 회사..