에이전트가 빨라질수록 병목은 결국 내 검수 시간이 됐다

처음에는 agent 숫자를 늘리면 일이 그만큼 빨라질 줄 알았다. 동시 세션을 하나둘 늘리면서 화면 가득 터미널 창이 돌아가는 걸 보고 꽤 뿌듯해했던 시기가 있다. 솔직히 말하면, 그때는 병목이 내 쪽에 있다는 걸 늦게 알았다. 코드 생성 속도가 올라갈수록 정작 내 머리와 손이 따라가지 못해 전체 파이프라인이 멈춰 서는 날이 잦아졌다. 지금 나는 역할을 꽤 엄격하게…

Read Full News

Fireworks 175억 달러, Baseten 130억 달러 — 추론 서빙에 돈이 몰리는 시대, 서빙 엔지니어의 일은 어떻게 달라지나

솔직히 말하면 나는 LLM serving을 대규모 프로덕션 환경에서 직접 굴려본 경험이 아직 많지 않다. 내 본업은 대규모 광고 serving 인프라다. 매일 씨름하는 일은 새로운 모델을 발명하는 쪽보다, 이미 학습된 모델을 피크 트래픽에서도 정해진 latency 예산 안에 우겨 넣고 요청당 비용을 틀어막는 쪽에 가깝다. 그러니 지금 AI 인프라 판에서 벌어지는 일을 현장 베테랑처럼 논할 처지는 못…

Read Full News
원래 입력 공간을 보존한 채 AI 제안과 취소 버튼을 분리한 브라우저 모형 일러스트

검색에 보이는 것과, 학습에 쓰이는 것은 다른 선택이다

내 글이 AI 검색에서 발견됐으면 좋겠다. 그렇다고 내 글이 앞으로의 모델 학습에도 쓰였으면 좋겠다는 뜻일까. 비슷하게 들리지만 나는 이 두 질문을 따로 답하고 싶다. ‘AI 봇을 허용한다’는 짧은 말 안에 서로 다른 선택이 들어 있기 때문이다. OpenAI의 크롤러 안내에서는 OAI-SearchBot과 GPTBot을 구분한다. 전자는 ChatGPT 검색에서 웹사이트를 보여주기 위한 검색용 크롤러다. 후자는 모델 학습에 쓰일 수…

Read Full News
화분 옆의 센서와 모래시계로 관측 시점을 표현한 일러스트

AI가 인용한 횟수와, 사람이 들어온 횟수

내 글이 AI의 답변에 인용됐다는 숫자가 보이면 일단 반가울 것 같다. 누군가 질문했고, 그 답을 만드는 데 내 글이 쓰였다는 뜻이니깐. 그런데 그 숫자를 방문자 수처럼 읽어도 될까. 여기서부터는 조금 천천히 보고 싶다. Microsoft는 2026년 2월 공개한 Bing Webmaster Tools의 AI Performance 안내에서 인용과 페이지별 인용 활동을 설명했다. 대상은 Microsoft Copilot과 Bing의 AI 답변, 일부…

Read Full News
확인 노트의 비어 있는 네모와 돋보기로 아직 검증하지 못한 항목을 표현한 개념 삽화

AI 검색에도, 결국 읽을 만한 글이 남아야 한다

파일 하나를 추가하면 AI가 내 글을 더 잘 찾아줄까. 블로그를 운영하는 입장에서는 꽤 솔깃한 이야기다. 글을 다시 읽고 고치는 것보다 설정 하나를 바꾸는 일이 훨씬 명확해 보이니깐. 다만 그 설정이 실제로 무슨 일을 하는지는 다른 문제다. Google의 AI 검색 최적화 안내에는 이 부분이 분명하게 적혀 있다. Google 검색의 AI 기능에 나오기 위해 llms.txt 같은 별도…

Read Full News