Morning Digest — 2026-05-15

• NVIDIA가 공개한 영상 검색·요약 중심 AI 비디오 분석 애플리케이션용 레퍼런스 아키텍처
• GPU 가속 기반 비전 에이전트(vision agent) 구축 흐름과 구성 요소를 예시 형태로 제공
• Python 중심 저장소로, 실제 서비스형 영상 분석 파이프라인 설계의 출발점으로 활용 가능

• Electron 기반 macOS·Windows·Linux 데스크톱 앱, 20여 개 공급자와 Ollama를 단일 UI로 통합
• BYOK와 ChatGPT Plus·Pro·Team 로그인 동시 지원, API 키 없이 Codex 호출 가능
• HTML·PDF·PPTX·ZIP·Markdown 5종 내보내기와 모바일·태블릿·데스크톱 반응형 프리뷰 제공

• Anthropic 주최 개발자 컨퍼런스 Code w/ Claude 발표 내용 소개
• 행사 형식은 온라인·오프라인 병행, 지역별 오프라인 일정 공개
• 샌프란시스코 5/6, 런던 5/19, 도쿄 6/10 개최 정보 포함

• ICU 장기 문맥 데이터에서 LLM 에이전트의 이해·추론 능력 평가용 RealICU 벤치마크 제안
• 행동 모방(behavior imitation) 중심 평가를 넘어 임상 상태 파악과 장문 컨텍스트 활용 여부 점검
• 중환자실 데이터의 시계열·다변량·장문 특성을 반영한 실제성 높은 평가 설정 강조

• 수백만 개 LLM의 학습(training)과 서빙(serving)을 함께 지원하는 관리형 인프라 아키텍처 제안
• 모델 규모 확장에 따른 운영 복잡도와 자원 관리 문제를 인프라 계층에서 다루는 접근
• 개별 모델 성능보다 대규모 모델 플릿(fleet) 운영 효율성과 관리 자동화에 초점

• Any-Step Video Diffusion Model을 목표로, 샘플링 스텝 수를 유연하게 바꾸는 생성 프레임워크 제안
• 온폴리시 플로우 맵 증류(on-policy flow map distillation)로 추론 경로와 학습 분포 불일치 완화
• 고정 스텝 최적화 모델 대비 다양한 계산 예산·지연 시간 조건에 맞춘 추론 운용 가능성

• 에이전트형 추론(agentic inference)으로 액션·관찰·도구 호출이 얽힌 비결정적 실행 경로 등장
• 기존 고정형 추론 워크로드와 달리 요청 길이·메모리·스케줄링 변동성이 커지는 확장 문제 조명
• NVIDIA Vera Rubin 플랫폼을 에이전트 AI의 스케일업 병목 해결용 인프라 방향으로 제시

• Datasette 프로젝트의 공식 블로그 신설 발표, 향후 여러 공지사항 공개 예고
• 블로그 구현에 OpenAI Codex desktop 사용, AI 보조 프로그래밍 워크플로 사례 제시
• Markdown 세션 트랜스크립트 내보내기 기능 활용, 실제 구축 세션 기록 공개

• Qwen 3.6 27B를 양자화 없이 구동해 TG 52.8 tps, PP 1569 tps 측정 결과
• 단일 추론 기준, 1k·15k 토큰 길이의 프롬프트 2종으로 벤치마크 수행
• MTP와 DFlash는 대형 프롬프트에서 더 느려 제외, 풀프리시전(full precision) 설정 사용

• GGUF는 llama.cpp용 단일 파일 포맷으로, 가중치 외 채팅 템플릿·특수 토큰·샘플러 설정을 함께 포함
• tokenizer.chat_template에 Jinja2 기반 대화 포맷 저장, 툴 호출·reasoning·멀티모달 메시지 형식까지 표현 가능
• GGUF 메타데이터로 EOS/BOS·툴 호출·턴 경계 등 특수 토큰 정의 가능, 모델별 분기 코드 축소에 기여