Morning Digest — 2026-05-19

• C/C++로 구현된 LLM inference 엔진, 로컬 환경 중심 실행
• ggml-org 저장소, GitHub 스타 11만 이상과 높은 커뮤니티 채택
• 경량 실행과 다양한 환경 배포에 적합한 대표 오픈소스 추론 스택

• Claude·Codex 같은 AI 코딩 도구 사용 중 단순 자동화가 아닌 학습 기회 확보 관점 제시
• 코드 생성·수정 흐름에 의도적인 학습 단계 삽입을 통해 이해도와 역량 축적 강조
• AI가 답을 대신 내는 사용 패턴보다 개발자가 사고 과정을 유지하는 활용 방식에 초점

• 파라미터 수 추정이 아닌 실제 벤치마크 기반으로 로컬 LLM 추천
• GPU·CPU·RAM 자동 감지로 사용자 장비에 맞는 실행 가능 모델 선별
• Hugging Face 모델 정보를 활용해 성능과 구동 가능성 함께 비교

• 일반 시각 에이전트(general visual agents) 구축을 목표로 멀티모달 스킬(multimodal skills) 방향 제시
• 시각 입력과 언어 등 복수 모달리티를 결합해 에이전트의 작업 수행 능력 확장 시도
• MMSkills 프레임워크를 통해 범용 시각 에이전트 학습 단위를 스킬 중심으로 구조화한 접근

• Flash-GRPO 기반 비디오 diffusion alignment 방법 제안
• One-Step Policy Optimization으로 정렬 과정의 계산 효율 개선 지향
• 비디오 생성 모델 정렬(alignment)에 RL 계열 최적화 관점 적용

• 산업 유지보수 도메인에서 symbolic rules를 바탕으로 LLM의 조치 추천 성능을 평가하는 DiagnosticIQ 벤치마크 제안
• 진단 규칙을 자연어 추론과 실행 가능한 유지보수 액션 추천 문제로 연결하는 평가 설정이 핵심
• 일반 질의응답이 아닌 산업 설비 점검·정비 의사결정 맥락의 LLM 활용 가능성 검증 목적

• OpenAI와 Dell 협력 발표, Codex를 하이브리드·온프레미스 엔터프라이즈 환경으로 확장
• 기업 데이터와 워크플로 전반에서 AI 코딩 에이전트(Codex) 운용 지원 방향 제시
• 보안 요구가 높은 조직을 겨냥한 사내 인프라 기반 배포 시나리오 강조

• 대형 상용 모델 전제를 버리고 Gemma·Qwen 같은 소형 로컬 모델에 맞춰 코딩 에이전트 재설계
• SmallCode가 토큰당 4B 파라미터만 활성화하는 Gemma 4로 벤치마크 100개 중 87개 통과
• 기존 OpenCode는 14B 모델에서 약 75% 수준으로 소개되며, 소형 모델 환경에서 성능 저하 문제 제기

• 대상 모델 Qwen3.6-27B-MTP-IQ4_KS.gguf, 156k 컨텍스트와 MTP 설정 기반 테스트
• 권장 조합 ik_llama.cpp + q8_0/q8_0 KV + 비전 처리 CPU 오프로딩, RTX 3090 24GB 기준
• 약 5.9k 입력 프롬프트와 1k 출력 벤치마크에서 prefill 1261 tok/s, decode 72.9 tok/s 기록

• Cloudflare, Anthropic Project Glasswing의 Mythos Preview를 자사 50여 개 저장소에 적용해 취약점 탐지·검증 수행
• 여러 저위험 버그를 연결해 실제 익스플로잇 체인 구성 가능성 확인, 기존 범용 frontier 모델 대비 차별점 부각
• 의심 취약점에 대해 PoC 코드를 직접 작성·컴파일·실행하고 실패를 바탕으로 가설 수정하는 proof generation 루프 관찰