프론트엔드, 백엔드, DB, IT 인프라, AI 솔루션에 대한 인사이트와 실무 가이드를 공유합니다.
우리 서버는 매일 도둑을 잡는다 — TREEWALL 실증 테스트 리포트
NVMe 스토리지 벤치마크 — Optane부터 HDD까지 20개 디바이스 비교
ComfyUI + Wan 2.2 로컬 AI 영상 생성 — RTX PRO 6000 96GB 구축기
LLM으로 비정형 문서 자동 구조화 — 메뉴 19개 추출 정확도 실측
회사 네트워크 첫 통로를 지키는 법 — AI 보안 게이트웨이 TREEWALL
로컬 14B 모델로 메뉴판 문서를 DB 데이터로 — 가격 100%, 이름 94.7% 실측. 위험한 건 완전히 틀린 값이 아니라 '그럴듯하게 틀린 값'이었습니다.
멀쩡한 모델 파일이 의미 없는 텍스트만 쏟아낼 때, 어디서부터 봐야 할까요. 변인 분리부터 가중치 전수 조사까지, MoE 모델 추론 실패의 원인을 끝까지 추적한 디버깅 기록입니다.
LG AI Research의 EXAONE 4.5-33B를 출시 당일 RTX PRO 6000에서 테스트했습니다. FP8 실패, 커스텀 fork 필요, BF16 22 TPS, 안전성 100%. 12개 시나리오 85문항 실전 결과.
Gemma 4 출시 직후 RTX PRO 6000 Blackwell에서 8번의 시도 끝에 벤치마크 완료. 3개 모델(Qwen3-32B, Gemma4-31B, Gemma4-26B MoE) 속도·정확도 전면 비교.
NVIDIA 드라이버 590→595 업그레이드 후 RTX PRO 6000 Blackwell에서 SGLang 추론 속도, CUDA 연산, P-State 변화를 실측하고 운영 주의사항을 정리합니다.
Temperature를 얼마로 설정해야 할까요? 60문항 × 5단계 = 300회 실험으로 시나리오별 최적값과 환각 행동 차이를 실측합니다.
32B가 14B보다 2배 느립니다. 그만큼 품질이 좋을까요? 동일 60문항으로 속도, 품질, 환각 방어력을 직접 비교합니다.
16개 모델 실측으로 확인한 AWQ 양자화 효과. 모델이 클수록 속도 향상 극대화, MoE 30B가 Dense 14B보다 빠른 반전까지 분석합니다.
23개 모델을 SGLang으로 서빙하며 정리한 실전 설정 가이드. 양자화 선택부터 MoE 특수 설정, VRAM 관리, 트러블슈팅까지.
RTX 5060 Ti(16GB)에서 8B·14B 모델의 단일 속도부터 동시 30명 부하, 크로스서버 추론까지 종합 벤치마크 결과를 공개합니다.
NVR 없이 CCTV 녹화 서버 만들기 — RTSP + ffmpeg + systemd로 180일 보존
MoE 모델이 쓰레기를 뱉었다 — Expert 가중치 18,432개 전수 조사로 찾은 원인
AI로 영어 학습 콘텐츠 990개를 만들고 품질검사하며 배운 것
BGE-M3 vs mE5-Large — 한국어 RAG 검색 품질을 직접 비교해보니
Microsoft Store가 안 열리는 Windows 11에서 winget과 Terminal 복구하기