AI ENGINEER / AI SOLUTIONS ARCHITECT
I’m Sunghoon Baek. I build AI systems from design through deployment, connecting models, data, and the infrastructure they run on.
백성훈입니다. 설계부터 배포까지 모델, 데이터, 인프라를 연결해 실제로 작동하는 AI 시스템을 만듭니다.
Currently focused on large-model compression, local inference, and engineering with coding agents.
최근에는 대규모 모델 압축, 로컬 추론, 코딩 에이전트를 활용한 엔지니어링에 집중하고 있습니다.
AI & data projects since 2019 · Based in Korea
01 / SELECTED OPEN WORK
A Rust host for model serving, sessions, and scheduling, paired with native C/CUDA/Metal execution.
모델 서빙·세션·스케줄링을 담당하는 Rust 호스트와 네이티브 C/CUDA/Metal 실행 엔진.
Moving a 51.2B-parameter embedding table to SSD makes room for compute weights and runtime state.
51.2B 파라미터 임베딩 테이블을 SSD로 옮겨 연산 가중치와 런타임 메모리를 확보했습니다.
Pruning, merging, healing, and role-based precision allocation for large MoE models on constrained hardware.
제약된 하드웨어에서 대규모 MoE를 활용하기 위한 프루닝·병합·healing·텐서 역할별 정밀도 설계.
QWEN / THE OPTIMIZATION WORK
Starting at 145 tok/s, I worked through kernel tiling, fused operations, memory traffic, and SSD-PLE caching. Each round was measured and checked before adoption.
145 tok/s에서 출발해 커널 타일링, 연산 융합, 메모리 전송, SSD-PLE 캐시를 개선했습니다. 각 변경은 측정과 검증을 거쳐 반영했습니다.
Development milestones use different protocols. The graph shows a separate, controlled BF16 / FP8 PLE comparison.
개발 시점별 측정 방식이 다릅니다. 그래프는 별도로 통제된 BF16 / FP8 PLE 비교 결과입니다.
Explore the optimization story ↗
02 / HUGGING FACE
Model cards include quantization recipes, runtime requirements, and measured results.
모델카드에 양자화 레시피, 실행 조건, 측정 결과를 함께 공개합니다.
Q5 / Q6 compute weights · SSD-PLE · image input
Q5 / Q6 연산 가중치 · SSD-PLE · 이미지 입력
Diverse multimodal inputs · text · image · audio
다양한 멀티모달 입력 · 텍스트 · 이미지 · 오디오
Korean foundation model · gov-backed · domestic use
한국 파운데이션 모델 · 정부 지원 · 국내 도입
Download figures are the peak (max) last-month count recorded October 13, 2026. Each link opens the source model card.
다운로드 수는 2026년 10월 13일 기준 한 달간 최대 다운로드 수입니다. 각 링크에서 원본 모델카드를 확인할 수 있습니다.
03 / APPLIED AI
Experience across satellite imagery, enterprise knowledge, education, and financial data.
위성영상, 기업 지식, 교육, 금융 데이터에서 쌓은 실무 경험.
CV detections and VLM analysis connected to evidence-grounded reports.
CV 탐지와 VLM 분석을 위치 근거가 있는 리포트로 연결.
OCR, document conversion, embeddings, and search in one ingestion workflow.
OCR·문서 변환·임베딩·검색을 통합한 인제스천 워크플로.
Domain-specific models, training-data pipelines, and model deployment.
도메인 특화 모델, 학습 데이터 파이프라인, 모델 배포.
HOW I WORK
I connect architecture with implementation: frame the problem, choose the data and model path, build the service, and resolve the operational issues.
문제 정의, 데이터와 모델 경로 선택, 서비스 구축, 운영 이슈 해결까지 설계와 구현을 하나의 과정으로 연결합니다.
Coding agents are part of that process. I define the tasks and acceptance criteria, direct experiments, and review evidence before keeping or releasing a change.
코딩 에이전트도 이 과정에 활용합니다. 작업 범위와 검증 기준을 정하고, 실험을 이끌며, 변경을 반영하거나 릴리즈하기 전에 근거를 검토합니다.
More about my experience ↗For engineering roles, collaboration, and technical conversations.
엔지니어링 포지션, 협업, 기술적인 대화를 기다립니다.