fos-blog/study
01 / 홈02 / 카테고리03 / 시리즈
01 / 홈02 / 카테고리03 / 시리즈

카테고리

  • AI 페이지로 이동
    • RAG 페이지로 이동
    • agent 페이지로 이동
    • claude-code 페이지로 이동
    • harness 페이지로 이동
    • llm 페이지로 이동
    • ops 페이지로 이동
    • practice 페이지로 이동
  • algorithm 페이지로 이동
    • Alias Method: 가중치 랜덤 선택을 전처리 O(n), 추출 O(1)로 바꾸기
    • Welford's Online Algorithm: 값을 저장하지 않고 평균과 분산 계산하기
  • architecture 페이지로 이동
    • distributed-systems 페이지로 이동
    • domain 페이지로 이동
    • evolution 페이지로 이동
    • patterns 페이지로 이동
  • database 페이지로 이동
    • milvus 페이지로 이동
    • mysql 페이지로 이동
    • opensearch 페이지로 이동
    • postgresql 페이지로 이동
    • qdrant 페이지로 이동
    • redis 페이지로 이동
    • vespa 페이지로 이동
    • DB Connection Pool Saturation과 Thread Pool 격리
    • 커넥션 풀 크기는 얼마나 조정해야 할까?
    • gaps and islands: SQL 창 함수로 이어진 구간 찾기
    • MyBatis 기본기 — XML Mapper, resultMap, 동적 SQL, 운영 패턴 정리
    • MyBatis와 JPA/Hibernate 트레이드오프 — 레거시 백엔드를 다루는 시니어 관점
    • 한국어 형태소 분석기 Nori vs Lindera — OpenSearch에서 Milvus로 갈 때 어휘 검색은 유지되나
    • 정규화와 역정규화: 무결성과 조회 비용 사이의 선택
    • 벡터 DB 5종, 아키텍처는 어떻게 다른가
    • 벡터 DB 5종을 실제로 벤치마크했다 — 같은 recall에서 QPS는 얼마나 갈리나
    • 벡터 DB 어떻게 고를까 — OpenSearch · Milvus · Qdrant · Vespa · pgvector 비교
    • 벡터 DB를 실제로 도입한 사례 — 빅테크 프로덕션
  • devops 페이지로 이동
    • docker 페이지로 이동
    • k8s 페이지로 이동
    • Envoy Proxy
    • Graceful Shutdown
    • 종료 신호는 어디서 멈추는가
  • http 페이지로 이동
    • HTTP Connection Pool
    • HTTPS와 TLS: 핸드셰이크, 인증서, 종료 지점
  • java 페이지로 이동
    • concurrency 페이지로 이동
    • jdbc 페이지로 이동
    • spring 페이지로 이동
    • spring-batch 페이지로 이동
    • testing 페이지로 이동
    • Alpine 이미지의 Java 에서 링크 바꿔치기(TOCTOU)를 막지 못하는 이유
    • Java 동시성 락 정리 — 커머스 메뉴/프로모션 정책 캐시 갱신 관점
    • JVM 튜닝 실전: 메모리 구조부터 Virtual Threads, GC 튜닝, 프로파일링까지
    • 로그에 traceId 남기기 — MDC 부터 OpenTelemetry 까지
    • Java StampedLock — 읽기 폭주에도 쓰기가 밀리지 않는 락
    • Virtual Thread와 Project Loom
  • javascript 페이지로 이동
    • typescript 페이지로 이동
    • AbortController
    • Async Iterator와 제너레이터
    • CommonJS와 ECMAScript Modules
    • 제너레이터(Generator)
    • Http Client
    • Node 백엔드 운영 패턴 — Streams 백프레셔, pipe/pipeline, 멱등성 vs 분산 락
    • Node.js
    • `setImmediate()`
  • kafka 페이지로 이동
    • Kafka 클러스터 아키텍처: Broker, KRaft Controller와 복제
    • Kafka 기본 개념: Topic, Partition, Offset과 Segment
    • Kafka 실전 설계: 파티션 전략, 컨슈머 그룹, 전달 보장, 재시도, 순서 보장 트레이드오프
    • Kafka 파티션·리밸런스·컨슈머 지연 운영
    • Kafka를 로그로 이해하기: 복제, 재처리, 상태와 데이터 통합
    • Spring Kafka 컨슈머 오프셋 커밋과 트랜잭션 정렬: AckMode, manual ack, 멱등 처리
  • linux 페이지로 이동
    • fsync — 리눅스 파일 동기화 시스템 콜
    • SSH forced command 로 배포 키가 실행할 수 있는 명령 제한하기
  • mlops 페이지로 이동
    • llm-serving 페이지로 이동
    • model-router 페이지로 이동
    • Python CUDA 버전 생태계 — nvidia-smi, nvcc, pip, conda가 다 다른 버전을 말하는 이유
    • GPU 컨테이너의 CUDA 버전 호환성 — nvidia-smi부터 이미지 다이어트까지
    • Kubernetes GPU 노드에서 /run tmpfs가 꽉 차서 Pod가 안 뜰 때
    • GPU·CUDA·MPS 기초 — 자바 백엔드 개발자가 처음 만나는 그림
    • Multi-process GPU 워크로드 — 자바 ThreadPool 사용자가 만나는 모델 차이
    • ML 서비스 성능 분석 워크플로 — 자바 백엔드 트러블슈팅과 다른 점
    • 한 GPU 를 여러 프로세스가 나눠 쓰기 — Time-Slicing 과 MPS
  • network 페이지로 이동
    • Connection reset by peer는 누가 보낸 걸까 — 리버스 프록시 홉마다 TCP 연결은 따로 논다
    • L2(스위치)와 L3(라우터)의 역할 차이
    • L4와 VIP(Virtual IP Address)
    • IP Subnet
  • observability 페이지로 이동
    • Observability 입문: 시니어 백엔드가 장애를 탐지하고 대응하는 방식
    • K8s 위 Spring Boot 앱의 메트릭 수집
  • python 페이지로 이동
    • Python async/await — CompletableFuture·Reactor 와 다른 점, 그리고 blocking I/O 함정
    • Python 의존성 관리 — Java Maven/Gradle 사용자가 만나는 첫 충격
    • FastAPI 기초 — Spring Boot 사용자가 빠르게 익히는 법
    • Java 개발자를 위한 Python 심화 — OOP·데코레이터·컨텍스트 매니저
    • PyTorch 기초 — 텐서, 디바이스, 그리고 모델 로딩이 무거운 이유
    • Java 개발자를 위한 Python 문법 핵심
    • ThreadLocal 에서 contextvars 로 — Python 의 요청 컨텍스트 전파
    • OCR 동작 원리 — Layout · Text · Post-process 3단계
    • Python 서버의 RSS가 줄지 않는 이유: CPython, gc.collect(), malloc_trim
  • rabbitmq 페이지로 이동
    • RabbitMQ Basics — 실전 백엔드 관점에서 정리하는 메시지 브로커 기본기
    • RabbitMQ vs Kafka — 백엔드 메시징 선택 기준과 실전 운영 관점
  • resume 페이지로 이동
    • 경험 및 경력기술서
    • 김병태 경력기술서
    • 김병태 포트폴리오
  • task 페이지로 이동
    • ai-service-team 페이지로 이동
    • nsc-slot 페이지로 이동
    • personal-projects 페이지로 이동
    • sb-dev-team 페이지로 이동
    • the-future-company 페이지로 이동
  • thinking 페이지로 이동
    • 자기주도 학습: 질문에서 시작해 글로 검증하기
    • 좋은 일을 넘어 중요한 일을 하는 법
FOS-BLOG · FOOTERall systems normal·v0.1 · 2026.04.27·seoul, kr
Ffos-blog/study

개발 학습 기록을 정리하는 블로그입니다. 공부하면서 기록하고, 기록하면서 다시 배웁니다.

visitors
01site
  • Home↗
  • Posts↗
  • Categories↗
  • Glossary↗
  • About↗
02policy
  • 소개/about
  • 개인정보처리방침/privacy
  • 연락처/contact
03categories
  • AI↗
  • Algorithm↗
  • DB↗
  • DevOps↗
  • Java/Spring↗
  • JS/TS↗
  • React↗
  • Next.js↗
  • System↗
04connect
  • GitHub@jon890↗
  • Source repositoryjon890/fos-study↗
  • RSS feed/rss.xml↗
  • Newsletter매주 1 회 · 한 편의 글→
© 2026 FOS Study. All posts MIT-licensed.
built with·Next.js·Tailwind v4·Geist·Pretendard·oklch
/fos-blog/categories/task/ai-service-team

TASK · AI-SERVICE-TEAM

ai-service-team

12글·category/task/ai-service-team

READMEai-service-team 시리즈에 대하여

README.md
README.md

회사: NHN | 팀: AI 서비스 개발팀 | 기간: 2025.12–현재

AI 기능 개발부터 AI에 넣을 문서의 품질, 결과 평가와 운영 안정성까지 연결하는 백엔드 업무를 맡고 있다. 이 팀에서 내가 맡은 프로덕트와 업무를 아래에 묶었다.

담당 프로덕트와 역할

프로덕트사용자에게 제공하는 기능내 담당 범위
AI 돌봄 분석·평가돌봄 상황의 근거를 탐색하고 분석 결과와 조치를 작성지식·센서 요약·개인 메모리를 연결하는 설계와 분석 실행·평가 개발
AI 웹툰 제작 도구웹소설을 바탕으로 단계별 검토·수정을 거쳐 웹툰 컷 생성내부 MVP의 요구사항·설계·구현 검토와 생성 흐름 개발
문서 파싱 서비스PDF·이미지·오피스 문서를 AI가 읽을 Markdown으로 변환파싱 품질 검증, 처리 성능과 리소스 안정화
OCR API이미지의 글자를 인식하는 기능을 API로 제공호출·접속 안정성, 배포 전환과 오류 관측·개선
RAG 데이터 파이프라인문서를 검색해 답변의 근거로 쓸 수 있도록 검색 데이터 준비문서 수집·변환·벡터 색인과 재시작 가능한 배치 설계·구현

주요 기술은 Java·Spring Boot·Spring Batch, Python·FastAPI·docling, OpenSearch, Next.js·React다. 프로덕트별 기록에서는 기능 구현과 검증, 운영에서 확인한 문제를 함께 다룬다.

AI 돌봄 분석·평가

돌봄 조치 지식과 실제 센서 관측, 개인 메모리를 결합하는 분석 시스템의 개발·개선을 현재 맡고 있다. 온톨로지와 관측의 경계, 센서 요약에 보존할 신호, 메모리 갱신과 검증의 책임을 나누는 설계를 진행 중이다.

기간진행한 작업문서
2026.09–현재 · 진행 중온톨로지·센서 요약·개인 메모리 연결과 분석 실행·평가AI 돌봄 분석 설계: 온톨로지·센서 요약·개인 메모리를 연결하기

AI 웹툰 제작 도구

운영자가 생성 결과를 단계마다 검토하고 수정·재생성할 수 있는 내부 제작 MVP다. 요구사항과 설계를 정하고 구현을 검토하면서, 작업 상태 보존과 앞 단계 수정에 따른 후속 단계 재검토 흐름을 다뤘다.

기간진행한 작업문서
2026.04–2026.05소설 분석부터 컷 생성까지의 6단계 흐름과 사용자 검토·재생성, 저장 보완AI 웹툰 제작 도구 MVP: 6단계 생성 파이프라인

문서 파싱 서비스

기존 docling과 OCR을 활용한 변환 서비스를 운영·개선했다. 개요에서 담당 범위를 보고, 품질·성능·리소스별 기록에서 판단과 검증 근거를 따라갈 수 있다. 아래 작업은 2026년 5월부터 병행했으며, 표는 읽는 순서로 묶었다.

기간진행한 작업문서
2026.05–현재서비스 운영·개선의 전체 범위와 진행 중인 업무Document Parser 운영과 개선
2026.05–현재 (글의 기록 범위: 2026.09까지)파서 구조 분리, 회귀 검증·정답지와 지원 형식 검증문서 파싱 서비스의 코드 구조 정리와 파싱 품질 운영 루프
2026.05–2026.07OCR 병렬화, PPTX 처리 개선과 운영 GPU 조건의 성능 확인문서 파싱 서비스 성능 최적화: OCR 병렬화부터 GPU 직렬 추론 실측까지
2026.05–2026.07워커 종료, 대용량 입력, 프로세스와 컨테이너 리소스 안정화문서 파싱 서비스, 리소스가 새는 자리를 하나씩 틀어막은 기록
2026.05–2026.06Python 서버의 RSS 누적 원인 진단과 메모리 회수 검증Python 서버 RSS가 줄지 않을 때 malloc_trim을 적용한 과정

OCR API

이미지 인식 모델을 호출하는 서비스에서 요청 실패를 관측하고, 접속과 배포 전환의 안정성을 개선했다. 오류 지표 구축과 연결 안정화는 4월부터 병행했고, 공인 진입점 전환은 6월부터 진행했다.

기간진행한 작업문서
2026.04–현재HTTP 200 응답 안의 오류 코드를 지표로 만들고 대시보드 개선HTTP 200 응답 안의 OCR 오류를 운영 지표로 만들기
2026.04–현재배포·파드 증감·노드 교체의 연결 실패 대응과 호출자 커넥션 회복OCR 오토스케일 전환의 connection 에러를 양쪽에서 막기
2026.06–2026.08API Gateway 제거에 따른 경로 변환·HTTPS·IP 접근 제어와 진입점 전환API Gateway를 제거하고 공인 LoadBalancer로 직접 노출하기

RAG 데이터 파이프라인

원본 문서의 변경과 삭제를 검색 데이터에도 반영하는 색인 배치를 설계·구현했다. 수집·변환·임베딩·색인을 단계로 나누고, 실패 뒤 재시작에 필요한 데이터 경계와 동시 요청 수를 정했다.

기간진행한 작업문서
2026.01–2026.03페이지·댓글·첨부파일 수집, Markdown 변환, 증분 색인과 삭제 반영Confluence 문서를 OpenSearch에 벡터 색인하기: Spring Batch 파이프라인 설계기

공통 운영 개선

문서 파싱 서비스와 OCR API 양쪽에서 지표로 이상 범위를 좁히고, 로그와 요청 ID로 원인을 묶어 다음 개선 대상을 정했다. 개별 오류 로그와 요청의 최종 실패를 구분해 주간 오류 분류에 사용했다.

기간진행한 작업문서
2026.05–현재지표·로그·요청 ID를 연결하고 반복 오류를 분류해 개선 작업으로 연결운영 지표와 주간 오류 분류 루프

02이 폴더의 글

12 posts
  • task

    AI 돌봄 분석 설계: 온톨로지·센서 요약·개인 메모리를 연결하기

  • task

    AI 웹툰 제작 도구 MVP: 6단계 생성 파이프라인

  • task

    API Gateway를 제거하고 공인 LoadBalancer로 직접 노출하기

  • task

    Confluence 문서를 OpenSearch에 벡터 색인하기: Spring Batch 파이프라인 설계기

  • task

    Document Parser 운영과 개선

  • task

    HTTP 200 응답 안의 OCR 오류를 운영 지표로 만들기

  • task

    OCR 오토스케일 전환의 connection 에러를 양쪽에서 막기

  • task

    Python 서버 RSS가 줄지 않을 때 malloc_trim을 적용한 과정

  • task

    문서 파싱 서비스 성능 최적화: OCR 병렬화부터 GPU 직렬 추론 실측까지

  • task

    문서 파싱 서비스, 리소스가 새는 자리를 하나씩 틀어막은 기록

  • task

    문서 파싱 서비스의 코드 구조 정리와 파싱 품질 운영 루프

  • task

    운영 지표와 주간 오류 분류 루프