TASK · AI-SERVICE-TEAM
회사: NHN | 팀: AI 서비스 개발팀 | 기간: 2025.12–현재
AI 기능 개발부터 AI에 넣을 문서의 품질, 결과 평가와 운영 안정성까지 연결하는 백엔드 업무를 맡고 있다. 이 팀에서 내가 맡은 프로덕트와 업무를 아래에 묶었다.
| 프로덕트 | 사용자에게 제공하는 기능 | 내 담당 범위 |
|---|---|---|
| AI 돌봄 분석·평가 | 돌봄 상황의 근거를 탐색하고 분석 결과와 조치를 작성 | 지식·센서 요약·개인 메모리를 연결하는 설계와 분석 실행·평가 개발 |
| AI 웹툰 제작 도구 | 웹소설을 바탕으로 단계별 검토·수정을 거쳐 웹툰 컷 생성 | 내부 MVP의 요구사항·설계·구현 검토와 생성 흐름 개발 |
| 문서 파싱 서비스 | PDF·이미지·오피스 문서를 AI가 읽을 Markdown으로 변환 | 파싱 품질 검증, 처리 성능과 리소스 안정화 |
| OCR API | 이미지의 글자를 인식하는 기능을 API로 제공 | 호출·접속 안정성, 배포 전환과 오류 관측·개선 |
| RAG 데이터 파이프라인 | 문서를 검색해 답변의 근거로 쓸 수 있도록 검색 데이터 준비 | 문서 수집·변환·벡터 색인과 재시작 가능한 배치 설계·구현 |
주요 기술은 Java·Spring Boot·Spring Batch, Python·FastAPI·docling, OpenSearch, Next.js·React다. 프로덕트별 기록에서는 기능 구현과 검증, 운영에서 확인한 문제를 함께 다룬다.
돌봄 조치 지식과 실제 센서 관측, 개인 메모리를 결합하는 분석 시스템의 개발·개선을 현재 맡고 있다. 온톨로지와 관측의 경계, 센서 요약에 보존할 신호, 메모리 갱신과 검증의 책임을 나누는 설계를 진행 중이다.
| 기간 | 진행한 작업 | 문서 |
|---|---|---|
| 2026.09–현재 · 진행 중 | 온톨로지·센서 요약·개인 메모리 연결과 분석 실행·평가 | AI 돌봄 분석 설계: 온톨로지·센서 요약·개인 메모리를 연결하기 |
운영자가 생성 결과를 단계마다 검토하고 수정·재생성할 수 있는 내부 제작 MVP다. 요구사항과 설계를 정하고 구현을 검토하면서, 작업 상태 보존과 앞 단계 수정에 따른 후속 단계 재검토 흐름을 다뤘다.
| 기간 | 진행한 작업 | 문서 |
|---|---|---|
| 2026.04–2026.05 | 소설 분석부터 컷 생성까지의 6단계 흐름과 사용자 검토·재생성, 저장 보완 | AI 웹툰 제작 도구 MVP: 6단계 생성 파이프라인 |
기존 docling과 OCR을 활용한 변환 서비스를 운영·개선했다. 개요에서 담당 범위를 보고, 품질·성능·리소스별 기록에서 판단과 검증 근거를 따라갈 수 있다. 아래 작업은 2026년 5월부터 병행했으며, 표는 읽는 순서로 묶었다.
| 기간 | 진행한 작업 | 문서 |
|---|---|---|
| 2026.05–현재 | 서비스 운영·개선의 전체 범위와 진행 중인 업무 | Document Parser 운영과 개선 |
| 2026.05–현재 (글의 기록 범위: 2026.09까지) | 파서 구조 분리, 회귀 검증·정답지와 지원 형식 검증 | 문서 파싱 서비스의 코드 구조 정리와 파싱 품질 운영 루프 |
| 2026.05–2026.07 | OCR 병렬화, PPTX 처리 개선과 운영 GPU 조건의 성능 확인 | 문서 파싱 서비스 성능 최적화: OCR 병렬화부터 GPU 직렬 추론 실측까지 |
| 2026.05–2026.07 | 워커 종료, 대용량 입력, 프로세스와 컨테이너 리소스 안정화 | 문서 파싱 서비스, 리소스가 새는 자리를 하나씩 틀어막은 기록 |
| 2026.05–2026.06 | Python 서버의 RSS 누적 원인 진단과 메모리 회수 검증 | Python 서버 RSS가 줄지 않을 때 malloc_trim을 적용한 과정 |
이미지 인식 모델을 호출하는 서비스에서 요청 실패를 관측하고, 접속과 배포 전환의 안정성을 개선했다. 오류 지표 구축과 연결 안정화는 4월부터 병행했고, 공인 진입점 전환은 6월부터 진행했다.
| 기간 | 진행한 작업 | 문서 |
|---|---|---|
| 2026.04–현재 | HTTP 200 응답 안의 오류 코드를 지표로 만들고 대시보드 개선 | HTTP 200 응답 안의 OCR 오류를 운영 지표로 만들기 |
| 2026.04–현재 | 배포·파드 증감·노드 교체의 연결 실패 대응과 호출자 커넥션 회복 | OCR 오토스케일 전환의 connection 에러를 양쪽에서 막기 |
| 2026.06–2026.08 | API Gateway 제거에 따른 경로 변환·HTTPS·IP 접근 제어와 진입점 전환 | API Gateway를 제거하고 공인 LoadBalancer로 직접 노출하기 |
원본 문서의 변경과 삭제를 검색 데이터에도 반영하는 색인 배치를 설계·구현했다. 수집·변환·임베딩·색인을 단계로 나누고, 실패 뒤 재시작에 필요한 데이터 경계와 동시 요청 수를 정했다.
| 기간 | 진행한 작업 | 문서 |
|---|---|---|
| 2026.01–2026.03 | 페이지·댓글·첨부파일 수집, Markdown 변환, 증분 색인과 삭제 반영 | Confluence 문서를 OpenSearch에 벡터 색인하기: Spring Batch 파이프라인 설계기 |
문서 파싱 서비스와 OCR API 양쪽에서 지표로 이상 범위를 좁히고, 로그와 요청 ID로 원인을 묶어 다음 개선 대상을 정했다. 개별 오류 로그와 요청의 최종 실패를 구분해 주간 오류 분류에 사용했다.
| 기간 | 진행한 작업 | 문서 |
|---|---|---|
| 2026.05–현재 | 지표·로그·요청 ID를 연결하고 반복 오류를 분류해 개선 작업으로 연결 | 운영 지표와 주간 오류 분류 루프 |