AWS

·Backend·

AWS, OpenSearch, Nori, MeCab

AWS의 Amazon OpenSearch Service에서 자체 빌드 Nori 분석기를 활용하고 MeCab-Ko 기반 사전을 적용해 사용자 사전을 미세 조정하는 고급 방법을 소개합니다. 글은 MeCab-Ko 엔진 빌드, 품사/복합명사 분해 규칙, 비용 설정과 플러그인 ZIP 패키징, 로컬 검증에서의 비교를 통해 기본 Nori와 커스텀 Nori의 차이를 분석합니다. 또한 샘플 데이터와 사용자 규칙, 고비용/저비용 사전 비교, 품사 표기 차이 등 실무 적용에 필요한 가이드를 제공합니다.

Cj온스타일

·AI/ML·

Strategy, Innovation, Event, Company Culture

CJ온스타일은 AI Transformation(AX)을 전사 전략으로 선언하고, 현업이 직접 AI를 활용해 문제를 해결하도록 조직과 프로세스를 재설계했습니다. AI러닝크루를 통해 현업이 문제 정의부터 구현, 검증까지 직접 참여하는 AI 민주화를 추진했고, 2~4주 사이클로 업무 자동화와 27건의 우수사례가 확산되었습니다. 또한 현업이 만든 솔루션은 생산성 자산으로 축적되어 재사용되며, 2027년까지 AI 역량 커리큘럼을 체계적으로 고도화할 계획입니다.

토스

·Architecture·

Kubernetes, Milvus, HNSW, IVF, DISKANN

토스가 Milvus 기반 벡터 검색 워크로드의 품질과 처리량을 확인하기 위한 자원 사이징 기준 수립 과정을 소개합니다. 벤치마크에서 HNSW, IVF_SQ8, DISKANN 등을 비교하고, NUMA 배치와 SQ8 압축으로 CPU·메모리 사용을 최적화해 300 QPS 이상 달성 사례를 다룹니다. 실제 서비스 데이터에 맞춘 시뮬레이션과 NUMA/병렬 설정의 중요성, 서버 규모 산정에 활용 가능한 실용적 가이드를 제공합니다.

토스

·Architecture·

Kubernetes, Milvus, HNSW, IVF, DISKANN

토스증권의 데이터 인프라 팀은 Milvus 기반 벡터 검색 워크로드의 자원 소요를 사이징하기 위해 CPU·메모리 구성을 체계적으로 평가했습니다. 1억 건 768차원 벡터에서 HNSW_SQ8 등 인덱스와 SQ8 압축을 비교하고, NUMA 배치와 KPI(recall@10 ≥0.95, 300 QPS) 달성을 위한 최적 구성을 도출했습니다. 결과적으로 서버 규모 예측 시뮬레이터를 통해 검색 조건과 차원에 따라 필요한 노드 수를 산정하고, 같은 자원으로 처리량을 높이는 운영 가이드를 제공하는 실무 인사이트를 제시합니다.

NHN Cloud

·AI/ML·

Large Language Models, Tokenization, Autoregressive, Machine Translation, Hallucination

NHN Cloud의 글은 AI 번역의 한계와 현장 사례를 분석하며 오역 및 자막 실수 사례를 다룹니다. 한국어의 토큰화와 자기회귀의 한계, 지시 이탈·원문 이탈의 환각 현상, 학습 목표와 맥락 무시를 원인으로 설명하며 HalloMTBench 연구의 33~60% 환각 지표도 제시합니다. 실무자는 검증 계층 부재와 확신도 노출의 부재를 주의하고, 신중한 활용과 모니터링의 필요성을 이해할 수 있습니다.

카카오

·AI/ML·

Event, Conference

카카오의 if(kakao)26 행사에 대한 온라인 라이브 발표를 다룹니다. 제목에서 핵심 주제인 if(kakao)26과 카카오의 기술 컨텍스트를 통해 해당 영역의 활용 가치에 대한 경험을 공유합니다.

여기어때

·AI/ML·

MCP, RAG, Langfuse, Embeddings, LLM Observability

여기어때는 Confluence/Jira 문서를 검색 가능한 형태로 모으고 LightRAG와 Navigator를 활용한 Agentic RAG 아키텍처를 주요하게 구축했다. LLM 관측성 확보와 평가 파이프라인을 Langfuse로 구현하고, LLM-as-a-judge로 정답 여부를 자동 채점하며, FastMCP로 도구를 서빙합니다. 향후 임베딩 모델 업그레이드와 평가셋 확장을 통해 내부 맥락 인식과 근거 제시를 더욱 신뢰할 수 있게 확장될 것입니다.

여기어때

·AI/ML·

Vector Search, Knowledge Graph, GraphRAG, Neo4j, LightRAG

여기어때의 2편 글은 LightRAG와 Navigator를 활용해 사내 지식을 기반으로 Agentic RAG를 구현하는 방법을 설명합니다. LightRAG는 문서에서 개념(Entity)과 관계(Relation)를 추출해 지식 그래프를 만들고, 그래프 탐색과 벡터 검색을 결합해 의미 연결을 빠르게 찾습니다. Navigator는 문서의 위치 정보를 따라가며 검색 후보를 좁혀 엔드투엔드 파이프라인의 정확도와 효율을 높입니다.

여기어때

·Backend·

Kafka, MongoDB, REST API, Docker, Shadowing

여기어때는 레거시와 신규 API의 응답을 실제 트래픽으로 비교하는 쉐도잉 검증 프레임워크를 내부 라이브러리로 구축해 실시간 차이를 메트릭과 로그로 수집합니다. Phase 1에서 애플리케이션 내 공통 라이브러리가 쉐도잉 실행과 결과 수집을 담당하고, Grafana-Loki 대시보드로 가시성을 제공합니다. 결과적으로 일치율 99.98% 수준의 신뢰를 확보하고, 새로운 API로 전환 시 위험을 선제적으로 파악하고 운영 리스크를 낮춥니다.

여기어때

·Data·

SQL, MCP, ERD, Mermaid

여기어때가 MCP 기반 도구를 통해 ERD를 그리는 AI 시스템을 구축했고, 매번 같은 결과를 얻는 목표를 달성했습니다. AI는 대화로 요구를 모으고, 도구가 실제 그림을 그리게 하며 Mermaid, HTML, 직접 만든 ERD 도구를 포함한 13개 도구로 역할을 분담합니다. 도구 설계는 자동 배치와 경로 제어, 되돌리기 등 핵심 기능을 갖춰 다이어그램 작성 시간을 대폭 단축하고 팀에 확산되었습니다.