구글

·Architecture·

Load Balancing, Session Tracking, Stateful Bidirectional Streams, Hybrid Routing Algorithm, Real Time AI

구글은 실시간 AI 에이전트의 세션 인식 기반 로드 밸런싱 문제를 다루며, 긴 수명 상태를 가진 양방향 스트림이 전통적 방식의 한계를 드러낸다고 설명합니다. 해결책은 런타임 내부의 애플리케이션 수준 세션 추적으로 활성 대화의 동시 워크로드를 정확히 측정하고, 이를 CPU 지표와 함께 하이브리드 라우팅에 반영하는 것입니다. 이로써 실시간 대화형 AI 트래픽의 흐름을 보다 균일하게 분산시키고 인프라 병목 위험을 줄이는 구글의 구현 방향을 제시합니다.

AWS

·DevOps·

AWS, Redis, JavaScript, ElastiCache, Valkey

AWS의 ElastiCache Valkey 9.1 업그레이드가 아임웹의 SSR 기반 캐시 워크로드에서 운영 효율과 응답성 개선 사례를 제시합니다. 엔진 CPU와 전체 CPU는 각각 31.6%와 86.6% 감소했고 GET/SET 지연은 30.5%와 53.6% 줄었습니다. 또한 같은 노드에서 엔진 교체로 연간 약 51,264달러의 비용 절감 효과를 기대할 수 있으며, 이는 운영 비용 개선에 기여합니다.

토스

·AI/ML·

Python, CI/CD

토스의 DS와 MLE 협업 개선 사례를 통해 모델 서빙의 도출 과정과 핵심 문제를 단계별로 설명합니다. Phase 0에서 노트북 전달 중심의 문제를 지적하고 Phase 1과 Phase 2에서 인터페이스와 패키지 기반의 해결책을 제시합니다. 결과적으로 공통 인터페이스를 갖춘 모델 패키지와 모노레포 운영으로 배포 속도와 협업 효율이 크게 개선되었음을 다룹니다.

AWS

·Architecture·

AWS, EFA, UltraCluster, Amazon FSx for Lustre, ODCR

AWS의 분산 학습 컴퓨트 선택 가이드는 수천에서 수만 GPU를 한 학습으로 묶는 울트라클러스터와 울트라서버 아키텍처를 집중적으로 다룹니다. 주된 기술로는 EFA 기반 고속 네트워크, SRD/NCCL 경로, 그리고 데이터 공급을 위한 FSx for Lustre가 있으며, ODCR과 Capacity Block으로 대규모 인스턴스 확보를 지원합니다. 또한 SageMaker HyperPod, AWS PCS, EKS 같은 관리형 서비스와의 통합으로 워크플로우를 운영하고, 균일한 대역폭과 데이터를 적시에 공급하는 설계의 실용적 이점을 제시합니다.

슈퍼브에이아이

·AI/ML·

Innovation, News, Industry Trends

슈퍼브에이아이의 한국형 AI가 KBS 뉴스 9에서 소개되며, CCTV 기반 영상 분석과 실시간 모니터링 기술의 활용 사례를 다룹니다. 영상 분석은 30초 간격으로 실시간 처리되며, 3D 모니터링을 포함한 영상 관리 체계의 설계와 구현 방향이 설명됩니다. 독자는 공공 안전 및 현장 운영에의 적용 가능성과 향후 검증 경로에 대한 시사점을 얻을 수 있습니다.

NHN Cloud

·Architecture·

Observability, Atomicity, Outbox, Idempotency

NHN Cloud의 글은 AI 시대 개발에서 의도를 코드로 옮기는 대신 구조적으로 검증할 수 있는 스펙 설계와 숨겨진 기술 결정을 드러내는 방식을 다룬다. 결정 축을 Atomicity, Idempotency, Failure-mode, Observability, Side-effects, Compatibility로 정의하고, 코드 예시로 트랜잭션 경계와 outbox 대안을 비교해 설명합니다. 또한 grill-me 방식의 인터뷰를 통해 구현 전 결정들을 하나씩 확인하고 리뷰의 초점을 명확히 하며, 개발 프로세스의 인지 부하를 줄이고 검증을 촉진합니다.

구글

·AI/ML·

ADK, Gemini Enterprise Agent Platform, Agent Platform SDK, Agent Platform CLI

구글의 Gemini Enterprise Agent Platform의 평가 서비스가 GA로 일반 이용 가능해져, 로컬 개발 실험과 실서비스 트래픽 전체에서 에이전트 품질을 일관되게 측정하는 통합 엔진을 제공합니다. 20개 이상 지표, DeepMind-지원 어댑티브 루브릭, 커스텀 코드 기반 및 LLM-판정 지표를 버전 관리 레지스트리에서 관리하고, Agent Platform SDK, agents-cli, ADK를 통해 워크플로우에 직접 통합됩니다. 다중 턴 테스트 자동화를 위한 빌트인 사용자 및 환경 시뮬레이터가 제공되며, CI 파이프라인의 흐름도 간소화합니다.

넷플릭스

·Data·

Feature Flags, Data Modeling, Device Capabilities, Analytics, Histogram

넷플릭스는 다양한 기기의 기능 역량을 파악하기 위해 기기 역량 데이터 모델과 피처 플래그를 통합했다. 누적 테이블과 28일 히스토그램을 통해 각 디바이스의 최신 상태와 다양한 역량 배포를 정밀하게 파악하고 데이터를 분석합니다. 이 데이터로 4K, Spatial Audio, Cloud Gaming 같은 기능의 기기별 지원 여부를 과학적으로 판단하고 서비스 정책을 최적화합니다.

구글

·AI/ML·

Go

구글은 Genkit Go의 Agent Skills를 점진적 공개 아키텍처에 기반해 도입하여, 작업과 일치할 때만 정밀한 지시문과 자산에 접근하도록 설계합니다. 모듈식 SKILL.md 번들에 특화된 지시문, 스크립트, 참조를 패키징하고 초기에는 프런트매터 메타데이터만 에이전트 시스템 프롬프트에 노출되도록 구성합니다. 작업이 스킬 설명과 매칭되면 미들웨어가 전체 지시 본문과 관련 리소스를 동적으로 로드해, 필요 시에 정확한 워크플로우를 사용합니다.

AWS

·Cloud·

SQS, DynamoDB, Terraform, CloudWatch, AWS IoT Core

AWS가 IoT Core를 중심으로 실외 배달로봇과 클라우드 리소스 간 안전한 연결을 구축한 사례를 다룹니다. 로봇의 제로 터치 등록과 Fleet Provisioning, IoT Rules Engine, Credential Provider를 통해 인증 체계, 정책 격리, 데이터 포워딩을 구성합니다. 또한 SQS와 Kafka 연계, Role Alias 기반 임시 인증키 관리 등 실무에 바로 적용 가능한 설계 패턴과 운영 가이드를 제시합니다.