모아잇 | IT 기업 기술 블로그 모음 - 개발 블로그 한 곳에서

Innovation, Announcement, News

구글코리아가 최신 음악 생성 모델 리리아 3.5를 통해 더 감성 깊고 완성도 높은 음악 제작에 대해 다룹니다. 리리아 3.5의 품질 향상과 음성/가사 표현의 개선 가능성을 실무 관점에서 다룹니다.

How to use Google microbenchmarks for evaluating TPU performance

구글

TPU, Roofline Model, Microbenchmarks, HBM

구글의 TPU 마이크로벤치마크 도구 모음은 네트워크, Compute, HBM, Host Transfer, Attention 등 컴포넌트의 세부 성능 지표를 제공합니다. 이 벤치마크를 활용해 Roofline 모델을 구성하면 워크로드의 바운드 유형을 식별하고, 커널 튜닝과 샤딩, 리메모리제이션 같은 최적화로 하드웨어 활용을 높일 수 있습니다. 대규모 모델 배포 환경에서 하드웨어 활용 극대화와 성능 예측 신뢰성을 높이는 데 실용적 가이드를 제공합니다.

제미나이 로보틱스 2: 로봇에 전신 지능을 구현하다

구글코리아

Robotics, Whole Body Control

구글코리아가 제미나이 로보틱스 2를 통해 로봇의 지능적 전신 제어와 정밀 조작, 협업 능력 학습을 구현하는 아키텍처를 소개합니다. 본문은 발끝부터 손끝까지의 제어 확장과 실세계 협업 시나리오를 가능하게 하는 핵심 기술과 설계 원칙에 초점을 맞춥니다. 독자들은 이 아키텍처의 구현 방향과 기대 효과를 통해 지능형 로봇 시스템의 개발 방향에 대한 실무적 인사이트를 얻을 수 있습니다.

LLM은 똑똑한데, 왜 우리 회사 일은 모를까

토스

Strategy, Innovation

토스는 LLM이 회사 내부 정보에서 신뢰할 수 있는 컨텍스트를 관리하는 시스템 'Topic'을 상세히 소개합니다. 주요 구성 요소로는 ContentUnit 정규화, 원문 근거-관계 추출, 여섯 가지 신뢰 축(Granularity, Faithfulness, Staleness, Canonicality, Consistency, Coverage) 점검, 그리고 원문 근거의 최신성 검증이 포함된다. 결과적으로 토스의 LLM 에이전트는 Topic을 통해 같은 근거와 검증 상태를 공유하며, 변경과 충돌을 관리하는 신뢰 가능한 컨텍스트를 제공한다.

당근이 AWS CloudHSM으로 대규모 서명키 관리 시스템을 구축한 방법 – 3부: 서명 시스템 구현, 트러블슈팅, 무중단 키 전환

AWS KMS, JWT, ECDSA, AWS CloudHSM, Dynamic Config

·Architecture·

AWS CloudHSM과 AWS KMS를 연동하여 당근의 대규모 서명키 관리 시스템을 구축한 사례를 기술하며, 클라우드 기반 인프라의 고가용성과 보안 강화를 위한 설계 의도와 구현 세부를 다룹니다. 실제 운영에서의 Active-Standby 페일오버 설계와 PKCS#11 래퍼인 Go의 crypto11, 세션 풀 관리, 동적 설정 저장소 Dynamic Config를 활용한 런타임 전환으로 토큰 서명을 서비스 중단 없이 이행합니다. 또 RS256에서 ES256으로의 알고리즘 전환으로 토큰 크기와 처리량을 대폭 개선했고, 기존 수천만 개의 토큰을 무중단으로 전환하는 5단계 키 롤링 프로세스의 운용 실전 경험을 제시합니다.

당근이 AWS CloudHSM으로 대규모 서명키 관리 시스템을 구축한 방법– 2부: CloudHSM 아키텍처와 다계층 접근 제어

Kubernetes, JWT, Istio, CloudHSM, mTLS

·Architecture·

AWS CloudHSM를 활용한 당근의 대규모 서명키 관리 시스템 아키텍처와 다계층 접근 제어 설계에 대해 다룹니다. 네트워크, 애플리케이션, HSM 내부의 세 계층으로 접근 제어를 구성하고, Istio와 mTLS, Kyverno, Secrets Manager, PKCS#11를 연계합니다. 서비스 무단 접근 차단과 키 보안 강화를 통해 무중단 서명 운영 및 감사 가능성을 크게 높입니다.

당근이 AWS CloudHSM으로 대규모 서명키 관리 시스템을 구축한 방법 – 1부: 서명키 보안의 중요성과 서비스 선택

AWS KMS, AWS Secrets Manager, AWS CloudHSM, PKCS11, Hybrid Key Management

·Architecture·

AWS가 당근마켓의 대규모 JWT 서명 키 관리 문제를 CloudHSM과 KMS를 활용한 하이브리드 아키텍처로 해결한 사례를 다룹니다. KMS 대비 CloudHSM의 성능과 비용 비교, 다계층 접근 제어를 검증하고, 일일 6,500만 건 서명 트래픽에서도 무중단 운영 가능하도록 설계되었음을 설명합니다.

AWS 환경에서 Physical AI 모델 구축하기 – (1) 데이터

·Cloud·

TypeScript, Kafka, Android, iOS, Go

AWS 환경에서 Physical AI 모델 구축에 필요한 데이터 전략과 파이프라인 설계의 핵심 내용을 다룹니다, 특히 데이터 수집 및 정제 전략까지 포함합니다. 또한 듀얼 루프의 구성 원리와 데이터 피드백의 순환이 설계에 미치는 영향을 자세히 설명합니다, 데이터 품질 관리와 수명 주기 관점까지 포함합니다. 또한 AWS의 IoT Greengrass, Kinesis, DataSync 등의 서비스로 엣지 수집, 실시간 스트리밍, 온프레미스 업로드를 연결하는 파이프라인 구현 방법을 제시합니다.

토스의 디바이스 팜 네뷸라의 아키텍처와 설계 방식을 중심으로, 실기기 24시간 운영과 대규모 확장 사례를 소개합니다. Appium 대체로 Nebula Driver를 채택하고, 실시간 미러링과 즉시 입력, Kafka 기반 오케스트레이션, 보안/컴플라이언스가 중앙에서 관리되는 설계를 설명합니다. 안드로이드와 iOS 실기기의 실시간 미러링과 입력 경로를 자체 구현해, 브라우저 한 화면에서 팜 전체를 실시간으로 모니터링하고 조작합니다.