Moait
홈인기 피드모든 블로그모든 태그
홈인기 피드모든 블로그모든 태그

최신 피드를 AI 요약으로 빠르게 확인하세요

IT 기업 기술 블로그 모음

TPU Model Design Considerations and Optimization Guide 섬네일
TPU Model Design Considerations and Optimization Guide
구글 favicon구글
·Architecture·
TPU, MoE, LLMs, Systolic Arrays, LatentMoE

구글의 TPU 모델 설계 및 최적화 가이드는 LLM과 MoE 워크로드에서 TPU 성능을 하드웨어 관점으로 최적화하기 위한 설계 규칙을 제공합니다. 핵심 원칙은 systolic 배열에서 축소 및 출력 차원을 256으로 맞추고, LatentMoE를 통해 토큰 트래픽을 압축하며, 병렬 축을 물리적 링크에 직접 매핑하는 것입니다. 이 가이드는 개발자들이 TPU 배치 설계와 성능 측정을 실무에서 바로 적용할 수 있는 지침을 제공합니다.

2026년 11월 16일·0
Securing Your Agents: A Hands-On Guide to Agent Anomaly Detection 섬네일
Securing Your Agents: A Hands-On Guide to Agent Anomaly Detection
구글 favicon구글
·Cloud·
Google Cloud, Agent Anomaly Detection, Cloud Monitoring, Security Command Center

구글은 Gemini Enterprise Agent Platform에서 에이전트 이상 탐지 설정과 AI 에이전트 텔레메트리 모니터링 방법을 다룹니다. 샘플 고객지원 에이전트를 배포하고 범위를 벗어난 보안 발견을 트리거하며 Cloud Monitoring과 Security Command Center로 선제적 경보를 구성합니다. 실무 적용 시 텔레메트리 활용과 정책 설정의 구체적 흐름을 파악하고, 경보 기반 대응 절차를 체계화할 수 있습니다.

2026년 11월 16일·0
Agents are sessions, not requests: size GKE node pools for AI agent sessions 섬네일
Agents are sessions, not requests: size GKE node pools for AI agent sessions
구글 favicon구글
·DevOps·
Kubernetes, Google Cloud, Agent Substrate, AX

구글의 글은 GKE에서 AI 에이전트 세션이 대부분 활성화 상태로 남아 자원 낭비를 유발하는 문제를 지적합니다. Agent Substrate와 AX 같은 오픈소스 도구를 활용해 비활성 세션을 객체 저장소에 보관하고 상태를 안정적으로 유지합니다. 이 접근은 자원 활용을 대폭 최적화하고 Kubernetes 노드 비용을 최대 40%까지 절감하는 효과를 실무 환경에서 입증 가능한 방법으로 제공합니다.

2026년 11월 16일·0
Unlocking Stable On-Policy RL on TPU with Bitwise-Zero Train–Inference Mismatch 섬네일
Unlocking Stable On-Policy RL on TPU with Bitwise-Zero Train–Inference Mismatch
구글 favicon구글
·AI/ML·
JAX, Cloud TPU, Tunix, On Policy RL, Pallas

구글이 64개 Cloud TPU v5p에서 온정책 RL로 LLM을 학습할 때 발생한 부동소수점 트레인–인퍼런스 로그 드리프트를 비트와이즈 제로 방식으로 제거한 사례를 다룹니다. 네 파트에 걸친 JAX와 Pallas 기반의 일반화 가능한 레시피를 Tunix에서 적용한 구현 방법과 실험 결과를 제시합니다. 이를 통해 구글의 대규모 TPU 환경에서 온정책 RL의 안정성과 재현성을 높일 수 있는 실무 활용 포인트를 제공합니다.

2026년 11월 16일·0
AWS에서 Laya를 통한 Decision Model 학습 및 배포 환경 구성하기 섬네일
AWS에서 Laya를 통한 Decision Model 학습 및 배포 환경 구성하기
AWS faviconAWS
·AI/ML·
SageMaker, SGLang, Jev, Laya, Strands Decider

AWS에서 Laya를 활용한 Decision Model의 학습·배포 환경 구성과 Jev를 포함한 대안들과의 벤치마크를 실무 관점에서 정리한다. 본문은 SageMaker를 통한 Laya의 학습, 실시간 엔드포인트 배포, 질문 스키마 및 학습 데이터 형식, 컨테이너 구성, 호출 규칙 구현 등 구체적 구성 방법과 비교 지표를 제시한다. 한국어 개인정보 과제를 예로 제로샷 한계와 학습 데이터의 필요성, 확률 보정과 운영 비용·지연 관리의 실무 함의를 설명하고 구체적 사례와 적용 시나리오에 대한 통찰도 제공한다.

2026년 11월 16일·0
노트북을 닫아도 개발은 계속된다: 자율 그래프 주도 개발
NAVER D2 faviconNAVER D2
·AI/ML·
AI, Testing, Autonomous Graph, Audit

네이버의 NAVER D2가 발표한 자율 그래프 주도 개발은 그래프 구조를 기반으로 개발 진행을 AI가 주도하는 새로운 방법론입니다. 스펙 문서와 코드를 AI 에이전트 루프가 작성하고, 결정론적 코드 검사를 통해 결함을 피드백 루프로 자동으로 수정합니다. 사람이 AI를 호출하던 주도권이 역전되어 필요시만 개입하고, 리드타임 감소와 인력 효율성 향상 등의 효과를 제공합니다.

2026년 11월 16일·0
Image AI 서빙 최적화: CPU와 GPU의 빈 시간을 줄여 H100 67장을 절감하기까지
NAVER D2 faviconNAVER D2
·AI/ML·
GPU, Model Serving, Image AI, LitServe, CPU

NAVER D2가 운영하는 SNOW의 16개 Image AI 서비스에서 응답 속도와 안정성을 향상시키는 이미지 서빙 최적화 사례를 다룹니다. LitServe로의 전환과 CPU 전처리 축소, 불필요한 연산 제거, 다수 서비스의 GPU 공유를 통해 H100 환산 약 67장의 자원 절감을 달성하고 트래픽에 맞춘 파라미터 조정을 제시합니다. 엔지니어를 위한 실전 가이드로, 워커 수와 스레드 조정, Autoscaling 로직 개선, GPU 공유 설계와 모니터링 방법을 포함합니다.

2026년 11월 16일·0
TV 앱 실행 시간 측정 자동화 개발기 섬네일
TV 앱 실행 시간 측정 자동화 개발기
삼성전자 favicon삼성전자
·Else·
Automation, TV App, Measurement, IR, Webcam

삼성전자는 TV 앱 실행 시간을 자동으로 측정하는 도구를 PC, USB IR 송신기, 웹캠 기반으로 Claude Code와 함께 7주 만에 개발했습니다. 이 도구를 통해 측정자가 TV 앞을 지키는 시간을 95% 줄였고, LLM 미사용 이유와 세션 간 맥락 유지 방법을 설명합니다. 또한 결과 판정에 LLM을 사용하지 않은 이유와 다세션 맥락 유지 전략에 대한 실무 가이드를 제공합니다.

2026년 11월 16일·0
[요즘구글] 라면 끓이는데 5성급 셰프를 부른다고요? 섬네일
[요즘구글] 라면 끓이는데 5성급 셰프를 부른다고요?
구글코리아 favicon구글코리아
·AI/ML·
Strategy, Innovation

구글코리아가 요즘구글의 라면 끓이는데 5성급 셰프를 부른다는 제목의 맥락을 통해 현재 상황의 트렌드를 제시하며, 이 주제에 대한 경험을 공유합니다.

2026년 11월 16일·0
누구나 디자인할 수 있는 환경 만들기 섬네일
누구나 디자인할 수 있는 환경 만들기
드라마앤컴퍼니(리멤버) favicon드라마앤컴퍼니(리멤버)
·Frontend·
Innovation, Growth, Company Culture, Team Building, Leadership

드라마앤컴퍼니(리멤버) 채용솔루션 팀은 실제 제품 코드 위에서 Claude로 디자인하고 PR로 개발에 전달하는 방식으로 디자인 워크플로우를 재설계했다. Prototype 스킬, Design guide 스킬, UX 가이드의 3가지 스킬과 팀 플러그인 배포로 누구나 화면을 설계하고 정책서와 UI 가이드를 공유한다. 결과적으로 화면은 항상 최신 상태에서 시작하고 컨텍스트를 코드와 연결해 검토 시간을 줄이며, AI도 엣지 케이스를 먼저 지적해 수정 비용을 낮춘다.

2026년 11월 16일·0
...