Kwonjae Lee

SRE, Observability

Weekly - November 21, 2025

Friday. November 21, 2025 - 9 mins

📚 이번 주 추천 아티클

1. Mozilla의 LLM 비용 관리 솔루션: any-llm-gateway 오픈소스 공개

출처: geeknews | 날짜: 2025-11-21

Mozilla AI가 공개한 ‘any-llm-gateway’는 LLM 사용 시 발생하는 비용 폭증 문제를 해결하는 오픈소스 프록시 서버입니다. 개발자들은 이 도구를 통해 예산 관리, API 키 관리, 사용량 분석 등의 기능을 활용하여 LLM을 더 효율적이고 경제적으로 운영할 수 있습니다.

핵심 포인트:

• any-llm-gateway를 프록시 서버로 도입하여 LLM API 호출 비용을 실시간 모니터링하고 예산 한도를 설정해 비용 초과를 방지하세요
• 여러 LLM 제공업체의 API 키를 중앙집중식으로 관리하고, 팀별 또는 프로젝트별로 접근 권한을 세분화하여 보안성을 높이세요
• 사용량 분석 대시보드를 활용하여 어떤 모델이 가장 효율적인지 파악하고, 데이터 기반으로 LLM 사용 전략을 최적화하세요

2. runs-on - 더 저렴하고 빠르며, 셀프 호스팅 가능한 GitHub Actions 러너

출처: geeknews | 날짜: 2025-11-21

runs-on은 AWS 계정 내에서 운영할 수 있는 셀프 호스팅 GitHub Actions 러너로, 공식 GitHub 러너 대비 7-15배 저렴한 비용과 30% 향상된 CPU 성능을 제공합니다. 기존 워크플로와 완전히 호환되면서 수백 개의 동시 작업을 무제한으로 처리할 수 있어 개발팀의 CI/CD 비용을 크게 절감하고 성능을 향상시킬 수 있습니다.

핵심 포인트:

• 기존 GitHub Actions 워크플로를 수정 없이 그대로 사용하면서 비용을 7-15배 절감할 수 있어 예산 최적화가 가능합니다
• AWS 계정 내에서 직접 운영하는 셀프 호스팅 방식으로 데이터 보안과 인프라 제어권을 확보할 수 있습니다
• 수백 개의 동시 작업을 처리할 수 있는 확장성으로 대규모 개발팀의 CI/CD 파이프라인 병목을 해결할 수 있습니다

3. A tale of two incident responses: How our AI assistant found the root cause 3.5x faster

출처: grafana | 날짜: 2025-11-17

Grafana Labs에서 AI 어시스턴트를 활용하여 장애 대응 시 근본 원인 파악 시간을 3.5배 단축시킨 사례를 다룹니다. 기존 수동 장애 대응 프로세스와 AI 기반 자동화된 접근 방식을 비교 분석하여 개발자들이 효율적인 인시던트 관리 전략을 학습할 수 있습니다.

핵심 포인트:

• AI 기반 관찰 가능성 도구를 활용하여 로그, 메트릭, 트레이스 데이터를 자동으로 분석하고 상관관계를 파악하는 시스템 구축
• 인시던트 발생 시 수동 분석 대신 AI 어시스턴트가 패턴 인식과 데이터 correlaton을 통해 빠른 근본 원인 추적 프로세스 도입
• 팀 내 장애 대응 문화 개선을 위해 AI 도구와 기존 온콜 엔지니어링 워크플로우를 통합하는 하이브리드 접근 방식 적용

4. The Declarative configuration journey: Why it took 5 years to ignore health check endpoints in tracing

출처: opentelemetry | 날짜: 2025-11-19

이 글은 Java OpenTelemetry에서 헬스체크 엔드포인트의 span을 효율적으로 제거하는 기능 구현이 5년이나 걸린 이유를 선언적 설정(declarative configuration) 관점에서 분석합니다. 개발자들은 observability 도구에서 불필요한 트레이싱 데이터를 관리하는 방법과 설정 기반 접근법의 중요성을 배울 수 있습니다.

핵심 포인트:

• 헬스체크와 같은 반복적인 엔드포인트에 대한 span 필터링을 구현하여 트레이싱 오버헤드를 줄이고 성능을 최적화하세요
• 선언적 설정을 통해 런타임에 코드 변경 없이 observability 동작을 유연하게 제어할 수 있는 아키텍처를 설계하세요
• OpenTelemetry 설정에서 span 샘플링과 필터링 규칙을 적절히 구성하여 의미있는 데이터만 수집하도록 최적화하세요

5. PHP 8.5의 새로운 기능들

출처: geeknews | 날짜: 2025-11-21

PHP 8.5는 파이프 연산자, clone with 기능, 새로운 URI 파서 등 개발자 생산성을 높이는 주요 기능들을 제공합니다. 파이프 연산자를 통해 함수 호출 체인을 단순화하여 코드 가독성과 유지보수성을 크게 개선할 수 있습니다. Clone with 기능으로 객체 복사 작업이 더욱 효율적이고 직관적으로 변화합니다.

핵심 포인트:

• 파이프 연산자(

  >)를 활용하여 중첩된 함수 호출을 선형적인 체인으로 변환해 코드 가독성을 향상시키세요

• Clone with 구문을 사용하여 기존 객체의 일부 속성만 수정한 새로운 객체를 효율적으로 생성하세요
• 새로운 URI 파서 기능을 통해 URL 처리 로직을 더욱 안전하고 정확하게 구현하세요

6. Evolving OpenTelemetry’s Stabilization and Release Practices

출처: opentelemetry | 날짜: 2025-11-08

OpenTelemetry 프로젝트의 안정화 및 릴리스 프랙티스 개선에 대한 내용으로, 대규모 오픈소스 프로젝트의 성숙한 개발 프로세스를 다룹니다. 개발자들은 클라우드 네이티브 환경에서 관측성(Observability) 도구의 진화 과정과 안정적인 소프트웨어 릴리스 전략을 학습할 수 있습니다. 특히 대규모 커뮤니티 기반 프로젝트의 거버넌스와 품질 관리 방법론에 대한 인사이트를 얻을 수 있습니다.

핵심 포인트:

• 대규모 오픈소스 프로젝트에서 안정적인 릴리스 사이클을 구축하기 위한 체계적인 프로세스 설계 방법을 적용하여 자신의 프로젝트 품질을 향상시킬 수 있습니다
• OpenTelemetry의 관측성 도구와 표준화된 텔레메트리 수집 방식을 활용하여 애플리케이션 모니터링 및 디버깅 역량을 강화할 수 있습니다
• 커뮤니티 기반 프로젝트의 거버넌스 모델과 협업 방식을 참고하여 팀 내 개발 문화와 코드 리뷰 프로세스를 개선할 수 있습니다

7. Is the OTCA Exam Right for You? Insights for Both Newcomers and Advanced Users

출처: opentelemetry | 날짜: 2025-11-21

이 글은 OpenTelemetry Certified Associate (OTCA) 시험에 대한 가이드로, 초보자와 경험자 모두에게 유용한 통찰을 제공합니다. OpenTelemetry가 널리 채택되면서 관련 인증의 가치와 실무 적용성에 대해 분석하며, 개발자들이 자신의 경력 단계에 따라 시험 준비 여부를 결정하는 데 도움을 줍니다.

핵심 포인트:

• 자신의 OpenTelemetry 경험 수준과 업무 요구사항을 평가하여 OTCA 시험의 필요성을 판단하라
• 관찰가능성(Observability) 도구로서 OpenTelemetry의 실무 적용 사례를 학습하여 시스템 모니터링 역량을 강화하라
• 인증 취득보다는 OpenTelemetry 기술 자체의 이해와 실무 경험을 우선시하여 실질적인 개발 역량을 키워라

---

📚 This Week’s Picks

1. Mozilla의 LLM 비용 관리 솔루션: any-llm-gateway 오픈소스 공개

Source: geeknews | Date: 2025-11-21

Mozilla AI has released ‘any-llm-gateway’, an open-source proxy server that addresses the cost explosion issues when using LLMs. Developers can leverage this production-ready tool to operate LLMs more efficiently and economically through budget management, API key management, and usage analytics features.

Key Points:

• Implement any-llm-gateway as a proxy server to monitor LLM API call costs in real-time and set budget limits to prevent cost overruns
• Centrally manage API keys from multiple LLM providers and enhance security by implementing granular access controls per team or project
• Utilize usage analytics dashboards to identify the most efficient models and optimize your LLM usage strategy based on data-driven insights

2. runs-on - 더 저렴하고 빠르며, 셀프 호스팅 가능한 GitHub Actions 러너

Source: geeknews | Date: 2025-11-21

runs-on is a self-hosted GitHub Actions runner solution that operates within your AWS account, offering 7-15x cost savings and 30% better CPU performance compared to official GitHub runners. It provides full workflow compatibility while supporting unlimited concurrent jobs, enabling development teams to significantly reduce CI/CD costs and improve performance.

Key Points:

• Achieve 7-15x cost reduction while maintaining full compatibility with existing GitHub Actions workflows, enabling significant budget optimization
• Gain data security and infrastructure control through self-hosting within your own AWS account environment
• Eliminate CI/CD pipeline bottlenecks for large development teams with scalability supporting hundreds of concurrent jobs

3. A tale of two incident responses: How our AI assistant found the root cause 3.5x faster

Source: grafana | Date: 2025-11-17

This article presents a case study from Grafana Labs where an AI assistant reduced root cause identification time by 3.5x during incident response. It compares traditional manual incident response processes with AI-powered automated approaches, providing developers with insights into efficient incident management strategies.

Key Points:

• Implement AI-powered observability tools that automatically analyze logs, metrics, and traces to identify correlations and patterns in system data
• Adopt AI assistant-driven root cause analysis processes that use pattern recognition and data correlation instead of manual investigation during incidents
• Integrate AI tools with existing on-call engineering workflows using a hybrid approach to improve team incident response culture and efficiency

4. The Declarative configuration journey: Why it took 5 years to ignore health check endpoints in tracing

Source: opentelemetry | Date: 2025-11-19

This article analyzes why it took 5 years to implement the ability to efficiently drop spans for health check endpoints in Java OpenTelemetry from a declarative configuration perspective. Developers will learn how to manage unnecessary tracing data in observability tools and understand the importance of configuration-based approaches.

Key Points:

• Implement span filtering for repetitive endpoints like health checks to reduce tracing overhead and optimize performance
• Design architecture that allows flexible control of observability behavior through declarative configuration without runtime code changes
• Optimize OpenTelemetry configuration by properly setting up span sampling and filtering rules to collect only meaningful data

5. PHP 8.5의 새로운 기능들

Source: geeknews | Date: 2025-11-21

PHP 8.5 introduces major productivity-enhancing features including pipe operators, clone with functionality, and a new URI parser for developers. The pipe operator simplifies function call chains, significantly improving code readability and maintainability. The clone with feature makes object copying operations more efficient and intuitive.

Key Points:

• Utilize the pipe operator (

  >) to transform nested function calls into linear chains for improved code readability

• Use the clone with syntax to efficiently create new objects by modifying only specific properties of existing objects
• Implement URL processing logic more safely and accurately using the new URI parser functionality

6. Evolving OpenTelemetry’s Stabilization and Release Practices

Source: opentelemetry | Date: 2025-11-08

This article discusses OpenTelemetry’s evolving stabilization and release practices as one of the largest cloud-native projects. Developers will learn about the maturation process of observability tools and stable software release strategies in cloud-native environments. It provides insights into governance and quality management methodologies for large-scale community-driven projects.

Key Points:

• Apply systematic process design methods for building stable release cycles in large-scale open source projects to improve your own project quality
• Leverage OpenTelemetry’s observability tools and standardized telemetry collection methods to enhance application monitoring and debugging capabilities
• Reference community-based project governance models and collaboration approaches to improve team development culture and code review processes

7. Is the OTCA Exam Right for You? Insights for Both Newcomers and Advanced Users

Source: opentelemetry | Date: 2025-11-21

This article serves as a guide to the OpenTelemetry Certified Associate (OTCA) exam, offering valuable insights for both beginners and experienced professionals. It analyzes the value and practical applicability of OpenTelemetry certification as the technology becomes widely adopted, helping developers decide whether to pursue the exam based on their career stage.

Key Points:

• Evaluate your OpenTelemetry experience level and job requirements to determine if the OTCA exam is necessary for your career path
• Study real-world OpenTelemetry use cases as an observability tool to strengthen your system monitoring and troubleshooting capabilities
• Prioritize understanding OpenTelemetry technology and gaining hands-on experience over certification itself to build practical development skills

---

🔗 Sources

Articles curated from various tech blogs and communities including SRE Weekly, GeekNews, OpenTelemetry, Grafana, and more.

---

아티클 제안이 있으시면 이메일로 연락주시거나 댓글을 남겨주세요!

Have an article suggestion? Feel free to reach out via email or leave a comment below!

Kwonjae Lee

SRE, Observability

Tweet Share

comments powered by Disqus