Riilog
전체시리즈
Back
ESSAY
DEC 17, 2025

EP171: The Generative AI Tech Stack

원문: EP171: The Generative AI Tech Stack

이번 주 System Design 복습:

  • The Generative AI Tech Stack
  • 24 Good Resources to Learn Software Architecture in 2025
  • ByteByteGo Technical Interview Prep Kit
  • Database Index Types Every Developer Should Know
  • The Agentic AI Learning Roadmap
  • 12 MCP Servers You Can Use in 2025

The Generative AI Tech Stack

GenAI는 기존 데이터에서 패턴을 학습하여 텍스트, 이미지, 코드, 음악 등 새로운 콘텐츠를 생성할 수 있는 시스템을 말합니다. GenAI Tech Stack의 핵심 구성 요소들을 살펴보겠습니다:

  1. Cloud Hosting & Inference: AWS, GCP, Azure, Nvidia와 같은 provider들이 AI workload를 실행하고 확장하기 위한 인프라를 제공합니다.

  2. Foundational Models: 대규모 데이터로 학습된 핵심 LLM(GPT, Claude, Mistral, Llama, Gemini, Deepseek 등)이 모든 GenAI 애플리케이션의 기반을 형성합니다.

  3. Frameworks: LangChain, PyTorch, Hugging Face와 같은 도구들이 모델을 구축, 배포하고 앱에 통합하는 것을 도와줍니다.

  4. Databases and Orchestration: Vector DB(Pinecone, Weaviate 등), orchestration 도구(LangChain, LlamaIndex 등)가 메모리, 검색, 로직 흐름을 관리합니다.

  5. Fine-Tuning: Weights & Biases, OctoML, Hugging Face와 같은 플랫폼이 특정 작업이나 도메인에 맞게 모델을 학습시킬 수 있게 해줍니다.

  6. Embeddings and Labeling: Cohere, Scale AI, Nomic, JinaAI와 같은 서비스가 검색 및 RAG 시스템을 구동하는 vector representation을 생성하고 라벨링합니다.

  7. Synthetic Data: Gretel, Tonic AI, Mostly AI와 같은 도구가 학습을 강화하기 위한 인공 데이터셋을 생성합니다.

  8. Model Supervision: 모델 성능, 편향성, 동작을 모니터링합니다. Fiddler, Helicone, WhyLabs 등의 도구가 이를 지원합니다.

  9. Model Safety: GenAI 시스템의 윤리적이고 안전한 배포를 보장합니다. LLM Guard, Arthur AI, Garak 등의 솔루션이 이를 도와줍니다.

Over to you: 이 목록에 무엇을 더 추가하시겠습니까?

24 Good Resources to Learn Software Architecture in 2025

리소스들은 다음과 같은 유형으로 나눌 수 있습니다:

  1. Software Design Books DDIA, System Design Volume 1 & 2, Clean Architecture, Domain-Driven Design, Software Architecture: the Hard Parts와 같은 책들이 도움이 될 수 있습니다.

  2. Tech Blogs and Newsletters Netflix, Uber, Meta, Airbnb와 같은 기업들의 기술 블로그를 읽어보세요. 또한 ByteByteGo 뉴스레터가 매주 소프트웨어 설계에 대한 인사이트를 제공합니다.

  3. YouTube Channels and Architectural Resources MIT Distributed Systems, Goto Conferences, ByteByteGo와 같은 YouTube 채널이 소프트웨어 아키텍처와 시스템 설계에 도움이 됩니다. Azure Architecture Center와 AWS Architecture Blog도 중요한 리소스입니다.

  4. WhitePapers 더 깊은 인사이트를 위해 Facebook Memcache Scaling, Cassandra, Amazon DynamoDB, Kafka, Google File System과 같은 whitepaper를 읽어보세요.

  5. Software Career Books Software Architect는 전체적인 역량도 개발해야 합니다. Pragmatic Programmer, The Software Architect Elevator, The Software Engineer's Guidebook, Philosophy of Software Design과 같은 소프트웨어 커리어 관련 책들이 도움이 됩니다.

Over to you: 이 목록에 어떤 다른 리소스를 추가하시겠습니까?

ByteByteGo Technical Interview Prep Kit

올인원 인터뷰 준비 자료를 출시합니다. 모든 책을 ByteByteGo 웹사이트에서 이용할 수 있도록 했습니다.

포함된 내용:

  • System Design Interview
  • Coding Interview Patterns
  • Object-Oriented Design Interview
  • How to Write a Good Resume
  • Behavioral Interview (coming soon)
  • Machine Learning System Design Interview
  • Generative AI System Design Interview
  • Mobile System Design Interview
  • And more to come

출시 할인: 50% 할인

Database Index Types Every Developer Should Know

Database index는 column 값을 테이블 내 row의 물리적 위치에 매핑하는 파생 구조입니다. 주요 index 유형을 살펴보겠습니다:

  1. Primary Index 테이블에 primary key가 정의될 때 자동으로 생성되는 index입니다. 이러한 index는 dense일 수도 있고 sparse일 수도 있지만, 대부분의 시나리오에서는 sparse가 선호됩니다.

    Dense index는 테이블의 모든 row에 대해 하나의 entry를 포함합니다. 반면에 sparse index는 테이블의 일부 row에 대해서만 entry를 포함합니다.

  2. Clustered Index Clustered index는 테이블에서 row의 물리적 순서를 결정합니다. 데이터는 한 번에 하나의 순서로만 저장될 수 있기 때문에, 테이블에는 하나의 clustered index만 존재할 수 있습니다. Range query, ordered scan, I/O 효율성에 뛰어납니다.

  3. Secondary Index Non-clustered index는 하나 이상의 column 복사본과 테이블의 실제 row에 대한 pointer를 보유하는 별도의 구조입니다. 데이터가 물리적으로 저장되는 방식에는 영향을 미치지 않으며, primary index를 사용하여 레코드를 찾을 수 있습니다.

Over to you: 어떤 다른 index 유형을 목록에 추가하시겠습니까?

The Agentic AI Learning Roadmap

  1. AI Agent는 자율적인 행동이 가능하고, 환경에 반응하며, 도구(API, 인터넷, 코드 등)를 사용하고, 인간의 지시 하에 작동할 수 있는 시스템입니다.

  2. AI agent를 구축하려면 Python, Jupyter, PyTorch, GitHub Copilot과 같은 도구를 알아야 합니다. 이러한 도구들은 코딩, 실험, AI 라이브러리 및 API와의 통합을 가능하게 합니다.

  3. GenAI Foundational Models GPT, Gemini, LLaMa, DeepSeek, Claude와 같은 대규모 모델에 대한 익숙함이 필수적입니다. 이러한 모델들은 agent가 추론, 생성, 이해에 사용할 수 있는 기본 지능을 제공합니다.

  4. AI Agent Development Stack Langchain, AutoGen, Crew AI와 같은 도구와 Semantic Kernel, Hugging Face와 같은 프레임워크가 agent workflow를 구동합니다. 이러한 컴포넌트들은 agent pipeline에서 작업, 메모리, 외부 도구 통합을 관리합니다.

  5. API Design REST, GraphQL, gRPC, SOAP와 같은 API 설계 접근 방식을 이해하는 것이 상호 운용 가능한 agent를 구축하는 데 중요합니다. 핵심 개념에는 HTTP method, status code, versioning, cookie, header, caching이 포함됩니다.

  6. Type of AI Agents Simple reflex, model-based reflex, goal-based, utility-based, learning agent 등 여러 유형의 AI agent에 대해 알아보세요. 각각 복잡도가 다릅니다.

  7. AI Agent System Architecture AI agent는 단일 agent로, multi-agent system에서, 또는 인간-기계 협업으로 작동할 수 있습니다. 아키텍처는 use case에 따라 달라집니다.

Over to you: AI Agent Learning Roadmap에 무엇을 더 추가하시겠습니까?

12 MCP Servers You Can Use in 2025

MCP(Model Context Protocol)는 AI 모델, 특히 LLM이 외부 데이터 소스, 도구, 서비스와 상호 작용하는 방식을 단순화하는 개방형 표준입니다. MCP server는 이러한 AI 모델과 외부 도구 사이의 브릿지 역할을 합니다. 주요 MCP server들을 소개합니다:

  1. File System MCP Server LLM이 로컬 파일 시스템에 직접 접근하여 읽기, 쓰기, 디렉토리 생성을 할 수 있게 해줍니다.

  2. GitHub MCP Server Claude를 GitHub repo에 연결하여 파일 업데이트, 코드 검색을 가능하게 합니다.

  3. Slack MCP Server Slack API용 MCP Server로, Claude가 Slack workspace와 상호 작용할 수 있게 해줍니다.

  4. Google Maps MCP Server Google Maps API용 MCP Server입니다.

  5. Docker MCP Server Docker와 통합하여 container, image, volume, network를 관리합니다.

  6. Brave MCP Server Brave의 Search API를 사용한 웹 및 로컬 검색입니다.

  7. PostgreSQL MCP Server LLM이 database schema를 검사하고 읽기 전용 query를 실행할 수 있게 해주는 MCP server입니다.

  8. Google Drive MCP Server Google Drive와 통합하여 파일 읽기 및 검색을 가능하게 하는 MCP server입니다.

  9. Redis MCP Server Redis database에 대한 접근을 제공하는 MCP Server입니다.

  10. Notion MCP Server Notion API용 MCP server를 구현한 프로젝트입니다.

  11. Stripe MCP Server Stripe API와 상호 작용하는 MCP Server입니다.

  12. Perplexity MCP Server 실시간 검색을 위해 Perplexity의 Sonar API에 연결하는 MCP Server입니다.

Over to you: 어떤 다른 MCP Server를 목록에 추가하시겠습니까?

Thank you for reading.

Based in Seoul
Since 2024