Lịch sử System Design

• 0.1Tình huống: sự cố trong đêm khuyến mãi
• 0.2Năm hướng tăng trưởng của một hệ thống
• 0.3Đo lường độ trễ và độ sẵn sàng
• 0.4Mô hình hàng đợi và mức sử dụng
• 0.5Định luật Little và nguyên nhân sự cố
• 0.6Giới hạn của việc bổ sung máy
• 0.7Nguyên tắc đủ dùng
• 0.8Ước lượng năng lực cho Chợ Phố
• 0.9Hướng tiếp theo

• 1.1Tình huống: bản sao lưu chưa từng được khôi phục
• 1.2Kiến trúc một máy chủ
• 1.3Phân tích nguyên nhân: mã thoát của đường ống lệnh
• 1.4Đánh giá thiệt hại: mục tiêu điểm khôi phục
• 1.5Thiết kế quy trình sao lưu có tự kiểm tra
• 1.6Kiểm chứng bằng khôi phục thử và mục tiêu thời gian khôi phục
• 1.7Tranh chấp tài nguyên trên một máy chủ
• 1.8Điểm lỗi đơn và độ sẵn sàng
• 1.9Mở rộng theo chiều dọc
• 1.10Hướng tiếp theo

• 2.1Tình huống: hai triệu chứng sau khi tách
• 2.2Tách cơ sở dữ liệu và mô hình ba tầng
• 2.3Mạng trở thành một phần của hệ thống
• 2.4Bí ẩn thứ nhất: truy vấn N+1
• 2.5Gộp truy vấn bằng JOIN và IN
• 2.6Bí ẩn thứ hai: kết nối nhàn rỗi bị cắt
• 2.7Giữ sống và giới hạn tuổi kết nối
• 2.8Định cỡ: cần bao nhiêu kết nối
• 2.9Object storage cho ảnh sản phẩm
• 2.10Hướng tiếp theo

• 3.1Tình huống: thêm một máy, khách bị đăng xuất
• 3.2Cân bằng tải và reverse proxy
• 3.3Cân bằng tải tầng 4 và tầng 7
• 3.4Thuật toán chia tải
• 3.5Phân tích nguyên nhân: phiên nằm trong bộ nhớ từng máy
• 3.6Sticky session và giới hạn của nó
• 3.7Kho phiên dùng chung
• 3.8Token tự chứa: JWT
• 3.9Health check: máy treo vẫn nhận yêu cầu
• 3.10Liveness và readiness
• 3.11Tự động thêm bớt máy
• 3.12Hướng tiếp theo

• 4.1Tình huống: giá cũ và cơn tăng tải lúc nửa đêm
• 4.2Nguyên lý: lưu kết quả đọc gần nơi dùng
• 4.3Bộ nhớ đệm trong tiến trình và bộ nhớ đệm dùng chung
• 4.4Bốn cách đọc ghi qua bộ nhớ đệm
• 4.5Định lượng: tỉ lệ trúng và tải còn lại trên cơ sở dữ liệu
• 4.6Chẩn đoán sự cố lúc 00:00
• 4.7Hiện tượng dồn tải khi khoá hết hạn
• 4.8Ba biện pháp chống dồn tải
• 4.9Giá cũ: vô hiệu hoá khi dữ liệu đổi
• 4.10CDN cho ảnh và tệp tĩnh
• 4.11Bộ nhớ đệm tại biên cho nội dung động
• 4.12Hướng tiếp theo

• 5.1Tình huống: địa chỉ cũ và primary cũ
• 5.2Sao chép và bản sao chỉ đọc
• 5.3Độ trễ sao chép và cách đo
• 5.4Đọc dữ liệu vừa ghi
• 5.5Sao chép đồng bộ hay bất đồng bộ
• 5.6Primary, standby và failover
• 5.7Partitioning: chia bảng theo cột và theo hàng
• 5.8Sharding: chia dữ liệu ra nhiều máy
• 5.9Chợ Phố đã cần sharding chưa
• 5.10Mỗi loại dữ liệu một loại cơ sở dữ liệu
• 5.11Hướng tiếp theo

• 6.1Tác vụ nền, worker và tác vụ định kỳ
• 6.2Hàng đợi thông điệp: xác nhận đã xử lý (ack), thử lại, hàng đợi thông điệp lỗi (dead letter queue)
• 6.3Tách tác vụ nặng ra khỏi luồng xử lý yêu cầu
• 6.4Backpressure và giới hạn tốc độ (rate limiting)

• 7.1Máy vật lý và dịch vụ thuê chỗ đặt máy (colocation)
• 7.2Ảo hoá: hypervisor, máy ảo, snapshot
• 7.3Quản lý cấu hình bằng Ansible, Chef, Puppet và hiện tượng sai lệch cấu hình giữa các máy
• 7.4Hạ tầng bất biến: thay máy bằng image mới thay vì sửa máy đang chạy
• 7.5Cloud: IaaS, PaaS, SaaS; region và vùng sẵn sàng
• 7.6Hạ tầng dạng mã (IaC): state, plan, apply
• 7.7CI/CD: build, kiểm thử, đóng gói, triển khai
• 7.8Hybrid cloud và multi-cloud

• 8.1Monolith: ưu điểm thực sự và thời điểm kiến trúc này không còn phù hợp
• 8.2Modular monolith: phân chia module rõ ràng bên trong một khối
• 8.3SOA và ESB: bài học từ thế hệ trước
• 8.4Microservices: bounded context theo DDD, định luật Conway, mỗi dịch vụ một cơ sở dữ liệu
• 8.5Các cách tách dần: strangler fig, branch by abstraction
• 8.6Chi phí của việc tách: mạng, giao dịch phân tán, gỡ lỗi, phiên bản API
• 8.7Các cách tách sai: distributed monolith, dịch vụ quá nhỏ, dùng chung cơ sở dữ liệu

• 9.1Khác biệt giữa container và máy ảo; image, registry, layer
• 9.2Các bộ điều phối: Swarm, Mesos, Nomad và Kubernetes
• 9.3Khái niệm cốt lõi của Kubernetes: Pod, Deployment, Service, Ingress, ConfigMap, Secret, StatefulSet
• 9.4Xếp lịch, mức tài nguyên tối thiểu và tối đa của container, HPA, VPA, cluster autoscaler
• 9.5Khám phá dịch vụ qua DNS nội bộ
• 9.6Helm, Kustomize và GitOps với ArgoCD hoặc Flux
• 9.7Kubernetes do nhà cung cấp cloud quản lý, chế độ Autopilot, container serverless
• 9.8Ứng dụng có trạng thái trên Kubernetes: operator, PVC

• 10.1Lời gọi đồng bộ bằng REST, gRPC, GraphQL
• 10.2API gateway và backend for frontend (BFF)
• 10.3Service mesh: sidecar, mTLS, chính sách định tuyến
• 10.4Quản lý phiên bản API, tương thích ngược, kiểm thử hợp đồng (contract testing)
• 10.5Giới hạn thời gian chờ (timeout), thử lại (retry), circuit breaker

• 11.1Khác biệt giữa Pub/Sub và hàng đợi; topic, subscription, consumer group
• 11.2Broker dạng log (Kafka, Pub/Sub, Kinesis) và broker truyền thống (RabbitMQ)
• 11.3Mức đảm bảo giao nhận: tối đa một lần, ít nhất một lần, đúng một lần; bên tiêu thụ xử lý trùng an toàn
• 11.4Giữ thứ tự bằng khoá phân vùng (partition key)
• 11.5Fan-out: một sự kiện được chuyển tới nhiều nơi nhận
• 11.6Sự kiện thông báo và sự kiện mang theo dữ liệu
• 11.7Event sourcing
• 11.8CQRS
• 11.9Schema registry và phiên bản sự kiện

• 12.1Vấn đề ghi vào hai nơi (dual-write)
• 12.2Two-phase commit và lý do ít được sử dụng
• 12.3Saga: điều phối tập trung (orchestration) hoặc phối hợp phân tán (choreography); bước bù trừ
• 12.4Transactional outbox và inbox
• 12.5Khoá idempotency và khử trùng
• 12.6Nhất quán sau một khoảng thời gian và mô hình đọc riêng
• 12.7Giải quyết xung đột, CRDT

• 13.1Từ ETL theo lô sang ELT, rồi sang xử lý luồng (streaming)
• 13.2Change Data Capture: đọc bằng truy vấn hoặc đọc log (WAL, binlog, oplog)
• 13.3Debezium và connector; snapshot ban đầu, sau đó đọc log liên tục
• 13.4Kết hợp CDC với outbox
• 13.5Dùng CDC để đồng bộ chỉ mục tìm kiếm, bộ nhớ đệm và kho dữ liệu
• 13.6Data lake, data warehouse, lakehouse
• 13.7Kiến trúc Lambda và Kappa
• 13.8Vận hành CDC: replication slot, độ trễ, thay đổi schema

• 14.1Công cụ migration và đánh số phiên bản schema
• 14.2Mở rộng trước, thu hẹp sau (expand–contract)
• 14.3Migration không gián đoạn hệ thống, bổ sung dữ liệu cũ (backfill)
• 14.4Đọc hai nơi và ghi hai nơi khi chuyển sang cơ sở dữ liệu khác

• 15.1Sao lưu toàn phần, tăng dần, chênh lệch; sao lưu logic và sao lưu vật lý
• 15.2PITR: bản sao lưu nền kết hợp log lưu trữ để khôi phục về một thời điểm bất kỳ; thời hạn lưu giữ
• 15.3RPO, RTO và chi phí tương ứng
• 15.4Snapshot và sao chép sang region khác
• 15.5Diễn tập khôi phục: bản sao lưu chưa được khôi phục thử thì chưa được kiểm chứng
• 15.6Các mức khôi phục sau thảm hoạ: sao lưu và khôi phục, pilot light, warm standby, active-active
• 15.7Nhiều zone, nhiều region, chuyển region khi có sự cố
• 15.8Kiến trúc cell để khoanh vùng sự cố

• 16.1Thay toàn bộ một lần, sau đó thay dần từng máy (rolling)
• 16.2Blue/green, canary, phát hành từng bước
• 16.3Feature flag, dark launch
• 16.4Quay về phiên bản cũ hay sửa lỗi rồi tiếp tục (roll back, roll forward)

• 17.1Log, metric, trace và profiling
• 17.2OpenTelemetry và correlation ID
• 17.3SLI, SLO, error budget
• 17.4Cảnh báo, trực sự cố, xử lý sự cố, postmortem
• 17.5Chaos engineering

• 18.1Từ tường lửa vành đai sang zero trust
• 18.2Xác thực và phân quyền: phiên đăng nhập, OAuth2 và OIDC, danh tính cho dịch vụ (workload identity)
• 18.3Quản lý secret
• 18.4Mã hoá khi lưu trữ, khi truyền và mã hoá đầu cuối
• 18.5Chuỗi cung ứng phần mềm: quét image, ký image, chặn image chưa ký khi triển khai
• 18.6Cô lập dữ liệu giữa các khách thuê (multi-tenancy)

• 19.1Serverless và FaaS
• 19.2Điện toán biên (edge computing)
• 19.3Platform engineering và internal developer platform
• 19.4FinOps: quản lý chi phí cloud
• 19.5Khối lượng công việc AI và LLM, nền tảng agent

• 20.1Tệp phẳng, mô hình phân cấp (IMS), mô hình mạng (CODASYL)
• 20.2Mô hình quan hệ của Codd năm 1970, SQL, ACID
• 20.3OLTP và OLAP: data warehouse, star schema, lưu trữ theo cột
• 20.4NoSQL khởi đầu từ Bigtable và Dynamo: key-value, document, wide-column, graph
• 20.5BASE và mức nhất quán điều chỉnh được
• 20.6NewSQL và distributed SQL: Spanner, CockroachDB, TiDB, YugabyteDB
• 20.7Cơ sở dữ liệu trên cloud tách lưu trữ khỏi tính toán (Aurora, AlloyDB, Neon); cơ sở dữ liệu serverless
• 20.8Cơ sở dữ liệu chuyên dụng: chuỗi thời gian, tìm kiếm, sổ cái, dữ liệu bản đồ (PostGIS)
• 20.9HTAP: một hệ thống cho cả giao dịch và phân tích
• 20.10Cơ sở dữ liệu vector và chỉ mục vector trong cơ sở dữ liệu phổ biến (pgvector)

• 21.1Storage engine: B-tree và LSM-tree, page, buffer pool, compaction
• 21.2Write-ahead log, checkpoint, fsync và độ bền dữ liệu
• 21.3Giao dịch, ACID, MVCC và việc dọn các phiên bản cũ
• 21.4Các mức cô lập (isolation) và hiện tượng đọc tương ứng: dirty read, non-repeatable read, phantom, write skew
• 21.5Khoá, deadlock, khoá lạc quan
• 21.6Các loại chỉ mục: B-tree, hash, GIN, GiST, covering, partial, chỉ mục trên JSON
• 21.7Bộ lập kế hoạch truy vấn, thống kê, cách đọc kế hoạch thực thi
• 21.8Các kiểu sao chép: một leader, nhiều leader, không leader (quorum)
• 21.9Đồng thuận: Raft, Paxos; bầu leader; split brain
• 21.10Mỗi kết nối một tiến trình hay một luồng; công cụ nhóm kết nối như PgBouncer; proxy
• 21.11Cơ sở dữ liệu do cloud quản lý hay tự vận hành; cơ sở dữ liệu trên Kubernetes bằng operator

• 22.1Lịch sử: luật viết tay, ML cổ điển chạy theo lô, deep learning trên GPU, foundation model
• 22.2Vòng đời model: thu thập dữ liệu, xây dựng feature, huấn luyện, đánh giá, triển khai, theo dõi
• 22.3Đường ống dữ liệu, phiên bản dữ liệu, gán nhãn
• 22.4Feature store: phần offline và online; độ lệch giữa huấn luyện và suy luận
• 22.5Huấn luyện phân tán trên GPU, TPU; theo dõi thí nghiệm
• 22.6Model registry và phiên bản model
• 22.7Suy luận theo lô, theo từng yêu cầu và theo luồng dữ liệu
• 22.8Đưa model mới vào vận hành: shadow, canary, A/B test
• 22.9Theo dõi data drift và concept drift
• 22.10Các mức trưởng thành MLOps: thủ công, đường ống tự động, CI/CD cho model
• 22.11Xếp lịch GPU trên Kubernetes và chi phí

• 23.1Gọi qua API hay tự vận hành; LLM gateway, định tuyến giữa nhiều model
• 23.2Suy luận: gom lô (batching), bộ nhớ đệm KV, lượng tử hoá (quantization), bộ nhớ GPU
• 23.3Prompt, đầu ra có cấu trúc, gọi công cụ (function calling)
• 23.4RAG: chia đoạn, embedding, chỉ mục vector (HNSW, IVF), tìm kiếm kết hợp, xếp hạng lại
• 23.5Đồng bộ dữ liệu nguồn sang chỉ mục vector, kết nối với CDC ở chương 13
• 23.6Lựa chọn giữa fine-tune, RAG và điều chỉnh prompt
• 23.7Agent: vòng lập kế hoạch, hành động, quan sát; hệ nhiều agent; bộ nhớ; điều phối
• 23.8Đánh giá: bộ kiểm thử offline, dùng LLM để chấm điểm, kiểm thử hồi quy
• 23.9Guardrail: chặn prompt injection, che dữ liệu cá nhân, kiểm tra đầu ra
• 23.10Bộ nhớ đệm ngữ nghĩa, bộ nhớ đệm prompt, kiểm soát chi phí và độ trễ
• 23.11Quan sát LLM: trace từng bước, số token, chi phí

• 24.1Máy tính chỉ thực thi lệnh của CPU. Mỗi ngôn ngữ là một cách dịch mã nguồn xuống các lệnh đó, thông qua thanh ghi, bộ nhớ đệm, bộ nhớ trong và lời gọi hệ thống
• 24.2Lịch sử: mã máy, assembly, Fortran và COBOL, C, C++, Java và C# chạy trên máy ảo, các ngôn ngữ kịch bản (Perl, PHP, Python, JavaScript), sau đó là Go, Rust, Kotlin, TypeScript
• 24.3Cách thực thi: biên dịch trước ra mã máy (AOT), bytecode chạy trên máy ảo có JIT, trình thông dịch, engine JIT như V8, WebAssembly
• 24.4Cách quản lý bộ nhớ: cấp phát và giải phóng thủ công (C), RAII (C++), ownership (Rust), garbage collector (Java, Go, C#, JavaScript), đếm tham chiếu (Python, Swift)
• 24.5Cách thực thi song song: luồng của hệ điều hành, goroutine và virtual thread, event loop (Node.js, asyncio), actor (Erlang, Elixir); GIL của CPython và bản build không có GIL
• 24.6Hệ thống kiểu: tĩnh hay động, chặt hay lỏng, suy luận kiểu, chống lỗi null
• 24.7Runtime khi triển khai: tệp nhị phân độc lập hay cần cài runtime; thời gian khởi động, kích thước image, khởi động nguội; AOT cho Java và .NET (GraalVM native image, .NET Native AOT từ .NET 7)
• 24.8Gọi chéo ngôn ngữ (FFI): Python phục vụ được ML nhờ gọi xuống C, C++ và CUDA; JNI; WebAssembly
• 24.9Lý do các ngôn ngữ không thay thế được nhau: ba lựa chọn nền tảng về cách dịch, cách quản lý bộ nhớ và cách thực thi song song đã gắn mỗi ngôn ngữ với một ngách riêng

• 25.1C và C++: hệ điều hành, thiết bị nhúng, game engine, engine cơ sở dữ liệu, giao dịch tần suất cao
• 25.2Rust: phần mềm hệ thống cần an toàn bộ nhớ mà không dùng garbage collector, công cụ hạ tầng, WebAssembly
• 25.3Go: hạ tầng cloud như Kubernetes, Docker, Terraform; các dịch vụ mạng
• 25.4Java và Kotlin: hệ thống doanh nghiệp phía máy chủ, big data trên JVM (Kafka, Spark, Flink), Android
• 25.5C# và .NET: ứng dụng doanh nghiệp, hệ sinh thái Microsoft, game với Unity
• 25.6Python: xử lý dữ liệu, ML và AI, viết kịch bản, tích hợp các hệ thống
• 25.7JavaScript và TypeScript: giao diện web, phía máy chủ với Node.js, full-stack
• 25.8Erlang và Elixir: viễn thông, nhắn tin, hệ thống tự phục hồi khi lỗi, chạy trên máy ảo BEAM
• 25.9SQL: ngôn ngữ khai báo chuyên cho dữ liệu
• 25.10Các ngách khác: Swift, Scala, PHP, Ruby, R, Julia, CUDA, Solidity
• 25.11Tiêu chí lựa chọn: năng lực hiện có của đội, thư viện sẵn có, hiệu năng, độ trễ do garbage collector, cách triển khai, thị trường tuyển dụng
• 25.12Microservices viết bằng nhiều ngôn ngữ: lợi ích và chi phí
• 25.13Bảng so sánh các ngôn ngữ theo cách thực thi, bộ nhớ, thực thi song song, thời gian khởi động và ngách

• 26.1Mô hình OSI và TCP/IP: chức năng của từng tầng
• 26.2Địa chỉ IP, subnet, CIDR; IPv4 và IPv6
• 26.3TCP và UDP: bắt tay, kiểm soát tắc nghẽn, duy trì kết nối (keep-alive)
• 26.4DNS: phân giải tên, TTL, bộ nhớ đệm DNS
• 26.5HTTP/1.1, HTTP/2, HTTP/3 và QUIC: vấn đề mà mỗi phiên bản giải quyết
• 26.6TLS: bắt tay, chứng chỉ, mTLS
• 26.7Độ trễ thực tế: trong một máy, trong một zone, giữa các region, giữa các châu lục
• 26.8Lịch sử: mạng nội bộ, Internet công cộng, CDN, mạng định nghĩa bằng phần mềm (SDN)

• 27.1VPC, subnet, bảng định tuyến, quy tắc tường lửa, security group
• 27.2NAT gateway và kiểm soát lưu lượng đi ra ngoài (egress)
• 27.3Kết nối các mạng: VPN, peering, interconnect, mô hình hub-and-spoke
• 27.4Gọi dịch vụ cloud qua đường kết nối riêng: private endpoint, Private Service Connect
• 27.5Cân bằng tải của cloud: toàn cầu hay theo region, tầng 4 hay tầng 7, anycast
• 27.6Mạng trong Kubernetes: CNI, Service, kube-proxy, Ingress, Gateway API
• 27.7Network policy và eBPF
• 27.8Service mesh: kiến trúc có sidecar và không có sidecar
• 27.9Chẩn đoán mạng: traceroute, tcpdump, đọc log của cân bằng tải và tường lửa

• D1.1Mở rộng theo chiều dọc và mở rộng theo chiều ngang
• D1.2Dịch vụ không giữ trạng thái
• D1.3Tự động điều chỉnh số máy
• D1.4Thuật toán phân phối tải
• D1.5Sidecar
• D1.6Ambassador
• D1.7Adapter

• D2.1Kiến trúc phân tầng
• D2.2Hexagonal và Clean Architecture
• D2.3Modular monolith
• D2.4Microservices
• D2.5SOA
• D2.6Serverless
• D2.7Kiến trúc cell
• D2.8Strangler fig
• D2.9Anti-corruption layer

• D3.1Mỗi dịch vụ một cơ sở dữ liệu
• D3.2Dùng chung cơ sở dữ liệu (cần tránh)
• D3.3Mỗi loại dữ liệu một loại cơ sở dữ liệu
• D3.4Partitioning và sharding
• D3.5Consistent hashing
• D3.6Materialized view
• D3.7Bảng chỉ mục riêng

• D4.1Two-phase commit
• D4.2Saga
• D4.3Outbox và inbox
• D4.4Bên tiêu thụ xử lý trùng an toàn
• D4.5Khoá lạc quan và khoá bi quan
• D4.6Khoá phân tán
• D4.7Fencing token
• D4.8CRDT

• D5.1Hàng đợi
• D5.2Pub/Sub
• D5.3Fan-out
• D5.4Nhiều bên tiêu thụ chia nhau xử lý
• D5.5Hàng đợi có độ ưu tiên
• D5.6Hàng đợi thông điệp lỗi (dead letter queue)
• D5.7Topic riêng cho thử lại
• D5.8Khoá giữ thứ tự
• D5.9Claim check
• D5.10Yêu cầu–phản hồi
• D5.11Xác nhận đã nhận (delivery receipt)

• D6.1CDC
• D6.2ETL và ELT
• D6.3Sao chép dữ liệu
• D6.4Sự kiện mang theo dữ liệu
• D6.5Bổ sung dữ liệu cũ (backfill)
• D6.6Luồng thay đổi sang hệ tìm kiếm, bộ nhớ đệm và kho dữ liệu

• D7.1Sự kiện thông báo
• D7.2Event sourcing
• D7.3CQRS
• D7.4Event store
• D7.5Snapshot
• D7.6Projection
• D7.7Thay đổi schema sự kiện

• D8.1Nạp khi cần
• D8.2Đọc xuyên và ghi xuyên
• D8.3Ghi sau
• D8.4Làm mới trước khi hết hạn
• D8.5Lưu cả kết quả rỗng
• D8.6Gộp các yêu cầu trùng
• D8.7Bộ nhớ đệm nhiều tầng

• D9.1API gateway
• D9.2Backend for frontend
• D9.3Service mesh
• D9.4Phiên bản API
• D9.5Phân trang
• D9.6Giới hạn tốc độ
• D9.7Điều tiết lưu lượng (throttling)
• D9.8Long polling, WebSocket, SSE

• D10.1Timeout
• D10.2Thử lại có backoff và jitter
• D10.3Circuit breaker
• D10.4Bulkhead
• D10.5Fallback
• D10.6Giảm tải chủ động (load shedding)
• D10.7Backpressure
• D10.8Health check
• D10.9Suy giảm chức năng có kiểm soát thay vì ngừng hoạt động

• D11.1Rolling
• D11.2Blue/green
• D11.3Canary
• D11.4Feature flag
• D11.5Chạy thử bằng lưu lượng thật (shadow)
• D11.6GitOps
• D11.7Hạ tầng bất biến

• D12.1Sao lưu toàn phần và tăng dần
• D12.2PITR
• D12.3Snapshot
• D12.4Standby nóng, ấm, lạnh
• D12.5Active–passive
• D12.6Active–active
• D12.7Chuyển region
• D12.8Quorum

• D13.1Log có cấu trúc
• D13.2Correlation ID
• D13.3Distributed tracing
• D13.4Metric RED và USE
• D13.5Cảnh báo theo SLO
• D13.6Audit log

• D14.1Zero trust
• D14.2mTLS
• D14.3Xác thực bằng token
• D14.4Kho secret
• D14.5Envelope encryption
• D14.6Xoay vòng khoá
• D14.7Quyền tối thiểu
• D14.8Chính sách dạng mã (policy as code)

• D15.1Mỗi khách thuê một bộ tài nguyên riêng (silo)
• D15.2Dùng chung toàn bộ (pool)
• D15.3Kết hợp (bridge)
• D15.4Định tuyến theo khách thuê
• D15.5Ngăn một khách thuê chiếm dụng tài nguyên

• D16.1Strangler fig
• D16.2Branch by abstraction
• D16.3Expand–contract
• D16.4Ghi hai nơi
• D16.5Đọc hai nơi
• D16.6Đọc thử song song (shadow read)
• D16.7Chạy song song hai hệ thống

• D17.1Trạng thái trực tuyến (presence)
• D17.2Pub/Sub thời gian thực
• D17.3Đồng bộ trạng thái
• D17.4Đồng bộ thời gian, đồng hồ logic
• D17.5Đồng bộ nhiều thiết bị

• D18.1Chỉ mục đảo (inverted index)
• D18.2Đồng bộ chỉ mục bằng CDC
• D18.3OLTP và OLAP
• D18.4Tính tổng hợp trước
• D18.5Lambda và Kappa

• D19.1B-tree và LSM-tree
• D19.2Write-ahead log
• D19.3MVCC
• D19.4Mức cô lập
• D19.5Các loại chỉ mục
• D19.6Kế hoạch thực thi
• D19.7Một leader, nhiều leader, không leader
• D19.8Đọc ghi theo quorum
• D19.9Raft và Paxos
• D19.10Tách lưu trữ khỏi tính toán
• D19.11Nhóm kết nối

• D20.1Feature store
• D20.2Đường ống huấn luyện
• D20.3Model registry
• D20.4Suy luận theo lô, theo yêu cầu, theo luồng
• D20.5Shadow và canary cho model
• D20.6Theo dõi drift
• D20.7RAG
• D20.8Chỉ mục vector
• D20.9Tìm kiếm kết hợp và xếp hạng lại
• D20.10LLM gateway
• D20.11Bộ nhớ đệm ngữ nghĩa
• D20.12Guardrail
• D20.13Bộ đánh giá
• D20.14Điều phối agent

• D21.1Nhóm luồng, nhóm worker
• D21.2Event loop
• D21.3Actor
• D21.4Goroutine và channel (CSP)
• D21.5async/await, future, promise
• D21.6Nhiều tiến trình để vượt giới hạn của GIL
• D21.7Object pool, arena allocator
• D21.8Zero-copy I/O
• D21.9Gọi C từ ngôn ngữ khác (FFI)
• D21.10Sidecar cho hệ thống nhiều ngôn ngữ
• D21.11Plugin bằng WebAssembly
• D21.12Giảm khởi động nguội: AOT native image, giữ sẵn instance

• D22.1Cân bằng tải tầng 4 và tầng 7
• D22.2Reverse proxy
• D22.3Anycast và cân bằng tải toàn cầu
• D22.4CDN
• D22.5Chuyển đổi dự phòng (failover) bằng DNS
• D22.6Khám phá dịch vụ
• D22.7Hub-and-spoke
• D22.8VPC peering
• D22.9Private endpoint
• D22.10NAT và kiểm soát egress
• D22.11mTLS
• D22.12Duy trì kết nối và nhóm kết nối
• D22.13Ghép kênh HTTP/2
• D22.14Network policy

• 28.1Bảng đối chiếu giữa domain và các chương liên quan
• 28.2Lộ trình tham khảo cho ba quy mô: công ty khởi nghiệp, công ty đang tăng trưởng, doanh nghiệp lớn

• 29.1Áp dụng quá sớm: microservices hoặc Kubernetes khi chưa có nhu cầu
• 29.2Áp dụng quá muộn: hệ thống đã lớn nhưng chưa có bản sao lưu được kiểm chứng và chưa có công cụ quan sát
• 29.3Distributed monolith, dùng chung cơ sở dữ liệu, dịch vụ gọi nhau quá nhiều, ghi hai nơi không có outbox

• 30.1Ngưỡng đo cho từng lần chuyển
• 30.2Các câu hỏi cần trả lời trước khi chuyển

Bốn câu hỏi trước mỗi lần chuyển

1. Trục nào đã chạm giới hạn, và được đo bằng chỉ số nào: lưu lượng truy cập, độ trễ p99, dung lượng, số đội, số lần triển khai mỗi ngày?
2. Giai đoạn hiện tại đã được khai thác hết chưa: chỉ mục, bộ nhớ đệm, mở rộng theo chiều dọc, phân chia module?
3. Giai đoạn mới sẽ để lại vấn đề gì, và đội có đủ năng lực vận hành không?
4. Nếu chuyển đổi không phù hợp, hệ thống quay lại giai đoạn trước bằng cách nào?

• 31.1Trình bày một hệ thống đi qua lần lượt các chương 1 đến 27
• 31.2Liên kết với các tình huống có sẵn trong KB

Gợi ý: chọn một sản phẩm giả định, chẳng hạn một trang thương mại điện tử. Trình bày lần lượt các mốc 1 nghìn, 100 nghìn và 10 triệu người dùng. Tại mỗi mốc, ghi rõ hệ thống chuyển sang chương nào và chỉ số nào buộc phải chuyển.

• Martin Kleppmann, Designing Data-Intensive Applications: sao chép, phân vùng, giao dịch, xử lý luồng; dùng cho chương 5, 11, 12, 13.
• Alex Petrov, Database Internals: storage engine, sao chép, đồng thuận; dùng cho chương 21 và D19.
• Sam Newman, Building Microservices và Monolith to Microservices: dùng cho chương 8 và 14.
• Michael Nygard, Release It!: các pattern giữ hệ thống ổn định; dùng cho chương 10 và D10.
• Google, Site Reliability Engineering: dùng cho chương 17.
• Gregor Hohpe, Bobby Woolf, Enterprise Integration Patterns: dùng cho D5.
• Chris Richardson, microservices.io: saga, outbox, CQRS; dùng cho chương 12, D4, D7.
• Chip Huyen, Designing Machine Learning Systems và AI Engineering: dùng cho chương 22 và 23.
• D. Sculley và cộng sự, Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015: dùng cho chương 22.
• Randal Bryant, David O'Hallaron, Computer Systems: A Programmer's Perspective: từ mã máy, bộ nhớ tới tiến trình; dùng cho chương 24.
• Robert Nystrom, Crafting Interpreters: trình thông dịch, máy ảo bytecode, garbage collector; dùng cho chương 24.
• Ilya Grigorik, High Performance Browser Networking: TCP, TLS, HTTP/2, độ trễ; dùng cho chương 26.

• D.1Máy chủ ứng dụng và runtime: Tomcat, HikariCP, nginx, Node.js, Go
• D.2Cơ sở dữ liệu và nhóm kết nối: PostgreSQL, MySQL, PgBouncer, Redis
• D.3Hệ điều hành, cân bằng tải, Kubernetes: somaxconn, AWS ALB, GCP LB, probe