JJ Garden

SW 엔지니어를 위한 GPU 관련 내용 간단 정리?가 아니라 일단 정리 (NVIDIA GPU 기준)

1. GPU 벤더별 아키텍처 개요시작하기에 앞서 밑 내용은 NVIDIA GPU 기준으로 작성되었음을 알려드립니다.NVIDIA GPU를 포함한 주요 벤더사들의 아케턱처는 다음과 같이 간략하게 요약해두었습니다.항목NVIDIAAMDIntel연산 유닛 이름CUDA Core / Tensor CoreStream Processor / Matrix CoreXe Core / XMX Engine병렬 실행 단위Warp (32 Threads)Wavefront (64 Threads)SIMD Lane (8~16)GPU 클러스터 단위SM (Streaming Multiprocessor)CU (Compute Unit)Xe-core프로그래밍 모델CUDAROCm / HIPoneAPI / SYCL딥러닝 지원cuDNN, TensorRTMIO..

레츠고Socket.IO로 실시간 기능을 설계하다 보면 Namespace, Event, Room이라는 세 가지 개념을 마주하게 된다. 이름만 봐서는 역할 구분이 헷갈릴 수 있는데, 각각의 목적이 명확히 다르다.Namespace는 연결 공간을 분리하는 단위이고, Event는 클라이언트와 서버가 주고받는 메시지의 이름이며, Room은 특정 클라이언트들에게만 메시지를 보내기 위한 서버 측 그룹이다.개념의미예시Namespace연결 영역 분리/chat, /notification, /dashboardEvent메시지 종류 구분subscribe, unsubscribe, realtime_dataRoom메시지를 받을 클라이언트 그룹project:123, user:45, dashboard:sales한 줄로 요약하면 이렇다.N..

동시성 모델을 왜 이해해야 하는가?요즘 백엔드 프레임워크는 대부분 충분히 빠르다.일반적인 CRUD API나 단순 요청 처리만 놓고 보면 FastAPI, Spring Boot, Node.js, Go 중 무엇을 선택하더라도 프레임워크 자체가 병목이 되는 경우는 많지 않다. 실제 서비스에서 더 자주 문제가 되는 부분은 DB 쿼리, 외부 API 지연, 커넥션 풀 부족, 잘못된 worker 설정, CPU-heavy 작업 처리 방식 같은 요소다.그렇다고 해서 백엔드 프레임워크의 동시성 모델을 몰라도 된다는 뜻은 아니다.오히려 프레임워크 자체 성능이 충분히 좋아진 만큼, 성능 문제는 "어떤 프레임워크를 선택했는가"보다 "그 프레임워크를 어떻게 사용했는가"에서 발생하는 경우가 많다.백엔드 서버는 동시에 들어오는 여러 ..

When it comes to operating system design, there are two main approaches: microkernel and monolithic kernel. Both have their pros and cons, and in this article, we will explore the main differences between them. Monolithic KernelA monolithic kernel is an operating system architecture where the entire operating system runs in kernel space. This means that all the basic system services such as pro..