AI 인프라: 시작부터 클러스터링까지 확장

Session Info

AI 워크로드를 온프래미스 환경에서 운영하기 위해서는 GPU 기반의 컴퓨팅과 이를 클러스터링 하기 위한 고속네트워크가 필요하며, 기존의 데이터센터 인프라에서는 이를 수용하기 어렵기 때문에 새로운 인프라 환경으로의 전환이 필요하다.

작은 규모의 AI 인프라에서 시작해 큰 규모로 확장하기 위한 컴퓨팅과 네트워킹 구성 방안에 대해서 최근 글로벌에서 진행된 다양한 사례들을 포함하여 인프라 구성을 위한 방향성을 제시할 예정 입니다. 특히 인피니밴드를 기업들이 익숙하게 운영중인 이더넷으로 대체하기 위한 방안도 제시할 것입니다.

- AI를 위한 인프라 요구사항
- 다양한 GPU 컴퓨팅 요구사항과 확장성
- GPU 서버 클러스터링
- 이더넷 기반 클러스터링의 성능비교와 사례

Speaker

최수영

상무

Cisco

최수영 상무는 Cisco에서 시스템 엔지니어로 엔터프라이즈 고객을 대상으로 네트워킹과 협업 솔루션에 대한 프리세일즈를 담당 하였으며, 컴퓨팅과 데이터센터 인프라 세일즈 스페셜리스트를 거쳐 현재는 Cloud & AI Infra 사업부를 총괄하고 있다.