델 테크놀로지스(Dell Technologies)는 AI 모델의 전력 소비를 줄이고 데이터센터 운영을 최적화 할 수 있는 ‘컨셉 아스트로(Concept Astro)’ 플랫폼을 16일 발표했다. 

델 테크놀로지스가 새롭게 공개한 ‘컨셉 아스트로’는 에이전틱 AI, 디지털 트윈, 운영 자동화 기술을 결합한 IT 인프라 최적화 솔루션이다. 이 솔루션은 IT 업무, 특히 AI 워크로드가 소비하는 에너지를 실시간으로 측정하고, 전력 비용과 탄소 배출량을 정보를 바탕으로 데이터센터 운영을 위한 의사결정을 돕는다.

특히 디지털 트윈 기술을 이용해 워크로드가 어느 시점, 어느 장소에서 실행되는 것이 가장 효율적인지 가늠할 수 있다. 예를 들어 대시보드를 통해 데이터센터 내 사용 가능한 전력을 시각적으로 제공해 더 효율적인 전력을 분배할 수 있다. 또 에이전틱 AI 기술로 인간의 개입 없이도 해당 작업이 마무리되는 시간을 예측하고, 전력망에서 제공되는 에너지 단가 및 탄소 배출량을 고려해 실행 시점을 결정할 수 있다.

컨셉 아스트로는 연구원이나 설비 관리자, 데이터센터 운영자는 물론 CFO나 CIO까지 다양한 역할에 맞춰 보고서를 제공한다. 실시간 정보를 수집해 데이터 센터 전반에 대한 포괄적인 관점을 제공, 비즈니스 성과를 저해하지 않으면서도 에너지 비용을 절감하는 최적의 방안을 도출할 수 있다.

델 테크놀로지스는 현재 ‘컨셉 아스트로’를 활용한 연구를 지속하고 있다. 이번 버전에서는 디지털 트윈 기술로 워크로드를 시뮬레이션해 인사이트를 추출하고, 전력망 데이터에 기반해 데이터 센터의 전력을 더 효율적으로 활용하는 방법을 식별한다. ‘컨셉 아스트로’는 모니터링 스위트 제품인 ‘델 AI옵스(Dell AIOps)’를 기반으로 하며, ‘AI옵스 어시스턴트(AIOps Assistant)’를 통해 제공되는 기능들을 포함하고 있다.

델 테크놀로지스는 ‘컨셉 아스트로’의 구현 범위를 테스트하기 위해 캘리포니아 대학교 샌디에고 캠퍼스(University of California San Diego)의 스크립스 해양학 연구소(Scripps Institution of Oceanography)와 협력해 산호초 연구를 고도화시키고 있다. 연구팀은 ‘엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA)’를 사용해 수중 이미지 수백만 장을 고해상도 3D 모델로 변환해 전 세계 산호초의 상태를 확인하고 있다. 한 번의 다이빙에서 약 350GB의 이미지를 수집하며, 연간 300~400회의 입수를 실시하고 있다. 이러한 이미지를 처리하려면 상당한 컴퓨팅 및 저장 용량이 요구된다.

최근 시행된 시범 운영에서 ‘컨셉 아스트로’는 비용, 속도, 배출량 등의 요소들을 조합해 워크로드를 실행하는 최적의 시간과 위치를 스크립스 연구소에 제안했다. 연구 팀은 제안에 따라 최적의 에너지 사용 시간대에 워크로드를 일정화함으로써 전력망 부담을 최소화하고, 연구 연속성을 유지함으로써 비용을 20% 절감하고 배출량을 32% 감소시켰다. 또 기존 데이터 센터 장비를 ‘엔비디아 기반 델 AI 팩토리’로 업그레이드하며 델의 최신 세대 서버에서 기존보다 시간당 두 배 더 많은 이미지를 처리할 수 있게 됐다.