kt cloud(대표 김봉균)는 지난 9월15일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 ‘kt cloud summit 2026’을 개최했다고 밝혔다.
이번 행사는 AI전환(AX)을 주제로 오전 키노트 세션과 오후 트랙 세션 Track1 AI DC&AX Infrastructure, Track2 Cloud PLATFORM&Services로 나눠 진행됐으며 KT그룹과 파트너사의 AX전략과 AI기반 기술 및 구축·운영사례를 소개했다.
오후에 진행된 Track1 AI DC&AX Infrastructure에서는 데이터와 AI에이전트를 활용한 기업 업무혁신부터 AI 데이터센터의 고밀도화에 대응하는 D2C 냉각시스템, CDU기반 액체냉각 아키텍처, BMS 등을 중심으로 한 데이터센터 운영자동화까지 AI전환을 뒷받침하는 기술이 폭넓게 다뤄졌다. 특히 데이터·온톨로지·에이전트를 활용한 AX전환 전략과 함께 실제 AI 데이터센터에 적용되는 냉각·열관리 및 운영기술의 변화가 중점적으로 다뤄졌다.
Track1 세션은 △Dell AI Factory기반 All-in-one AI 플랫폼 구축방안(장성우 이테크시스템 AI사업개발부 전무) △Direct to Chip Cooling System: 설계부터 커미셔닝까지, D2C로 바라본 AIDC(이원민 KT cloud DC엔지니어링팀 매니저) △AI DC: Chip to Chiller(이진우 슈나이더일렉트릭코리아 시큐어사업본부 매니저) △Navigating Challenges & Technologies of AI Data Center Operations(조창희 어니언소프트웨어 대표) 등을 주제로 발표가 진행됐다.
AX 전환…데이터·에이전트 기반 업무혁신 필요
장성우 이테크시스템 AI사업개발부 전무는 ‘Dell AI Factory기반 All-in-one AI 플랫폼 구축방안’을 주제로 발표하며 성공적인 AI전환 전략을 제시했다.
장 전무는 “AI시대의 성공전략은 데이터를 축적하고 연결·통합한 뒤 AI를 통해 프로세스 혁신을 이뤄 비즈니스 성과를 극대화하는 것”이라고 강조했다.
이어 데이터통합을 통한 AI운영 혁신사례로 AIRBUS가 제시됐다. 에어버스는 팔란티어의 파운드리 온톨로지 프레임워크를 활용해 항공기 제조·유지보수·공급망 운영데이터를 통합하고 AI기반 워크플로우를 구축했다. 이를 통해 생산 병목을 분석하고 유지보수 계획을 최적화하는 한편 공급망 차질 진단과 공장간 워크플로우 조정 등 운영역량을 강화했다.
이와 같은 AI를 활용한 업무혁신을 위해서는 기업 내 분산된 시스템과 데이터를 연결하고 통합할 수 있는 기반이 필요하다. 장 전무는 AX전환을 위한 지원기술로 △데이터 플랫폼 △온톨로지 △에이전트시스템 △보안 등을 제시했다.
데이터 플랫폼은 서로 다른 시스템과 데이터베이스에 분산된 데이터를 하나로 연결하고 활용하기 위한 기반이다. 대규모 벡터데이터를 처리할 수 있는 기능과 함께 외부시스템과 연계할 수 있는 개방형 통합환경이 필요하며 오픈 표준 포맷을 지원해 다양한 시스템과 데이터를 유연하게 연결할 수 있어야 한다.
온톨로지는 통합된 데이터에 의미와 관계를 부여하는 역할을 한다. 온톨로지기반 Graph RAG를 활용하면 키워드검색을 넘어 데이터간 관계를 바탕으로 근거 있는 답변과 추론, 의사결정을 지원할 수 있다.
특히 AI에이전트는 AX전환을 실제 업무로 연결하는 핵심요소다. 에이전트는 업무목표에 따라 데이터를 활용하고 판단한 뒤 실제 업무와 관련된 액션까지 수행한다. 개인 업무를 지원하는 ‘1인 1에이전트’에서 나아가 팀 단위 멀티에이전트로 확장하기 위해서는 에이전트 오케스트레이션시스템도 필요하다.
장 전무는 “사람과 에이전트가 하나의 세션에서 지속적으로 소통하면서 특정 업무나 프로젝트를 수행하는 구조로 업무프로세스를 재설계해야 한다”라며 “결국 에이전트시스템의 핵심은 업무자체를 에이전트를 경유하는 구조로 변화시키는 것”이라고 말했다.
AI활용이 확대되면서 보안의 패러다임이 바뀌고 있다. 보안의 대상이 사람 중심에서 AI와 에이전트까지 확대되는 추세다. 기존에는 방화벽과 사용자 ID·접근권한을 중심으로 보안체계를 구축했다면 에이전트가 기업시스템에 직접 접근하고 업무를 수행하는 환경에서는 에이전트 자체가 새로운 접근 주체가 된다. 이에 따라 API Key 관리와 에이전트별 권한·접근범위를 관리하는 체계가 중요해지고 있다.
AI보안과 관련해서는 AI에이전트 시대에 대응한 오픈형 공동방어체계 구축 움직임도 소개됐다. OSAA는 특정모델이나 기업에 종속되지 않고 AI에이전트 환경의 위협에 공동 대응하는 것을 목표로 하고 있다. NVIDIA도 AI 인프라부터 모델·에이전트까지 아우르는 보안 프레임워크를 공개했다.
또한 국내 금융보안원은 내년 1월 본격적인 금융 AI안정성과 신뢰성 평가를 시작할 계획이다. 이는 금융권을 넘어 다양한 산업의 AI 안정성·신뢰성을 점검하는 준거로 활용될 가능성이 있다.
장 전무는 “금융에 국한되지 않고 많은 산업영역에서 준거 프레임워크가 될 것으로 예상한다”라며 “AI사고와 관리부실에 따른 리스크에 대비한 기업의 대응체계 마련이 필요하다”고 전망했다.
또한 고성능 AI를 구동하기 위한 고성능 통합인프라와 표준화된 환경도 주요요소로 제시됐다. OCP(Open Compute Project)는 초고성능 컴퓨팅 환경과 액체냉각 모듈 등을 포함한 인프라 표준을 마련하고 있으며 OCP인증 등을 통해 고성능 통합인프라를 구축할 수 있는 기준을 제공한다.
이테크시스템은 에티버스그룹의 지주사로 다수의 글로벌 파트너십을 통해 고객에게 최적의 솔루션을 제공하고 있다. KT그룹과 인프라 협력을 통해 우수협력상을 수상한 바 있으며 글로벌 인프라와 국내 AI스타트업의 기술을 결합하는 전략을 바탕으로 AI사업을 확대하고 있다.
또한 이테크시스템은 Dell AI Factory를 지원하고 있다. Dell AI Factory는 OCP 기준을 적용한 고성능·고효율 데이터센터 인프라를 제공한다. 이에 더해 NVIDIA 및 AMD기반 플랫폼을 제공하며 AI 구축환경을 지원한다. 특히 기존 데이터센터를 AI데이터센터로 확대·개편하고 GPU 서버를 도입해 AI솔루션의 PoC와 다양한 솔루션간 통합테스트를 지원할 계획이다.
장 전무는 “이테크시스템은 자체 ‘ETech-AI Stack’을 기반으로 AI인프라부터 솔루션까지 통합지원하며 FDE 인력양성과 지원을 제공하고 있다”라며 “이를 기반으로 고객의 AX전환을 뒷받침하겠다”고 말했다.
AI서버 고밀도화 대응… D2C시스템 설계·구축·검증전략 제시
이원민 KT cloud DC엔지니어링팀 매니저는 ‘Direct to Chip Cooling System: 설계부터 커미셔닝까지, D2C로 바라본 AIDC’를 주제로 발표하며 AI 데이터센터(AI DC)의 고밀도 서버환경에 대응하기 위한 D2C(Direct to Chip) 냉각시스템의 기술적 고려사항과 KT cloud의 기술 축적과정을 소개했다.
KT cloud는 2023년부터 D2C시스템의 주요 구성요소인 △CDU(Coolant Distribution Unit) △배관 △매니폴드 △호스 △콜드플레이트 △필터 등을 분석하고 온도·유량·압력 제어방식을 검토했다. 2024년 용산 데이터센터에서는 실제 서버의 유량과 압력손실 특성을 구현한 부하기를 활용해 PoC를 진행했으며 다양한 실험데이터를 확보했다. 이를 바탕으로 약 200페이지 규모의 D2C시스템 기술서를 작성하며 기술기반을 마련했다.
2025년에는 목동 AI 이노베이션센터에서 리퀴드쿨링용 B200 서버기반 AI DC 환경으로 검증 범위를 확대했다. 용산 PoC와 다른 TCS(Technology Cooling System) 계통구성과 냉각유체를 적용해 조건별 교차검증을 진행했다. 2026년 가산 데이터센터에서는 설계부터 구축, 커미셔닝(CX)까지 수행하며 실제 COLO 상면에 적용해 고밀도 AI 랙 서버실의 상용환경에서 D2C시스템을 검증했다.
D2C시스템 설계에서는 △인프라 구성·운전조건 △TCS 계통 구성방식 △CDU 펌프성능 등을 우선 검토해야 한다. 구축단계에서는 △배관·매니폴드의 연결방식 △제작·설치과정에서의 품질확보 등이 중요하며 커미셔닝에서는 실제 서버가 요구하는 △유량·압력조건 △CDU 성능 및 제어상태 △장애발생 시 페일오버 여부 등을 확인해야 한다.
이 매니저는 “중요한 것은 개별기술을 선택하는 것이 아닌 각각의 선택지가 서로 호환되고 하나의 시스템으로 안정적으로 동작할 수 있도록 전체적인 컨셉을 잡는 것”이라며 “KT cloud는 실제 프로젝트를 통해 설계부터 구축, 커미셔닝까지 전 과정을 직접 수행하며 엔드투엔드 경험을 축적해 왔다”고 설명했다.
AI서버의 고밀도화는 데이터센터 냉각방식에도 변화를 가져오고 있다. 리퀴드쿨링을 적용하면 기존 공랭식대비 랙당 전력밀도를 높일 수 있어 동일한 IT용량을 보다 적은 서버실 면적에 구성할 수 있다. 또한 칩에서 직접 열을 제거하기 때문에 동일한 냉수 공급온도에서 칩 온도를 낮게 유지하거나 동일한 칩 허용온도를 기준으로 더 높은 온도의 냉수를 공급할 수 있다.
냉수 공급온도를 높이면 냉각에 필요한 에너지를 줄여 PUE 개선에도 유리하다. 다만 온도조건은 PUE뿐만 아니라 온도에 따른 칩 성능까지 함께 고려해 설정해야 한다. 리퀴드쿨링시스템 중 D2C시스템은 GPU에서 발생한 열을 콜드플레이트가 흡수하고 TCS계통과 CDU를 거쳐 FWS(Facility Water System)계통으로 전달하는 구조다.
콜드플레이트는 내부 마이크로채널을 통해 제한된 면적에서 전열면적을 확보하고 GPU의 높은 발열을 냉각유체로 전달한다. 유량을 높이면 냉각성능이 향상되지만 압력손실도 증가하기 때문에 서버가 요구하는 △유량·압력손실 △CDU 펌프성능 △TCS계통의 수력특성 등을 함께 검토해야 한다. 이에 따라 D2C시스템을 계획할 때는 개별부품의 성능뿐만 아니라 시스템 전체의 수력조건을 사전에 분석하는 것이 중요하다.
AI서버의 발열밀도는 현재 100~200kW 수준에서 향후 수백kW 규모로 증가할 가능성이 있다. 이 매니저는 고발열을 처리하기 위한 열전달기술의 방향으로 △전열면적 증가 △열전달 경로 단축 △열경계층 최소화 △열수송능력 확대 등을 제시했다. Microchannel, Embedded Cooling, Jet Imingement, Two Phase 등 각각의 기술은 독립적으로 적용되는 것이 아니라 서로 중첩·조합될 수 있으며 D2C 역시 이러한 기술이 결합된 냉각시스템으로 볼 수 있다,
KT cloud는 새로운 냉각기술을 지속적으로 발굴하고 실제 데이터센터 환경에서 검증할 계획이다. 초기 D2C 검토 당시 실제 서버의 특성을 구현할 수 있는 부하기와 계측환경이 부족했지만 필요한 기기를 직접 개발하고 3D프로그램과 해석프로그램을 활용해 검증환경을 구축했다. KT cloud는 시장에 적용가능한 기술은 PoC부터 실제 데이터센터까지 검증하고 적절한 검증수단이 없는 기술은 필요한 환경을 직접 구축한다는 방침이다.
이 매니저는 “D2C시스템을 단순한 냉각설비로만 보고 있지는 않다”라며 “향후 IT 전력량과 연계해 냉각설비를 자동으로 제어하거나 예측하고 데이터센터 전체 관점에서 냉각설비를 활용하는 방안까지 검토해 변화하는 AI인프라에 대응할 수 있도록 D2C시스템을 지속적으로 고도화할 계획”이라고 밝혔다.
D2C부터 열원방출까지 냉각전략 제시
이진우 슈나이더일렉트릭코리아 시큐어사업본부 매니저는 ‘AI DC: Chip to Chiller’를 주제로 발표하며 AI 데이터센터의 전력밀도 증가에 대응하기 위한 액체냉각 아키텍처와 CDU기반 냉각시스템을 소개했다.
데이터센터 서버의 전력밀도 증가는 냉각방식 전환의 주요 배경이다. NVIDIA A100부터 H100, GH200, GB200, Vera Rubin으로 이어지며 랙 전력밀도가 빠르게 증가하고 있다. 엔비디아 H100 같은 경우 칩당 700W의 발열량이 있었으며 GB200은 최대 2,700W까지 약 4배가량 상승했다. 서버의 전력 사용량이 증가할수록 처리해야 할 열도 함께 늘어나면서 공기만으로 열을 제거하는 기존 냉각방식의 한계도 커지고 있다.
이 매니저는 “이제 공랭식만으로 대응하기 어려운 시대가 됐다”라며 “다이렉트 칩(Direct-to-Chip), 콜드플레이트, 액침냉각 등 액체냉각기술이 필요하다”고 밝혔다.
액체냉각 중 현재 시장에서 확대되고 있는 방식은 다이렉트 칩기반 단상(Single Phase) 냉각이다. 서버 랙에 콜드플레이트를 설치하고 TCS(Technology Cooling System)를 통해 냉각유체를 공급한다. 서버에서 흡수한 열은 CDU(Coolant Distribution Unit)로 전달되고 이후 FWS(Facility Water System)를 거쳐 냉동기나 드라이쿨러 등 외부 열원방출설비로 이동한다. Single Phase가 유체의 온도를 높여 열을 전달하는 방식이라면 2상(2-Phase) 냉각방식은 냉각유체의 상변화를 이용해 발열을 처리한다.
다만 액체냉각만으로 서버에서 발생하는 모든 열을 제거할 수는 없다. 일부 잔여 열은 공랭식으로 처리해야 하기 때문에 액체냉각과 공랭식 냉각을 결합한 하이브리드 구성이 필요하다. 이에 따라 이진우 매니저는 액체냉각으로 약 80%의 열을 처리하고 나머지 20%를 공랭식으로 처리하는 구성을 예로 들었다.
특히 CDU는 액체냉각 아키텍처의 핵심설비로 시설측 FWS와 서버측 TCS 사이에서 두 회로를 분리하고 냉각수의 온도·유량·압력 등을 관리해 서버에 적합한 냉각조건을 유지한다. 또한 시설측과 서버측의 냉각회로를 연결하면서 액체냉각시스템의 안정적인 운전을 지원한다.
이 매니저는 “CDU는 온도 컨트롤, 유량 컨트롤, 압력 컨트롤, 유체에 대한 수질 관리, 열원 분리 등을 수행하고 있다”라며 “안정적인 액체냉각 운영을 위해서는 CDU의 역할이 중요하다”고 강조했다.
특히 기존 데이터센터를 고밀도 데이터센터로 전환하는 레트로핏에도 액체냉각을 적용할 수 있다. 기존 저밀도 랙을 모두 철거하는 대신 고밀도 랙에 CDU와 TCS 배관을 추가하고 기존 공랭식 항온항습기와 냉각인프라는 유지하는 방식이다. 기존 시설을 최대한 활용하면서 고밀도 서버를 수용할 수 있다는 점이 특징이다.
이 매니저는 액체냉각의 구성방식을 3가지로 설명했다. 액체냉각과 공랭식 냉각은 열원의 특성과 운전조건에 따라 분리하거나 하나의 시스템으로 통합할 수 있다. 열원분리 방식은 액체냉각과 공랭식 냉각이 각각 적합한 온도조건을 유지할 수 있도록 구성한다. 통합 방식은 액체냉각과 공랭식 냉각을 하나의 시스템으로 구성해 운전한다.
프리쿨링 운전을 확대하는 방식도 있다. 냉동기에서 생산된 1차측 냉수를 공랭식 냉각설비에 먼저 공급해 온도를 높인 뒤 중온의 냉수를 CDU로 보내고 CDU에서 열을 회수한 고온의 냉수를 다시 냉동기로 순환시킨다. 이를 통해 외기조건을 활용하는 프리쿨링 운전시간을 최대한 확보할 수 있다.
슈나이더 일렉트릭은 AI 데이터센터 냉각을 위해 화이트스페이스의 InRow·RDHx 냉각과 컨테인먼트부터 △TCS △배관 △전력설비 △CRAC/H 등 공랭식설비까지 폭넓은 제품군을 보유하고 있다. 액체냉각분야에서도 △Liquid-to-Air HCDU △Liquid-to-Liquid CDU △매니폴드 △공랭식 프리쿨링 냉동기 △드라이쿨러 △수랭식 칠러 등 열원방출설비까지 구성한다.
특히 슈나이더 일렉트릭은 주요제품으로 공랭식 프리쿨링냉동기 제품을 소개했다. 해당 제품은 S-Class TCS 기준에 맞춰 최대 33℃ 수준의 냉수를 생산할 수 있는 냉동기로 구성돼 있다.
이어 AI서버 구축을 위한 제품도 소개됐다. Prefabricated Modular EcoStruxure Pod Data Center를 통해 고밀도 데이터센터의 모듈화 구축도 지원한다. △고밀도 랙 △액체냉각 TCS △전력공급 △케이블 관리 △컨테인먼트 등을 하나의 모듈형 구조로 구성한다. 주요 설비를 공장에서 사전조립한 뒤 여러 개의 섹션으로 나눠 현장에서 설치하는 방식으로 구축기간을 줄일 수 있으며 AI서버 랙 구성에 따라 유연하게 대응할 수 있다.
슈나이더 일렉트릭은 지난해 액체냉각 전문기업 Motivair를 인수하며 관련 기술과 제품군도 확대했다. Motivair는 데이터센터 및 슈퍼컴퓨팅시장에 공급실적을 확보하고 있으며 최대 75kW급 RDHx 냉각과 다양한 용량의 CDU 제품군을 보유하고 있다.
이 매니저는 “AI 데이터센터는 액체냉각뿐만 아니라 전력과 IT 구성까지 함께 고려해야 하는 통합시스템”이라며 “슈나이더 일렉트릭은 다년간 데이터센터 경험을 바탕으로 AI 데이터센터에 적용할 수 있는 레퍼런스 디자인을 확보하고 있다”고 밝혔다.
대규모 DC 운영… BMS·API·자동화 지원해야
조창희 어니언소프트웨어 대표는 ‘Navigating Challenges & Technologies of AI Data Center Operations’를 주제로 발표하며 GW급으로 대형화되는 AI 데이터센터의 운영환경 변화와 이에 대응하기 위한 BMS(Building Management System)·SCADA(Supervisory Control And Data Acquisition) 운영환경 구축전략을 소개했다.
AI 데이터센터는 규모와 구축속도가 빠르게 증가하면서 운영방식에도 변화가 요구되고 있다. 과거 100~200MW급 데이터센터가 대규모 프로젝트로 인식됐으나 최근에는 GW급 프로젝트가 등장하고 있다. 데이터센터 규모가 커질수록 설비에서 발생하는 데이터와 운영대상도 함께 증가해 기존 운영체계만으로 대응하기 어려워진다.
특히 액체냉각이 적용되면서 운영속도의 중요성이 커지고 있는 상황이다. 냉각수 누수 등 이상상황이 발생하면 밸브를 차단하고 전력을 차단한 뒤 GPU서버까지 정지해야 한다. 냉각수 공급이 중단된 상태에서 GPU서버가 계속 가동될 경우 설비손상으로 이어질 수 있어 이상상황을 감지하고 대응하는 시간이 중요하다.
조창희 대표는 “기존 공랭식 데이터센터에서는 분 단위 오퍼레이션도 충분히 빨랐지만 이제는 초 단위 오퍼레이션이 필요하다”라며 “대규모 AI 데이터센터에서는 이상상황을 신속하게 감지하고 대응할 수 있는 운영체계가 중요해지는 추세”라고 밝혔다.
운영규모가 커지면서 BMS가 처리해야 하는 데이터도 급증하고 있다. GW급 데이터센터의 경우 최대 초당 200만개 수준의 BMS데이터를 초 단위로 수집을 하고 컨트롤하고 저장까지 해야되는 상황에 직면할 수 있다. 조 대표는 초당 50만~100만포인트 수준을 일반적인 운영범위로 보고 있으며 실시간 데이터 처리능력을 주요 운영요소로 꼽았다.
기존 BMS는 데이터 규모가 커질수록 여러 시스템과 게이트웨이, 서버를 추가해 확장하는 방식이 활용돼 왔다. 하지만 대규모 AI 데이터센터에서는 시스템이 늘어날수록 투자비와 운영비가 증가하고 각각의 운영환경이 분리되는 사일로 현상이 발생할 수 있으며 관리 복잡성도 커질 수 있다.
또한 안정적인 운영을 위한 시스템 이중화도 규모에 맞춰 달라져야 한다. 어니언소프트웨어는 시스템과 데이터베이스, 물리적 위치를 각각 3중화하는 ‘Triple Redundancy’를 제안했다. BMS·SCADA 역시 IT시스템 기반으로 운영되는 만큼 운영체제 보안패치 등으로 주기적인 시스템 중단이 발생할 수 있다. 3중화 구조는 서로 다른 위치에 3개의 BMS를 구성해 하나의 시스템이나 위치에 장애가 발생하더라도 다른 시스템으로 운영을 이어가는 구조다.
데이터센터를 여러개 운영하는 사업자가 늘어나며 운영본부(Headquarters)에서 복수의 데이터센터를 통합관리하는 방식이 중요해지고 있다. 각 Local BMS에서 발생하는 △원시데이터 △이벤트 △자산 △랙·테넌트 정보 등을 HQ로 실시간 전달하고 하나의 환경에서 여러 데이터센터를 관리한다. 이때 외부에서 내부시스템으로 직접 접속하지 않고 데이터를 외부로 전달하는 ‘Outbound Connection Only’ 방식을 적용한다.
조 대표는 “클론기술을 활용하면 각 데이터센터의 운영화면과 데이터를 원격에서 동일하게 확인할 수 있다”라며 “여러 데이터센터를 하나의 운영본부에서 관리해 운영효율을 높일 수 있다”고 말했다.
BMS데이터의 활용범위를 확대하기 위한 Open API도 주요기술로 제시됐다. 기존 설비 운영시스템을 교체하는 대신 BMS의 데이터를 API로 개방해 △대시보드 △리포트 △AI 운영 △디지털트윈 △CMMS 등 다양한 서비스와 연결하는 방식이다. 설비데이터가 특정 시스템에 머무르지 않고 운영·업무영역으로 확장될 수 있는 구조다.
어니언소프트웨어는 AI 데이터센터 증가에 따른 운영인력 부족에 프로세스 자동화와 AI, 로봇을 활용한다. CMMS를 통한 △유지보수 △작업지시 자동화 △테넌트 포털을 통한 서비스 요청 관리 △AI기반 이상감지·운영지원 등이 대표적이다. 현장순찰과 설비점검에는 광학·열화상·음향 카메라와 센서를 탑재한 로봇을 활용해 정해진 구역을 순찰하고 이상징후를 감지하는 방식도 적용하고 있다.
조 대표는 “어니언소프트웨어는 BMS 데이터의 실시간 수집과 Open API기술을 기반으로 국내·외 데이터센터 운영사업을 확대하고 있다”라며 “대규모 데이터센터에 맞춰 설비데이터를 통합하고 운영업무를 자동화해 통합 운영환경 구축을 추진하겠다”고 말했다.