인공지능(AI) 분야의 선두 주자인 OpenAI가 자사 서비스인 ChatGPT 등의 운영을 위해 기존의 엔비디아(Nvidia) GPU 외에 구글(Google)의 AI 칩(TPU)을 사용하기 시작했습니다. 이는 OpenAI의 컴퓨팅 인프라 전략에 중요한 변화를 시사하며, AI 칩 및 클라우드 서비스 시장에 상당한 파급 효과를 미칠 것으로 예상됩니다.

 

 

OpenAI의 구글 TPU 도입 배경

 

OpenAI의 이번 결정은 여러 가지 전략적 배경을 가지고 있습니다.

• 컴퓨팅 수요 증가 대응: AI 모델의 훈련 및 추론 연산에 필요한 컴퓨팅 자원 수요가 기하급수적으로 증가함에 따라, OpenAI는 이를 충족시키기 위해 구글 클라우드 서비스(Google Cloud services)를 추가하게 되었습니다.

• 비용 효율성 추구: OpenAI는 구글의 TPU가 엔비디아 GPU보다 추론(inference) 작업에서 비용 효율성이 높다고 판단하고 있습니다. 일부 보고서에 따르면, TPU가 엔비디아 GPU 비용의 약 20% 수준으로 운영되어 추론 비용 절감에 큰 도움이 될 수 있습니다. 컴퓨팅 비용은 2025년 OpenAI 총 비용의 80%를 초과할 것으로 예상되는 만큼, 비용 효율성은 핵심적인 고려 사항입니다.

• 엔비디아 및 마이크로소프트 의존도 완화: OpenAI는 그동안 AI 모델 훈련 및 추론에 엔비디아의 GPU를 대량으로 구매하고 마이크로소프트 데이터센터에 크게 의존해왔습니다. 이번 구글 TPU 도입은 엔비디아 이외의 칩을 실질적으로 처음으로 대규모 도입한 사례이며, 마이크로소프트 데이터센터에 대한 의존도를 낮추려는 움직임으로 해석됩니다.

 

 

주요 경쟁사 간의 이례적인 협력과 그 한계

 

이번 구글과 OpenAI의 협력은 AI 분야의 주요 경쟁사들 간의 이례적인 파트너십이라는 점에서 더욱 주목받고 있습니다. 구글은 자체 AI 연구소인 딥마인드(DeepMind)를 통해 OpenAI와 직접적으로 경쟁하고 있음에도 불구하고, 자사의 인하우스 TPU를 외부에도 제공하는 노력을 확대하며 애플, Anthropic, Safe Superintelligence 등 다른 주요 고객을 유치해왔습니다.

하지만 구글은 AI 경쟁사인 OpenAI에 자사의 가장 강력한 TPU는 제공하지 않고 있는 것으로 알려졌습니다. 이는 구글이 자체 AI 프로젝트(예: Gemini)를 위해 최첨단 TPU를 비축하고 있으며, 핵심 경쟁사에 모든 기술을 제공하는 것에 대한 신중한 접근 방식을 보여줍니다.

 

 

엔비디아의 클라우드 컴퓨팅 시장 진출

 

이러한 변화 속에서 엔비디아 또한 AI 칩 제조사를 넘어 클라우드 컴퓨팅 시장으로의 확장을 가속화하고 있습니다. 엔비디아는 DGX 클라우드(DGX Cloud)와 같은 자체 GPU 클라우드 서비스를 출시하여, 기업들이 자사의 강력한 컴퓨팅 자원에 직접 접근할 수 있도록 하고 있습니다. 이는 아마존 웹 서비스(AWS), 마이크로소프트 애저(Microsoft Azure), 구글 클라우드와 같은 기존 클라우드 거대 기업들과 직접적으로 경쟁하려는 움직임입니다. 엔비디아는 하드웨어부터 AI 프레임워크, 클라우드 서비스까지 수직 통합된 솔루션을 제공하며, AI 인프라 시장에서 더 큰 영향력을 확보하려 하고 있습니다.

 

산업 생태계에 미치는 영향

 

OpenAI의 구글 TPU 도입과 엔비디아의 클라우드 시장 진출은 AI 산업의 컴퓨팅 인프라 지형을 재편할 중요한 변화들입니다. 이는 AI 기업들이 특정 하드웨어 공급업체나 클라우드 제공업체에 대한 의존도를 낮추고, 비용 효율성과 성능을 최적화하기 위해 다양한 옵션을 모색하고 있음을 보여줍니다. 컴퓨팅 비용이 AI 개발 및 운영의 핵심 요소로 부상하면서, 기업들은 더욱 전략적인 파트너십과 하드웨어 다변화를 통해 경쟁력을 확보하려 할 것입니다.

 

관련기사:https://www.reuters.com/business/openai-turns-googles-ai-chips-power-its-products-information-reports-2025-06-27/