A Microsoft está a desenvolver os seus próprios chips personalizados para serem usados para treinar grandes modelos de linguagem (LLM) e para alimentar os centros de dados Azure. A estratégia pode ajudar a cortar a dependência face à Nvidia no que toca ao hardware para processamento focado em Inteligência Artificial (IA). Os chips Azure Maia 100 e Cobalt 100 vão chegar aos centros da empresa já em 2024.
Rani Borkar, responsável pelos sistemas de hardware Azure, conta que a Microsoft já tem experiência no desenvolvimento de silício e que “em 2017, começamos a arquitetar a estrutura de hardware da cloud e começamos a jornada que nos coloca no caminho de desenvolver os nossos próprios chips”, cita o The Verge. Ambos os componentes são desenhados pela Microsoft e, em conjugação com uma transformação da infraestrutura cloud para otimizar desempenho, consumo energético e custo, a empresa de Redmond está a “repensar a infraestrutura cloud para a era da Inteligência Artificial (IA) e otimizar todas as camadas dessa infraestrutura”.
O chip Azure Cobalt é um processador de 128 núcleos, construído sobre o design Arm Neoverse CSS, com algumas escolhas personalizadas da Microsoft, como a capacidade de controlar desempenho e consumo energético por núcleo e em cada máquina virtual. Este componente vai ajudar a lidar com cargas de trabalho do Microsoft Teams e dos servidores SQL, com os testes iniciais da Microsoft a mostrar um aumento de desempenho de 40% face ao que é conseguido nos centros de dados que usam servidores Arm convencionais.
Já o Azure Maia 100 foi desenhado para treinar grandes modelos de linguagem e modelos de inferência, sendo o plano usá-lo para lidar com as maiores cargas de trabalho de IA no Azure, incluindo algumas originadas pela parceria com a OpenAI, organização que está envolvida no desenho e teste deste componente. O chip é produzido segundo o método de fabrico de cinco nanómetros da TSMC e tem 105 mil milhões de transístores, menos 30% do que os 150 mil milhões no MI300X AI GPU da Nvidia.
Sam Altman, diretor executivo da OpenAI, revelou ter ficado “entusiasmado quando a Microsoft partilhou os primeiros designs dos chips Maia e trabalhamos juntos para os refinar e testar com os nossos modelos”.