Microsoft heeft honderden miljoenen dollars geïnvesteerd in een supercomputer voor het trainen van ChatGPT, de chatbot van OpenAI. Daarvoor heeft het bedrijf tienduizenden Nvidia A100's gebruikt.
Ook was het nodig om een nieuwe manier te vinden om servers op racks te plaatsen om uitval te voorkomen, meldt Bloomberg. Het bouwen van de Azure-supercomputer was onderdeel van de deal tussen Microsoft en OpenAI uit 2019, waarbij Microsoft een miljard dollar investeerde in het bedrijf. De computer met tienduizenden Nvidia A100-gpu's kostte honderden miljoenen dollars.
Het begon als een custom computer voor OpenAI, maar inmiddels is het computer voor algemeen gebruik. Omdat het model voor ChatGPT al getraind is, is die over op andere servers die over de hele wereld staan voor het genereren van antwoorden. Microsoft maakte er zelf ook gebruik van voor de nieuwe Bing en nu kunnen andere bedrijven het ook gebruiken. Daarnaast bouwt Microsoft aan een volgende versie van de supercomputer op basis van de Nvidia H100.
Source: Tweakers.net