Doorzoek de gemeenschap

In een spannende ontwikkeling in de wereld van kunstmatige intelligentie, heeft Microsoft aangekondigd dat het binnenkort "NPU-geoptimaliseerde" versies van het DeepSeek-R1 AI-model zal lanceren voor Copilot+ PC's. De eerste modellen zullen beschikbaar zijn voor apparaten met Snapdragon X-processoren, gevolgd door PC's die zijn uitgerust met Intel Lunar Lake en AMD Ryzen AI 9-processoren. De eerste release betreft het DeepSeek-R1-Distill-Qwen-1.5B model, dat toegankelijk zal zijn via de Microsoft AI Toolkit voor ontwikkelaars. Later zullen ook 7B en 14B varianten beschikbaar komen. Vereisten voor Windows 11 Copilot+ PC's Windows 11 Copilot+ PC's zijn krachtige apparaten die minimaal 256 GB opslag, 16 GB RAM en een NPU vereisen die een minimum van 40 TOPS kan leveren. Dit betekent dat sommige oudere NPU-compatibele PC's niet in staat zullen zijn om deze modellen lokaal uit te voeren. Microsoft benadrukt in een blogpost dat deze geoptimaliseerde modellen ontwikkelaars in staat stellen om AI-gestuurde applicaties te bouwen en implementeren die efficiënt op het apparaat draaien, waardoor ze optimaal gebruik maken van de krachtige NPU's in Copilot+ PC's. Innovatieve Technologieën Microsoft heeft met zijn werk aan Phi Silica een manier gevonden om zeer efficiënte inferencing te realiseren, wat resulteert in competitieve tijden voor de eerste token en doorvoersnelheden, zonder de batterijduur en het verbruik van PC-bronnen aanzienlijk te beïnvloeden. Bovendien maakt het gebruik van Windows Copilot Runtime (WCR) het mogelijk om de diverse Windows-ecosysteem te schalen met het ONNX QDQ-formaat. In de blogpost wordt verder toegelicht hoe Microsoft ervoor heeft gezorgd dat de R1-modellen lokaal kunnen draaien op NPU-gebaseerde hardware. "We maken gebruik van een sliding window-ontwerp dat super snelle tijden voor de eerste token mogelijk maakt en ondersteuning voor lange contexten biedt, ondanks het ontbreken van dynamische tensorondersteuning in de hardwarestack. Daarnaast passen we het 4-bit QuaRot-quantizatieschema toe om optimaal gebruik te maken van low bit processing." Toegankelijkheid voor Ontwikkelaars Microsoft heeft aangekondigd dat het 1.5B Distilled R1-model binnenkort beschikbaar zal zijn, en dat het toegankelijk zal zijn via de AI Toolkit-extensie in VS Code. Ontwikkelaars kunnen de Playground gebruiken om lokaal met DeepSeek R1 te experimenteren op compatibele Copilot+ PC's. Naast de lokale ondersteuning van DeepSeek R1, biedt Microsoft deze AI-modellen ook aan in de cloud via Azure AI Foundry. "Als onderdeel van Azure AI Foundry is DeepSeek R1 toegankelijk op een betrouwbare, schaalbare en enterprise-klaar platform, waardoor bedrijven geavanceerde AI naadloos kunnen integreren terwijl ze voldoen aan SLA's, beveiligingsvereisten en verantwoordelijkheidsverbintenissen - allemaal ondersteund door de betrouwbaarheid en innovatie van Microsoft." Concurrentie in de AI-ruimte Microsoft heeft snel gehandeld om DeepSeek R1 te ondersteunen, zelfs terwijl Amerikaanse technologiebedrijven zich zorgen maken over het bestaan ervan. OpenAI beweert nu dat DeepSeek eigendomssoftware heeft gestolen om hun AI-model te ontwikkelen, wat minder dan $10 miljoen heeft gekost. Dit staat in schril contrast met de AI-modellen die door Amerikaanse bedrijven zijn ontwikkeld, die tot nu toe miljarden hebben gekost. Met deze ontwikkelingen bevestigt Microsoft zijn toewijding aan de vooruitgang van kunstmatige intelligentie en de ondersteuning van ontwikkelaars, terwijl het tegelijkertijd de concurrentie in de technologiewereld blijft aangaan. De aankomende release van de DeepSeek R1-modellen belooft een spannende nieuwe fase te zijn voor zowel ontwikkelaars als eindgebruikers van Windows 11 Copilot+ PC's.