Transformers

Red Hat heeft een spannende stap gezet door Neural Magic over te nemen, een innovatieve startup die zich richt op het optimaliseren van AI-modellen en het aanbieden van inferentiediensten voor zowel GPU's als CPU's. Neural Magic heeft baanbrekende software en algoritmes ontwikkeld die de verwerking van AI-workloads niet alleen versnellen, maar ook efficiënter maken. De oprichters van Neural Magic, MIT-hoogleraar Nir Shavit en MIT-onderzoeker Alex Matveev, hebben een duidelijke missie voor ogen: AI-modellen toegankelijk maken voor iedereen, zonder dat dure en vaak moeilijk te verkrijgen GPU's nodig zijn. Hun overtuiging is dat AI overal kan draaien, van de kleinste apparaten tot de grootste datacenters. Dit geloof heeft hen ertoe aangezet om machine learning-modellen te laten draaien op algemeen beschikbare CPU's, wat hen in staat stelde om een breed scala aan toepassingen te ondersteunen. Later richtten ze hun aandacht op GPU-versnelling, waarbij ze met succes dezelfde optimalisatietechnieken toepasten op generatieve AI die is gebaseerd op virtuele grote taalmodellen (VLLM's). In een recente blogpost legt Matt Hicks, topman van Red Hat, de strategische waarde van deze overname uit: "De software en algoritmes van Neural Magic maken AI toegankelijker, betaalbaarder en gebruiksvriendelijker. Hun technologie democratiseert de toegang tot AI." Hicks is ervan overtuigd dat de integratie van Neural Magic's expertise op het gebied van snelheid en efficiëntie Red Hats positie in de AI-markt zal versterken. "Neural Magic speelt een leidende rol in de VLLM-gemeenschap en deelt onze sterke toewijding aan open source, wat perfect aansluit bij de AI-visie van Red Hat." Red Hat is niet alleen een toonaangevende speler in de open source-wereld, maar ook een actieve deelnemer in de VLLM-gemeenschap. Een VLLM is een krachtige open source-bibliotheek die grote taalmodellen (LLM's) ondersteunt bij het efficiënt afleiden en serveren van modellen. Deze technologie wordt standaard gebruikt in Red Hat Enterprise Linux AI en OpenShift AI, het AI-platform van Red Hat voor Kubernetes-omgevingen. De overname van Neural Magic is meer dan alleen een strategische zet; het is een stap richting een toekomst waarin AI niet alleen krachtiger maar ook toegankelijker is voor iedereen. Door de barrières te verlagen en de toegang tot geavanceerde technologieën te vergemakkelijken, stelt Red Hat bedrijven en ontwikkelaars in staat om hun creativiteit en innovatie te ontketenen. Stel je een wereld voor waarin AI-modellen met een klik op de knop kunnen worden ingezet, ongeacht de hardwarebeperkingen. Een wereld waarin kleine startups en grote ondernemingen dezelfde krachtige AI-tools kunnen gebruiken om hun ideeën te realiseren en hun processen te optimaliseren. Neural Magic maakt deze visie werkelijkheid door de kracht van AI te democratizeren en het potentieel ervan te ontsluiten voor een breed publiek. Met Neural Magic aan boord, kan Red Hat zijn rol als pionier in de AI-ruimte verder versterken. De synergie tussen de open source-filosofie van Red Hat en de innovatieve technologie van Neural Magic biedt een solide basis voor de ontwikkeling van nieuwe en opwindende AI-oplossingen. Het is een kans om gezamenlijk te bouwen aan een toekomst waarin AI niet alleen een hulpmiddel is voor de elite, maar een essentiële component van de dagelijkse technologie voor iedereen. De toekomst van AI is veelbelovend, en met de integratie van Neural Magic in zijn portfolio, is Red Hat goed gepositioneerd om een leidende rol te blijven spelen in deze snel evoluerende sector. Samen kunnen ze de mogelijkheden van AI verkennen en de weg vrijmaken voor nieuwe toepassingen die onze wereld zullen transformeren. De reis is nog maar net begonnen, en de mogelijkheden zijn eindeloos.