Microsoft arbejder på GPT-4 konkurrent

Med den store sprogmodel MAI-1 har Microsoft for alvor meldt sig på banen i forhold til Anthropic, OpenAI og Google, skriver The Information mandag i denne uge. Og det bringer interessant nok Microsoft i direkte konkurrence med OpenAI, som de har investeret kraftigt i.

Modellen MAI-1 udvikles af et team under Mustapha Suleyman, tidligere DeepMind, leder af Google AI og indtil marts måned i år direktør for startup ‘en Inflection. Inflection blev i marts måned opkøbt af Microsoft og Suleyman hyret ind som leder af Microsofts AI-afdeling.

MAI-1 er trænet på omkring 500 milliarder parametre. Til sammenligning har GPT-4 efter sigende 1 billion parametre, hvorimod Meta Mistrals modeller ligger omkring 70 milliarder parametre. 

Men mere interessant er det i virkeligheden, at den er trænet på data fra henholdsvis Inflection, men også tekst generet fra OpenAIs GPT-4 og åbne data fra internettet. På den måde kan Microsoft muligvis undgå de værste ophavsretsproblemer omkring deres træningsdata.

I sidste måned meldte Microsoft ud omkring deres Phi-3 model, der er tænkt til at kunne køres lokalt og MAI-1 er derfor et udtryk for at Microsoft har valgt en flerstrenget strategi i deres tilgang til AI. 

Det er endnu ikke sikkert hverken hvornår MAI-1 vil blive officielt introduceret fra Microsoft eller hvad det mere specifikke formål er med modellen.