Η Microsoft εκπαιδεύει νέο ανταγωνιστικό μοντέλο AI LLM

Η Microsoft αναπτύσσει ένα νέο μεγάλο γλωσσικό μοντέλο (LLM) με κωδικό όνομα MAI-1, το οποίο έχει τη δυνατότητα να ανταγωνιστεί τα AI LLM που αναπτύχθηκαν από την Google και την OpenAI. Είναι η πρώτη φορά που η Microsoft αναπτύσσει ένα τόσο ισχυρό LLM από τότε που επένδυσε δισεκατομμύρια δολάρια για τα δικαιώματα να αναπτύξει την τεχνολογία της OpenAI στο δικό της πακέτο λογισμικού παραγωγικότητας.

Η ανάπτυξη του MAI-1 επιβλέπεται από την Google DeepMind και τον συνιδρυτή της Inflection, τον Mustafa Suleyman, σύμφωνα με έκθεση του The Information. Τον Μάρτιο του 2024 η Microsoft απέκτησε αρκετούς υπαλλήλους της Inflection σε μια συμφωνία αξίας 650 εκατομμυρίων δολαρίων.

Σύμφωνα με την έκθεση που κυκλοφόρησε στις 6 Μαΐου, το MAI-1 θα έχει περίπου 500 δισεκατομμύρια παραμέτρους, τοποθετώντας το κάπου μεταξύ του ενός τρισεκατομμυρίου παραμέτρων του GPT-4 της OpenAI και των 70 δισεκατομμυρίων παραμέτρων του μοντέλου Meta Llama 3 AI. Αναμένεται επίσης να είναι «πολύ μεγαλύτερο» και πιο ακριβό από οποιοδήποτε από τα προηγούμενα και μικρότερα AI ανοιχτού κώδικα της Microsoft (Phi-3 και WizardLM-2), καθώς απαιτεί περισσότερη υπολογιστική ισχύ και δεδομένα εκπαίδευσης.

Ενώ το MAI-1 μπορεί να αξιοποιήσει τεχνικές και δεδομένα εκπαίδευσης από την Inflection, παραμένει διαφορετικό από οποιοδήποτε μοντέλο και τεχνολογία που παράγεται από την OpenAI ή την Inflection. Σύμφωνα με υπαλλήλους της Microsoft που είναι εξοικειωμένοι με το έργο, το MAI-1 είναι ένα εντελώς νέο LLM που αναπτύχθηκε εσωτερικά από την Microsoft.

Η Microsoft δεν έχει ακόμη ανακοινώσει τον ακριβή σκοπό του MAI-1 και η ακριβής χρήση του θα εξαρτηθεί από την απόδοσή του. Εν τω μεταξύ, η εταιρεία έχει διαθέσει έναν μεγάλο αριθμό διακομιστών με Nvidia GPU και χρησιμοποιεί μεγάλες ποσότητες δεδομένων από διάφορες πηγές για να βελτιώσει το μοντέλο.

Σύμφωνα με αναφορές, ανάλογα με την πρόοδό του, η εταιρεία μπορεί να παρουσιάσει το MAI-1 στη διάσκεψη προγραμματιστών Build αργότερα αυτόν τον μήνα, αλλά αυτό δεν είναι επιβεβαιωμένο.