Microsoft hat das kompakte Sprachmodell Phi-2 veröffentlicht, das Llama 2 und Mistral 7B übertrifft

Microsoft

Microsoft hat Phi-2 veröffentlicht, ein kompaktes Sprachmodell, das die Gegenstücke von Meta und anderen Tech-Giganten übertrifft. Es enthält 2,7 Milliarden Parameter und kann sogar auf einem Laptop ausgeführt werden.

Was bekannt ist

Laut den Entwicklern ist die Leistung von Phi-2 vergleichbar mit viel größeren Modellen wie Metas Llama 2 oder Mistral-7B, die jeweils 7 Milliarden Parameter enthalten. Phi-2 liegt auch vor dem kürzlich angekündigten Gemini Nano 2 von Google, der eine halbe Milliarde Parameter weniger hat.

Leistungsvergleich zwischen Phi-2 und anderen Jazikoi-Modellen.

Microsofts neue Entwicklung zeigt im Vergleich zu Llama 2 auch weniger Toxizität und Antwortverzerrungen. In der Demo konnte Phi-2, wie auch Googles Gemini Ultra, die Frage eines Schülers richtig beantworten.

Ein Beispiel für die Beantwortung einer Frage durch das Modell Phi-2.

Zurzeit ist Phi-2 nur für Forschungszwecke lizenziert und darf nicht kommerziell genutzt werden.

Quelle: Microsoft