Ich will direkt mit der Übersetzung für "gesunde" anfangen:
Ein Modell für Ki ist sehr groß. Ein Firma hat die jetzt ganz klein gezaubert. auf 94% runter.
Mit deren Worten klingt es aber schon etwas mehr nach Zauberei 
Das Unternehmen kündigte am 14. August seine Model Zoo-Sammlung an, die zwei nach Tiergehirnen benannte Modelle umfasst: SuperFly und ChickBrain.
Diese Modelle nutzen Multiverse's proprietäre quanteninspirierte Kompressionstechnologie, CompactifAI, um KI-Modellgrößen drastisch zu reduzieren, ohne die Leistungsfähigkeiten zu beeinträchtigen.
OK. Das klingt nach viel Hype. Vor allem SuperFly ... das ist doch der Endgegner im letzten TMNT Film gewesen?
Aber laut TechCrunch läuft das Modell doch sehr überzeugend. Auf einer Größe für Haushaltsgeräte.
Sie selbst behaupten, es könnte sogar auf einer Apple-Watch laufen.
Teils in den Benchmarks sogar besser, als deren Abstammungs-LLMs.
Immerhin ist deren Background Quantenphysik - daher haben sie wohl einen komplett anderen Ansatz bei der Komprimierung gewählt.
Mit Erfolg.
Alles in allem wäre das aktuell der "heilige Gral" für eine Nutzung auf so-gut-wie-allem.
Und zwar Offline, um das direkt klarzustellen.
Aber leider ist da wie immer ein Haken. Was du siehst auf dem Gabentisch, das ist alles nicht für dich.
-> https://www.ainvest.com/news/multivers…ompression-2508
Multiverse is hosting its compressed AI models on AWS via an API, allowing developers to integrate them into their applications at competitive token fees