„Unter Einsatz immenser, jedoch bis zum Moment der Aktualisierung des Impulses latenter Energien löste sich die amphibielle Kreatur von ihrem habituellen Standort und verschwand, einer in erster Näherung parabolischen Bahnkurve folgend, in den mehr oder minder transparenten Räumen ihrer Existenz.”
Lokale KI: Nemotron 70B auf vier Mac minis M4 Pro mit Thunderbolt-5-Interconnect
« am: 11.11.2024, 13:18:25 »
Exolabs, das sich auf lokale KI spezialisiert hat, zeigt, wie man aus vier Kompakt-Macs ein großes LLM bauen kann. Es läuft Nemotron 70B ' und bald Llama 405B.