Seite drucken - Lokale KI: Nemotron 70B auf vier Mac minis M4 Pro mit Thunderbolt-5-Interconnect

Newsparadies: Lokale KI: Nemotron 70B auf vier Mac minis M4 Pro mit Thunderbolt-5-Interconnect

News => Welt-Ticker => Thema gestartet von: heise am 11.11.2024, 13:18:25

Titel: Lokale KI: Nemotron 70B auf vier Mac minis M4 Pro mit Thunderbolt-5-Interconnect
Beitrag von: heise am 11.11.2024, 13:18:25

(http://newsparadies.de/images/board/x31.gif)

Exolabs, das sich auf lokale KI spezialisiert hat, zeigt, wie man aus vier Kompakt-Macs ein großes LLM bauen kann. Es läuft Nemotron 70B ' und bald Llama 405B.
Quelle: https://www.heise.de/news/Lokale-KI-Nemotron-70B-auf-vier-Mac-minis-M4-Pro-mit-Thunderbolt-5-Interconnect-10014248.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag

(http://www.netzausfall.de/wp-content/heise.jpg)