„Die Erde dreht sich 365 Tage lang jedes Jahr. Alle vier Jahre braucht sie dazu einen Tag länger, und das ausgerechnet immer im Februar. Warum weiss ich auch nicht. Vielleicht, weil es im Februar immer so kalt ist und es deswegen ein bisschen schwerer geht. Der Mond ist kleiner als die Erde. Das liegt aber auch daran, dass er soweit weg ist.”
heise+ | So funktioniert KV-Cache-Quantisierung mit Googles Verfahren TurboQuant
« am: 19.05.2026, 15:18:54 »
Das starke Verkleinern des KV-Cache zum Sparen von Speicherplatz war bisher eher exotisch. Ein Beitrag von Google hat das Thema nun in den Mainstream gerückt.
