Artikel-Archiv iX 10/2023, Seite 114
-
MEGABYTE – Metas neue Transformer-Architektur
Meta will mit einer eigenen Architektur Probleme bei herkömmlichen Transformer-Modellen ausmerzen. Die neue Herangehensweise verzichtet auf einen Tokenizer und verarbeitet Daten byteweise. Damit sollen Modelle gleichermaßen Texte, Bilder und Audio beherrschen.
Umfang: ca. 4.5 redaktionelle Seiten
BibTeX anzeigenErwerben Sie das Heft
iX 10/2023,
um Zugriff auf diesen Artikel zu erhalten.