Artikel-Archiv iX 10/2023, Seite 114

  • Thumbnail, iX 10/2023, Seite 114

    MEGABYTE – Metas neue Transformer-Architektur

    Meta will mit einer eigenen Architektur Probleme bei herkömmlichen Transformer-Modellen ausmerzen. Die neue Herangehensweise verzichtet auf einen Tokenizer und verarbeitet Daten byteweise. Damit sollen Modelle gleichermaßen Texte, Bilder und Audio beherrschen.

    Umfang: ca. 4.5 redaktionelle Seiten
    BibTeX anzeigen