Die Transformer-Architektur

Forscher bei Google stellen die Transformer-Architektur vor, die technische Grundlage fast aller heutigen großen Sprachmodelle.

Bedeutung für die Entwicklung der Informatik

Die Transformer-Architektur mit Attention-Mechanismus ist die technische Grundlage von GPT, BERT und allen großen Sprachmodellen – sie revolutionierte die KI.

Im Buch ansehen

Illustration leuchtender Attention-Linien, die viele Tokens parallel verbinden.
Illustration, KI-generiert (Google Nano Banana)