Wird spekulative Dekodierung die Inferenzgenauigkeit von LLMs beeinträchtigen?
Mitchell Stern et al. 2018 führten das Prototypkonzept der spekulativen Dekodierung ein. Diese Methode wurde seither durch verschiedene Ansätze weiterentwickelt und verfeinert,...
