Transformer eredua ikaskuntza sakonerako eredu bat da, Vaswani et al. 2017an sartua. Sekuentzien prozesamenduan oinarritzen den eredua da, adibidez, testua, audioa edo irudiak. Eredu honen abantaila nagusietako bat luzera aldakorreko sekuentziak erabiltzeko gai izatea da, eta hori oso erabilgarria da hainbat zereginetarako. Transformer eredua bi osagai nagusiz osatzen da: arretarako geruza eta posizionamendurako geruza. Ereduari arreta jartzea ahalbidetzen dio sarrerako sekuentziaren zati ezberdinei, datuetan eredu konplexuak ikasteko aukera ematen diona. Modeloaren posizioari esker, ikaskuntzaren kokalekua kontuan hartzen da, bereziki, itzulpen automatikoa egiteko baliagarri dena.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence