Kokanisa mpe kokesenisa bokeseni kati na GPT-2 mpe GPT-3.
GPT-2 (Transformateur pré-trainé génératif 2) na GPT-3 (Transformateur pré-trainé génératif 3) ezali nionso mibale ba modèles ya langue ya intelligence artificielle ya liboso oyo esalemi na OpenAI. Ba modèles nionso mibale esalelaka ba techniques ya apprentissage profond pona kobimisa makomi oyo ekokani na bato, na tina ya kobongisa misala lokola traitement ya minoko ya nature, bobongoli, pe bokeli makomi. Kasi, ezali na bokeseni ya tina ebele kati ya ba modèles mibale : 1. Bonene ya modèle : Moko ya bokeseni ya monene kati ya GPT-2 pe GPT-3 ezali bonene ya ba modèles. GPT-3 ezali na ba paramètres ya somo 175 milliards, yango esali que ezala modèle ya langue ya munene oyo ezali, alors que version ya munene ya GPT-2 ezali na 1,5 milliards ya ba paramètres. Bobakisami ya bonene ya modèle ya GPT-3 epesi yango nzela ya kososola malamu mpe kobimisa makomi, oyo ememaka na biyano ya sikisiki mpe ya boyokani. 2. Ba données ya formation : Bokeseni mosusu ya monene kati ya ba modèles mibale ezali motango ya ba données oyo bazwaki formation na yango. GPT-3 ezwaki formasyo na ensemble ya ba données ya monene mingi koleka GPT-2, na kati na yango ensemble ya ba données Common Crawl, WebText2, Books1, mpe Wikipedia. Kozala na ensemble ya ba données ya formation ya monene mpe ya ndenge na ndenge epesaka GPT-3 nzela ya kobimisa makomi oyo ezali ya sikisiki, ya koloba malamu, mpe ya ndenge na ndenge. 3. Bosali : Na tina ya bomati ya taille ya modèle pe ensemble ya ba données ya formation ya monene, GPT-3 ezali na makoki ya koleka GPT-2 na misala ndenge na ndenge ya traitement ya langue naturelle. GPT-3 ekoki kobimisa makomi oyo ezali na boyokani mingi mpe lokola bato, mpe ezali na bososoli malamu ya makambo oyo ezali na kati mpe na makoki ya koyekola na bandakisa moke, oyo eyebani lokola boyekoli ya masasi moke. 4. Bosaleli: Atako GPT-2 mpe GPT-3 ekoki kosalelama mpo na bosaleli na botangi ya nkota ya bozalisi, GPT-3 elakisaki elaka na bosaleli ya monene. GPT-3 esalelamaki mpo na kobimisa code ya ordinatɛrɛ, kosilisa misala ya mindɔndɔmindɔndɔ lokola kobongola minɔkɔ, mpe ata kosala misala ya ntɔki ya ebandeli. Likoki na yango ya koyekola na bandakisa moke mpe kososola contexte epesaka nzela ya kosalela yango na misala mingi. Na bokuse, GPT-3 ezali kobongisama koleka GPT-2 na oyo etali bonene ya modèle, ba données ya formation, performance, pe ba applications potentielles. Kasi, ba modèles nionso mibale ezali komonisa bokoli monene na domaine ya intelligence artificielle mpe traitement ya langue naturelle.