[{"text_idx": "#000005", "text": "1. Cyflwyniad i Dechnolegau Iaith"}, {"text_idx": "#000006", "text": "Technoleg iaith yw unrhyw fath o dechnoleg sy\u2019n galluogi cyfrifiaduron i gyflawni tasgau ieithyddol cymhleth megis:"}, {"text_idx": "#000007", "text": "gwirio a chywiro gwallau iaith\ndadansoddi testun er mwyn echdynnu gwybodaeth fel enwau, cysyniadau, teimladau a bwriad"}, {"text_idx": "#000008", "text": "Digon amrwd oedd safon y technegau cyfrifiadurol cynnar a\u2019u gallu i drin iaith. Erbyn hyn, fodd bynnag, mae technolegau iaith yn ddigon effeithiol i\u2019w cynnwys yn llwyddiannus yn llawer o\u2019r cynnyrch digidol rydym yn eu defnyddio bob dydd."}, {"text_idx": "#000009", "text": "Gan fod technolegau iaith yn cyfuno gwybodaeth ieithyddol gyda ddulliau cyfrifiadurol, mae\u2019n pwnc amlddisgyblaethol sydd yn dwyn ieithyddiaeth a chyfrifiadureg ynghyd, a hefyd yn goferu i feysydd eraill ble mae iaith a thechnoleg yn berthnasol, fel meysydd addysg, astudiaethau meddygol, seicoleg, cymdeithaseg a pheirianneg."}, {"text_idx": "#000010", "text": "Dyma enghreifftiau amlwg lle defnyddir technolegau iaith heddiw :"}, {"text_idx": "#000012", "text": "Mae teclynnau fel Amazon Alexa, Apple Siri a Google Home yn boblogaidd iawn erbyn hyn. Maen nhw\u2019n caniata\u0301u i ni roi gorchmynion iddynt ar lafar mewn iaith a chael ymateb priodol. Gallwn holi cwestiynau iddynt a derbyn atebion deallus a pherthnasol yn o\u0302l ar lafar mewn iaith naturiol. Os edrychir ar y rhain yn eu cyd-destun hanesyddol ehangach, mae\u2019r teclynnau yn cynrychioli\u2019r cam nesaf naturiol yn natblygiad y rhyngweithio rhwng pobl a chyfrifiaduron; o\u2019r bysellfwrdd, i\u2019r llygoden, i gyffwrdd, i leferydd ac i sgwrsio gyda iaith naturiol."}, {"text_idx": "#000014", "text": "Mae\u2019r defnyddiwr yn siarad yn naturiol gyda\u2019r ddyfais neu\u2019r cyfrifiadur.\nMae technoleg iaith adnabod lleferydd(speech recognition) yn cipio\u2019r sain ac yn ei drosi i destun\nMae\u2019r testun yn cael ei drosglwyddo i gydran sy\u2019n cyflawni prosesu iaith naturiol(natural language processing / \u2018NLP\u2019) sydd yn ceisio adnabod beth yw\u2019r bwriad neu\u2019r dymuniad o fewn y testun \u2013 parsio bwriad(intent parsing) \u2013 er mwyn canfod y paramedrau perthasol i\u2019w defnyddio wrth alw\u2019r gwasanaeth ar-lein.\nAr o\u0302l derbyn ymateb gan y gwasanaeth ar-lein ar ffurf data amrwd, mae meddalwedd y cynorthwyydd yn galw ar gydran technoleg iaith sy\u2019n cynhyrchu crynodeb o\u2019r canlyniad ar ffurf brawddegau sy\u2019n ramadegol gywir, darllenadwy a dealladwy \u2013 cynhyrchu iaith naturiol(natural language generation).\nYn olaf mae meddalwedd y cynorthwyydd yn galw ar gydran testun-i-leferydd(text-to-speech / TTS) sy\u2019n trosi\u2019r testun i mewn i\u2019r sain sy\u2019n cael ei \u2018lefaru\u2019 yn o\u0302l i\u2019r defnyddiwr mewn llais sydd i\u2019w glywed mor naturiol a phosib i\u2019r glust."}, {"text_idx": "#000017", "text": "Caiff technoleg adnabod endidau(entity recognition) ei defnyddio i adnabod enwau pobl, enwau lleoedd ac enwau cynnyrch o fewn y data, a defnyddir technoleg echdynnu cysyniadau(concept extraction) i ganfod prif pynciau testun. Mae rhain yn ddefnyddiol ar gyfer technolegau pellach sy\u2019n mynegeio(indexing) neu\u2019n crynodebu(summarization)."}, {"text_idx": "#000018", "text": "Gellir defnyddio technegau dadansoddi sentiment(sentiment analysis) er mwyn awtomeiddio dehongli barn ac agweddau a fynegwyd gan unigolion o fewn adolygiadau cwsmeriaid neu geisiadau am gymorth o fewn y data."}, {"text_idx": "#000020", "text": "Cyfieithu peirianyddol(machine translation / MT) yw gallu cyfrifiadur i gyfieithu testun o un iaith ddynol (yn y Saesneg, dyweder), i iaith ddynol arall (er enghraifft y Gymraeg)."}, {"text_idx": "#000022", "text": "Bellach, mae darpariaethau cyfieithu peirianyddol eraill ar gyfer y Gymraeg yn bodoli, gan gynnwys y modd i gyfieithwyr gynhyrchu a defnyddio eu peiriannau cyfieithu eu hunain, os oes ganddynt ddigon o ddata dwyieithog ac ychydig bach o wybodaeth dechnolegol."}, {"text_idx": "#000023", "text": "Trosolwg o\u2019r prif ddulliau a ddefnyddir gan dechnolegau iaith\nY tri dull amlycaf a ddefnyddir i weithredu technolegau iaith yw dulliau ar sail rheolau(rule-based approaches), ystadegaeth(statistics),dysgu peirianyddol(machine learning) a dysgu dwfn(deep learning). Mae\u2019r dulliau angen un ai wybodaeth ieithyddol fanwl gywir neu gasgliadau enfawr o ddata o safon addas. Gellir cyfuno dau neu dri dull i greu dulliau hybrid sy\u2019n manteisio ar gryfderau\u2019r adnoddau sydd ar gael i wella\u2019r canlyniadau o\u2019u cymharu gyda defnyddio un dull yn unig."}, {"text_idx": "#000024", "text": "Yn hanesyddol, rhoddwyd cychwyn ar wireddu rhai technolegau iaith gyda dulliau ar sail rheolau. Golyga hyn fod rhaid i fodau dynol, arbenigwyr iaith rhan amlaf, saerni\u0308o rheolau a data strwythuredig megis geiriaduron electronig i\u2019w bwydo i mewn i\u2019r cyfrifiadur, er enghraifft, rheolau gramadeg ar gyfer gwirydd gramadeg."}, {"text_idx": "#000025", "text": "Gall y dulliau hyn roi canlyniadau da iawn mewn rhai meysydd, ond maent yn llafurus iawn i\u2019w gweithredu, ac yn ddrud i\u2019w datblygu a\u2019u cynnal oherwydd y gost ddynol. Dim ond ieithoedd sydd a\u0302 marchnad fasnachol ddigon mawr neu gefnogaeth ddigonol gan lywodraeth sydd wedi medru fforddio dilyn y trywydd yma."}, {"text_idx": "#000026", "text": "Wrth i faint a gallu cyfrifiaduron dyfu ar droad yr unfed ganrif ar hugain, sylweddolwyd fod modd defnyddio mynegiant o debygolrwydd neu fodelau ystadegol i gael gwell canlyniadau na dulliau rheolau i ddarparu technoleg iaith benodol."}, {"text_idx": "#000027", "text": "Seilir y ddull ystadegol ar ddamcaniaeth syml Bayes :"}, {"text_idx": "#000028", "text": "Hynny yw, mae modd i fodel gynnig y gair (W) mwyaf tebygol o ganlyniad i arsylwad (O)"}, {"text_idx": "#000029", "text": "drwy luosi\u2019r tebygolrwyddau sydd wedi\u2019u cyfrifo o\u2019r dystiolaeth sydd ar gael (sef y ddata hyfforddi), sef tebygolrwydd arsylwad o ganlyniad i\u2019r gair"}, {"text_idx": "#000030", "text": "a\u2019r tebygolrwydd o\u2019r gair ei hun"}, {"text_idx": "#000031", "text": "Does dim angen cymaint o wybodaeth ieithyddol gan fodau dynol wrth weithio gyda dulliau ystadegol o\u2019r fath, ond yr anfantais yw fod angen casgliadau mawr o ddata ieithyddol er mwyn hyfforddi modelau defnyddiol."}, {"text_idx": "#000032", "text": "Er y gwelwyd cynnydd sylweddol yng ngallu technolegau iaith ar sail dulliau ystadegol a damcaniaeth Bayes, sylweddolwyd nad oedd modd gwella\u2019r canlyniadau y tu hwnt i uchafswm cadarn."}, {"text_idx": "#000033", "text": "Felly yn yr ychydig flynyddoedd diwethaf, mae hen ymchwil ar efelychu strwythur yr ymennydd yn gyfrifiadurol wedi\u2019i atgyfodi i \u2018ddysgu\u2019 rhwydweithiau niwral artiffisial i gyflawni tasgau technolegau iaith gan ddwyn canlyniadau llawer iawn gwell. Yn wir, mae\u2019r canlyniadau gymaint gwell, mae\u2019r dulliau dysgu dwfn, sy\u2019n rhan o ddysgu peirianyddol a ddeallusrwydd artiffisial(artificial intelligence) wedi chwyldroi\u2019r maes."}, {"text_idx": "#000035", "text": "Eu gwendid yw bod angen adnoddau uwch-gyfrifiadura sylweddol i hyfforddi\u2019r rhwydweithiau, ac o ran ieithoedd llai eu hadnoddau fel y Gymraeg, setiau data gwirioneddol anferth er mwyn gallu hyfforddi modelau o safon gwell. Nid yw\u2019r data hynny bob amser ar gael yn hawdd ac felly mae lle o hyd i\u2019r dulliau blaenorol o wireddu technolegau iaith, neu gyfuniad ohonynt."}]