Bit By Bit - Mass kolaborasyon - 5.3.1 Netflix Prize
pi byen li te ye Pwojè a louvri apèl se Prize la Netflix. Netflix se yon sou entènèt konpayi fim pou lokasyon, ak nan 2000 li te lanse Cinematch, yon sèvis yo rekòmande sinema nan kliyan yo. Pou egzanp, Cinematch ta ka remake ke ou te renmen Star Lagè ak Empire Grèv Retounen ak Lè sa a rekòmande pou w gade Retounen nan Jedi a. Okòmansman, Cinematch te travay mal. Men, sou kou a nan anpil ane, Cinematch kontinye amelyore kapasite li nan predi kisa ki sinema kliyan ta jwi. Pa 2006, sepandan, pwogrè sou Cinematch plateaued. Chèchè yo te nan Netflix te eseye tout bagay bèl anpil yo te kapab panse a, men an menm tan an, yo sispèk ke te gen lòt lide ki ta ka ede yo amelyore sistèm yo. Kidonk, yo te vini ak sa ki te, nan moman an, yon solisyon radikal: yon apèl louvri.
Kritik nan siksè evantyèlman nan Prize la Netflix te ki jan yo te rele nan louvri fèt, ak konsepsyon sa a gen leson enpòtan pou konbyen apèl louvri kapab itilize pou rechèch sosyal. Netflix pa t 'jis mete yo deyò yon demann strukture pou lide, ki se sa anpil moun imajine lè yo te premye konsidere yon apèl louvri. Olye de sa, Netflix poze yon pwoblèm klè ak yon kritè evalyasyon senp: yo defye moun sèvi ak yon seri 100 milyon dola evalyasyon fim nou ka prevwa 3 milyon dola ki te fèt-soti evalyasyon (evalyasyon ke itilizatè te fè men sa Netflix pa t 'lage). Nenpòt ki moun ki te kapab kreye yon algorithm ki ta ka predi 3 milyon dola evalyasyon yo ki te fèt-soti 10% pi bon pase Cinematch ta genyen 1 milyon dola. Sa a ki klè ak fasil pou aplike pou evalyasyon kritè-konpare prevwa evalyasyon ki te fèt-soti evalyasyon-vle di ke Prize la Netflix te ankadre nan yon fason ke solisyon yo pi fasil yo tcheke pase jenere; li yo te tounen defi a pou amelyore Cinematch nan yon pwoblèm apwopriye pou yon apèl louvri.
Nan mwa Oktòb la 2006, Netflix lage yon dataze ki gen 100 milyon dola evalyasyon fim soti nan sou sou 500,000 kliyan (nou pral egzamine enplikasyon ak enfòmasyon sekrè nan sa a lage done sa nan chapit 6). Done yo Netflix ka konsèptualize kòm yon matris gwo ki se apeprè 500,000 kliyan pa 20,000 sinema. Nan sa a matris, te gen sou 100 milyon dola evalyasyon sou yon echèl nan 1 rive nan 5 zetwal (Table 5.2). Defi a te sèvi ak done yo obsève nan matris la nou ka prevwa 3 milyon dola evalyasyon yo ki te fèt-soti.
Table 5.2: Schematic nan done ki sòti nan Prize la Netflix. Netflix lage sou 100 milyon dola evalyasyon (1 zetwal nan 5 zetwal) ki ofri pa 500,000 kliyan sou 20,000 sinema. Objektif la nan Prize la Netflix te sèvi ak evalyasyon sa yo nou ka prevwa evalyasyon yo ki te fèt-soti nan 3 milyon dola sinema, montre kòm "?". Prevwa evalyasyon soumèt pa patisipan yo nan Prize la Netflix te konpare ak evalyasyon yo ki te fèt-soti. Mwen pral diskite sou pwoblèm yo etik ki antoure sa a lage done sa nan chapit 6.
Kliyan 1 2 5 . ?
Kliyan 2 2 ? . 3
Kliyan 3 ? 2 .
Kliyan 500,000 ? 2 . 1
Chèchè ak entru atravè mond lan te desine sou yon defi a, ak pa 2008 plis pase 30,000 moun yo te travay sou li (Thompson 2008) . Sou kou a nan konpetisyon an, Netflix resevwa plis pase 40,000 solisyon pwopoze soti nan plis pase 5,000 ekip (Netflix 2009) . Li evidan, Netflix pa t 'kapab li ak konprann tout solisyon yo sa pwopoze a. Tout bagay la kouri fèt san pwoblèm, sepandan, paske solisyon yo yo te te fasil yo tcheke. Netflix te kapab jis gen yon òdinatè konpare evalyasyon yo prevwa yo evalyasyon yo ki te fèt-soti pa yon metrik (metrik an patikilye yo te konn itilize te rasin kare nan erè a vle di-au) pre-espesifye. Li te kapasite sa a byen vit evalye solisyon ki pèmèt Netflix aksepte solisyon soti nan tout moun, ki te tounen soti yo dwe enpòtan paske bon lide te soti nan kèk kote etone. An reyalite, yo te solisyon an genyen soumèt pa yon ekip te kòmanse pa twa chèchè ki pa te gen okenn anvan eksperyans bilding sistèm rekòmandasyon fim (Bell, Koren, and Volinsky 2010) .
Youn nan aspè bèl nan Prize la Netflix se ke li pèmèt tout moun nan mond lan gen solisyon yo evalye san patipri. Lè moun Uploaded evalyasyon prevwa yo, yo pa t 'bezwen Upload kalifikasyon akademik yo, yo laj, ras, sèks, oryantasyon seksyèl, oswa yon lòt bagay sou tèt yo. Kidonk, evalyasyon yo prevwa nan yon pwofesè pi popilè nan Stanford yo te trete egzakteman menm jan moun ki soti nan yon tinedjè nan chanm li. Malerezman, sa a se pa vre nan pifò rechèch sosyal. Sa se, pou pifò rechèch sosyal, evalyasyon se yon bagay ki tan konsome ak ki pasyèlman subjectif. Se konsa, pi lide rechèch pa janm seryezman evalye, ak lè lide yo evalye, li difisil Koupe pati evalyasyon moun ki soti nan kreyatè a nan lide yo. Paske solisyon yo fasil yo tcheke, apèl louvri pèmèt chèchè jwenn aksè nan tout solisyon yo yo te potansyèlman bèl bagay ki ta ka tonbe nan fant yo si yo te sèlman konsidere kòm solisyon soti nan pwofesè pi popilè.
Pou egzanp, nan yon pwen pandan yon moun nan Netflix Prize ak non an ekran Simon Funk afiche sou li blog yon solisyon pwopoze ki baze sou yon valè dekonpozisyon sengilye, yon apwòch soti nan aljèb lineyè ki pa t 'janm itilize deja pa lòt patisipan yo. Funk la pòs blog te ansanm teknik ak weirdly enfòmèl. Te sa a pòs blog dekri yon solisyon byen, ni li te yon fatra nan tan? Deyò nan yon pwojè rele louvri, solisyon an ta ka pa janm te resevwa evalyasyon grav. Apre yo tout Simon Funk pa t 'yon pwofesè nan Cal Tech oswa MIT; li te yon pwomotè lojisyèl ki moun ki, nan moman an, yo te Randone alantou New Zeland (Piatetsky 2007) . Si li te kouriyèl ide sa a nan yon enjenyè nan Netflix, li prèske sètènman ta pa te pran oserye.
Erezman, paske kritè yo evalyasyon te klè ak fasil pou aplike pou, evalyasyon prevwa li yo te evalye, epi li te imedyatman klè ke apwòch l 'te gen anpil pouvwa: li monte nan plas katriyèm nan konpetisyon an, yon rezilta fòmidab bay sa lòt ekip te deja ap travay pou mwa sou pwoblèm nan. Nan fen a, pati nan apwòch Simon Funk a te itilize pa nòmalman tout konpetitè grav (Bell, Koren, and Volinsky 2010) .
Lefèt ke Simon Funk te chwazi yo ekri yon pòs blog eksplike apwòch l 'yo, olye ke eseye kenbe l' sekrè a, tou montre ke anpil patisipan yo nan Prize la Netflix pa te sèlman motive pa pwi an milyon dola dola. Olye de sa, anpil patisipan tou te sanble yo jwi defi a entelektyèl ak kominote a ki te devlope alantou pwoblèm nan (Thompson 2008) , santiman ke mwen espere anpil chèchè ka konprann.
Prize la Netflix se yon klasik egzanp de yon apèl louvri. Netflix poze yon kesyon ak yon objektif espesifik (predi ke evalyasyon fim) ak solisite solisyon soti nan anpil moun. Netflix te kapab evalye tout solisyon yo sa paske yo te pi fasil yo verifye pase yo kreye, epi finalman Netflix pran solisyon a pi bon. Apre sa, mwen pral montre w ki jan yo kapab sa a apwòch menm dwe itilize nan byoloji ak lalwa.