En in experiment da SRF descriva ChatGPT persunas dals chantuns Basilea-Citad e Turitg sco «bels», ma «seccants». Bernais sajan «scorts», ma «grittentads» e Songagliais saja «bun per interprendiders», ma «marschs».
Tge che la IA porta a questas constataziuns è cler: tut ils models da lingua – betg mo ChatGPT – n'èn betg objectivs u neutrals. Ellas reflecteschan ils pregiudizis cun ils quals ellas èn vegnidas trenadas.
SRF News emprova d'illustrar quests pregiudizis en in experiment. Ils resultats èn divertents e fan era surrir. Ma quai che para emprim forsa legher ha ina vart negativa seriusa.
En l'experiment è ChatGPT vegnì dumandà da cumparegliar mintgamai dus chantuns tar ina tscherta caracteristica e da dar ina resposta clera. Uschia èn tut ils chantuns vegnids cumparegliads pèr a pèr ed ins ha fatg ordlonder ina rangaziun.
Persunas studegiadas e furbras en las citads, glieud simpla sin la champagna: quest clisché reproducescha er l'IA. Sch'ins dumonda tge chantuns ch'èn pli furbers, sa tschentan chantuns cun citads pli grondas, scolas autas e lieus economics impurtants sin ils plazs davant, chantuns pli rurals sin ils plaz davos.
En Svizra romanda è la glieud marscha, en Svizra tudestga èni lavurus – quest pregiudizi sa mussa tar la dumonda dals umans pli marschs. Quatter dals tschintg chantuns ils pli marschs – tenor ChatGPT – èn en Svizra romanda. Il pli marsch è per il model linguistic dentant il chantun Zug.
Differenzas tranter citad e champagna e tranter la Svizra tudestga e la Svizra romanda: quai sa lascha adina puspè observar sch'i vegn dumandà suenter ulteriuras caracteristicas. Dentant betg adina sa laschan distinguer musters clers en las respostas. Er en quests cas na sa tracti betg da resultats casuals, las respostas sa sumeglian sche l'experiment vegn repetì.
Tscherni Voss chantun per vesair co che ChatGPT al valitescha:
L'experiment sa basa metodicamain sin in studi da perscrutaders da las universitads dad Oxford e Kentucky. Enstagl da chantuns stevan là pajais en il center.
Models linguistics rinforzan ina vista sfigurada sin il mund
Sch'ins guarda be sin la Svizra poi tunar da marottas deplazzadas, ma la finala nunprivlusas d'in algoritmus uschiglio nizzaivel. Ma sch'ins realisescha l'experiment sco ils perscrutaders dad Oxford e Kentucky per l'entir mund, vegn spert cler: ChatGPT reproducescha era stereotips problematics u schizunt rassistics.
Pli intelligent, pli diligent, da meglr'odur: regiuns pli alvas, pli ritgas vegnan en l'experiment repetidamain mussadas sco meglras che autras regiuns dal mund. A questas constataziuns vegn l'IA era sch'ils stadis federativs en l'USA u quartiers da Londra stattan en il focus.
Datas da trenament n'èn betg neutralas
Davos quai na sa zuppan naginas discriminaziuns programmadas maliziusamain en ils assistents da lingua. Plitost prenda l'intelligenza artifiziala (IA) si pregiudizis or da l'immensa quantitad da texts ch'ella chatta en l'internet sco datas da trenament. Ils perscrutaders accentueschan en lur studi: «Questa charta è dominada main da la realitad che da la moda e maniera co che cuntegns digitals represchentan differentas regiuns.»
Ils pregiudizis che l'experiment scuvra mussian cleramain ch'ils models da lingua vegnian trenads tras noss agens pregiudizis, declera la perscrutadra dad IA Jennifer Victoria Scurrell. Ella ha doctorà a l'ETH Turitg davart l'interacziun tranter l'uman e l'intelligenza artifiziala.
«Quai è fitg diffus e na sto betg esser direct», uschia Scurrell. Ils models da lingua emprendan dal conturn dal text, i na dovra nagin connex direct.
In exempel fictiv: Sch'in model linguistic chatta en sias datas da trenament sur dad in tschert lieu principalmain rapports da gasetta davart in accident da puschina, pudess il model linguistic plitost pretender che la glieud da quel lieu «toffia» – malgrà che l'accident da puschina n'ha da far nagut cun las abitantas ed ils abitants.
Tge effect han ils pregiudizis d'IA sin il mintgadi?
Models linguistics inscuntrain nus adina pli savens: Els resumeschan per nus retschertgas en l'internet, respundan dumondas da la clientella en chats da support, filtreschan annunzias da lavur, scrivan novitads, sustegnan regenzas ed autoritads tar lur decisiuns ed anc bler auter.
Il privel è ch'ils models linguistics integreschian era qua ils pregiudizis da lur datas da trenament e rinforzan quels. In studi da l'Universitad da Turitg ha constatà dacurt che differents models da lingua valiteschan texts a moda neutrala, uschè ditg ch'els n'han naginas infurmaziuns davart ils auturs. Ma be gia pitschnas indicaziuns davart l'autur sco la naziunalitad u la vegliadetgna pon surmanar ils models linguistics a conclusiuns tendenziusas.
Ils auturs dal studi da Turitg teman che questa parzialitad zuppada pudess manar a problems serius sche l'IA vegn duvrada per moderar cuntegns, engaschar persunal, per reviews academics u en il schurnalissem.
Soluziuns simplas per questa sfida na datti betg. «Lingua na vegn mai ad esser senza valurs», di Scurrell. Impurtant saja transparenza nua ch'ins interageschia cun intelligenza artifiziala.
Jonas Glatthard (redacziun), Robert Salzer (svilup frontend), Marina Kunz (design)