Gallai robotiaid AI ddatblygu rhagfarn eu hunain?

Sep 07, 2018 Gadewch neges

Mae dangos rhagfarn tuag at eraill nad oes angen lefel uchel o allu gwybyddol a gellid yn hawdd ei arddangos gan beiriannau artiffisial deallus, ymchwil newydd wedi awgrymu.

Mae cyfrifiadur arbenigwyr gwyddoniaeth a seicoleg o Brifysgol Caerdydd a MIT wedi dangos y gallai grwpiau o beiriannau ymreolus arddangos rhagfarn drwy nodi, copïo a dysgu ymddygiad hwn o un arall.

Gall ymddangos bod rhagfarn yn ffenomenon dynol penodol y mae angen ei gwybyddiaeth ddynol i ffurfio barn am, neu i stereoteipio, unigolyn neu grŵp penodol.

Ond mae rhai mathau o algorithmau cyfrifiadurol eisoes yn cael ei arddangos rhagfarn, megis hiliaeth a rhywiaeth, yn seiliedig ar ddysgu o'r cofnodion cyhoeddus a data eraill a gynhyrchir gan fodau dynol, mae gwaith newydd hwn yn dangos y posibilrwydd o esblygu grwpiau niweidiol ar eu pen eu hunain AI .

Mae'r canfyddiadau newydd, sydd wedi eu cyhoeddi yn y cyfnodolyn adroddiadau gwyddonol, yn seiliedig ar y cyfrifiadur Mae efelychiadau o ragfarn yn yr un modd sut y gall unigolion, neu asiantau rhithwir, yn ffurfio grŵp a rhyngweithio â'i gilydd.

Cyd-awdur yr astudiaeth yr Athro Roger Whitaker, rhag trosedd Prifysgol Caerdydd a sefydliad ymchwil diogelwch ac ysgol cyfrifiadureg a Gwybodeg, dywedodd: "drwy redeg hyn efelychiadau filoedd ar filoedd o weithiau, rydym yn dechrau cael dealltwriaeth o sut mae rhagfarn yn esblygu ac amodau sy'n hyrwyddo neu ei rwystro.

"Mae ein efelychiadau yn dangos bod rhagfarn yn rym pwerus o natur a thrwy esblygiad, gall hawdd dod yn cymell mewn poblogaethau rhithwir, er anfantais i cysylltedd ehangach gydag eraill. Gall amddiffyn grwpiau niweidiol anfwriadol arwain at unigolion sy'n ffurfio grwpiau sy'n niweidiol, gan arwain at boblogaeth wedi torri ymhellach. Rhagfarn eang o'r fath yn anodd eu gwrthdroi."

Canfyddiad diddorol arall gan yr astudiaeth oedd ei bod yn fwy anodd i ragfarn i gydio o dan amodau penodol, sy'n cynnwys subpopulations fwy penodol fod yn bresennol o fewn poblogaeth.

"Gyda nifer fwy o subpopulations, gall cynghreiriau o grwpiau nad ydynt yn niweidiol gydweithredu heb gamfanteisio. Mae hyn hefyd yn lleihau eu statws fel lleiafrif, lleihau rhagdueddiad i niweidio cymryd gafael. Fodd bynnag, mae hyn hefyd yn gofyn am amgylchiadau lle mae gan asiantau awydd uwch tuag at ryngweithio y tu allan i'w grŵp,"Daeth yr Athro Whitaker i'r casgliad.

Could AI robots develop prejudice on their own?