Fframwaith ar gyfer gwerthuso technolegau digidol a thechnolegau cysylltiedig sy'n datblygu'n gyflym: AI, modelau iaith mawr a thu hwnt

• Cyflwyniad 
• Cefndir 
• Datblygu fframwaith dadansoddol 
• Defnyddio'r fframwaith dadansoddol 
• Dimensiynau i'w hystyried wrth werthuso technoleg newydd 
• Ffordd ymlaen 
• Diolchiadau

Mae technolegau sy'n datblygu'n gyflym yn cyflwyno materion heriol o ran eu llywodraethu a'u rheoleiddio posibl. Mae’r polisi a’r dadleuon cyhoeddus ar ddeallusrwydd artiffisial (AI) a’i ddefnydd wedi dod â’r materion hyn i ffocws acíwt. Er bod egwyddorion eang ar gyfer AI wedi’u cyhoeddi gan UNESCO, OECD ac eraill, a bod trafodaethau eginol ynghylch rheoleiddio’r dechnoleg yn fyd-eang neu’n awdurdodaethol, mae bwlch ontolegol rhwng datblygu egwyddorion lefel uchel a’u hymgorffori mewn polisi, rheoleiddio, dulliau llywodraethu a stiwardiaeth. Dyma lle gallai'r gymuned wyddonol anllywodraethol chwarae rhan benodol. 

Mae nifer o academyddion ac arbenigwyr polisi wedi cynnig bod y Cyngor Gwyddoniaeth Rhyngwladol (ISC) – gyda’i aelodaeth luosog o’r gwyddorau cymdeithasol a naturiol – yn sefydlu proses i gynhyrchu a chynnal fframwaith/rhestr wirio anodedig o’r risgiau, y buddion, bygythiadau a chyfleoedd sy’n gysylltiedig â thechnolegau digidol sy’n symud yn gyflym, gan gynnwys – ond heb fod yn gyfyngedig i – AI. Pwrpas y rhestr wirio fyddai hysbysu’r holl randdeiliaid – gan gynnwys llywodraethau, negodwyr masnach, rheoleiddwyr, cymdeithas sifil a diwydiant – am senarios posibl yn y dyfodol, a byddai’n fframio sut y gallent ystyried y cyfleoedd, y buddion, y risgiau a materion eraill. 

Ni fyddai’r allbynnau’n gweithredu fel corff asesu, ond fel fframwaith dadansoddol addasol ac esblygol a allai fod yn sail i unrhyw brosesau asesu a rheoleiddio a allai gael eu datblygu gan randdeiliaid, gan gynnwys llywodraethau a’r system amlochrog. Yn ddelfrydol, dylai unrhyw fframwaith dadansoddol gael ei ddatblygu'n annibynnol ar honiadau'r llywodraeth a diwydiant, o ystyried eu diddordebau dealladwy. Rhaid iddo hefyd fod yn fwyaf lluosog yn ei safbwyntiau, gan gwmpasu pob agwedd ar y dechnoleg a'i goblygiadau. 

Mae’r papur trafod hwn yn rhoi amlinelliad o fframwaith cychwynnol i lywio’r trafodaethau byd-eang a chenedlaethol lluosog sy’n cael eu cynnal yn ymwneud ag AI. 

Mae dyfodiad cyflym technoleg gyda chymhlethdod a goblygiadau AI yn gyrru llawer o honiadau o fuddion mawr. Fodd bynnag, mae hefyd yn peri ofn risgiau sylweddol, o lefel unigol i geostrategol. Mae llawer o’r drafodaeth yn dueddol o ddigwydd ym mhen draw’r sbectrwm o safbwyntiau, ac mae angen ymagwedd fwy pragmatig. Bydd technoleg AI yn parhau i esblygu ac mae hanes yn dangos bod gan bron bob technoleg ddefnydd buddiol a niweidiol. Y cwestiwn, felly, yw: sut y gallwn gyflawni canlyniadau buddiol o'r dechnoleg hon, tra'n lleihau'r risg o ganlyniadau niweidiol, y gallai rhai ohonynt fod yn ddirfodol o ran maint? 

Mae’r dyfodol bob amser yn ansicr, ond mae digon o leisiau credadwy ac arbenigol ynghylch AI a deallusrwydd artiffisial cynhyrchiol i annog ymagwedd gymharol ragofalus. Yn ogystal, mae angen dull systemau, oherwydd bod AI yn ddosbarth o dechnolegau sy'n cael eu defnyddio a'u cymhwyso'n eang gan sawl math o ddefnyddwyr. Mae hyn yn golygu bod yn rhaid cymryd y cyd-destun llawn i ystyriaeth wrth ystyried goblygiadau AI i unigolion, bywyd cymdeithasol, bywyd dinesig, bywyd cymdeithasol ac yn y cyd-destun byd-eang. 

Yn wahanol i'r rhan fwyaf o dechnolegau'r gorffennol, mae gan dechnolegau digidol a thechnolegau cysylltiedig gyfnod byr iawn o'u datblygu i'w rhyddhau, wedi'u hysgogi'n bennaf gan fuddiannau'r cwmnïau neu asiantaethau cynhyrchu. Mae AI yn dreiddiol yn gyflym; efallai mai dim ond ar ôl eu rhyddhau y daw rhai eiddo i'r amlwg, a gallai'r dechnoleg fod â chymwysiadau maleisus a charedig. Bydd dimensiynau gwerthoedd pwysig yn dylanwadu ar sut y canfyddir unrhyw ddefnydd. Ymhellach, gall fod diddordebau geo-strategol ar waith. 

Hyd yn hyn, mae rheoleiddio technoleg rithwir wedi'i weld yn bennaf trwy lens “egwyddorion” a chydymffurfiaeth wirfoddol. Yn fwy diweddar, fodd bynnag, mae’r drafodaeth wedi troi at faterion yn ymwneud â llywodraethu cenedlaethol ac amlochrog, gan gynnwys y defnydd o ddulliau rheoleiddio a pholisi eraill. Mae'r honiadau a wneir o blaid neu yn erbyn AI yn aml yn hyperbolig ac - o ystyried natur y dechnoleg - yn anodd eu hasesu. Bydd sefydlu system reoleiddio technoleg fyd-eang neu genedlaethol effeithiol yn heriol, a bydd angen haenau lluosog o wneud penderfyniadau ar sail risg ar hyd y gadwyn, o’r dyfeisiwr i’r cynhyrchydd, i’r defnyddiwr, i’r llywodraeth ac i’r system amlochrog. 

Er bod egwyddorion lefel uchel wedi’u lledaenu gan UNESCO, OECD a’r Comisiwn Ewropeaidd, ymhlith eraill, a bod trafodaethau lefel uchel amrywiol ar y gweill ynghylch materion rheoleiddio posibl, mae bwlch ontolegol mawr rhwng egwyddorion o’r fath a fframwaith llywodraethu neu reoleiddio. Beth yw tacsonomeg ystyriaethau y gallai fod angen i reoleiddiwr eu hystyried? Byddai fframio â ffocws cul yn annoeth, o ystyried goblygiadau eang y technolegau hyn. Mae'r potensial hwn wedi bod yn destun llawer o sylwebaeth, yn gadarnhaol ac yn negyddol.

Yr ISC yw'r prif gorff anllywodraethol byd-eang sy'n integreiddio'r gwyddorau naturiol a chymdeithasol. Mae ei gyrhaeddiad byd-eang a disgyblaethol yn golygu ei fod mewn sefyllfa dda i gynhyrchu cyngor annibynnol a pherthnasol yn fyd-eang i lywio'r dewisiadau cymhleth sydd o'n blaenau, yn enwedig gan fod y lleisiau presennol yn y maes hwn yn bennaf o ddiwydiant neu o'r pwerau technolegol mawr. Yn dilyn trafodaeth helaeth dros y misoedd diwethaf, gan gynnwys ystyried proses asesu anllywodraethol, daeth yr ISC i’r casgliad mai ei gyfraniad mwyaf defnyddiol fyddai cynhyrchu a chynnal fframwaith dadansoddol addasol y gellir ei ddefnyddio fel sail ar gyfer trafodaeth a gwneud penderfyniadau gan yr holl randdeiliaid, gan gynnwys yn ystod unrhyw broses asesu ffurfiol sy'n dod i'r amlwg. 

Byddai'r fframwaith hwn ar ffurf rhestr wirio gyffredinol y gellid ei defnyddio gan sefydliadau'r llywodraeth ac anllywodraethol. Mae’r fframwaith yn nodi ac yn archwilio potensial technoleg fel AI a’i deilliadau trwy lens eang sy’n cwmpasu lles dynol a chymdeithasol, yn ogystal â ffactorau allanol, megis economeg, gwleidyddiaeth, yr amgylchedd a diogelwch. Gall rhai agweddau ar y rhestr wirio fod yn fwy perthnasol nag eraill, yn dibynnu ar y cyd-destun, ond mae penderfyniadau gwell yn fwy tebygol os caiff pob parth ei ystyried. Dyma werth cynhenid ​​dull rhestr wirio. 

Mae’r fframwaith arfaethedig yn deillio o waith a syniadau blaenorol, gan gynnwys adroddiad llesiant digidol y Rhwydwaith Rhyngwladol ar gyfer Cyngor Gwyddoniaeth y Llywodraeth (INGSA).¹ a Fframwaith Dosbarthu AI yr OECD² i gyflwyno'r cyfan o'r cyfleoedd, risgiau ac effeithiau posibl AI. Roedd y cynhyrchion blaenorol hyn yn fwy cyfyngedig yn eu bwriad o ystyried eu hamser a'u cyd-destun, mae angen fframwaith trosfwaol sy'n cyflwyno'r ystod lawn o faterion yn y tymor byr a'r tymor hwy. 

Er ei fod wedi'i ddatblygu ar gyfer ystyried AI, gellid cymhwyso'r fframwaith dadansoddol hwn i unrhyw dechnoleg sy'n datblygu'n gyflym. Mae’r materion wedi’u grwpio’n fras i’r categorïau canlynol i’w harchwilio ymhellach: 

• Llesiant (gan gynnwys lles unigolion neu hunan, cymdeithas a bywyd cymdeithasol, a bywyd dinesig) 
• Masnach ac economi 
• Amgylcheddol 
• Geo-strategol a geo-wleidyddol 
• Technolegol (nodweddion system, dyluniad a defnydd) 

Cynhwysir rhestr o ystyriaethau ar gyfer pob un o'r categorïau uchod ynghyd â'u cyfleoedd a'u canlyniadau priodol. Mae rhai yn berthnasol ar gyfer achosion neu gymwysiadau penodol o AI tra bod eraill yn generig ac yn agnostig o lwyfan neu ddefnydd. Ni ddylai unrhyw ystyriaeth unigol a gynhwysir yma gael ei thrin fel blaenoriaeth ac, fel y cyfryw, dylid archwilio pob un ohonynt. 

Gellid defnyddio’r fframwaith hwn yn y ffyrdd canlynol, ond heb fod yn gyfyngedig iddynt: 

• Pontio’r bwlch rhwng egwyddorion ac asesu drwy sefydlu tacsonomeg gyffredin wedi’i dilysu o’r ystod o ystyriaethau y gellid eu defnyddio gan randdeiliaid perthnasol fel sail i lywio a llywio syniadau pellach, gan gynnwys unrhyw fframwaith asesu a allai gael ei ddatblygu gan awdurdodau. 

• Er mwyn llywio asesiadau effaith. Mae Deddf AI yr UE yn ei gwneud yn ofynnol i sefydliadau sy'n darparu offer AI neu fabwysiadu AI yn eu prosesau gynnal asesiad effaith i nodi risg eu mentrau a chymhwyso dull rheoli risg priodol. Gellid defnyddio'r fframwaith a gyflwynir yma fel sylfaen ar gyfer hyn. 

• Gwella'r egwyddorion moesegol sydd eu hangen i arwain a llywodraethu'r defnydd o AI. Gall y fframwaith wneud hyn trwy ddarparu sylfaen hyblyg ar gyfer datblygu systemau dibynadwy a sicrhau defnydd cyfreithlon, moesegol, cadarn a chyfrifol o'r dechnoleg. Gellid profi'r egwyddorion hyn yn erbyn yr ystod lawn o effeithiau a gyflwynir yn y fframwaith hwn. 
• Hwyluso cloriannu mesurau presennol (hy, rheoliadol, deddfwriaethol, polisi) a nodi unrhyw fylchau y mae angen eu hystyried ymhellach. 

• Mae'r fframwaith yn agnostig i'r dechnoleg a'r defnydd ohoni. Felly gellid ei ddefnyddio mewn meysydd eithaf gwahanol fel bioleg synthetig. 

Mae'r tabl canlynol yn siapio dimensiynau fframwaith dadansoddol yn gynnar. Yn dibynnu ar y dechnoleg a'i defnydd, bydd rhai cydrannau yn fwy perthnasol nag eraill. Darperir yr enghreifftiau i ddangos pam y gall pob parth fod yn bwysig; yn ei gyd-destun, byddai angen ehangu'r fframwaith sy'n berthnasol i'r cyd-destun. Mae hefyd yn bwysig gwahaniaethu rhwng datblygiadau platfform a'r materion generig a all ddod i'r amlwg yn ystod cymwysiadau penodol.  

Allwedd i ffynonellau'r disgrifyddion

Testun plaen:
Gluckman, P. ac Allen, K. 2018. Deall lles yng nghyd-destun trawsnewidiadau digidol cyflym a thrawsnewidiadau cysylltiedig. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Testun anhygoel:
OECD. 2022. Fframwaith OECD ar gyfer Dosbarthu systemau AI. Papurau'r OECD Digital Economy, Rhif 323, OECD Publishing, Paris. https://oecd.ai/en/classification 

Testun italig:
Disgrifyddion newydd (o ffynonellau lluosog) 

Yn dibynnu ar yr ymateb i'r papur trafod hwn, byddai gweithgor arbenigol yn cael ei ffurfio gan yr ISC i ddatblygu neu ddiwygio'r fframwaith dadansoddol uchod ymhellach er mwyn i randdeiliaid allu edrych yn gynhwysfawr ar unrhyw ddatblygiadau arwyddocaol naill ai o ran llwyfannau neu o ddimensiynau defnydd. Byddai'r gweithgor yn amrywiol yn ddisgyblaethol, yn ddaearyddol ac yn ddemograffig, gydag arbenigedd yn ymestyn o asesu technoleg i bolisi cyhoeddus, o ddatblygiad dynol i gymdeithaseg ac astudiaethau'r dyfodol ac astudiaethau technoleg. 

I ymgysylltu â’r papur trafod hwn, ewch i cyngor.gwyddoniaeth/cyhoeddiadau/fframwaith-technolegau-digidol 

Ymgynghorwyd â llawer o bobl wrth ddatblygu'r papur hwn, a ddrafftiwyd gan Sir Peter Gluckman, Llywydd, ISC a Hema Sridhar, cyn Brif Wyddonydd, y Weinyddiaeth Amddiffyn, a bellach yn gymrawd ymchwil uwch, Prifysgol Auckland, Seland Newydd. 

Diolchwn yn arbennig i’r Arglwydd Martin Rees, cyn Lywydd y Gymdeithas Frenhinol a chyd-sylfaenydd y Ganolfan Astudio Risgiau Dirfodol, Prifysgol Caergrawnt; yr Athro Shivaji Sondhi, Athro Ffiseg, Prifysgol Rhydychen; yr Athro K Vijay Raghavan, cyn brif gynghorydd gwyddonol i Lywodraeth India; Amandeep Singh Gill, Llysgennad Ysgrifennydd Cyffredinol y Cenhedloedd Unedig ar Dechnoleg; Dr Seán Óh Éigeartaigh, Cyfarwyddwr Gweithredol, Canolfan Astudio Risgiau Difodol, Prifysgol Caergrawnt; Amanda-June Brawner, Uwch Gynghorydd Polisi ac Ian Wiggins, Cyfarwyddwr Materion Rhyngwladol, Cymdeithas Frenhinol y DU; Dr Jerome Duberry, Dr Marie-Laure Salles, Cyfarwyddwr, Sefydliad Graddedigion Genefa; Mr Chor Pharn Lee, Canolfan Dyfodol Strategol, Swyddfa'r Prif Weinidog, Singapôr; Barend Mons a Dr Simon Hodson, y Pwyllgor ar Ddata (CoDATA); Yr Athro Yuko Harayama, Japan; yr Athro Rémi Quirion, Llywydd, INGSA; Dr Claire Craig, Prifysgol Rhydychen a Chyn Bennaeth Rhagweld, Swyddfa Wyddoniaeth y Llywodraeth; a'r Athro Yoshua Bengio, Bwrdd Cynghori Gwyddonol Ysgrifennydd Cyffredinol y Cenhedloedd Unedig ac yn Université de Montréal. Roedd y dull rhestr wirio yn cael ei gymeradwyo'n gyffredinol a phwysleisiwyd prydlondeb unrhyw gamau gweithredu gan yr ISC.