Mae canllaw'r ISC yn cynnig fframwaith cynhwysfawr a luniwyd i bontio'r bwlch rhwng egwyddorion lefel uchel a pholisi ymarferol y gellir ei weithredu. Mae'n ymateb i'r angen dybryd am ddealltwriaeth gyffredin o'r cyfleoedd a'r risgiau a gyflwynir gan dechnolegau newydd. Mae hon yn ddogfen hanfodol i’r rhai sy’n gweithio yn y cyswllt polisi yn ein hoes ddigidol sy’n newid yn gyflym.
Mae'r fframwaith yn archwilio potensial AI a'i ddeilliannau trwy lens gynhwysfawr, gan gwmpasu lles dynol a chymdeithasol ynghyd â ffactorau allanol fel economeg, gwleidyddiaeth, yr amgylchedd, a diogelwch. Gall rhai agweddau ar y rhestr wirio fod yn fwy perthnasol nag eraill, yn dibynnu ar y cyd-destun, ond mae penderfyniadau gwell yn ymddangos yn fwy tebygol o ystyried pob parth, hyd yn oed os gellir nodi rhai yn amherthnasol yn gyflym mewn achosion penodol. Dyma werth cynhenid dull rhestr wirio.
“Mewn oes sydd wedi’i nodi gan arloesi technolegol cyflym a heriau byd-eang cymhleth, mae fframwaith yr ISC ar gyfer dadansoddiad cynhwysfawr ac aml-ddimensiwn o’r effeithiau posibl yn grymuso arweinwyr i wneud penderfyniadau gwybodus, cyfrifol. Mae’n sicrhau, wrth i ni symud ymlaen yn dechnolegol, ein bod yn gwneud hynny gan roi ystyriaeth ofalus i’r goblygiadau moesegol, cymdeithasol ac economaidd”.
Peter Gluckman, Llywydd ISC
Er bod egwyddorion lefel uchel wedi’u cyhoeddi gan UNESCO, yr OECD, y Comisiwn Ewropeaidd a’r Cenhedloedd Unedig, ymhlith eraill, a bod trafodaethau amrywiol yn parhau ynghylch materion llywodraethu, rheoleiddio, moeseg a diogelwch posibl, mae bwlch mawr rhwng egwyddorion o’r fath a fframwaith llywodraethu neu reoleiddio. Mae'r ISC yn mynd i'r afael â'r angen hwn trwy ei ganllaw newydd i lunwyr polisi.
Nid bwriad y canllaw hwn i lunwyr polisi yw gwahardd cyfundrefn reoleiddiol, ond yn hytrach awgrymu fframwaith dadansoddol addasol ac esblygol a allai fod yn sail i unrhyw brosesau asesu a rheoleiddio a allai gael eu datblygu gan randdeiliaid, gan gynnwys llywodraethau a’r system amlochrog.
“Mae’r fframwaith yn gam hollbwysig yn y sgwrs fyd-eang ar AI gan ei fod yn darparu sail ar gyfer adeiladu consensws ar oblygiadau’r dechnoleg ar gyfer nawr ac yn y dyfodol”.
Hema Sridhar, Cyn Brif Gynghorydd Gwyddoniaeth, Y Weinyddiaeth Amddiffyn, Seland Newydd ac yn awr Uwch Ymchwil Fellow, Prifysgol Auckland, Seland Newydd.
Ers mis Hydref 2023, bu nifer o fentrau cenedlaethol ac amlochrog arwyddocaol gan roi ystyriaeth bellach i foeseg a diogelwch AI. Mae goblygiadau AI ar gyfanrwydd rhai o’n systemau hanfodol, gan gynnwys ariannol, llywodraeth, cyfreithiol ac addysg, yn ogystal â systemau gwybodaeth gwahanol (gan gynnwys gwybodaeth wyddonol a chynhenid), yn peri pryder cynyddol. Mae'r fframwaith yn adlewyrchu'r agweddau hyn ymhellach.
Mae'r adborth a dderbyniwyd gan Aelodau'r ISC a'r gymuned llunio polisi rhyngwladol hyd yma wedi'i adlewyrchu yn y fersiwn ddiwygiedig o'r fframwaith dadansoddol, sydd bellach yn cael ei ryddhau fel canllaw i lunwyr polisi.
Canllaw i lunwyr polisi: Gwerthuso technolegau sy’n datblygu’n gyflym gan gynnwys AI, modelau iaith mawr a thu hwnt
Mae’r papur trafod hwn yn rhoi amlinelliad o fframwaith cychwynnol i lywio’r trafodaethau byd-eang a chenedlaethol lluosog sy’n cael eu cynnal yn ymwneud ag AI.
Lawrlwythwch y fframwaith i'w ddefnyddio yn eich sefydliad
Yma rydym yn darparu'r offeryn fframwaith fel taflen Excel y gellir ei golygu i'w defnyddio yn eich sefydliad. Os yw'n well gennych fformat ffynhonnell agored, cysylltwch â [e-bost wedi'i warchod].
Cyflwyniad
Mae technolegau sy'n datblygu'n gyflym yn cyflwyno materion heriol o ran eu defnydd, eu llywodraethu a'u rheoleiddio posibl. Mae’r trafodaethau polisi a chyhoeddus parhaus ar ddeallusrwydd artiffisial (AI) a’i ddefnydd wedi dod â’r materion hyn i ffocws acíwt. Mae egwyddorion eang ar gyfer AI wedi’u cyhoeddi gan UNESCO, yr OECD, y Cenhedloedd Unedig ac eraill, gan gynnwys Datganiad Bletchley y Deyrnas Unedig, ac mae ymdrechion awdurdodaethol yn dod i’r amlwg i reoleiddio agweddau ar y dechnoleg trwy, er enghraifft, AI yr Undeb Ewropeaidd (UE). Deddf neu Orchymyn Gweithredol AI diweddar yr Unol Daleithiau.
Er bod y defnydd o AI yn cael ei drafod yn helaeth yn y fforymau hyn a fforymau eraill, ar draws rhaniadau geopolitical ac mewn gwledydd ar bob lefel incwm, erys bwlch ontolegol rhwng datblygu egwyddorion lefel uchel a’u hymgorffori mewn ymarfer naill ai drwy reoleiddio, polisi, llywodraethu. neu ymagweddau stiwardiaeth. Mae'r llwybr o egwyddor i ymarfer wedi'i ddiffinio'n wael, ond o ystyried natur a diweddeb datblygiad a chymhwysiad AI, yr amrywiaeth o ddiddordebau dan sylw a'r ystod o gymwysiadau posibl, ni all unrhyw ddull fod yn rhy generig na rhagnodol.
Am y rhesymau hyn, mae'r gymuned wyddonol anllywodraethol yn parhau i chwarae rhan benodol. Ym mis Hydref 2023, rhyddhaodd y Cyngor Gwyddoniaeth Rhyngwladol (ISC) – gyda’i aelodaeth luosog o’r gwyddorau cymdeithasol a naturiol – bapur trafod yn cyflwyno fframwaith dadansoddol rhagarweiniol a oedd yn ystyried y risgiau, y buddion, y bygythiadau a’r cyfleoedd sy’n gysylltiedig â thechnoleg ddigidol sy’n symud yn gyflym. Er iddo gael ei ddatblygu i ystyried AI, mae’n agnostig technoleg yn ei hanfod a gellir ei gymhwyso i ystod o dechnolegau sy’n dod i’r amlwg ac aflonyddgar, megis bioleg synthetig a chwantwm. Roedd y papur trafod hwnnw’n gwahodd adborth gan academyddion a llunwyr polisi. Roedd yr adborth aruthrol yn golygu bod angen cynnal dadansoddiad o'r fath ac roedd yn ddull gwerthfawr o fynd i'r afael â thechnolegau newydd fel AI.
Diben y fframwaith yw darparu offeryn i hysbysu’r holl randdeiliaid – gan gynnwys llywodraethau, negodwyr masnach, rheoleiddwyr, cymdeithas sifil a diwydiant – am esblygiad y technolegau hyn i’w helpu i fframio sut y gallent ystyried goblygiadau, boed yn gadarnhaol neu’n negyddol, y dechnoleg ei hun, ac yn fwy penodol ei chymhwysiad penodol. Mae'r fframwaith dadansoddol hwn wedi'i ddatblygu'n annibynnol ar fuddiannau'r llywodraeth a diwydiant. Mae'n fwyaf lluosog yn ei safbwyntiau, gan gwmpasu pob agwedd ar y dechnoleg a'i goblygiadau yn seiliedig ar ymgynghori ac adborth helaeth.
Nid bwriad y papur trafod hwn ar gyfer llunwyr polisi yw gwahardd cyfundrefn reoleiddiol, ond yn hytrach awgrymu fframwaith dadansoddol addasol ac esblygol a allai fod yn sail i unrhyw brosesau asesu a rheoleiddio a allai gael eu datblygu gan randdeiliaid, gan gynnwys llywodraethau a’r system amlochrog.
Wrth i'r rhai sy'n gwneud penderfyniadau yn fyd-eang ac yn genedlaethol ystyried gosodiadau a ysgogwyr polisi priodol i gydbwyso risgiau a gwobrau technoleg newydd fel AI, bwriedir i'r fframwaith dadansoddol fod yn offeryn cyflenwol i sicrhau bod y gyfres lawn o oblygiadau posibl yn cael eu hadlewyrchu'n ddigonol.
Cefndir: pam fframwaith dadansoddol?
Mae dyfodiad cyflym technolegau gyda chymhlethdod a goblygiadau AI yn gyrru llawer o hawliadau o fudd mawr. Fodd bynnag, mae hefyd yn peri ofnau ynghylch risgiau sylweddol, o lefel unigol i lefel geostrategol.1 Mae llawer o’r drafodaeth hyd yma wedi’i hystyried mewn ystyr deuaidd gan fod safbwyntiau a fynegir yn gyhoeddus yn tueddu i ddigwydd ym mhen draw’r sbectrwm. Mae'r honiadau a wneir o blaid neu yn erbyn AI yn aml yn hyperbolig ac - o ystyried natur y dechnoleg - yn anodd eu hasesu.
Mae angen ymagwedd fwy pragmatig pan fydd gwerthusiadau mwy gronynnog wedi'u graddnodi yn disodli hyperbole. Bydd technoleg AI yn parhau i esblygu, ac mae hanes yn dangos bod gan bron bob technoleg ddefnydd buddiol a niweidiol. Y cwestiwn, felly, yw: sut y gallwn gyflawni'r canlyniadau buddiol o'r dechnoleg hon, tra'n lleihau'r risg o ganlyniadau niweidiol, y gallai rhai ohonynt fod yn ddirfodol o ran maint?
Mae’r dyfodol bob amser yn ansicr, ond mae digon o leisiau credadwy ac arbenigol ynghylch AI a deallusrwydd artiffisial cynhyrchiol i annog ymagwedd gymharol ragofalus. Yn ogystal, mae angen dull systemau gan fod AI yn ddosbarth o dechnolegau sy'n cael eu defnyddio a'u cymhwyso'n eang gan fathau lluosog o ddefnyddwyr. Mae hyn yn golygu bod yn rhaid ystyried y cyd-destun llawn wrth ystyried goblygiadau unrhyw ddefnydd AI i unigolion, bywyd cymdeithasol, bywyd dinesig, bywyd cymdeithasol ac yn y cyd-destun byd-eang.
Yn wahanol i'r rhan fwyaf o dechnolegau eraill, ar gyfer technolegau digidol a thechnolegau cysylltiedig, mae'r amser rhwng datblygu, rhyddhau a chymhwyso yn hynod o fyr, wedi'i ysgogi'n bennaf gan fuddiannau'r cwmnïau neu asiantaethau cynhyrchu. Yn ôl ei union natur – ac o ystyried ei fod yn seiliedig ar asgwrn cefn digidol – bydd gan AI gymwysiadau sy’n gyflym dreiddiol, fel y gwelwyd eisoes gyda datblygiad modelau iaith mawr. O ganlyniad, efallai mai dim ond ar ôl eu rhyddhau y daw rhai eiddo i'r amlwg, sy'n golygu bod risg o ganlyniadau anrhagweladwy, rhai maleisus a charedig.
Bydd dimensiynau gwerthoedd cymdeithasol pwysig, yn enwedig ar draws rhanbarthau a diwylliannau gwahanol, yn dylanwadu ar y ffordd y caiff unrhyw ddefnydd ei ganfod a'i dderbyn. Ymhellach, mae diddordebau geostrategol eisoes yn dominyddu trafodaeth, gyda buddiannau sofran ac amlochrog yn croestorri'n barhaus ac felly'n gyrru cystadleuaeth a rhaniad.
Hyd yn hyn, mae llawer o reoleiddio technoleg rithwir wedi'i weld i raddau helaeth trwy lens 'egwyddorion' a chydymffurfiaeth wirfoddol, er gyda Deddf AI yr UE2 ac yn debyg, rydym yn gweld symudiad at reoliadau mwy gorfodadwy ond braidd yn gul. Mae sefydlu system lywodraethu a/neu reoleiddio technoleg fyd-eang neu genedlaethol effeithiol yn parhau i fod yn heriol ac nid oes ateb amlwg. Bydd angen haenau lluosog o wneud penderfyniadau ar sail risg ar hyd y gadwyn, o'r dyfeisiwr i'r cynhyrchydd, i'r defnyddiwr, i'r llywodraeth ac i'r system amlochrog.
Er bod egwyddorion lefel uchel wedi’u cyhoeddi gan UNESCO, yr OECD, y Comisiwn Ewropeaidd a’r Cenhedloedd Unedig, ymhlith eraill, a bod trafodaethau lefel uchel amrywiol yn parhau ynghylch materion yn ymwneud â llywodraethu, rheoleiddio, moeseg a diogelwch posibl, mae bwlch mawr rhwng y sefydliadau hynny. egwyddorion a fframwaith llywodraethu neu reoleiddio. Mae angen mynd i'r afael â hyn.
Fel man cychwyn, mae'r ISC yn ystyried datblygu tacsonomeg o ystyriaethau y gallai unrhyw ddatblygwr, rheoleiddiwr, cynghorydd polisi, defnyddiwr neu wneuthurwr penderfyniadau gyfeirio atynt. O ystyried goblygiadau eang y technolegau hyn, rhaid i dacsonomeg o'r fath ystyried cyfanswm y goblygiadau yn hytrach na fframio â ffocws cul. Mae darnio byd-eang yn cynyddu oherwydd dylanwad buddiannau geostrategaidd ar wneud penderfyniadau, ac o ystyried brys y dechnoleg hon, mae'n hanfodol i leisiau annibynnol a niwtral hyrwyddo dull unedig a chynhwysol yn barhaus.
1) Amseroedd Hindwstan. 2023. Rhaid i G20 sefydlu panel rhyngwladol ar newid technolegol.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Deddf Deallusrwydd Artiffisial yr UE. 2023. https://artificialintelligenceact.eu
Datblygu fframwaith dadansoddol
Yr ISC yw'r prif sefydliad anllywodraethol byd-eang sy'n integreiddio'r gwyddorau naturiol a chymdeithasol. Mae ei gyrhaeddiad byd-eang a disgyblaethol yn golygu ei fod mewn sefyllfa dda i gynhyrchu cyngor annibynnol a pherthnasol yn fyd-eang i lywio’r dewisiadau cymhleth sydd o’n blaenau, yn enwedig gan fod y lleisiau presennol yn y maes hwn yn bennaf o ddiwydiant neu o gymunedau polisi a gwleidyddol y pwerau technolegol mawr.
Yn dilyn cyfnod o drafod helaeth, a oedd yn cynnwys ystyried proses asesu anllywodraethol, daeth yr ISC i'r casgliad mai ei gyfraniad mwyaf defnyddiol fyddai cynhyrchu fframwaith dadansoddol addasol y gellir ei ddefnyddio fel sail i drafodaeth a phenderfyniadau gan bawb. rhanddeiliaid, gan gynnwys yn ystod unrhyw brosesau asesu ffurfiol sy'n dod i'r amlwg.
Roedd y fframwaith dadansoddol rhagarweiniol, a ryddhawyd ar gyfer trafodaeth ac adborth ym mis Hydref 2023, ar ffurf rhestr wirio gyffredinol a gynlluniwyd i'w defnyddio gan sefydliadau'r llywodraeth ac anllywodraethol. Roedd y fframwaith yn nodi ac yn archwilio potensial technoleg fel AI a’i deilliadau trwy lens eang sy’n cwmpasu lles dynol a chymdeithasol, yn ogystal â ffactorau allanol megis economeg, gwleidyddiaeth, yr amgylchedd a diogelwch. Gall rhai agweddau ar y rhestr wirio fod yn fwy perthnasol nag eraill, yn dibynnu ar y cyd-destun, ond mae penderfyniadau gwell yn ymddangos yn fwy tebygol o ystyried pob parth, hyd yn oed os gellir nodi rhai yn amherthnasol yn gyflym mewn achosion penodol. Dyma werth cynhenid dull rhestr wirio.
Deilliodd y fframwaith rhagarweiniol o waith a syniadau blaenorol, gan gynnwys adroddiad y Rhwydwaith Rhyngwladol ar gyfer Cyngor Gwyddoniaeth y Llywodraeth (INGSA) ar les digidol3 a Fframwaith yr OECD ar gyfer Dosbarthu Systemau AI,4 i gyflwyno’r holl gyfleoedd, risgiau ac effeithiau posibl. o AI. Roedd y cynhyrchion blaenorol hyn yn fwy cyfyngedig yn eu bwriad o ystyried eu hamser a'u cyd-destun; mae angen fframwaith trosfwaol sy'n cyflwyno'r ystod lawn o faterion yn y tymor byr a'r tymor hwy.
Ers ei ryddhau, mae’r papur trafod wedi cael cefnogaeth sylweddol gan lawer o arbenigwyr a llunwyr polisi. Mae llawer wedi cymeradwyo’n benodol yr argymhelliad i ddatblygu fframwaith addasol sy’n caniatáu ar gyfer ystyriaeth fwriadol a rhagweithiol o risgiau a goblygiadau’r dechnoleg, ac wrth wneud hynny, bob amser yn ystyried cyfanrwydd dimensiynau o’r unigolyn i’r gymdeithas a systemau.
Un sylw allweddol a wnaed drwy’r adborth oedd cydnabod bod nifer o’r goblygiadau a ystyriwyd yn y fframwaith yn gynhenid amlochrog ac yn ymestyn ar draws categorïau lluosog. Er enghraifft, gellid ystyried dadwybodaeth o'r lens unigol a geostrategol; felly, byddai'r canlyniadau'n eang.
Awgrymwyd hefyd y dylid cynnwys astudiaethau achos neu enghreifftiau i brofi'r fframwaith. Gellid defnyddio hwn i ddatblygu canllawiau i ddangos sut y gellid ei ddefnyddio'n ymarferol mewn gwahanol gyd-destunau. Fodd bynnag, byddai hyn yn dasg sylweddol a gallai gyfyngu ar farn gwahanol grwpiau o'r defnydd o'r fframwaith hwn. Y ffordd orau o wneud hyn yw trwy i lunwyr polisi weithio gydag arbenigwyr mewn awdurdodaethau neu gyd-destunau penodol.
Ers mis Hydref 2023, bu nifer o fentrau cenedlaethol ac amlochrog arwyddocaol gan roi ystyriaeth bellach i foeseg a diogelwch AI. Mae goblygiadau AI ar gyfanrwydd rhai o’n systemau hanfodol, gan gynnwys ariannol, llywodraeth, cyfreithiol ac addysg, yn ogystal â systemau gwybodaeth gwahanol (gan gynnwys gwybodaeth wyddonol a chynhenid), yn peri pryder cynyddol. Mae'r fframwaith diwygiedig yn adlewyrchu'r agweddau hyn ymhellach.
Adlewyrchir yr adborth a dderbyniwyd hyd yma yn y fersiwn ddiwygiedig o'r fframwaith dadansoddol, sydd bellach yn cael ei ryddhau fel canllaw i lunwyr polisi.
Er bod y fframwaith yn cael ei gyflwyno yng nghyd-destun AI a thechnolegau cysylltiedig, mae modd ei drosglwyddo ar unwaith i ystyriaethau technolegau eraill sy'n datblygu'n gyflym fel bioleg cwantwm a synthetig.
3) Gluckman, P. ac Allen, K. 2018. Deall lles yng nghyd-destun trawsnewidiadau digidol cyflym a thrawsnewidiadau cysylltiedig. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Fframwaith OECD ar gyfer Dosbarthu systemau AI. Papurau'r OECD ar yr Economi Ddigidol, Rhif 323, #. Paris, Cyhoeddi OECD.
https://oecd.ai/en/classificatio
Y Fframwaith
Mae'r tabl canlynol yn cyflwyno dimensiynau fframwaith dadansoddol tybiedig. Darperir enghreifftiau i ddangos pam y gall pob parth fod yn bwysig; yn ei gyd-destun, byddai angen ehangu'r fframwaith sy'n berthnasol i'r cyd-destun. Mae hefyd yn bwysig gwahaniaethu rhwng y materion generig sy'n codi yn ystod datblygiadau platfform a'r rhai a all ddod i'r amlwg yn ystod cymwysiadau penodol. Ni ddylai unrhyw ystyriaeth unigol a gynhwysir yma gael ei thrin fel blaenoriaeth ac, fel y cyfryw, dylid archwilio pob un ohonynt.
Mae’r materion wedi’u grwpio’n fras i’r categorïau canlynol fel yr amlinellir isod:
Mae'r tabl yn manylu ar y dimensiynau y gallai fod angen eu hystyried wrth werthuso technoleg newydd.
? INGSA. 2018. Deall lles yng nghyd-destun trawsnewidiadau digidol cyflym a thrawsnewidiadau cysylltiedig.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
? Disgrifyddion newydd (a gafwyd trwy’r ymgynghoriad helaeth ac adborth ac adolygiad llenyddiaeth)
? Fframwaith OECD ar gyfer Dosbarthu Systemau AI: offeryn ar gyfer polisïau AI effeithiol.
https://oecd.ai/en/classification
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Cymhwysedd AI Defnyddwyr | Pa mor gymwys ac ymwybodol o briodweddau'r system yw'r defnyddwyr tebygol a fydd yn rhyngweithio â'r system? Sut y byddant yn cael y wybodaeth defnyddiwr berthnasol a rhybuddion? |
| ? Rhanddeiliad yr effeithir arno | Pwy yw'r prif randdeiliaid y bydd y system yn effeithio arnynt (unigolion, cymunedau, gweithwyr sy'n agored i niwed, gweithwyr sectoraidd, plant, llunwyr polisi, gweithwyr proffesiynol ac ati)? |
| ? Dewisoldeb | A roddir cyfle i ddefnyddwyr optio allan o'r system neu a roddir cyfleoedd iddynt herio neu gywiro'r allbwn? |
| ?Risg i hawliau dynol a gwerthoedd democrataidd | A yw'r system yn effeithio'n sylfaenol ar hawliau dynol, gan gynnwys ond heb fod yn gyfyngedig i breifatrwydd, rhyddid mynegiant, tegwch, anwahaniaethol ac ati? |
| ?Effeithiau posibl ar les pobl | A yw meysydd effaith y system yn ymwneud â lles y defnyddiwr unigol (ansawdd swydd, addysg, rhyngweithio cymdeithasol, iechyd meddwl, hunaniaeth, yr amgylchedd ac ati)? |
| ? Potensial ar gyfer dadleoli llafur dynol | A oes potensial i'r system awtomeiddio tasgau neu swyddogaethau a oedd yn cael eu cyflawni gan fodau dynol? Os felly, beth yw'r canlyniadau i lawr yr afon? |
| ? Potensial ar gyfer hunaniaeth, gwerthoedd neu drin gwybodaeth | A yw'r system wedi'i dylunio neu a yw o bosibl yn gallu trin hunaniaeth y defnyddiwr neu gosod gwerthoedd, neu ledaenu gwybodaeth anghywir? |
| ? Cyfleoedd ar gyfer hunanfynegiant a hunan-wireddu | A oes potensial ar gyfer celf a hunan-amheuaeth? A oes potensial ar gyfer ffug neu honiadau o arbenigedd na ellir eu gwirio? |
| ? Mesurau hunan-werth | A oes pwysau i bortreadu hunan delfrydol? A allai awtomeiddio ddisodli synnwyr o foddhad personol? A oes pwysau i gystadlu â'r system yn y gweithle? A yw'n anoddach amddiffyn enw da unigolion rhag gwybodaeth anghywir? |
| ? Preifatrwydd | A oes yna gyfrifoldebau gwasgaredig ar gyfer diogelu preifatrwydd ac a oes rhai tybiaethau’n cael eu gwneud ar sut y defnyddir data personol? |
| ? Ymreolaeth | A allai'r system AI effeithio ar ymreolaeth ddynol trwy gynhyrchu gorddibyniaeth trwy defnyddwyr terfynol? |
| ? Datblygiad dynol | A oes effaith ar gaffael sgiliau allweddol ar gyfer datblygiad dynol, megis swyddogaethau gweithredol neu sgiliau rhyngbersonol, neu newidiadau mewn amser sylw yn effeithio dysgu, datblygiad personoliaeth, pryderon iechyd meddwl ac ati? |
| ? Gofal iechyd personol | A oes honiadau o hunan-ddiagnosis neu atebion gofal iechyd personol? Os felly, a ydynt wedi'u dilysu i safonau rheoleiddio? |
| ? Iechyd meddwl | A oes risg o fwy o bryder, unigrwydd neu broblemau iechyd meddwl eraill, neu a all y dechnoleg liniaru effeithiau o'r fath? |
| ? Esblygiad dynol | A allai modelau iaith mawr a deallusrwydd cyffredinol artiffisial newid y cwrs esblygiad dynol? |
| ? Rhyngweithiad dynol-peiriant | A allai’r defnydd arwain at ddad-sgilio a dibyniaeth dros amser i unigolion? Ydyw a oes effeithiau ar ryngweithio dynol? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Gwerthoedd cymdeithasol | A yw'r system yn newid natur cymdeithas yn sylfaenol, yn galluogi normaleiddio syniadau a ystyriwyd yn wrthgymdeithasol yn flaenorol, neu'n torri gwerthoedd cymdeithasol y diwylliant y'i cymhwysir ynddo? |
| ? Rhyngweithiadau cymdeithasol | A oes effaith ar gyswllt dynol ystyrlon, gan gynnwys perthnasoedd emosiynol? |
| ? Iechyd y boblogaeth | A oes potensial i’r system ddatblygu neu danseilio bwriadau iechyd y boblogaeth? |
| ? Mynegiant diwylliannol | A yw cynnydd mewn neilltuo diwylliannol neu wahaniaethu yn debygol neu’n anos mynd i’r afael ag ef? A yw dibynnu ar y system ar gyfer gwneud penderfyniadau yn eithrio neu'n ymyleiddio cysylltiadau adrannol sy'n berthnasol yn ddiwylliannol i gymdeithas? |
| ? Addysg gyhoeddus | A oes effaith ar rolau athrawon neu sefydliadau addysg? A yw'r system yn pwysleisio neu'n lleihau'r rhaniad digidol a'r annhegwch ymhlith myfyrwyr? A yw gwerth cynhenid gwybodaeth neu ddealltwriaeth feirniadol yn uwch neu'n cael ei danseilio? |
| ? Gwirionedd gwyrgam | A yw'r dulliau a ddefnyddir i ganfod yr hyn sy'n wir yn dal yn berthnasol? A yw'r canfyddiad o realiti yn cael ei beryglu? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Sector diwydiannol | Ym mha sector diwydiannol mae'r system yn cael ei defnyddio (cyllid, amaethyddiaeth, gofal iechyd, addysg, amddiffyn ac ati)? |
| ? Model busnes | Ym mha swyddogaeth fusnes y mae'r system yn cael ei defnyddio ac ym mha swyddogaeth? Ble mae'r system yn cael ei defnyddio (preifat, cyhoeddus, dielw)? |
| ? Effeithiau ar weithgareddau hanfodol | A fyddai tarfu ar swyddogaeth neu weithgaredd y system yn effeithio ar wasanaethau hanfodol neu seilweithiau hanfodol? |
| ? Ehangder y defnydd | Sut mae'r system yn cael ei defnyddio (defnydd cul o fewn uned o'i gymharu â eang yn genedlaethol/rhyngwladol)? |
| ? Aeddfedrwydd technegol | Pa mor dechnegol aeddfed yw'r system? |
| ? Rhyngweithredu | A oes seilos yn debygol, yn genedlaethol neu’n fyd-eang, sy’n atal masnach rydd ac yn effeithio ar gydweithredu â phartneriaid? |
| ? Sofraniaeth dechnolegol | Ai awydd am ymddygiad gyrru sofraniaeth dechnolegol, gan gynnwys rheolaeth dros y gadwyn gyflenwi gyfan o AI? |
| ? Ailddosbarthu incwm ac ysgogiadau cyllidol cenedlaethol | A ellid peryglu rolau craidd y wladwriaeth sofran (ee, banciau wrth gefn)? A fydd gallu'r wladwriaeth i fodloni disgwyliadau a goblygiadau dinasyddion (cymdeithasol, economaidd, gwleidyddol ac ati) yn cael ei ddatblygu neu ei leihau? |
| ? Rhaniad digidol (rhaniad AI) | A yw anghydraddoldebau digidol presennol yn cael eu gwaethygu neu a yw rhai newydd yn cael eu creu? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Llywodraethu a gwasanaeth cyhoeddus | A allai'r mecanweithiau llywodraethu a'r system lywodraethu fyd-eang gael eu heffeithio'n gadarnhaol neu'n negyddol? |
| ? Cyfryngau newyddion | A yw trafodaethau cyhoeddus yn debygol o gael eu pegynu a'u gwreiddio ar lefel poblogaeth? A fydd effaith ar lefelau ymddiriedaeth yn y Bedwaredd Ystad? A fydd safonau moeseg ac uniondeb newyddiadurwyr confensiynol yn cael eu heffeithio ymhellach? |
| ? Rheol y gyfraith | A fydd effaith ar y gallu i nodi unigolion neu sefydliadau i ddal yn atebol (ee, pa fath o atebolrwydd i'w neilltuo i algorithm ar gyfer canlyniadau anffafriol)? Oes yna golled o sofraniaeth yn cael ei chreu (amgylcheddol, cyllidol, polisi cymdeithasol, moeseg ac ati)? |
| ?Gwleidyddiaeth a chydlyniad cymdeithasol | A oes posibilrwydd o safbwyntiau gwleidyddol mwy sefydledig a llai o gyfle i feithrin consensws? A oes posibilrwydd o ymyleiddio grwpiau ymhellach? A yw arddulliau gwrthwynebus o wleidyddiaeth yn cael eu gwneud yn fwy neu'n llai tebygol? |
| ? Trwydded gymdeithasol | A oes pryderon preifatrwydd, materion ymddiriedaeth a phryderon moesol y mae angen eu hystyried er mwyn i randdeiliaid dderbyn y defnydd? |
| ? Gwybodaeth gynhenid | A allai gwybodaeth a data brodorol gael eu llygru neu eu camddefnyddio? A oes mesurau digonol i amddiffyn rhag camliwio, camwybodaeth a chamfanteisio? |
| ? System wyddonol | A yw cywirdeb academaidd ac ymchwil yn cael ei beryglu? A oes diffyg ymddiriedaeth mewn gwyddoniaeth? A oes posibiliadau o gamddefnydd, gorddefnyddio neu gamdriniaeth? Beth yw canlyniad yr arfer o wyddoniaeth? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Gwyliadwriaeth fanwl | A yw’r systemau wedi’u hyfforddi ar ddata ymddygiadol a biolegol unigol ac a ellid eu defnyddio i ecsbloetio unigolion neu grwpiau? |
| ? Cystadleuaeth ddigidol | A allai actorion gwladwriaethol neu anwladwriaethol (ee cwmnïau technoleg mawr) harneisio systemau a data i ddeall a rheoli poblogaethau ac ecosystemau gwledydd eraill, neu danseilio rheolaeth awdurdodaethol? |
| ? Cystadleuaeth geopolitical | A allai'r system ysgogi cystadleuaeth rhwng cenhedloedd dros harneisio data unigol a grŵp ar gyfer buddiannau economaidd, meddygol a diogelwch? |
| ? Newid mewn pwerau byd-eang | A yw statws cenedl-wladwriaethau fel prif actorion geopolitical y byd dan fygythiad? A yw cwmnïau technoleg yn defnyddio pŵer unwaith y bydd wedi'i neilltuo ar gyfer gwladwriaethau-wladwriaethau ac a ydynt wedi dod yn actorion annibynnol, sofran (trefn y byd technopolar sy'n dod i'r amlwg)? |
| ? Anwybodaeth | A fyddai’r system yn hwyluso’r broses o gynhyrchu a lledaenu gwybodaeth anghywir gan actorion y wladwriaeth ac an-wladwriaeth gan effeithio ar gydlyniant cymdeithasol, ymddiriedaeth a democratiaeth? |
| ? Cymwysiadau defnydd deuol | A oes posibilrwydd ar gyfer defnydd milwrol yn ogystal â defnydd sifil? |
| ? Darnio trefn fyd-eang | A allai seilos neu glystyrau o reoleiddio a chydymffurfiaeth ddatblygu sy'n rhwystro cydweithredu, arwain at anghysondebau o ran cymhwyso a chreu lle i wrthdaro? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Defnydd o ynni ac adnoddau (ôl troed carbon) | A yw'r system a'r gofynion yn cynyddu'r defnydd o ynni ac adnoddau y tu hwnt i'r enillion effeithlonrwydd a geir trwy'r cais? |
| ?Ffynhonnell ynni | O ble mae'r ynni'n dod ar gyfer y system (adnewyddadwy yn erbyn tanwydd ffosil ac ati)? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Cyfeiriad a chasgliad | Ydy'r data a'r mewnbwn yn cael eu casglu gan fodau dynol, synwyryddion awtomataidd neu'r ddau? |
| ? Tarddiad y data | A yw'r data a'r mewnbwn gan arbenigwyr yn cael eu darparu, eu harsylwi, yn synthetig neu'n deillio? A oes amddiffyniadau dyfrnodau i gadarnhau tarddiad? |
| ? Natur ddeinamig y data | A yw'r data yn ddeinamig, yn statig, yn ddeinamig yn cael ei ddiweddaru o bryd i'w gilydd neu amser real? |
| ? Hawliau | A yw'r data yn berchnogol, yn gyhoeddus neu'n bersonol (yn ymwneud ag unigolion adnabyddadwy)? |
| ? Adnabyddiaeth a data personol | Os yw'n bersonol, a yw'r data'n ddienw neu'n ffug-enw? |
| ? Strwythur y data | A yw'r data yn strwythuredig, yn lled-strwythuredig, yn gymhleth yn strwythuredig neu'n anstrwythuredig? |
| ? Fformat y data | A yw fformat y data a'r metadata wedi'i safoni neu'n ansafonol? |
| ? Graddfa'r data | Beth yw graddfa'r set ddata? |
| ? Priodoldeb ac ansawdd y data | A yw'r set ddata yn addas at y diben? A yw maint y sampl yn ddigonol? A yw'n ddigon cynrychioliadol a chyflawn? Pa mor swnllyd yw'r data? A yw'n dueddol o gamgymeriadau? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Argaeledd gwybodaeth | A oes unrhyw wybodaeth ar gael am fodel y system? |
| ? Math o fodel AI | A yw'r model yn symbolaidd (rheolau a gynhyrchir gan bobl), yn ystadegol (yn defnyddio data) neu'n hybrid? |
| ? Hawliau sy'n gysylltiedig â'r model | A yw'r model ffynhonnell agored neu berchnogol, hunan- neu drydydd parti yn cael ei reoli? |
| ? Sengl o fodelau lluosog | A yw'r system yn cynnwys un model neu sawl model cydgysylltiedig? |
| ? Cynhyrchiol neu wahaniaethol | A yw'r model yn gynhyrchiol, yn wahaniaethol neu'r ddau? |
| ? Adeiladu model | A yw'r system yn dysgu yn seiliedig ar reolau a ysgrifennwyd gan ddyn, o ddata, trwy ddysgu dan oruchwyliaeth neu drwy ddysgu atgyfnerthu? |
| ? Esblygiad model (drifft AI) | A yw'r model yn esblygu a/neu'n caffael galluoedd o ryngweithio â data yn y maes? |
| ? Dysgu ffederal neu ganolog | A yw'r model wedi'i hyfforddi'n ganolog neu mewn sawl gweinydd lleol neu ddyfais 'ymyl'? |
| ? Datblygu/cynnal a chadw | A yw'r model yn gyffredinol, yn addasadwy neu wedi'i deilwra i ddata'r actor AI? |
| ? penderfynol neu debygol | A yw'r model yn cael ei ddefnyddio mewn modd penderfynol neu debygol? |
| ? Model tryloywder | A oes gwybodaeth ar gael i ddefnyddwyr i'w galluogi i ddeall allbynnau a chyfyngiadau model neu ddefnyddio cyfyngiadau? |
| ? Cyfyngiad cyfrifiadurol | A oes cyfyngiadau cyfrifiannol i'r system? A yw'n bosibl rhagweld neidiau gallu neu ddeddfau graddio? |
| Meini Prawf | Enghreifftiau o sut y gellir adlewyrchu hyn mewn dadansoddiad |
| ? Tasg(au) a gyflawnir gan system | Pa dasgau mae'r system yn eu cyflawni (adnabod, canfod digwyddiadau, rhagweld ac ati)? |
| ? Cyfuno tasgau a gweithredoedd | A yw'r system yn cyfuno sawl tasg a gweithred (systemau cynhyrchu cynnwys, systemau ymreolaethol, systemau rheoli ac ati)? |
| ? Lefel ymreolaeth y system | Pa mor annibynnol yw gweithredoedd y system a pha rôl mae bodau dynol yn ei chwarae? |
| ? Graddfa ymglymiad dynol | A oes rhywfaint o ymglymiad dynol i oruchwylio gweithgaredd cyffredinol y system AI a'r gallu i benderfynu pryd a sut i ddefnyddio'r system AI mewn unrhyw sefyllfa? |
| ? Cymhwysiad craidd | A yw'r system yn perthyn i faes cymhwysiad craidd fel technolegau iaith ddynol, gweledigaeth gyfrifiadurol, awtomeiddio a/neu optimeiddio neu roboteg? |
| ? Gwerthusiad | A oes safonau neu ddulliau ar gael ar gyfer gwerthuso allbwn system? |
Sut y gellid defnyddio'r fframwaith hwn?
Gellid defnyddio’r fframwaith hwn mewn sawl ffordd, gan gynnwys:
Ffordd ymlaen
I grynhoi, darperir y fframwaith dadansoddol fel sail i becyn cymorth y gellid ei ddefnyddio gan randdeiliaid i edrych yn gynhwysfawr ar unrhyw ddatblygiadau arwyddocaol naill ai o ran llwyfannau neu ddefnydd mewn modd cyson a systematig. Mae'r dimensiynau a gyflwynir yn y fframwaith hwn yn berthnasol o asesu technoleg i bolisi cyhoeddus, o ddatblygiad dynol i gymdeithaseg, ac astudiaethau dyfodol a thechnoleg. Er ei fod wedi'i ddatblygu ar gyfer AI, mae gan y fframwaith dadansoddol hwn gymhwysiad llawer ehangach i unrhyw dechnoleg arall sy'n dod i'r amlwg.
6 Bwrdd Cynghori AI y CU. 2023. Adroddiad Interim: Llywodraethu AI ar gyfer Dynoliaeth. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd
Diolchiadau
Ymgynghorwyd â llawer o bobl ac maent wedi rhoi adborth iddynt wrth ddatblygu'r papur trafod cychwynnol a'r adborth yn dilyn ei ryddhau. Drafftiwyd y ddau bapur gan Sir Peter Gluckman, Llywydd, yr ISC a Hema Sridhar, cyn Brif Gynghorydd Gwyddoniaeth, Weinyddiaeth Amddiffyn, Seland Newydd ac yn awr Uwch Ymgynghorydd Ymchwil Fellow, Prifysgol Auckland, Seland Newydd.
Yn benodol, yr ISC Arglwydd Martin Rees, cyn Lywydd y Gymdeithas Frenhinol a Chyd-sylfaenydd y Ganolfan Astudio Risgiau Difodol, Prifysgol Caergrawnt; yr Athro Shivaji Sondhi, Athro Ffiseg, Prifysgol Rhydychen; yr Athro K Vijay Raghavan, cyn Brif Gynghorydd Gwyddonol i Lywodraeth India; Amandeep Singh Gill, Llysgennad Ysgrifennydd Cyffredinol y Cenhedloedd Unedig ar Dechnoleg; Seán Ó hÉigeartaigh, Cyfarwyddwr Gweithredol, Canolfan Astudio Risgiau Difodol, Prifysgol Caergrawnt; Syr David Spiegelhalter, Athro Winton mewn Dealltwriaeth y Cyhoedd o Risg, Prifysgol
o Gaergrawnt; Amanda-June Brawner, Uwch Gynghorydd Polisi ac Ian Wiggins, Cyfarwyddwr Materion Rhyngwladol, Cymdeithas Frenhinol, y Deyrnas Unedig; Dr Jerome Duberry, Rheolwr Gyfarwyddwr a Dr Marie-Laure Salles, Cyfarwyddwr, Sefydliad Graddedigion Genefa; Chor Pharn Lee, Canolfan Dyfodol Strategol, Swyddfa'r Prif Weinidog, Singapôr; Barend Mons a Dr Simon Hodson, y Pwyllgor ar Ddata (CoDATA); yr Athro Yuko Harayama, Cyn Gyfarwyddwr Gweithredol, RIKEN; Athro
Rémi Quirion, Llywydd, INGSA; Dr Claire Craig, Prifysgol Rhydychen a Chyn Bennaeth Rhagweld, Swyddfa Wyddoniaeth y Llywodraeth; Yr Athro Yoshua Bengio, Bwrdd Cynghori Gwyddonol Ysgrifennydd Cyffredinol y Cenhedloedd Unedig ac yn Université de Montréal; a'r llu o rai eraill a roddodd adborth i'r ISC ar y papur trafod cychwynnol.
Paratoi Ecosystemau Ymchwil Cenedlaethol ar gyfer AI: Strategaethau a chynnydd yn 2024
Mae'r papur gwaith hwn o felin drafod yr ISC, y Centre for Science Futures, yn darparu gwybodaeth sylfaenol a mynediad at adnoddau o wledydd o bob rhan o'r byd, ar wahanol gamau o integreiddio AI yn eu hecosystemau ymchwil.
Adeiladu systemau gwyddoniaeth sy'n barod ar gyfer y dyfodol yn y De Byd-eang
Mae technolegau sy'n dod i'r amlwg yn ail-lunio'r ffordd y cynhelir gwyddoniaeth ac yn cynnig potensial sylweddol i gryfhau systemau gwyddoniaeth yn y De Byd-eang – os yw eu mabwysiadu yn cael ei arwain gan ddulliau cynhwysol, â chefnogaeth dda, ac sy'n sensitif i gyd-destun. Sut i sicrhau bod y technolegau hyn yn cyfrannu at systemau gwyddoniaeth mwy cyfartal a gwydn, yn hytrach nag atgyfnerthu anghydraddoldebau presennol, oedd ffocws canolog yr encil strategol diweddar hwn.
Darllenwch fwy am Weithdai Cyngor Gwyddoniaeth INGSA-Asia 
Darllenwch fwy am Adroddiad Blynyddol 2024 
Darllenwch fwy am Adroddiad Blynyddol 2024 - Pwynt Ffocws Rhanbarthol ar gyfer America Ladin a'r Caribî 
Darllenwch fwy am Harneisio “digidol” ar gyfer gwyddoniaeth mewn lleoliadau adnoddau is 