Gan Marc Eliot Stein, Chwefror 10, 2020

Cefais wahoddiad yn ddiweddar i siarad mewn cynulliad Gwrthryfel Difodiant yn Ninas Efrog Newydd ar ran World BEYOND War. Cynlluniwyd y digwyddiad i ddod â thri grŵp gweithredu ynghyd: gweithredwyr newid hinsawdd, cydweithfeydd gweithwyr technoleg, ac ymgyrchwyr gwrth-ryfel. Dechreuon ni gyda hanes personol cyffrous gan yr actifydd newid hinsawdd Ha Vu, a ddywedodd wrth y dorf o Efrog Newydd am brofiad brawychus nad oes llawer ohonom erioed wedi'i gael: dychwelyd i gartref ei theulu yn Hanoi, Fietnam, lle mwy o wres eisoes wedi ei gwneud bron yn amhosibl cerdded y tu allan yn ystod oriau brig golau'r haul. Ychydig o Americanwyr hefyd sy'n gwybod am y Trychineb llygredd dŵr 2016 yn Ha Tinh yng nghanol Fietnam. Rydyn ni'n aml yn siarad am newid hinsawdd fel problem bosibl yn UDA, pwysleisiodd Ha, ond yn Fietnam mae hi'n gallu ei weld eisoes yn tarfu ar fywydau a bywoliaethau, ac yn gwaethygu'n gyflym.

Nick Mottern o KnowDrones.org siarad â brys tebyg am fuddsoddiad enfawr diweddar milwrol yr Unol Daleithiau mewn deallusrwydd artiffisial dyfodolaidd a chyfrifiadura cwmwl - a phwysleisiodd gasgliad y fyddin ei hun y bydd defnyddio systemau AI mewn rheoli arfau niwclear a rhyfela dronau yn anochel yn arwain at gamgymeriadau o faint anrhagweladwy. Yna esboniodd William Beckler o Extinction Rebellion NYC yr egwyddorion trefniadol y mae'r sefydliad pwysig hwn sy'n tyfu'n gyflym yn eu rhoi ar waith, gan gynnwys camau aflonyddgar a gynlluniwyd i godi ymwybyddiaeth o bwysigrwydd hanfodol newid yn yr hinsawdd. Clywsom gan gynrychiolydd o Ddinas Efrog Newydd o Clymblaid Gweithwyr Technoleg, a cheisiais annog y cynulliad tuag at ymdeimlad o rymuso ymarferol trwy siarad am weithred gwrthryfel gan weithwyr technoleg a oedd yn annisgwyl o lwyddiannus.

Roedd hyn ym mis Ebrill 2018, pan oedd yr hyn a elwir yn “ddiwydiant amddiffyn” yn fwrlwm o Brosiect Maven, menter filwrol newydd yr Unol Daleithiau a gafodd lawer o gyhoeddusrwydd i ddatblygu galluoedd deallusrwydd artiffisial ar gyfer dronau a systemau arfau eraill. Mae Google, Amazon a Microsoft i gyd yn cynnig llwyfannau deallusrwydd artiffisial oddi ar y silff ar gyfer cwsmeriaid sy'n talu, a gwelwyd Google fel enillydd tebygol contract milwrol Project Maven.

Yn gynnar yn 2018, dechreuodd gweithwyr Google godi llais. Doedden nhw ddim yn deall pam fod cwmni oedd wedi eu recriwtio fel gweithwyr gyda’r addewid “Peidiwch â Bod yn Drygioni” bellach yn cynnig ar brosiectau milwrol sy’n debygol o ymdebygu i bennod erchyll “Black Mirror” lle mae cŵn mecanyddol wedi’u pweru gan AI yn hel cŵn dynol. bodau i farwolaeth. Buont yn siarad ar gyfryngau cymdeithasol ac â siopau newyddion traddodiadol. Fe wnaethant drefnu camau gweithredu a dosbarthu deisebau a sicrhau bod pobl yn cael eu clywed.

Y gwrthryfel gweithwyr hwn oedd tarddiad mudiad Gwrthryfel Gweithwyr Google, a helpodd i roi hwb i gydweithfeydd gweithwyr technoleg eraill. Ond y peth mwyaf syfrdanol am brotest fewnol Google yn erbyn Project Maven oedd nad oedd gweithwyr technoleg yn codi llais. Y peth mwyaf syfrdanol yw hynny Llwyddodd rheolaeth Google i fodloni gofynion gweithwyr.

Ddwy flynedd yn ddiweddarach, mae'r ffaith hon yn dal i fy syfrdanu. Rwyf wedi gweld llawer o broblemau moesegol yn fy negawdau fel gweithiwr technoleg, ond anaml yr wyf wedi gweld cwmni mawr yn cytuno'n bendant i fynd i'r afael â phroblemau moesegol mewn ffordd arwyddocaol. Canlyniad gwrthryfel Google yn erbyn Project Maven oedd cyhoeddi set o egwyddorion AI sy'n werth eu hailargraffu yma yn llawn:

Deallusrwydd Artiffisial yn Google: Ein Hegwyddorion

Mae Google yn anelu at greu technolegau sy'n datrys problemau pwysig ac yn helpu pobl yn eu bywydau bob dydd. Rydym yn optimistaidd ynghylch y potensial anhygoel i AI a thechnolegau datblygedig eraill rymuso pobl, bod o fudd eang i genedlaethau'r presennol a'r dyfodol, a gweithio er lles pawb.

Amcanion ar gyfer cymwysiadau AI

Byddwn yn asesu ceisiadau AI o ystyried yr amcanion canlynol. Credwn y dylai AI:

1. Byddwch yn llesol yn gymdeithasol.

Mae cyrhaeddiad ehangach technolegau newydd yn cyffwrdd yn gynyddol â'r gymdeithas gyfan. Bydd datblygiadau mewn AI yn cael effeithiau trawsnewidiol mewn ystod eang o feysydd, gan gynnwys gofal iechyd, diogelwch, ynni, cludiant, gweithgynhyrchu ac adloniant. Wrth i ni ystyried datblygiad a defnydd posibl o dechnolegau AI, byddwn yn ystyried ystod eang o ffactorau cymdeithasol ac economaidd, a byddwn yn symud ymlaen pan fyddwn yn credu bod y buddion tebygol cyffredinol yn sylweddol uwch na’r risgiau a’r anfanteision rhagweladwy.

Mae AI hefyd yn gwella ein gallu i ddeall ystyr cynnwys ar raddfa. Byddwn yn ymdrechu i sicrhau bod gwybodaeth gywir o ansawdd uchel ar gael yn hawdd gan ddefnyddio AI, wrth barhau i barchu normau diwylliannol, cymdeithasol a chyfreithiol yn y gwledydd lle rydym yn gweithredu. A byddwn yn parhau i werthuso'n feddylgar pryd i sicrhau bod ein technolegau ar gael ar sail anfasnachol.

2. Osgoi creu neu atgyfnerthu rhagfarn annheg.

Gall algorithmau a setiau data AI adlewyrchu, atgyfnerthu neu leihau rhagfarnau annheg. Rydym yn cydnabod nad yw gwahaniaethu teg a rhagfarnau annheg bob amser yn syml, a'i fod yn gwahaniaethu ar draws diwylliannau a chymdeithasau. Byddwn yn ceisio osgoi effeithiau anghyfiawn ar bobl, yn enwedig y rhai sy'n ymwneud â nodweddion sensitif megis hil, ethnigrwydd, rhyw, cenedligrwydd, incwm, cyfeiriadedd rhywiol, gallu, a chred wleidyddol neu grefyddol.

3. Cael eu hadeiladu a'u profi ar gyfer diogelwch.

Byddwn yn parhau i ddatblygu a chymhwyso arferion diogelwch a diogeledd cryf i osgoi canlyniadau anfwriadol sy'n creu risgiau o niwed. Byddwn yn dylunio ein systemau AI i fod yn ofalus iawn, ac yn ceisio eu datblygu yn unol ag arferion gorau mewn ymchwil diogelwch AI. Mewn achosion priodol, byddwn yn profi technolegau AI mewn amgylcheddau cyfyngedig ac yn monitro eu gweithrediad ar ôl eu defnyddio.

4. Bod yn atebol i bobl.

Byddwn yn dylunio systemau AI sy’n darparu cyfleoedd priodol ar gyfer adborth, esboniadau perthnasol, ac apêl. Bydd ein technolegau AI yn destun cyfeiriad a rheolaeth ddynol briodol.

5. Ymgorffori egwyddorion dylunio preifatrwydd.

Byddwn yn ymgorffori ein hegwyddorion preifatrwydd wrth ddatblygu a defnyddio ein technolegau AI. Byddwn yn rhoi cyfle i roi rhybudd a chaniatâd, yn annog saernïaeth gyda mesurau diogelu preifatrwydd, ac yn darparu tryloywder a rheolaeth briodol dros y defnydd o ddata.

6. Cynnal safonau uchel o ragoriaeth wyddonol.

Mae arloesedd technolegol wedi'i wreiddio yn y dull gwyddonol ac ymrwymiad i ymholiad agored, trylwyredd deallusol, uniondeb a chydweithio. Mae gan offer AI y potensial i ddatgloi meysydd newydd o ymchwil wyddonol a gwybodaeth mewn meysydd hanfodol fel bioleg, cemeg, meddygaeth, a gwyddorau amgylcheddol. Rydym yn anelu at safonau uchel o ragoriaeth wyddonol wrth i ni weithio i ddatblygu datblygiad AI.

Byddwn yn gweithio gydag amrywiaeth o randdeiliaid i hyrwyddo arweinyddiaeth feddylgar yn y maes hwn, gan ddefnyddio dulliau gweithredu amlddisgyblaethol sy’n wyddonol drylwyr. A byddwn yn rhannu gwybodaeth AI yn gyfrifol trwy gyhoeddi deunyddiau addysgol, arferion gorau, ac ymchwil sy'n galluogi mwy o bobl i ddatblygu cymwysiadau AI defnyddiol.

7. Bod ar gael at ddefnyddiau sy'n cyd-fynd â'r egwyddorion hyn.

Mae gan lawer o dechnolegau ddefnyddiau lluosog. Byddwn yn gweithio i gyfyngu ar geisiadau a allai fod yn niweidiol neu'n gamdriniol. Wrth i ni ddatblygu a defnyddio technolegau AI, byddwn yn gwerthuso defnyddiau tebygol yng ngoleuni'r ffactorau canlynol:

• Prif ddiben a defnydd: prif ddiben a defnydd tebygol technoleg a chymhwysiad, gan gynnwys pa mor agos y mae’r datrysiad yn berthnasol i ddefnydd niweidiol neu’n addasadwy iddo
• Natur ac unigrywiaeth: a ydym yn darparu technoleg sy'n unigryw neu ar gael yn fwy cyffredinol
• graddfa: a fydd y defnydd o'r dechnoleg hon yn cael effaith sylweddol
• Natur cyfranogiad Google: p'un a ydym yn darparu offer pwrpas cyffredinol, yn integreiddio offer ar gyfer cwsmeriaid, neu'n datblygu datrysiadau wedi'u teilwra

Ceisiadau AI na fyddwn yn eu dilyn

Yn ogystal â'r amcanion uchod, ni fyddwn yn dylunio nac yn defnyddio AI yn y meysydd cais canlynol:

1. Technolegau sy'n achosi neu'n debygol o achosi niwed cyffredinol. Lle mae risg sylweddol o niwed, byddwn yn symud ymlaen dim ond pan fyddwn yn credu bod y buddion yn sylweddol uwch na'r risgiau, a byddwn yn ymgorffori cyfyngiadau diogelwch priodol.
2. Arfau neu dechnolegau eraill y mae eu prif ddiben neu weithrediad yw achosi neu hwyluso anaf i bobl yn uniongyrchol.
3. Technolegau sy'n casglu neu'n defnyddio gwybodaeth ar gyfer gwyliadwriaeth sy'n torri normau a dderbynnir yn rhyngwladol.
4. Technolegau y mae eu pwrpas yn mynd yn groes i egwyddorion cyfraith ryngwladol a hawliau dynol a dderbynnir yn eang.

Wrth i'n profiad yn y gofod hwn ddyfnhau, efallai y bydd y rhestr hon yn esblygu.

Casgliad

Credwn mai'r egwyddorion hyn yw'r sylfaen gywir ar gyfer ein cwmni a'n datblygiad o AI yn y dyfodol. Rydym yn cydnabod bod y maes hwn yn ddeinamig ac yn esblygu, a byddwn yn ymdrin â’n gwaith yn wylaidd, yn ymroddedig i ymgysylltu mewnol ac allanol, a pharodrwydd i addasu ein hymagwedd wrth i ni ddysgu dros amser.

Nid yw'r canlyniad cadarnhaol hwn yn rhyddhau'r cawr technoleg Google rhag cymhlethdod mewn amrywiol feysydd eraill sy'n peri pryder mawr, megis cefnogi ICE, yr heddlu a gweithgareddau milwrol eraill, cydgasglu a gwerthu mynediad at ddata preifat am unigolion, cuddio datganiadau gwleidyddol dadleuol o ganlyniadau peiriannau chwilio. ac, yn bwysicaf oll, caniatáu i'w weithwyr barhau i godi llais ar y materion hyn a materion eraill heb gael eu tanio am wneud hynny. Mae mudiad gwrthryfel gweithwyr Google yn parhau i fod yn weithgar ac yn ymgysylltu'n fawr.

Ar yr un pryd, mae'n bwysig cydnabod pa mor effeithiol oedd mudiad gweithwyr Google. Daeth hyn yn amlwg yn syth ar ôl i brotestiadau Google ddechrau: rhoddodd adrannau marchnata’r Pentagon y gorau i gyhoeddi datganiadau i’r wasg newydd am y Prosiect Maven a oedd unwaith yn gyffrous, gan “ddiflannu” y prosiect yn gyfan gwbl o’r gwelededd cyhoeddus yr oedd wedi’i geisio’n gynharach. Yn lle hynny, dechreuodd menter deallusrwydd artiffisial newydd a llawer mwy ddod i'r amlwg o lechwraidd y Pentagon Bwrdd Arloesi Amddiffyn.

Galwyd hyn Prosiect JEDI, enw newydd ar wariant Pentagon ar arfau blaengar. Byddai Prosiect JEDI yn gwario llawer mwy o arian na Project Maven, ond mae'r blitz cyhoeddusrwydd ar gyfer y prosiect newydd (ie, mae milwrol yr Unol Daleithiau yn gwario llawer amser a sylw ar gyhoeddusrwydd a marchnata) yn wahanol iawn i'r un cynharach. Roedd yr holl ddelweddau lluniaidd a rhywiol “Black Mirror” wedi diflannu. Nawr, yn lle pwysleisio’r erchyllterau dystopaidd cyffrous a sinematig y gallai dronau wedi’u pweru gan AI ei achosi ar fodau dynol, esboniodd Prosiect JEDI ei hun fel cam sobr ymlaen ar gyfer effeithlonrwydd, gan gyfuno cronfeydd data cwmwl amrywiol er mwyn helpu “rhyfelwyr” (hoff derm y Pentagon am personél rheng flaen) a thimau cymorth cefn swyddfa yn sicrhau bod gwybodaeth mor effeithiol â phosibl. Lle cynlluniwyd Project Maven i swnio'n gyffrous a dyfodolaidd, cynlluniwyd Prosiect JEDI i swnio'n synhwyrol ac ymarferol.

Nid oes dim byd synhwyrol nac ymarferol am y tag pris ar gyfer Prosiect JEDI. Dyma'r contract meddalwedd milwrol mwyaf yn hanes y byd: $10.5 biliwn. Mae llawer o'n llygaid yn disgleirio pan fyddwn yn clywed am raddfeydd o wariant milwrol, a gallwn hepgor y gwahaniaeth rhwng miliynau a biliynau. Mae'n hanfodol deall faint yn fwy yw Project JEDI nag unrhyw fenter meddalwedd Pentagon flaenorol. Mae'n newidiwr gêm, yn injan sy'n cynhyrchu cyfoeth, yn siec wag ar gyfer elw ar draul y trethdalwr.

Mae'n helpu i grafu o dan wyneb datganiadau i'r wasg y llywodraeth wrth geisio amgyffred siec wag gwariant milwrol mor fawr â $10.5 biliwn. Gellir cael rhywfaint o wybodaeth o gyhoeddiadau'r fyddin ei hun, fel peth sy'n peri pryder Cyfweliad Awst 2019 gyda’r Cyd-ganolfan Deallusrwydd Artiffisial, yr Is-gapten Cyffredinol Jack Shanahan, ffigwr allweddol yn y Prosiect Maven sydd wedi diflannu a'r Prosiect JEDI newydd. Llwyddais i gael mwy o fewnwelediad i sut mae pobl fewnol y diwydiant amddiffyn yn meddwl am Brosiect JEDI trwy wrando ar bodlediad diwydiant amddiffyn o'r enw “Prosiect 38: Dyfodol Contractau’r Llywodraeth”. Mae gwesteion podlediad yn aml yn siarad yn onest ac yn ddigywilydd am ba bynnag bwnc y maent yn ei drafod. “Bydd llawer o bobl yn prynu pyllau nofio newydd eleni” oedd yn nodweddiadol o sgwrs fewnol y podlediad hwn am Brosiect JEDI. Rydyn ni'n siŵr y byddan nhw.

Dyma'r peth rhyfeddol sy'n cysylltu'n ôl ag egwyddorion AI Google. Y tri phrif flaenwr amlwg ar gyfer y contract JEDI enfawr $10.5 biliwn fyddai Google, Amazon a Microsoft - yn y drefn honno, yn seiliedig ar eu henw da fel arloeswyr AI. Oherwydd protest y gweithwyr yn erbyn Project Maven yn 2018, roedd arweinydd AI Google allan o ystyriaeth ar gyfer y Prosiect JEDI llawer mwy yn 2019. Yn hwyr yn 2019, cyhoeddwyd bod y contract yn mynd i Microsoft. Dilynodd llu o sylw yn y newyddion, ond roedd y sylw hwn yn canolbwyntio'n bennaf ar y gystadleuaeth rhwng Amazon a Microsoft, ac ar y ffaith ei bod yn debyg bod Microsoft yn y 3ydd safle wedi cael curo Amazon yn ail am y fuddugoliaeth oherwydd brwydrau parhaus gweinyddiaeth Trump gyda Washington Post, sy'n eiddo i Jeff Bezos o Amazon. Mae Amazon nawr yn mynd i'r llys i frwydro yn erbyn rhodd y Pentagon o $2 biliwn i Microsoft, ac mae Oracle yn siwio hefyd. Roedd y sylw penodol o bodlediad Prosiect 10.5 y soniwyd amdano uchod – “Bydd llawer o bobl yn prynu pyllau nofio newydd eleni” – yn cyfeirio nid yn unig at hwb ariannol Microsoft ond hefyd at yr holl gyfreithwyr a fydd yn cymryd rhan yn yr achosion cyfreithiol hyn. Mae'n debyg y gallwn wneud dyfalu gwybodus y bydd mwy na 38% o $3 biliwn Prosiect JEDI yn mynd i gyfreithwyr. Mae'n rhy ddrwg na allwn ei ddefnyddio i helpu diwedd newyn y byd yn lle hynny.

Mae'r anghydfod ynghylch a ddylai'r trosglwyddiad hwn o arian trethdalwr i gontractwyr milwrol fod o fudd i Microsoft, Amazon neu Oracle wedi dominyddu sylw newyddion Prosiect JEDI. Nid yw'r un neges gadarnhaol i'w chasglu o'r impiad anweddus hwn - y ffaith bod Google wedi camu i ffwrdd o'r contract meddalwedd milwrol mwyaf yn hanes y byd oherwydd protest y gweithwyr - bron yn bodoli yn narllediadau newyddion Prosiect JEDI. 

Dyna pam ei bod yn bwysig adrodd y stori hon wrth yr actifyddion sy'n canolbwyntio ar dechnoleg a gasglwyd mewn ystafell orlawn yng nghanol tref Manhattan yr wythnos diwethaf i siarad am sut y gallwn achub ein planed, sut y gallwn ymladd yn erbyn dadffurfiad a gwleidyddoli gwyddor hinsawdd, sut y gallwn wrthsefyll pŵer enfawr y rhai sy'n gwneud elw tanwydd ffosil a'r rhai sy'n gwneud elw arfau. Yn yr ystafell fach hon, roedd yn ymddangos ein bod i gyd yn deall dimensiynau'r broblem yr oeddem yn ei hwynebu, a'r rôl hanfodol y mae'n rhaid i ni ein hunain ddechrau ei chwarae. Mae gan y gymuned dechnoleg bŵer sylweddol. Yn union fel y gall ymgyrchoedd dadfuddsoddi wneud gwahaniaeth gwirioneddol, gall gwrthryfeloedd gweithwyr technoleg wneud gwahaniaeth gwirioneddol. Mae yna lawer o ffyrdd y gall gweithredwyr newid hinsawdd, gweithwyr technoleg ac ymgyrchwyr gwrthryfel ac actifyddion gwrth-ryfel ddechrau gweithio gyda'i gilydd, a byddwn yn gwneud hynny ym mhob ffordd y gallwn.

Cawsom ddechreuad gobeithiol gyda'r cyfarfod hwn, wedi ei gychwyn yn gymwynasgar gan Gwrthryfel Difodiant NYC ac Ni all y byd aros. Bydd y symudiad hwn yn tyfu - rhaid iddo dyfu. Camddefnyddio tanwydd ffosil yw ffocws protestwyr newid hinsawdd. Camddefnyddio tanwydd ffosil hefyd yw prif gymhelliad elw imperialaeth yr Unol Daleithiau ac mae'n brif ganlyniad ofnadwy i weithgareddau gwastraffus byddin yr Unol Daleithiau chwyddedig. Yn wir, mae'n ymddangos bod milwrol yr Unol Daleithiau y llygrwr unigol gwaethaf yn y byd. A all gweithwyr technoleg ddefnyddio ein pŵer trefnu ar gyfer buddugoliaethau hyd yn oed yn fwy dylanwadol nag ymadawiad Google o Brosiect JEDI? Gallwn ac mae'n rhaid i ni. Dim ond cam bach iawn ymlaen oedd cyfarfod Dinas Efrog Newydd yr wythnos diwethaf. Rhaid inni wneud mwy, a rhaid inni roi popeth sydd gennym i'n mudiad protest cyfunol.

Mae Marc Eliot Stein yn gyfarwyddwr technoleg a chyfryngau cymdeithasol ar gyfer World BEYOND War.

Llun gan Gregory Schwedock.