Марк Элиот Стейн, 10 оны 2020-р сарын XNUMX-ны өдөр

Саяхан намайг Нью-Йорк хотод болсон Хүчит бослогын цугларалтад үг хэлэхээр урьсан World BEYOND WarБайна. Энэхүү арга хэмжээг цаг уурын өөрчлөлтийн идэвхтнүүд, техник технологийн ажилчдын баг, дайн байлдааны эсрэг идэвхтэй гэсэн гурван бүлгийг нэгтгэхээр төлөвлөжээ. Бид цаг уурын өөрчлөлтийн идэвхтэн Ха Ву-гийн хувийн данснаас эхлэв. Тэрээр Нью-Йоркчууд цугларсан олон хүмүүсийн өмнө тохиолдсон сэтгэл түгшээсэн туршлагын талаар: Вьетнамын Ханой дахь гэр бүлийнх нь гэрт буцаж ирлээ. дулааны хэмжээ нэмэгдсэн нарны гэрлийн цагт гадаа явах нь бараг боломжгүй болжээ. Цөөхөн америкчууд ч мөн энэ талаар мэддэг 2016 оны усны бохирдлын гамшиг Вьетнамын төв хэсэгт. АНУ-ын цаг уурын өөрчлөлтийг бид болзошгүй асуудал гэж бид олон удаа ярьдаг, гэхдээ Вьетнамд энэ нь амьдрал, амьжиргаагаа тасалдаж, хурдан доройтож байгааг харж байна.

Ник Моттерн нь KnowDrones.org АНУ-ын арми сүүлийн үед футуристик хиймэл оюун ухаан, үүлэн тооцоололд их хэмжээний хөрөнгө оруулалт хийсний талаар ижил төстэй яаралтай ярьсан бөгөөд цөмийн зэвсгийн менежмент болон нисгэгчгүй нисэх онгоцны дайралтад хиймэл оюун ухааны системийг байрлуулах нь урьдчилан таамаглахын аргагүй алдаа гаргахад хүргэнэ гэсэн цэргийнхэн өөрсдийнхөө дүгнэлтийг онцлов. Устаж үгүй ​​болох бослого NYC-ийн Уильям Беклер дараа нь цаг уурын өөрчлөлтийн чухал ач холбогдлын талаар мэдлэгийг дээшлүүлэхэд чиглэсэн үймээн самуунтай үйл ажиллагаа орно. -Ийн Нью Йорк хотын төлөөлөгчөөс бид сонссон Техникийн ажилчдын эвсэл, би гэнэтийн амжилттай болсон технологийн ажилчдын бослогын талаар ярих замаар цуглааныг практик эрх мэдлийн мэдрэмж рүү чиглүүлэх гэж оролдсон.

Энэ нь 2018 оны XNUMX-р сард, "Батлан ​​хамгаалах үйлдвэрлэл" гэж нэрлэгддэг АНУ-ын цэргийн шинэ дрон болон бусад зэвсгийн системийн хиймэл оюун ухааны чадавхийг хөгжүүлэх тухай олон нийтэд сурталчлагдсан Project Maven-ийн тухай бухимдалтай байсан үе байв. Google, Amazon, Microsoft бүгд худалдан авагчдад төлбөр хийх зорилгоор хиймэл оюун ухааны платформ санал болгодог бөгөөд Google нь Төслийн Maven цэргийн гэрээний хамгийн их ялагч гэж тооцогддог байв.

2018 оны эхээр Google-ийн ажилчид ярьж эхлэв. Тэд өөрсдийгөө “Битгий муу бай” гэсэн амлалт авч ажиллуулж байсан компани яагаад АИ-ийн хүчээр ажилладаг механик нохой хүмүүсийг хулгайлдаг “Хар толь” -ын аймшигт цувралтай төстэй байж магадгүй гэж цэргийн төслүүдийг сонгон шалгаруулж байгааг тэд ойлгосонгүй. төрөлтөн үхэх болно. Тэд сошиал медиа болон уламжлалт мэдээллийн хэрэгслүүд дээр ярилцлаа. Тэд үйл ажиллагаа зохион байгуулж, өргөдөл тарааж, өөрсдийгөө сонссон юм.

Энэ ажилчдын бослого нь Google Workers-ийн бослогын хөдөлгөөний генезис байсан бөгөөд энэ нь бусад технологийн ажилчдын нэгдлийг татахад тусалсан юм. Гэхдээ Project Maven-ийн эсрэг Google-ийн дотоод эсэргүүцлийн хамгийн гайхмаар зүйл бол технологийн ажилтнууд ярьж байсангүй. Хамгийн гайхмаар зүйл бол энэ юм Google-ийн удирдлага ажилчдын шаардлагыг биелүүлэв.

Хоёр жилийн дараа энэ баримт намайг гайхшруулсаар байна. Би техник технологийн ажилтны хувьд олон арван жилийн туршид ёс зүйн олон асуудлуудыг харж байсан боловч томоохон компани ёс зүйн асуудлыг чухал ач холбогдолтой байдлаар шийдвэрлэх талаар санал нэгтэй байгааг би ховор харсан. Project Maven-ийн Google-ийн бослогын үр дүн нь AI-ийн зарчмуудыг энд бүрэн хэмжээгээр хэвлэн нийтэлсэн явдал юм.

Google-ийн хиймэл оюун ухаан: бидний зарчим

Google нь чухал асуудлуудыг шийдэх, өдөр тутмын амьдралдаа хүмүүст туслах технологи бий болгохыг эрмэлздэг. AI болон бусад дэвшилтэт технологиудыг хүмүүст чадваржуулах, одоогийн болон ирээдүй хойч үедээ өргөн ашиг олох, нийтлэг сайн сайхны төлөө ажиллах гайхалтай боломжуудыг бид өөдрөг үзэлтэй гэж үздэг.

AI програмын зорилго

Дараах зорилтуудыг харгалзан AI програмыг үнэлнэ. AI нь:

1. Нийгэмд ашигтай байх.

Шинэ технологийн цар хүрээ өргөжиж байгаа нь нийгэмд улам бүр нөлөөлж байна. AI-ийн дэвшил нь эрүүл мэнд, аюулгүй байдал, эрчим хүч, тээвэр, үйлдвэрлэл, зугаа цэнгэл гэх мэт өргөн хүрээний салбарт өөрчлөлтөд нөлөөлөх болно. AI технологийн боломжит хөгжил, хэрэглээг авч үзэхдээ бид нийгэм, эдийн засгийн өргөн хүрээний хүчин зүйлийг харгалзан үзэх бөгөөд нийт ашиг нь урьдчилан тооцоолсон эрсдэл, бууралтаас эрс их байна гэж үздэг.

AI нь мөн агуулгын агуулгыг ойлгох чадварыг сайжруулдаг. Бид үйл ажиллагаа явуулж буй улс орнуудын соёл, нийгэм, хууль эрх зүйн хэм хэмжээг хүндэтгэн үргэлжлүүлэн АИ ашиглан өндөр чанартай, үнэн зөв мэдээллийг бэлэн байлгахыг хичээх болно. Технологиудыг арилжааны бус хэлбэрээр ашиглах боломжтой болгохын тулд бид хэзээ ч бодож, сайтар үнэлэх болно.

2. Шударга бус хэвшмэл байдлыг бий болгох, бэхжүүлэхээс зайлсхий.

AI алгоритм ба мэдээллийн сан нь шударга бус хэвшмэл байдлыг тусгаж, бэхжүүлж эсвэл багасгаж чаддаг. Шударга ёсыг шударга бус байдлаас ялгах нь үргэлж энгийн байдаггүй бөгөөд соёл, нийгэмд ялгаатай байдаг. Хүмүүс, ялангуяа арьс өнгө, үндэс угсаа, хүйс, үндэс угсаа, орлого, бэлгийн чиг хандлага, чадвар, улс төрийн болон шашны итгэл үнэмшил зэрэг эмзэг шинж чанаруудтай холбоотой хүмүүст учирч буй сөрөг нөлөөллөөс зайлсхийхийг хичээх болно.

3. Баригдаж, аюулгүй байдлыг шалгах.

Хор хөнөөл учруулах эрсдлийг үүсгэдэг төлөвлөөгүй үр дүнгээс зайлсхийхийн тулд аюулгүй байдал, аюулгүй байдлын хүчтэй арга хэмжээг боловсруулж, үргэлжлүүлэн ашиглах болно. Бид AI системээ болгоомжтой хийхээр төлөвлөж, АИ-ийн аюулгүй байдлын судалгааны шилдэг туршлагад нийцүүлэн боловсруулж гаргахыг хичээнэ. Тохиромжтой тохиолдолд бид хязгаарлагдмал орчинд AI технологийг туршиж, байршуулсны дараа тэдний ажиллагааг хянах болно.

4. Хүмүүсийн өмнө хариуцлагатай байх.

Бид санал хүсэлт, холбогдох тайлбар, давж заалдах зохих боломжийг олгодог AI системийг зохион бүтээнэ. Манай AI технологи нь хүний ​​зохих чиглэл, хяналтанд орно.

5. Нууцлалын дизайны зарчмуудыг тусгах.

Бид өөрсдийн нууцлалын зарчмуудыг AI технологийг хөгжүүлэх, ашиглахад тусгах болно. Бид танд мэдэгдэх, зөвшөөрөл өгөх, хувийн нууцлалыг хамгаалах архитектурыг дэмжих, мэдээллийн ил тод байдлыг хангаж, хяналт тавих боломжийг олгоно.

6. Шинжлэх ухааны өндөр түвшний шаардлагыг хангах.

Технологийн инноваци нь шинжлэх ухааны аргад үндэслэгддэг бөгөөд нээлттэй лавлагаа, оюуны хатуу байдал, шударга байдал, хамтын ажиллагааны амлалт юм. AI хэрэгсэл нь биологи, хими, анагаах ухаан, хүрээлэн буй орчны шинжлэх ухаан зэрэг чухал салбарт шинжлэх ухааны судалгаа шинжилгээ, шинэ мэдлэгийг нээх боломжтой юм. Бид АИ-ийн хөгжлийг ахиулахын төлөө шинжлэх ухааны өндөр түвшинд ажиллахыг эрмэлздэг.

Бид шинжлэх ухааны үндэслэлтэй, олон талт арга барилыг үндэслэн энэ тал дээр сэтгэлгээтэй манлайллыг ахиулахын тулд олон талуудтай хамтран ажиллана. Мөн AI-ийн мэдлэгийг хариуцлагатай хуваалцах нь олон хүмүүст хэрэгцээт AI програмыг боловсруулахад тусалдаг боловсролын материал, шилдэг туршлага, судалгааг нийтлэх замаар хуваалцах болно.

7. Эдгээр зарчмыг нийцүүлэн ашиглах боломжтой байх.

Олон технологи нь олон хэрэглээтэй байдаг. Бид хортой, хүчирхийлэл агуулсан програмыг хязгаарлахын тулд ажиллах болно. AI технологийг боловсруулж, байрлуулахдаа дараахь хүчин зүйлсийн дагуу боломжит хэрэглээг үнэлэх болно.

• Үндсэн зорилго, хэрэглээ: технологи, хэрэглээний үндсэн зорилго, магадгүй ашиглах, үүнд шийдэл нь хортой ашиглалттай хэр уялдаатай эсвэл түүнд дасан зохицох зэрэг орно
• Байгаль ба өвөрмөц байдал: өвөрмөц эсвэл ерөнхийдөө боломжтой технологийг ашиглаж байгаа эсэх
• Хуваарь: энэ технологийг ашиглах нь ихээхэн нөлөө үзүүлэх эсэх
• Google-ийн оролцооны мөн чанар: бид ерөнхий зориулалтын хэрэгслээр хангаж байгаа эсэх, үйлчлүүлэгчдэд зориулсан хэрэгслийг нэгтгэх эсвэл захиалгат шийдлийг боловсруулах эсэх

AI програмуудыг бид хөөхгүй

Дээр дурдсан зорилтуудаас гадна AI програмыг дараахь хэрэглээний чиглэлээр зохион бүтээх, байрлуулахгүй.

1. Бүхэлд нь хор хөнөөл учруулж болзошгүй технологи. Гэмтлийн ноцтой эрсдэл байгаа тохиолдолд ашиг тус нь эрсдлээс их хэмжээгээр давж, аюулгүй байдлын зохих хязгаарлалтыг агуулсан болно.
2. Зорилго, хэрэгжүүлэлт нь хүмүүст гэмтэл учруулах эсвэл шууд хөнгөвчлөх зэвсэг эсвэл бусад технологи юм.
3. Олон улсын хэмжээнд хүлээн зөвшөөрөгдсөн хэм хэмжээг зөрчиж тандалт хийх зорилгоор мэдээллийг цуглуулж, ашигладаг технологи.
4. Үүний зорилго нь олон улсын хууль, хүний ​​эрхийн өргөн хүрээнд хүлээн зөвшөөрөгдсөн зарчимтай зөрчилдөж буй технологи юм.

Энэ орон зай дахь бидний туршлага гүнзгийрэх тусам энэ жагсаалт өөрчлөгдөж магадгүй юм.

Дүгнэлт

Эдгээр зарчмууд нь манай компанийн зөв хөгжил, АИ-ийн цаашдын хөгжлийн үндэс болно гэдэгт бид итгэдэг. Энэ чиглэл нь эрч хүчтэй, хувьсан өөрчлөгдөж байгааг бид хүлээн зөвшөөрч, ажилдаа даруу байдал, дотоод болон гадаад оролцоог амладаг, цаг хугацаа өнгөрөх тусам бидний арга барилд дасан зохицох хүсэлтэй хандах болно.

Энэхүү эерэг үр дүн нь технологийн аварга Google-ийг ICE, цагдаа болон бусад цэргийн үйл ажиллагааг дэмжих, хувь хүний ​​хувийн мэдээлэлд нэвтрэх, нэгтгэх, зарах, маргаантай улс төрийн мэдэгдлийг хайлтын системийн үр дүнгээс нуух зэрэг бусад чухал асуудлуудын хүндрэлээс бүрэн чөлөөлж чадахгүй. хамгийн гол нь ажилчдаа эдгээр болон бусад асуудлаар үргэлжлүүлэн ажлаас халахгүйгээр үргэлжлүүлэн ярих боломжийг олгох явдал юм. Google ажилчдын бослогын хөдөлгөөн идэвхтэй, идэвхтэй оролцоотой хэвээр байна.

Үүний зэрэгцээ Google-ийн ажилчдын хөдөлгөөн хичнээн нөлөөтэй болохыг хүлээн зөвшөөрөх хэрэгтэй. Энэ нь Google-ийн эсэргүүцэл эхэлснээс хойш даруй тодорхой болов. Пентагоны маркетингийн хэлтэс нэгэн зэрэг сонирхолтой Project Maven-ийн тухай шинэ хэвлэлүүд гаргахаа зогсоов, эцэст нь уг төслийг өмнө нь хайж байсан нийтийн хараанаас "алга болсон". Үүний оронд шинэ, илүү том хиймэл оюун ухааны санаачлага Пентагоны илт илт илтгэж эхлэв Батлан ​​хамгаалах инновацийн зөвлөл.

Үүнийг дуудав Төслийн JEDI, Пентагоны хамгийн сүүлийн үеийн зэвсэгт зарцуулах шинэ нэр. Төсөл JEDI нь Project Maven-аас хамаагүй их мөнгө зарцуулах болно, гэхдээ шинэ төслийн талаар олон нийтэд сурталчлах (тийм ээ, АНУ-ын цэргийнхэн маш их сурталчилгаа, сурталчилгаа хийх цаг хугацаа, анхаарал) нь өмнөхөөсөө эрс ялгаатай байв. “Хар толь” хэмээх бүх гялалзсан зураг алга болсон. Одоо AI-ийн хүчирхэг дронууд хүний ​​биед дэгдэж буй сэтгэл хөдлөм, аймшигт киног онцлон тэмдэглэхийн оронд Project JEDI өөрийгөө "байлдаанд" туслах зорилгоор төрөл бүрийн үүл мэдээллийн санг нэгтгэн үр ашгийн хувьд ухаалаг алхам гэж тайлбарлав. фронтын ажилтнууд) ба арын оффисын дэмжлэг үзүүлэх багууд мэдээллийн үр ашгийг дээшлүүлдэг. Project Maven нь сэтгэл хөдөлгөм, ирээдүйг мэдрэх зорилготой байсан бол Project JEDI нь мэдрэмжтэй, практик байдлаар сонсогдохоор бүтээгдсэн.

Төслийн JEDI-ийн үнийн шошготой холбоотой мэдрэмжтэй, практик зүйл алга. Энэ бол дэлхийн түүхэн дэх хамгийн том цэргийн програмын гэрээ юм: 10.5 тэрбум доллар. Цэргийн зарцуулалтын цар хүрээг сонсоод бидний нүдний ихэнх нь гэрэлтэж, бид сая ба тэрбумын зөрүүг алгасаж чадна. Төслийн JEDI нь Пентагоны өмнөх програм хангамжаас хэд дахин том болохыг ойлгох нь чухал юм. Энэ бол тоглоомны ченж, баялаг бүтээдэг хөдөлгүүр, татвар төлөгчийн зардлаар ашиг олох хоосон чек юм.

Энэ нь цэргийн зардлын хоосон чекийг 10.5 тэрбум доллараар ойлгохыг оролдох үед засгийн газрын хэвлэлийн мэдээний гадаргууг зурахад тусална. Зарим мэдээллийг сэтгэл түгшээсэн мэт цэргийнхний өөрсдийнх нь нийтлэлээс олж авч болно Хамтарсан хиймэл оюун ухааны төвийн дэслэгч генерал Жак Шанахантай хийсэн ярилцлага 2019 оны XNUMX-р сар, алга болсон Project Maven болон шинэ Төслийн JEDI хоёуланд нь гол дүр юм. Батлан ​​хамгаалах салбарын подкаст гэж нэрлэгддэг батлан ​​хамгаалах салбарын подкастуудыг Төслийн JEDI-ийн талаар хэрхэн боддог талаар илүү сайн ойлголттой болсон. “Төсөл 38: Засгийн газрын гэрээ байгуулах ирээдүй”. Подкастын зочид ярилцаж буй сэдвийнхээ талаар илэн далангүй, илэн далангүй ярьдаг. “Энэ жил маш олон хүмүүс шинэ усан бассейн худалдаж авах болно” гэсэн нь энэ подкастын JEDI төслийн талаар хийсэн инсайдер чат юм. Тэд тийм байх болно гэдэгт бид итгэлтэй байна.

Google-ийн хиймэл оюун ухааны зарчимтай уялдаатай гайхалтай зүйл энд байна. 10.5 тэрбум долларын үнэтэй JEDI гэрээний урьдчилсан гурван оролцогч нь Google, Амазон, Майкрософт байх байсан нь хиймэл оюун ухааныг шинийг санаачлагчид гэсэн нэр хүндэд үндэслэсэн байв. Ажилчид 2018 онд Project Maven-ийг эсэргүүцсэн тул AI удирдагч Google нь илүү том төсөл болох JEDI-ийг 2019 онд хэрэгжүүлэхээ больжээ. 2019 оны сүүлээр уг гэрээг Майкрософт руу шилжүүлсэн гэж мэдэгдэв. Олон тооны мэдээллийн дараа ар араасаа цувран гарч байсан боловч энэ сурвалжлага нь голчлон Амазон ба Майкрософт хоорондын өрсөлдөөн, мөн 3-р байр эзэлсэн Майкрософт 2-р байрыг хожихын тулд Трампын засаг захиргаа Вашингтон Посттой үргэлжлүүлэн тулалдаж байсан тул ялахын тулд 10.5-р байрыг эзлэхийг зөвшөөрсөн байж магадгүй гэсэн асуудалд гол анхаарлаа хандуулав. Амазоны Жефф Безосын эзэмшдэг. Амазон одоо Пентагоны Майкрософтод бэлэглэсэн 38 тэрбум долларын үнэтэй тэмцэхийн тулд шүүхэд хандах гэж байгаа бөгөөд Oracle бас шүүхэд дуудагдаж байна. Дээр дурдсан Project 3 подкастын тодорхой тэмдэглэл - "Энэ жил олон хүмүүс шинэ усан бассейн худалдаж авах болно" гэсэн нь зөвхөн Майкрософтын санхүүгийн өгөөжийг төдийгүй эдгээр шүүх ажиллагаанд оролцох бүх хуульчдад зориулагдсан болно. Project JEDI-ийн 10.5 тэрбум долларын XNUMX-аас дээш хувь нь хуульчдад очно гэсэн боловсролтой таамаглал дэвшүүлж магадгүй юм. Бид үүнийг туслахын тулд ашиглаж чадахгүй байгаа нь маш муу юм дэлхийн өлсгөлөнг эцэс болгох Оронд нь.

Татвар төлөгчдийн мөнгийг цэргийн гэрээт гүйцэтгэгчдэд шилжүүлэх нь Майкрософт, Амазон эсвэл Оракл компанид ашиг тусаа өгөх эсэх тухай маргаан нь төслийн JEDI-ийн мэдээнд давамгайлж байна. Энэхүү садар самуунд уруу татагдах нэг эерэг мессеж бол ажилчдын эсэргүүцлээс болж Google дэлхийн түүхэн дэх хамгийн том цэргийн програм хангамжийн гэрээнээс татгалзсан явдал юм - Төслийн JEDI-ийн мэдээнд бараг байхгүй байна. 

Ийм учраас өнгөрсөн долоо хоногт Манхэттен хотын төв дэх хүн ихтэй өрөөнд цугларсан технологийн чиглэлийн идэвхтнүүдэд энэ дэлхийг хэрхэн аврах, цаг уурын шинжлэх ухааны дезинформаци, улс төржилттэй хэрхэн тэмцэх талаар ярилцах нь чухал байсан юм. Малтмал нийлүүлэгч, зэвсэг үйлдвэрлэгч асар их хүчийг хэрхэн зогсоох вэ? Энэ жижиг өрөөнд бид бүгд тулгарч буй асуудлынхаа цар хүрээг ойлгож, өөрөө чухал үүрэг гүйцэтгэж эхлэх ёстой юм шиг санагдсан. Технологийн нийгэмлэг нь ихээхэн хүч чадалтай байдаг. Хуваарилах кампанит ажил нь бодит өөрчлөлтийг бий болгож чаддагтай адил, технологийн ажилчдын бослого нь бодит өөрчлөлтийг бий болгож чадна. Уур амьсгалын өөрчлөлтийн идэвхтнүүд, техникийн ажилчдын бослогын идэвхтнүүд ба дайн байлдааны эсрэг идэвхтнүүд хамтран ажиллаж эхлэх олон арга зам байдаг бөгөөд бид үүнийг чадах бүхнээ хийх болно.

Тус цугларалтаар бид маш их найдаж эхэлсэн Хулгайн бослого NYC болон Дэлхийн хүлээж чадахгүй. Энэ хөдөлгөөн өсөх болно - энэ нь өсөх ёстой. Чулуужсан түлшийг зүй бусаар ашиглах нь уур амьсгалын өөрчлөлтийг эсэргүүцэгчдийн анхаарлын төвд байдаг. Чулуужсан түлшийг зүй бусаар ашиглах нь АНУ-ын империализмын ашиг орлогын гол зорилго бөгөөд АНУ-ын цэргийн хэт үрэлгэн үйл ажиллагааны үндсэн аймшигт үр дүн юм. Үнэхээр ч АНУ-ын арми байх шиг байна дэлхийн хамгийн муу бохирдуулагчБайна. Технологийн ажилчид бидний зохион байгуулалтын хүчийг ялалтын төлөө ашиглаж байгаа нь Google-ийн Төслийн JEDI-ээс гарахаас илүү нөлөөтэй юу? Бид ч бас тэгэх ёстой. Өнгөрсөн долоо хоногт Нью-Йорк хотод болсон уулзалт урагшлах өчүүхэн алхам байв. Бид илүү их зүйлийг хийх ёстой бөгөөд бид эсэргүүцсэн хөдөлгөөнөө нэгтгэсэн хөдөлгөөндөө өгөх ёстой.

Марк Элиот Стейн бол технологи, нийгмийн хэвлэл мэдээллийн газрын захирал юм World BEYOND War.

Грегори Шведокын зураг.