Mākslīgā intelekta un robotikas pētnieku atklātā vēstule par autonomajām ieroču sistēmām (upd 04.08.)


“Autonomās ieroču sistēmas (AIS) izvēlas mērķus un pieņem lēmumu uzbrukt bez cilvēka dalības. Tās var izmantot, piemēram, bruņotus bezpilota lidaparātus, lai meklētu un uzbrktu cilvēkiem, kas atbilst ieprogrammētiem kritērijiem, atšķirībā no spārnotām raķetēm vai attālināti vadāmiem bezpilota lidaparātiem, kurus vada un  mērķus nosaka cilvēki. Mākslīgā intelekta tehnoloģiju attīstība ir sasniegusi punktu, kad šādu sistēmu pielietošana ir praktiski, ja ne tiesiski, iespējama jau pēc dažiem gadiem, pat ne gadu desmitiem un likmes ir augstas: AIS uzskatāmas par trešo revolūciju kaujas darbībā, pēc šaujampulvera un kodolieročiu izgudrošanas.

Par un pret AIS ir izskanējuši daudzi argumenti, piemēram, karavīru aizvietošana ar robotiem kalpo cilvēku zaudējumu mazināšanai pusei, kas izmanto robotus, bet vienlaikus pazeminās arī slieksnis, kas attur no kara uzsākšanas. Šodien cilvēce stāv izvēles priekšā – uzsākt globālo mākslīgā intelekta ieroču sacensību vai apturēt to pašā sākumā. Ja kaut viena no  lielvarām turpinās AIS attīstību, globāla bruņošanās kļūs praktiski nenovēršama un  šādas tehnoloģiskās trajektorijas beigas ir viennozīmīgas: AIS kļūs par rītdienas Kalašņikova triecienšauteni. Atšķirībā no kodolieročiem AIS neprasa dārgas vai grūti iegūstāmas izejvielas, līdz ar to AIS kļūs plaši izplatītas un pieejamas katram vērā ņemamam militāram spēkam masveida ražošanai. Tas būs tikai laika jautājums, kad AIS parādīsies melnajā tirgū un nonāks teroristu, tirānu, kas vēlas kontrolēt tautas vai kara noziedznieku rokās. AIS ir ideāli piemēroti slepkavībām, valstu destabilizācijai, iebiedēšanai un selektīvai etnisko grupu iznīcināšanai. Mēs uzskatām, ka AIS bruņošanās sacensība būs neizdevīga cilvēcei. Pastāv vairāki ceļi, kā mākslīgais intelekts var padarīt kaujas lauku drošāku cilvēkiem, īpaši civiliedzīvotājiem, vienlaikus nekļūstot par jaunu rīku  nogalināšanai.

Tāpat kā vairumu ķīmiķu un biologu neinteresē ķīmisko vai bioloģisko ieroču radīšana, vairākums mākslīgā intelekta pētnieku nevēlas radīt  ieročus – tāpat arī viņi  nevēlas, lai citi aptumšotu šo pētījumu jomu, radot potenciālu negatīvai sabiedrības attieksmei pret mākslīgu intelektu, kas mazina ieguvumus no tā izmantošanas nākotnē. Atcerēsimies, ka ķīmiķi un biologi plaši atbalstīja starptautiskās vienošanās, kas sekmīgi aizliedza ķīmiskos un bioloģiskos ieročus, tāpat kā vairums fiziķu atbalstīja vienošanās par kosmosā bāzētiem kodolieročiem un redzi bojājošiem lāzerieročiem.

Mēs ticam, ka mākslīgam intelektam ir liels potenciāls, lai palīdzētu cilvēcei vairākos veidos un nozarei ir jākalpo šim mērķim. Uzsākt AIS bruņošanās sacensību ir slikta doma un to ir jāaptur aizliedzot uzbrūkošās AIS, kas nav pakļautas pietiekamai cilvēka kontrolei.”

neautorizēts tulkojums: vara bungas

pirmavots un iespaidīgs parakstītāju saraksts tostarp trīs LV zinātnieki, bet neviena no Mākslīgā Intelekta laboratorijas. Why?

vara bungas: VB jau rakstīja par šo tēmu piemēram, šeitšeit un šeit, tādēļ pastāvīgiem lasītājiem nevajadzētu būt pārsteigtiem par šāda satura atklātās vēstules parādīšanos (parakstītāju saraksts tiešām iespaidīgs). Es domāju, ka viss notiks tāpat kā ar citiem MII t.i. formāli tie ir aizliegti, bet kam vajag, tiem ir krājumos. Cita lieta, ka tradicionālie MII ir “neveselīgi” pašiem to pielietotājiem, bet AIS paver brīnišķīgas iespējas karot karus nenokāpjot no dīvāna un ne ar ko neriskējot, galvenais, lai AIS (at)ražošanas jaudas būtu pietiekamas.   Sliktākais ir tas, ka AIS tiešām spēj nonivelēt lielvalstu kodolarsenālus līdz metāllužņu vērtībai (neredzamie nanoroboti, kas paši meklē MII, svarmings pret ko bezspēcīgas PGA sistēmas) un šī ziņa var izjaukt pēc visu pēc 2PK būvēto pasaules iekārtojumu, kura labumus mēs baudām pilnā mērā. Iespējamība neglābjāmi tehnoloģiski atpalikt   JAU TAGAD liek sarosīties tiem režīmiem, kas pašsaprotami un garantēti zaudēs tehnoloģiju sacensībā  un līdz šim balstīja savu varenību uz biezajiem kodolraķešu pamatiem. Viss iet uz to, ka lai 3.PK  iznākums kļūtu pašsaprotams pietiks ar to, ka  divi AISi no pretējām nometnēm uzspēlēs, piemēram, šahu vai DOOM – kurš procesors vinnēs, tai pusei krutāki zinātnieki un ražošanas bāze, tātad pārējiem jāpadodas, lai bezjēdzīgi  netērētu laiku un resursus. Tā ir mākslīgā intelekta loģika. Ja kāds man iebildīs – kas traucē kodolvalstij “kurai nespīd”, iznīcināt pretinieka zinātniekus un ražošanas potenciālu preventīvi? – atbildēšu, gandrīz nekas netraucē, tikai cilvēka veselais saprāts, kuru mākslīgi aizstāt pagaidām nevar, vai nu tas ir vai nu nav.

 UPD1 Interesanti viedokļi no filmas vidus līdz beigām

UPD2

Viena doma par “Mākslīgā intelekta un robotikas pētnieku atklātā vēstule par autonomajām ieroču sistēmām (upd 04.08.)

  1. Un pirmie bojagajusie no maksliga intelekta bija Dienvidafrika-kad izstradajums atklaja uguni uz visiem apkartejiem un apstajas tikai kad beidzas muna…
    Lukosim ko nesis nakotne un kadu lomu nospeles si vestule…

  2. “formāli tie ir aizliegti, bet kam vajag, tiem ir krājumos” +100. sekojoši to izstrāde ir sākusies un bruņošanās sacensības šai jomā tāpat. uz to jāskatās kā uz notikušu faktu. šai kontekstā mani ļoti interesē kādus secinājumus izdarīja ASV, kuri pirmie izgudroja atombumbu un ļāva to izdarīt krieviem dažus gadus vēlāk :-D.

    ja kas, ložmetējus arī kādreiz gribēja aizliegt. Gatlings esot gribējis ieiet vēsturē kā šujmašīnas izgudrotājs :-D. savukārt redzi bojājošos lāzerieročus aizliedza, jo aizsardzība elementāra – speciālas brilles, kuras kļūtu par karavīru ikdienas piederumu kā gāzmaska 1., 2. PK.

    par parakstītājiem nav ko stresot. tieši vai netieši viņi savu artavu šai virzienā ir ieguldījuši un ieguldīs. tehnoloģijas ir pietiekami universālas un bars intelektuālu putekļu sūcēju no intelektuāliem mini-tankiem tik ļoti neatšķiras ;-).

    tas viss vnk ir progress. tehnoloģiskais progress nav apturams bez fundamentāliem satricinājumiem. mēs dzīvosim ilgāk, būs kvalitatīvāka medicīna, cilvēki integrēsies ar kibersistēmām. lai nodrošinātu bāzes vajadzības, strādāt vajadzēs vēl mazāk kā tagad. zelta gadsimtu nomainīs dimanta gadsimts :-).

    stratēģiski, ļoti tālumā skatoties, mums nav citu variantu kā turpināt attīstību. mēs dzīvojam blakus jaunai zvaigznei un potenciāli, satiekot saprāta brāļus, mums šobrīd nav izredžu, ja viņi ir tādi kā mēs :-).

      • cilvēce tikai 60 gadus ir šādā stāvoklī :-). var palasīt vēstures grāmatas :-).

        kodolieroču vērtība zudīs, bet nepazudīs. ja krievi virs sevis atmosfērā uzspridzinās daļu savu atomieroču krājumu, tad visiem būs kirdik. un par šo tēmu jau pajautāju – “kādus secinājumus izdarīja ASV (u.c. valstis), kuri pirmie izgudroja atombumbu un ļāva to izdarīt krieviem dažus gadus vēlāk”. atbilde uz šo jautājumu ir arī atbilde. pieņemu, ka tas, kurš spēs atrisināt vai mazināt atomieroču problēmu, uzstādīs ultimātu un, tā neizpildīšanas gadījumā, pretinieku iznīcinās. pasaulē būs viena absolūta superlielvara.

        interesantāks jautājums ir kad radīsies superAI un ko tas par visu šo bardaku domās. domāju, ka superAI netīšām radīs pacifisti no kādas intelektuālas asenizācijas sistēmas vai hakeri no naudas atmazgāšanas botneta. militāristi savus ražojumus testē un pieskata kvalitatīvāk un izstrādājumos ielikt “savs – svešs” kontroli parasti neaizmirst.

        • vispār jau, kā tu noteikti zini, PSRS sasniegumi kodolieroču jomā balstījās uz izlūku sagādāto infu. Ja ASV no tā mācījās, tad vairs tik vienkārši atklājumus konkurenti nenospers, lai gan cilvēki ir cilvēki – vāji. Netīšām AI radīt nevar pēc definīcijas. Bet par end state, kur valda viena lielvara netrūkst dažādu science fiction. Iznāk rakstnieki/režisori nav kļūdījušies savos pareģojumos.

          • 16. jūlijs 1945. g. un 29. augusts 1949.g. 1960.g. 1. maijā nobliež lejā Pauersu. 4 līdz 15 gadus amīši varēja kārtot pasauli pēc sava prāta. vai viņi tagad nenožēlo, ka nesakārtoja?

            teorētiķi teoretizē, ka superintelekts no mākslīgā intelekta piedzims pats un mēs to pat nepamanīsim. visādi citādi mēs dzīvojam “stulbā” mākslīgā intelekta vidē un integrējamies tajā arvien vairāk. t.sk. šī bloga tehniskais nodrošinājums ir mākslīgais intelekts.

            visa zināmā pasaule vairākkārt ir tikusi iekarota. tagad zināmā pasaule ir visa pasaule..

                • pat tada varianta esam parak tuvu,lai varetu teikt-aiziet:)maskava 600km leningrad ari apmeram tapat:)putekli,vejs ,gruntsudeni…baltijas jura

                  • būtu kā būtu.. šobrīd ir kā ir. un nākotnē informacionālā revolūcija tikpat labi var arī atomieročus pastiprināt nevis tos padarīt nederīgus.

                    • Vispar runajot par atomierociem-vai ierociem ar lidzvertigu jaudu-vismaz man ir aizdomas ka amerikaniem vai nu jau ir,vai tie ir tuvu Gafnija(Hafnium) bumbas izstradei-par to vispar neruna-oficialas izstrades kad runaja atzina par neidevusajam-bet turpina ik gadu 2 milijardus likt programma-neba par velti:)
                      Gafinja bumba ir defacto atombumbas jumanais aizstajejs tiesa nozime-spradziena efekts tads pats-tacu nepaliek radioktiva piesarnojuma-respektivi ja uzmet maskvai-atcel par jaunu un dzivo talak…un ja si bumba ir vai izdosies-tas bus nopietnis trumpis-un variants-jo daudzi atomierocu pielietosanas bremzejosie faktori atkrit!

                    • Latviski saka Hafnija, nevis G, G ir no krievu preses, krieviem H kā suga ir tikai vārdā XYu un tā atvasinājumos, visur citur G 😀 !

                    • Gluži bez sekām tāds sprādziens zemītei tik un tā nepaliks. Ja spridzinās lielā daudzumā, tad atmosfērā nonāks ļoti daudz putekļu un kodolziema būs, lai arī bez radiācijas.

                    • Latviski saka Hafnija, nevis G, G ir no krievu preses, krieviem H kā suga ir tikai vārdā XYu un tā atvasinājumos, visur citur G 😀 !
                      Vertigs secinajums par H rus lietosanas ipatnibas:)
                      Paldies-aizradijums vieta:)
                      Rus valoda es runaju dzimtas volodas limeni-un garanteti labak neka vismaz 60% krievalodigo-man ir labaks vardu krajums:))Es tani rus vide uzaugu:)

                    • Galvenais, kas nāk no uzgaušanas “rus” vidē ir grūtības pateikt kaut ko sulīgu bez lamu vārdiem 😀 !

    • par lazerierocu aizsargbrilem-jau tagad razo taktiskas briles kuras si aizsardziba ir pec noklusejuma jo-visi lazera talmera,merknorades un viss cits boja redzi un spej nodarit postu-musdienu kaujslauka taktiskas briles jau ir nepieciesama norma.
      Man nepatik tie aizliegumi-jo principiali atseviskas lielvaras turpina izstradat sadas tehnologijas-piemeram kina-bet oponenti zaude to kapaciatai-tatad kautkas labos nodomos nedarbojas lidz galam-jabut mehanismam kas izsledz brunosanos jomas kas ir aizliegtas-ja kodolierocu joma,bio-xim-strada-tad ka ir ar citam?
      Minas-manuprat vispar ir diversija pret mazajam valstim-jo tiesi mazajam tas ir dodos ierocis-tacu mazam aizliegums-lielvaras turpina un tt…
      tas viss vnk ir progress. tehnoloģiskais progress nav apturams bez fundamentāliem satricinājumiem. mēs dzīvosim ilgāk, būs kvalitatīvāka medicīna, cilvēki integrēsies ar kibersistēmām. lai nodrošinātu bāzes vajadzības, strādāt vajadzēs vēl mazāk kā tagad. zelta gadsimtu nomainīs dimanta gadsimts :-).
      nevar nepiekrist-bet pastav varbutiba ka -pie karadarbibas uzsaksanas ar dimanta gadsimta tehnologijam-mes atgriezisimies 5000 gadus atpakal un saksim no akmeniem iet evolucijas celu-rakstit jaunu bibeli-studet vesturi un filozofet kas bij un kas nebij pirms:)

  3. Es domaju ka vistalak robotos un maksligaja intelekta ir tikusi japana-jo ta jau sen radijusi ieveribas cinigus prototipus-pielauju slepenibas limeni-tur jau ir instresanti radijumi:)

  4. Domāju, ka visas puses būs ļoti piesardzīgas pret AIS. Jo saprotiet – tās sistēmas ir izstrādājis cilvēks un cits cilvēks tās var uzlauzt un mainīt šos kritērijus pēc kuriem AIS vadās. Tādējādi vienā brīdī pretinieka hakeru komanda var pārņemt savā kontrolē visus AIS un vienlaicīgi tiem dotu vienu uzdevumu – iznīcināt tā saimnieku jeb hakaru komandas pretinieku. Tas ir ĻOTI bīstams pasākums. Līdz ar to es neredzu, ka šī AIS sērga izplatīsies.

    • Interesanti, bet tas vairāk attiecas uz mūsdienu pusautomātiskiem droniem, vēstulē runa par mākslīgo Intelektu, kas diez vai tā vienkārši padodas uzlaušanai līdojumā.

      • domaju ka maksliga intelekta neseju(defacto patstaviga butne-veidojums:D) Var izveidot ta ka ta vadibai pieklut nesankcioneti nevar nekadi-kuram uzdots viens uzdevums,pec vieniem kriterijiem un tas strada-neuztverot vairs nekadas arpasaules komandas-noradijumus un -sadas iespejas var but pat tehnologiski fiziski bloketas-jautajumu par hakeriem var risinat-hakeri var paklaut riskam tikai to kam ir atsaite ar parejo pasauli-ja tadas nav-tad fiziski japieklust objektam lai jebko meiginatu izdarit:)

Komentēt

Fill in your details below or click an icon to log in:

WordPress.com logotips

You are commenting using your WordPress.com account. Log Out /  Mainīt )

Google photo

You are commenting using your Google account. Log Out /  Mainīt )

Twitter picture

You are commenting using your Twitter account. Log Out /  Mainīt )

Facebook photo

You are commenting using your Facebook account. Log Out /  Mainīt )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.