Dienas grauds (papildināts 14.11.)

[..] I believe we have reached the point of no return. Our earth is becoming too small for us, global population is increasing at an alarming rate and we are in danger of self-destructing.”[..]

Stephen Hawking

avots

vara bungas: Atslēgas vārdi šeit ir  “mēs sasniedzām neatgriešanās punktu”. Apsveicu. Var jau neticēt Hokingam un  teikt, ka vēl neesam sasnieguši, bet tas tikai uz kādu laiku attālināt brīdi, kad visa cilvēces līdzšinējā pieredze ar MII ieročiem, datorvīrusiem, klimata izmaiņām, aitas Dollijas klonēšanu, iejaukšanos vēlēšanās, Y2K, utt, kļūs novecojusi un nepielietojama  jaunas problēmas  priekšā  – AI, kura  attīstības sekas nevar ne paredzēt, ne  aprturēt.  Varbūtība piedzīvot  mega fakapu ir krietni virs vidējās.

Alexa, I want the truth.

Vot i Pu piekrīt…

ЯРОСЛАВЛЬ, 1 сентября. /ТАСС/. Президент России Владимир Путин считает, что страна, добившаяся лидерства в создании искусственного интеллекта, “будет властелином мира”.
avots

UPD1  +15000

36 thoughts on “Dienas grauds (papildināts 14.11.)

    • Tak tie tikai par demogrāfiju uztraucas, tur procesi attīstās samērā lēni un ir ietekmējami. Hokings ir fiziķis skatās plašāk, vienīgais izgudrojums, kas šobrīd var nodrošināt cilvēcei ātrās beigas un vienlaicīgi nekādā veidā netiek kontrolēts ir AI.
      Ķēdīte cik skaidra, tik īsa – AI vispirms jāpārspēj cilvēka smadzeņu spējas – tas vedīs pie AI ieklāušanas tehnoloģiskajās ķēdēs (vispirms militārā jomā) – valstis, kas to nedarīs zaudēs priekšrocību un neglābjāmi atpaliks – zelta miljards attīstīs AI kamēr tas nesāks attīstīt sevi pats. Tālāk neviens neko nezina. Ātrums, kādā viss attīstāss pieaug. AI jomā cilvēce šobrīd ir brāļu Raitu izgudrojuma līmenī, bet aviācijas gadījumā pirmais Boeing 707 bija gatavs lidojumam jau pēc 58 gadiem. Tagad viss notiek vēl ātrāk. Tur neko nevar darīt, vnk jāpieņem zināšanai.

      • Vai varat tā populāri paskaidrot, kā tieši AI ar mūsdienu tehnoloģijām var iznīcināt cilvēci? Tā teikt, vai varat iezīmēt scenāriju vai arī most likely un most dangerous COA. A to man pārāk zems intelekts, lai pats iztēlotos.
        Jau iepriekš, paldies!

        • Vienmēr lūdzu. Cilvēki ar pazeminātu intelektu iztēlojas tehnoloģisko progresu šādi:

          īstenība ir šāda:

          Par cilvēces iznīcināšanu pagaidām nav runas, ir runa par attīstības paradigmas maiņu un to, ka viss ko cilvēce nekontrolē var to nogalināt (MII, vīrusi, klimats, AI, asteroidi utt).

          most dangerous COA – mākslīgi atgriezt cilvēci akmens laikmetā (apmēram), visus pielīdzināt, nepieļaut AI uzkundzēšanos. Apgriezt šaha galdiņu kājām gaisā.
          most likely COA – nedarīt neko ekstrēmu, ļaut progresam attīstīties, gatavoties sekām. Atpalicējus savaladīt pirms tie ir apgāzuši šaha galdiņu.

          • Tā kā man ir vēl zemāks intelekts, tad nesapratu atbildi uz tūdaliņa jautājumu. Viņš jautāja, kā tieši AI var iznīcināt cilvēci. Atbilde – par to pagaidām nav runas.
            ok – Viss, ko cilvēce nekontrolē, var to nogalināt. Piemēram, cilvēce nekontrolē skudru savstarpējo saziņu. Cilvēce nekontrolē signālu apstrādi sēņu micēlijā. Cilvēce nekontrolē simbiotiskos procesus starp augiem un kukaiņiem. Vells, viss tas mūs noteikti iznīcinās; tas ir tikai un vienīgi laika jautājums! 8-|

            • Par sēnem un skudrām labs piemērs, tādā detalizācijas pakāpē tiešām nekontrolē, tomēr abu šo bioloģiskos organismu pārstāvjus cilvēce spējīga a) prognozēt b) neatgriezeniski iznīcināt vai ierobežot attīstību, ja tie rada apdraudējumu. AI attīsību noteiktā posmā cilvēcē (tās izpildinstitučijas, valstis, organizācijas) vairs neprognozēs un nebūs spējīga efektīvi iznīcināt, tātad nekontrolēs. Problēma visā krāšņumā labi parādīta S.Kubrika kalsiskajā filmā Space Odissey, ko iesaku visiem, kuri interesējas par šo tēmu.

              • “Ja tie rada apdraudējumu”…
                Ja skudras, sēnes un citas ar kaut kādu intelektu apveltītas būtnes necenšas iznīcināt cilvēci, tad kāds pamats nelaimi vēstošām prognozēm, ka roboti paši [ja nav runa par ienaidnieka armijas komandiera dotu komandu saviem robotiem] aktīvi centīsies iznīcināt cilvēci? Turklāt ne jau ar gadījuma raksturu, bet tiešām sistēmiski, radot visas cilvēces reālus iznīcināšanas draudus. Vai tad uz tiem tikpat kā “dzīvajiem”, patstāvīgajiem robotiem neattieksies Dabas likumsakarības par nepieciešamību adaptēties, lai izdzīvotu? Viņiem cilvēce traucēs ieņemt savu ekoloģisko nišu ar stabilu enerģētisko apgādi?
                Bez tam vienalga neredzu atbildi uz tūdaliņa jautājumu. Nu kā tieši AI ar mūsdienu tehnoloģijām var iznīcināt cilvēci? Pārņems pilnīgu kontroli pār elektroapgādes sistēmām, atslēgs no interneta un tad uzpidžinās gaisā visu, kam ir elektroniska vadība? Tā būtu ķeza, piekrītu. Bet kaut kā nespēju saskatīt apokaliptisku iznākumu visai cilvēcei, ja ņem vērā miljardus cilvēku, kuru dzīve nav nemitīgi atkarīga no mūsdienu tehnoloģijām. Otrkārt, vai tad tā vienlaikus nebūs ķeza arī pašiem robotiem?
                Jāteic, es vispār neticu īsta AI iespējamībai. Cilvēka intelekts iekļauj dedukciju, indukciju, emocionālo inteliģenci, abstraktu domāšanu un iztēli, sociālu pieredzi, tai skaitā spēju apiet paradoksus. Lai gan cilvēka smadzenes salīdzinoši ir ļoti lēnas, tās kopumā ir nesalīdzināmi efektīvākas par cilvēku uzrakstītiem pašmācošiem algoritmiem, jo īsteno tādas funkcijas, kādas robotiem vispār nav iespējamas, vismaz ne pārskatāmā nākotnē. Var jau, protams, veidot mākslas filmu par robotu, kurš iemīlās citā robotā un tā iespaidā rīkojas pilnīgi neordināri, taču man šķiet, tas ir tāds pats mīts, kā mīts par dievu – mēs vienkārši nesaprotam mūsdienu datortehnoloģiju iespējas, tāpēc tās tiecamies mitoloģizēt, līdzīgi kā senatnē cilvēki nesaprata Dabas likumsakarības.
                Bez tam, manuprāt, trauksme par AI draudiem ir tikpat komerciāli motivēta un maldinoša, kā trauksme par cilvēces izraisītu globālo sasilšanu.

                • Galvenais pamats aizdomām un bailēm ir problēmas mērogs, bremžu neesamība un kursa neiznāšana, ko neviens nespēj ticami un pamatoti aprakstīt. Kautkur dragājam, milzu ātrumā bez poņas ar ko tas beigsies. Es šeit vispār nerunātu par robotiem, kas pēc defincijas ir cilvēku apkalpojošās mehānismi, AI no kuras vērts bijāties ir virtuālā sistēma (tehniski radoša, mācīties un pilnveidoties spējīga) ar globālas komunikācijas spējām un spējām ietekmet procesus fiziskajā pasaulē. Domāju cilvēki neplānos AI spēju “iziet ārā” no laboratorijas, to tas izdarīs pats.

                  • Neesmu speciālists, taču man šķiet, ka cilvēku intelektā pastāv gan visai efektīvs bremžu mehānisms jebkādiem AI iespējami radītiem sistēmiskiem draudiem, jo cilvēku intelekts nedarbojas lineāri, līdz ar ko algoritmizēts intelekts nevar prognozēt cilvēka reakcijas.

              • Ķīnas pētnieki FengLī, JongŠī un JingLī secinājuši, ka 2016. gada beigās Google veidotā AlphaGoIQ ir 47,28, divreiz vairāk nekā Siri ar 23,94. Microsofta Bing uzrādīja 31,98. Vidējais sešgadīgā bērna IQ ir 55,5
                Neskatoties uz šī brīža relatīvi zemo IQ, Alpha Go būtiski uzlaboja savu sniegumu. 2014. gadā šis rādītājs bija 26,5. Tātad divu gadu laikā mākslīgais intelekts palika gandrīz divreiz gudrāks.
                Ja rēķinam lineāri, MI sasniegs vidējā pieaugušā IQ divu līdz piecu gadu laikā.

            • nu ko tur cepties par vecu tēmu :-). mēs paši arvien paaugstinam kompju lēmumu pieņemšanas līmeni. piedevām roboti sāk mūs aizvietot fiziski (droni). agrāk karoja tikai cilvēks, tagad visi tiecas uz integrētu mašīna-cilvēks sistēmu. rīt karos tikai mašīnas – kā piemēru skatīt aviāciju. robots kājnieks ir tikai laika jautājums – pat pie Pu viens jau uz kvadras brauc – gan jau iemācīsies staigāt kad aliexpresī atbilstošu mikreni tirgos ;-).

              ārkārtīgi nozīmīgs solis tiek sperts ar automātiskajām auto vadības sistēmām. šī revolūcija dāvina kompjiem spēju redzēt pasauli kā to redzam mēs un orientēties tajā (pa noliktavām pa strīpu braukāt robotiņi prata jau sen). palasiet tehspeceni googlemobīlim – saprot zīmes, redz cilvēkus un dzīvniekus un paredz to uzvedību – burvīgas prasmes, kuras padarīs ielas daudz daudz drošākas 🙂

              jā – skudras dzīvo. baložu un žurku populācija ir pat pieaugusi. uz labības lauka daudz skudru pūžņu esi redzējis? – ne katram ar cilvēka atnākšanu veicas kā baložiem.

  1. es gan teiktu, ka mākslīgais intelekts un roboti varētu nodarīt lielu skādi, bet ne iznīcināt cilvēci. vienīgā iespēja iznīcināt cilvēci ir uzlaist gaisā visus kodolieročus. citu iespēju nav, jo gan robotiem, gan mākslīgajam intelektam ātrāk vai vēlāk beigsies enerģija, izbeigsies akumulatoru uzlādes cikla resurss, nolietosies motorika utt. bet cilvēks Latgales savā naturālajā saimniecībā eksistēs un vairosies kā līdz šim, jo nekad savā dzīvē neko vairāk par radio un tv nav satapis, un elektrības pazušana tikai palielinās vairošanos!..

    • cilvēks naturālajā saimniecībā tiešām gŗūti iznīcināms, ja kādam tas nav mērķis. Tomēr ar cilvēci saprotu mūsu 2000+ gadus vecu civilizāciju, nevis homo sapiens kā tādus.

      • Es teiktu – nevis apt. 2000 gadu vecu civilizāciju, bet gan apt. 30 – 40 gadus ilgu (skaitot no mūsdienām) cilvēces kultūru – ja to cilvēcei atņems, tad cilvēce vienkārši haotiski nonāks pirmsinterneta laikmetā, ne vairāk.

      • pašlaik liekākā skāde būtu sačakarēt i-netu un salaist dēlī sakaru un vadības ierīces. gobālisma laikmetā tas būtu liels kaitējums. bet kad Igauniju sāka bombardēt kibervidē, viņi “atslēdzās” no pārējās pasaules! tātad mūs var atmest atpakaļ uz 20-tā gadsimta astoņdemitajiem gadiem, kad radās i-nets, bet ne vēlāk.

        • Saproti, lietas ir saistītas. Mums vairs nav to daudzu lietu un iemaņu, kas mums nodrošināja 80-to dzīves līmeni. Man piem. nav parastā tālruņa, TV, mēs vairs neprotam organizēt loģistiku bez IT utt.

          • un diez kas notiktu, ja sakaru centru izolētu no i-neta un atļautu tikai sarunāties un rakstīt īsziņas? tas būtu aptuveni tas pats, ja uz Austrijas un Vācijas robežas uzliktu robežkontroli- visi pukstētu, ekonomika gāztos, bet visi tomēr izdzīvotu. nebūtu globālu sistēmu, bet daudz lokālu, kas bremzētu attīstību kā atoņdesmitajos. cilvēki arī 70-desmitajos psrs-ā saskatīja daudz laba un eksistēja, vairojās utt. nevar teikt, ka cilvēki tagad ir stulbāki.

        • Bet, es neredzu iespēju kā īsti var nokaut i-netu, nenokaujot visu apkārt. Tā ir ļoti decentralizēta sistēma.

  2. Nekā personīga, bet tā naivitāte, ka AI, nepārtraukti pieaugot datorjaudām un spējām pašam mācīties, kā arī veidojot šo te AI pēc cilvēku smadzeņu neironu tīklu parauga, ka AI nekur tālu neattīstīsies un tāds patups šaha spēlētājs vien būs :-D!

    Vieni baidās, ka AI izdomās noslaucīt no zemes virsas cilvēci, jo tā viņai traucēs, bet, pats līdz tam neaizdomājos, kamēr kāds nepateica priekšā – bet ja nu notiek pretējais un AI saprot, kādā pakaļā ir valstis ar korumpētajām valdībām, oligarhiem un magnātiem, kas visu kontrolē ar saviem miljardiem $$$, un nolemj tam darīt galu un pārdala resursus godīgāk, atņem varu miljardieriem un palīdz ieviest godīgu pārvaldi uz zemes?
    Ko tad 😀 ?!

    • komunistiskais fašisms tas sauksies. Cilvēku radītās sociālās sistēmas nav ideālas, bet AI perfektajā sistēmā cilvēks nevarētu dzīvot normāli. Putniņš krātiņā, zivtiņa akvārijā dzīvo ideālos apstākļos, bet vai tas ir tas ko mēs vēlamies? Taisnības labad nevaru nepieminēt ka arī mūsu akadēmiķis Ambainis nesaskata nekādus AI draudus. Bet nu katram pašam sava galva uz pleciem, lai izvēlētos kura argumentācija ir pareizāka.

        • mans iRobots vakardien arī iedomājās sevi par Dievu un tīrīja tur, kur pats gribēja, nevis tur, kur vajadzēja. Tā ka mašīnu sacelšanās ir tuvāk, nekā jūs domājat.

          Citiem vārdiem sakot, riski, protams, ka pastāv. Ja ir diezgan grūti kontrolēt jau parastas programmas, un programmēšanā izteiciens “programmā vienmēr ir vismaz vēl viena kļūda” ir aksioma, tad pie AI sarežģītība tikai pieaug ģeometriskā progresijā. Bet, no otras puses, ja zini riskus, tad arī tos var mēģināt menedžēt. Var jau būt, ka mākslīgi intelektuālajai kaujas mašīnai ir pieļaujams kļūdas procents, kurā tā nošauj savus karavīrus vai civiliedzīvotājus, jo šie pieļaujamie zaudējumi ir mazāki, nekā ja tādas mašīnas nebūtu.

            • nu jā. Tomēr ar to nepietiek.
              Visām ar drošību saistītajām sistēmām vienmēr būs aktuāls jautājums par pieejas tiesībām. Lai to slēdzi nerausta visi, sākot no vegāniem un beidzot ar islama fundamentālistiem.
              Savukārt, ja pieeja ir stipri ierobežota, tad kur garantija, ka to nemonopolizēs organizētā noziedzība.
              Bet, tā vairs nav AI tēma, tikai tā AI gadījumā saasinās.

              • kā teica pilots ” it is great when it works, but if it does not work you are in … the dark” 🙂 Tomēr cik šādu bagu uz 1000 lidojumiem? Toties human error ir katastrofu iemeslu topā.

      • Perfekts AI apzināsies perfektas sistēmas nespēju perfekti pielāgoties sabiedrībai un otrādi, sabiedrības nespēju 100% pieņemt un perfekti pielāgoties sitēmai.
        Nevajag celt haju par to, ka AI tūlīt visus apslaktēs vai apspiedīs, laiks visu rādīs, te varam diskutēt uz nebēdu, bet jēgas no tā nekādas.

Komentēt

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Mainīt )

Google photo

You are commenting using your Google account. Log Out /  Mainīt )

Twitter picture

You are commenting using your Twitter account. Log Out /  Mainīt )

Facebook photo

You are commenting using your Facebook account. Log Out /  Mainīt )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.