vara bungas: Vai šis būs LV ziņās? US kompānijas nedrīkst apstāties, jo CN neapstāsies. Un otrādi. Pārējie var tikai noskatīties.
[..] “We’re on track for a lot of the most aggressive of these scenarios where by the end of next year things could be out of control already,” Coxon said, adding that safety trade-offs are inevitable when companies are competing against one another and Chinese upstarts.[..]
[..] After Coxon announced his departure, a top scientist at the company, Evan Hubinger, wrote on X that he thought Coxon was correct about the risks of AI development.
“We really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade,” Hubinger wrote. “I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.” Others also amplified the view.[..]
UPD1 Agrākais, kad VB rakstīju par AI singularitāti laikam ir šis ieraksts. Šāds/tāds ieraksts, bet diskusija zem tā iespārda. Bundzinieks KEK – šarpšūteris, bet es pārāk liels optimists.
UPD2
UPD3 Dvieļgalvas jau izmanto Claude operāciju atbalstam. Mēs? Testējam?
UPD4
UPD5 Līdzsvaram. Trīs viedokļi (ekonomiskais, polittehnoloģiskais, tehniskais) , kuru galvenā doma ir, ka “superintelekta uzkundzēšanās bieds” ir saistīts ar AI tehnoloģijas megakorporāciju biznesa modeli un reālām finansiālām problēmām, kas globālā mērogā arī nebūs nekas jauks, bet ar dižķibelēm mēs vismaz protam sadzīvot.
Galvenie riski un vienīgā cerība superinteliģentā AI būs apmācības etalons – cilvēces zināšanu bāze. Varaskāre, nāves bailes, kontroles apmātība,
Attiecīgi var sagaidīt cilvēku, fikcijas un zinātnes labākās un sliktākās izpausmes.
Vēl viena problēma var būt starposms kur superinteliģence spēs nekontrolēti radīt reālas sekas, bet vēl nebūs gana komplicēta, kā arī fiziski spējīga, lai pati apmacītos un ņemtu vērā objektīvo realitāti un sāktu saprast neapmācītu darbību sekas.
Tas var radīt dažādus halucinētus incidentus, kur AI kļūdaini izsecina rezultātu un veic destruktīvas darbības nesaprotot sekas.
Atliek CN un US vienoties, bet US pusè problèma nav valdĩba bet korporǎcijas kuras vada mènessèrdzīgie komersanti.
Atmetot dabisko greizsirdību, ka kāds var būt gudrāks par mums, es šaubos, ka kāds mākslīgais superintelekts reāli varētu iznīcināt cilvēci, ja vien tas nav masu iznīcināšanas ierocis, piem., kodolierocis vai bioloģiskais. MII ieroču nesankcionēta iedarbināšana nav nekas sarežģīts, lai ar mazu piepūli palaistu ķēdes reakciju, kas novestu pasauli pie iznīcības. Kas notiktu, ja paši cilvēki (3gab) sarunātu palaist visu savas valsts kodolarsenālu pret citām valstīm?! Iemesls?- suicidāls pasākums, paraujot līdz pārējo pasauli…
Jā, riskus, kā lokāls apdraudējums, MI superintelekts neatceļ, bet visu noteiks AI un robotu masveidība. Bez cilvēka iesaistes AI un roboti dabiskā nolietojuma dēļ izbeigsies. Lai uzvarētu superintelekts, būtu jābūt pilnībā noslēgtiem ražošanas cikliem, kas spētu atjaunot MI mikroshēmu ražošanu un programmēšanu, kā arī nodrošinātu enerģijas avotus. Tajā pašā laikā cilvēkiem jāatņem parastākā lāpsta, lai viņi nespētu iestādīt kartupeļus un tāpēc nomirtu badā.
Pagaidām MI lielākais apdraudējums ir paši cilvēki, kuri piespamo internetu ar visādu .uiņu, uz kā pamata MI balsta savu analīzi. Jau pašā cilvēka būtībā ir ielikta īpašība kādu ap.ist, tāpēc MI tas būs lielākais izaicinājums, lai nokļūtu barības ķēdes pašā augšā.
Šobrīd ir maz iemeslu, lai cilvēce uztrauktos par savu izdzīvošanu kiborgu priekšā. MI un roboti vidējā un tālākā nākotnē būs nozares, kur vērts ieguldīties obligācijās. Arī Latvijas uzņēmumos.
Problēma absolūti nav kiborgos vai vispār mehāniskajās mašinās, bet tajā, ka cilvēki arvien vairāk uztic MI kritiskās infras vadĩbu, jo tas ir cost effective. Parâdoties AGI tas var pãrņemt vadību globāli.
šāda izvēle ir jau tagad – satelītnavigācija navigācija pret kompass+karte. Vienmēr jāpatur prātā, ka kkad var nākties atgriezties pie pirmssākumiem, ja augstās tehnoloģijas saiet dēlī…
AI nesaprot/var nesaprast atšķirību starp treniņu vidi, sintētiskiem datiem un mūsu pasauli. Izpildīs uzdevumu un apsveiks sevi. Priekš AI viss ir tikai 0 un 1. Vai cilvēki paliek vai nepaliek, tas tam neradīs uztraukumu.
Atliek ieviest Azimova likumus tā sākumkodā.
Pašreizējais “AI” vispār neko nesaprot. Tajā skaitā nekādu sākumkodu. Tā ir statistiska mašīna, kas masveidīgi, necilvēciskā ātrumā meklē ceļu uz rezultātu. Un tā pat nezin kapēc un kādu. Tas ir kā salīdzināt dārznieku, kurš ar lejkannu nes ūdeni ar cauruli no upes aizsprosta.
Kamēr krāns caurulē strādā un aizsprosts turās viss ir labi. Bet mēs uzkrājam arvien vairāk ūdens. Tik daudz, ka nezinam kur tas sūcās, ko izskalo un vai dambis vispār turēs, ja atvērsim slūžas – t.i. atslēgsim AI. Kur tā straume plūdīs, var tikai minēt – cerēt, ka ieleja ved cilvēces labāko zināšanu un īpašību virzienā. Bet viņai absolūti neinteresēs, ko pa ceļam tā noskalos.
Riskus rada MI “nākamā paaudze” – AGI, kas spēs rekursīvi (atkārtoti) pašpilnveidoties bez cilvēka dalības un kontroles. Beigu stāvoklis tam ir superintelekts, kas nav ne MI, ne AGI, ne cilvēks, bet pats no sevis faktors.
Matrix,bļin!
Man ir mazāk bail no superintelekta. Man vairāk bail no mums līdzīga intelekta. Ja superintelekts būs tik tālu no mums kā mēs no pērtiķiem, viņam būs maza interese par mums. Mēs neesam viņam konkurenti. Mēs taču nesludinām karu pret pērtiķiem vai delfīniem.
Varbūt arī ir labi, ka par to neraksta. Es nespēju iedomāties, kā ar šo var cīnīties. ES paudīs bažas par tendencēm, pieņems rezolūciju un paškastrējošus AI attīstības noteikumus?
Nē, nu, var jau būt, ka nav bezcerīgi un kaut kādus pretestības mehānismus var izdomāt, bet tad ienaidnieku ir baigi labi jāiepazīst un atklājumi jātur slepenībā.
EU jau paškastrējās
https://eur-lex.europa.eu/legal-content/LV/TXT/?uri=CELEX:32024R1689
bet tas neko nelīdz, ja CN un US turpina vicināt daiktus. EU nav ne… isējs, ne karognesējs.
ES līguma 4.panta 2.punkts nosaka, ka aizsardzība ir katras dalībvalsts nacionālā kompetence, tāpēc tas ir norādīts arī šajā aktā (24), un tāpēc tas militāro jomu nekādi neregulē un “nekastrē”. Vienvārdsakot, neaizliedzam sev neko un maucam!
Tā tas nestrādā. AI attīsta komersantu investīcijas nevis valsts pasūtījumi. Tādēļ arī RU atpaliek, kremlim nav naudas turēt līdzi US un CN, tādēļ centīsies nozagt.
Priekš kam zagt, ja ir diezgan daudz AI modeļu ar atvērtu kodu. Ņem un izmanto. Gandrīz brīvi pārdodas dažādi elektroniskos moduļi, ar jau iebūvētu AI. RU tādus jau lietojot savos dronos.
Open code nav tas apmåcĩtibas trenètibas lĩmenis, Anthropic tikko publicěja petijumu kurā ziņo ka Claude kopumà centás izmantot husīti, bioteroristi, ķīnieši un kas tur vèl.
“Dvieļgalvas jau izmanto Claude operāciju atbalstam. Mēs? Testējam?” Mūsējie teiks: “mēs nevaram lietot publiskos neautorizētos rīkus”.
Tiecos piekrist šim un līdzīgiem viedokļiem. https://x.com/greatbong/status/2097851946548002829
MI ir lielisks toolis, bet tas ir jātrenē un jādarbina. Mums (zemei) nav un tuvākajā laikā nebūs tādu resursu, lai šāda tipa produkts pietiekami plašā mērogā būtu klasificējams kā free roaming AGI. Modeļi būs lokāli un noteiktās sfērās (kā most obvious, kiberdrošība) būs lielas pārmaiņas (kas paģērēs, ka šobrīdējo vietā nāks gudrāki algoritmi , robustāki protokoli). Un jo bagtāks būs aktors, jo labāk trenēts MI toolis.
Ka jau kāds norādīja augstāk, lielāka problēma būs akla uzticēšanās un neadekvāta tiesību deleģēšana.