vara bungas: Vai šis būs LV ziņās? US kompānijas nedrīkst apstāties, jo CN neapstāsies. Un otrādi. Pārējie var tikai noskatīties.
[..] “We’re on track for a lot of the most aggressive of these scenarios where by the end of next year things could be out of control already,” Coxon said, adding that safety trade-offs are inevitable when companies are competing against one another and Chinese upstarts.[..]
[..] After Coxon announced his departure, a top scientist at the company, Evan Hubinger, wrote on X that he thought Coxon was correct about the risks of AI development.
“We really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade,” Hubinger wrote. “I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.” Others also amplified the view.[..]
UPD1 Agrākais, kad VB rakstīju par AI singularitāti laikam ir šis ieraksts. Šāds/tāds ieraksts, bet diskusija zem tā iespārda. Bundzinieks KEK – šarpšūteris, bet es pārāk liels optimists.
vara bungas 
Galvenie riski un vienīgā cerība superinteliģentā AI būs apmācības etalons – cilvēces zināšanu bāze. Varaskāre, nāves bailes, kontroles apmātība,
Attiecīgi var sagaidīt cilvēku, fikcijas un zinātnes labākās un sliktākās izpausmes.
Vēl viena problēma var būt starposms kur superinteliģence spēs nekontrolēti radīt reālas sekas, bet vēl nebūs gana komplicēta, kā arī fiziski spējīga, lai pati apmacītos un ņemtu vērā objektīvo realitāti un sāktu saprast neapmācītu darbību sekas.
Tas var radīt dažādus halucinētus incidentus, kur AI kļūdaini izsecina rezultātu un veic destruktīvas darbības nesaprotot sekas.
Atliek CN un US vienoties, bet US pusè problèma nav valdĩba bet korporǎcijas kuras vada mènessèrdzīgie komersanti.
Atmetot dabisko greizsirdību, ka kāds var būt gudrāks par mums, es šaubos, ka kāds mākslīgais superintelekts reāli varētu iznīcināt cilvēci, ja vien tas nav masu iznīcināšanas ierocis, piem., kodolierocis vai bioloģiskais. MII ieroču nesankcionēta iedarbināšana nav nekas sarežģīts, lai ar mazu piepūli palaistu ķēdes reakciju, kas novestu pasauli pie iznīcības. Kas notiktu, ja paši cilvēki (3gab) sarunātu palaist visu savas valsts kodolarsenālu pret citām valstīm?! Iemesls?- suicidāls pasākums, paraujot līdz pārējo pasauli…
Jā, riskus, kā lokāls apdraudējums, MI superintelekts neatceļ, bet visu noteiks AI un robotu masveidība. Bez cilvēka iesaistes AI un roboti dabiskā nolietojuma dēļ izbeigsies. Lai uzvarētu superintelekts, būtu jābūt pilnībā noslēgtiem ražošanas cikliem, kas spētu atjaunot MI mikroshēmu ražošanu un programmēšanu, kā arī nodrošinātu enerģijas avotus. Tajā pašā laikā cilvēkiem jāatņem parastākā lāpsta, lai viņi nespētu iestādīt kartupeļus un tāpēc nomirtu badā.
Pagaidām MI lielākais apdraudējums ir paši cilvēki, kuri piespamo internetu ar visādu .uiņu, uz kā pamata MI balsta savu analīzi. Jau pašā cilvēka būtībā ir ielikta īpašība kādu ap.ist, tāpēc MI tas būs lielākais izaicinājums, lai nokļūtu barības ķēdes pašā augšā.
Šobrīd ir maz iemeslu, lai cilvēce uztrauktos par savu izdzīvošanu kiborgu priekšā. MI un roboti vidējā un tālākā nākotnē būs nozares, kur vērts ieguldīties obligācijās. Arī Latvijas uzņēmumos.
Problēma absolūti nav kiborgos vai vispār mehāniskajās mašinās bet tajā ka cilvēki arvien vairāk uztic MI kritiskās infras vadĩbu jo tas ir cost effective. AGI parâdoties tas var pãrņemt vadību globāli.