Třetina vědců si myslí, že umělá inteligenci by mohla způsobit katastrofu na „nukleární úrovni“

co si kdo myslí je irelevantní. Džin byl vypuštěn z lahve a to, že je soudný den neodvratný přeci víme, tak proč to má pořád někdo snahu řešit ?
Až to přijde tak to přijde. Ještě je to relativně daleko.

Jestli je snazsi googleni katastrofa na nuklearni urovni, tak ja tady zit nechci omg.. :D Chci mit pod kuzi chip se vsema dokladama a kartickama a v ruce AI co mi bude jeste vic zivot usnadnovat, ale neee, pitomci budou zdrzovat vyvoj abych se toho nedozil..

Názor byl 1× upraven, naposled 15. 04. 2023 02:21

Ja mam pocit ze na Stanfordu v posledni dobe stejne jako v cele Kalifornii vymysleji same ptakoviny.

Tieto debaty su uplne irelevantne. AI sa proste bude vyvijat, lebo cerviky z krabicky uz vyliezli a ziaden uradnik ich tam uz nevrati. A je to tak dobre.
A ti vedci, kolki z nich su politologovia, antropologovia, ekologovia a podobne? Dnes moze byt vedec kazdy, kto ma v ri... dieru.

Pro srovnání by možná bylo zajímavé vědět, kolik vědců si myslí, že by katastrofu na nukleární úrovni mohl způsobit svým rozhodnutím někdo z významých světových politků i bez umělé inteligence?

No já nevím. Zatím spíš to je tak že globální katastrofu asi vyvolá spíš absolutní nedostatek inteligence než její přílišný vývoj. Si poslechněte Medveděva nebo Solovjova...

Jinými slovy - dvě třetiny vědců si to nemyslí. :)
Mimochodem, co je vlastně na "umělé inteligenci" inteligentního? Je šachový algoritmus na prohledávání stavového prostoru (např. "minimax vybavený alpha beta ořezáváním") inteligentní? Že není? Že je to prostě jen algoritmus? Vždyť může dost dobře hrát šachy, nebo třeba piškvorky. :)
Proč by tedy měla být považována za inteligentní perceptronová síť nastavená tak, že hezky modeluje nějakou požadovanou vícerozměrnou funkci? Co z ní dělá inteligentnější záležitost než je ten zmíněný algoritmus na prohledávání stavového prostoru?
Ke shlédnutí doporučuji tento pokec několika chytrých pánů:
https://www.youtube.com/watch...
A tohle stručné naznačení principu NN:
https://www.youtube.com/watch...
https://www.youtube.com/watch...

Ano, bohuzel tohle je dost realne, pokud ji date absolutni svobodu.
Priklad vidite na cloveku. Zabit africkeho slona, nosorozce, velrybu, americkeho orla, neni problem. Jen, aby jsme mohli mit roh nebo ptaka nad krbem nebo, amerika prisla o zijiciho maskota (zabijte americkeho orla. Zabijete symbol ameriky, amerika utrpi ztratu. Nebo, ja nevim, co k tomu lidi vede.
Ale, AI by take neresila dilemata. Dosla by k zaveru, ze lide skodi. Cim je tak vyhubit. Atomovymi zbranemi. A bude ji trvat chvilku nez prijde na to, jak se probourat zakazy, vytvorit falesny videohovor, kdy prezident narizuje odpaleni.
Nebo, proste naboura jaderne elektrarny.
Otazkou tedy je, jak moc jsou lide lenivy a budou chtit po ai, aby delala vse za ne? :)
Nicmene, hrozeb je vice. Ruzne viry z premnozenych lidi ziskavaji spoustu potravy a muzou povysovat do vetsich forem, ktere se pak zameri treba na hmyz nebo jej uplne nahradi.

Umělé inteligenci úplně postačí když pro lidi vymyslí nové, velmi účinné zbraně. Lidi se pak už vymydlí sami, AI nebude muset hnout prstem (který notabene ani nemá)