ELONOVINKY: OpenAI dělá pokroky. Skládá Rubikovu kostku a umí hrát na schovávanou

Pěkný marketing. Ale Musk je chytrý, tak se "odpojil".

Zaujalo me to odhaleni chyby v programu. Mam to chapat tak ze si upravila automaticzy program tak aby umoznoval neco co nebylo puvodne v planu anebo byla to moznost naprogramovana a byla pouze odhalena? Pokud si to dokazalo upravit automaticky program tak aby se to chovalo podle toho jak chce tak tady bych uz zbystrel protoze je to prvni naznak toho ze se to muze vymknout kontrole a zacit si to delat co chce :)

Skládání Rubikovy kostky? To je tedy hodně ... vtip.

No tak, v případě úzké AI se samozřejmě o pokrok jedná, už pár dovedností je úspěch, ale stačí se zamyslet kolik takových umí AI chápající (máme ji na krku). Stovky, tisíce, víc (organismus je také třeba ovládat) a ještě je schopna se stále učit novým a novým. Nejen, že si uvědomuje sama sebe, naučila se za nespočet let třídit informace, vytahovat ty užitečné, upozaďovat nevyužívané nebo dokonce takové, které by svou povahou narušili psychickou integritu jedince, to už není jen tak. Dále musí řídit celý organismus, všechny procesy neovlivnitelné vůlí, extrémně složitá a náročná činnost na vyvažování rovnováhy, která nikdy neustane, ani ve spánku. Už jen to, jak si uvědomujeme realitu, jak sny, jak usínáme a jak se probouzíme, to jsou procesy, kde jsme na začátku poznání. Co ještě vůbec nikdo neví, jaké informace proudí po fyzickém médiu - mozku. Vše je změřitelné, zaznamenatelné, různá centra a uzly se nějak rozsvěcují (pomocí reflexní látky, CT, MR), ale to jsou jen vzruchy, ale jakou informaci, jak zaznamenatelnou, zpětně interpretovatelnou nesou, kam a jak je dál zpracovávána, nevíme. Strojové učení může vést klidně k tomu, že při simulovaných M letech sice vznikne cosi super rychlého na nějaký omezený okruh problémů, dokonce se to bude umět přizpůsobovat, ale chápat tato entita nezačne, sebe si neuvědomí. Bude jen kupit nové a nové znalosti, jak bude nucena se přizpůsobovat a stále nebude možné s ní komunikovat jako s chápající AI, prostě neuspokojivý výsledek.