Klíčové jídlo
- Nový výzkum naznačuje, že nemusí existovat žádný způsob, jak ovládat super chytrou umělou inteligenci.
- Časopis tvrdí, že ovládání AI by vyžadovalo mnohem pokročilejší technologii, než jakou v současné době máme.
- Někteří odborníci tvrdí, že skutečně inteligentní AI může být zde dříve, než si myslíme.
Již brzy ve vašem blízkém superpočítači
Časopis tvrdí, že ovládání AI by vyžadovalo mnohem pokročilejší technologii, než jakou v současné době máme. Ve své studii tým vytvořil teoretický zadržovací algoritmus, který zajišťuje, že superinteligentní AI nemůže za žádných okolností ublížit lidem, nejprve simuluje chování AI a zastaví jej, pokud to bude považováno za škodlivé. Autoři však zjistili, že takový algoritmus nelze vytvořit. „Pokud problém prolomíte na základní pravidla z teoretické informatiky, ukáže se, že algoritmus, který by přikázal AI, aby nezničil svět, mohl nechtěně zastavit své vlastní operace.“ Ve zprávě uvedl Iyad Rahwan, ředitel Centra pro lidi a stroje na Institutu Maxe Plancka pro lidský rozvoj v Německu. „Pokud by se to stalo, nevíš, jestli algoritmus zadržování stále analyzuje hrozbu nebo zda přestal obsahovat škodlivou AI. Díky tomu je algoritmus zadržování nepoužitelný.“
Singularity se blíží
Vazirgiannis není sám v předpovídání bezprostředního příchodu super AI. Skuteční věřící v hrozbu AI rádi hovoří o „singularitě“, kterou Vazirgiannis vysvětluje, že AI nahradí lidskou inteligenci a „že algoritmy AI si potenciálně uvědomí svou existenci a začnou se chovat sobecky a kooperativně“. Podle Raye Kurzweila, technického ředitele společnosti Google, jedinečnost dorazí před polovinou 21. století. „Rok 2029 je konzistentní datum, které jsem předpovídal, kdy umělá inteligence projde platným Turingovým testem, a proto dosáhne lidské úrovně inteligence,“ řekl Kurzweil Futurismus. „Pokud si nemůžeme uklízet vlastní dům, jaký kód máme požádat AI, aby se řídil?“ „Stanovil jsem datum 2045 pro„ Singularity “, což je doba, kdy naše efektivní inteligence vynásobíme miliardové spojení sloučením s inteligencí, kterou jsme vytvořili.“ Ne všichni odborníci na AI si však myslí, že inteligentní stroje představují hrozbu. AI, která je ve vývoji, je pravděpodobně užitečnější pro vývoj léků a nevykazuje žádnou skutečnou inteligenci, uvedl v e-mailovém rozhovoru konzultant AI Emmanuel Maggiori. „Kolem AI je velký humbuk, díky čemuž to zní jako skutečně revoluční,“ dodal. „Současné systémy AI nejsou tak přesné jako zveřejněné a dělají chyby, kterých by se člověk nikdy nedopustil.“
Převezměte kontrolu nad AI, hned
Regulovat AI tak, aby neuniklo naší kontrole, může být obtížné, říká Vazirgiannis. Společnosti spíše než vlády kontrolují zdroje, které pohánějí AI. „I samotné algoritmy jsou obvykle vytvářeny a nasazovány ve výzkumných laboratořích těchto velkých a výkonných, obvykle nadnárodních entit,“ řekl. „Je tedy zřejmé, že vlády států mají stále menší kontrolu nad zdroji nezbytnými pro kontrolu AI.“ Někteří odborníci tvrdí, že pro ovládání superinteligentní AI budou lidé muset spravovat výpočetní zdroje a elektrickou energii. „Sci-fi filmy jako Matice vyslovte proroctví o dystopické budoucnosti, kde lidé používají AI jako zdroje bioenergie, „řekl Vazirgiannis.„ I když je to nemožné, mělo by lidstvo zajistit dostatečnou kontrolu nad výpočetními zdroji (tj. klastry počítačů, GPU, superpočítače, sítě / komunikace) a samozřejmě elektrárny, které dodávají elektřinu, což je naprosto škodlivé pro funkci AI. “
