Co je technologická singularita

2024 Autor: Malcolm Clapton | [email protected]. Naposledy změněno: 2023-12-17 03:50

Budoucnost je blíž, než se zdá.

Co je technologická singularita

Technologická singularita je teoretický okamžik, kdy člověk ztrácí kontrolu nad technologickým pokrokem, a to se naopak stává nevratným. Jednoduše řečeno, v blízké budoucnosti se technologie mohou vyvinout natolik, že s nimi lidstvo prostě přestane držet krok a rozumět jim.

Nejčastěji je zvažováno vytvoření umělé superinteligence jako cesty k dosažení singularity, ale není to jediná možná cesta. V blízké budoucnosti se například pravděpodobně objeví stroje (počítače, roboti), které budou umět vše lépe než lidé, a kvůli tomu dojde k prudkému, lavinovitému technologickému skoku.

Nejčastěji však takové dohady postavil Tegmark M. Life 3.0. Být člověkem v době umělé inteligence. - M., 2019 ne o vědeckých prognózách, ale o mýtech v oblasti AI.

Dále, jak věří zastánci konceptu technologické singularity, k takovým „intelektuálním výbuchům“bude docházet stále častěji. To může vést k radikálním změnám ve společnosti, které nemůžeme předvídat ani kontrolovat.

Právě důsledky singularity vyvolávají mnoho obav a slouží jako základ pro diskuse o budoucnosti lidstva. Tyto důsledky se posuzují různými způsoby. Raymond Kurzweil, futurista v oblasti rozpoznávání řeči a klíčová postava společnosti Google, věří, že pokroky v technologii jsou pro lidi skvělou příležitostí stát se lepšími lidmi. Méně optimističtí ve svých hodnoceních jsou Elon Musk, Bill Gates a zesnulý Stephen Hawking. Podle jejich názoru může pokrok vést ke zničení lidstva.

Jaké jsou předpoklady pro technologickou jedinečnost

Obavy z důsledků technologického pokroku se neobjevily z ničeho nic. Mnoho procesů v moderní společnosti a vědě takové úvahy vybízí.

Urychlení technického a technologického pokroku

Digitální věk začal vynálezem tranzistoru v roce 1947 a trvá dodnes. V roce 1965 jeden ze zakladatelů Intelu, připravující se na vystoupení, objevil zajímavý vzorec: každé dva roky se počet tranzistorů v mikroobvodech zdvojnásobí.

Od té doby se toho změnilo jen málo: počítačové výpočty vykazují neustálý exponenciální růst. Čím dále technologie postupuje, tím strmější je křivka, která ilustruje technologický pokrok. Během několika desetiletí může jeho tempo jít do nekonečna.

Podle Harvey C. Big Data Challenges. Datamation by Datamation, v roce 2017 digitální data překonala naši schopnost je spravovat. Navíc se každé dva roky zdvojnásobuje.

Jedním z dalších kroků ve vývoji technologie pravděpodobně může být vynález AGI (umělá obecná inteligence). Tento termín označuje AI, která se učí komunikovat, myslet a jednat jako člověk nebo ještě lépe. To znamená, že AGI může teoreticky nahradit lidi ve všem.

Vývoj umělé inteligence

Počítače zatím neumí absolutně všechno lépe než my, ačkoli v řešení mnoha problémů jsou již mnohem chytřejší než člověk (nebo alespoň rychlejší než on).

Ještě před 4–5 lety se předpověď singularity Raye Kurzweila uskuteční do roku 2045. Futurismus Raymonda Kurzweila, že do roku 2045 umělá inteligence překoná lidskou inteligenci ve všem, byl považován za velmi odvážný (nehledě na to, že od 90. let 86 % jeho předpokladů splnit se).

Dnes je období mezi lety 2025 a 2035 nebo ještě dříve nazýváno jako hypotetické datum pro výskyt AGI.

Pandaya J. The Troubling Trajectory Of Technological Singularity v tom může hrát zvláštní roli. Forbes si zahraje na budování neuromorfních čipů – procesorů pro neuronové sítě, které replikují, jak náš mozek zpracovává informace. Výzkum v této oblasti je zatím daleko od získání skutečně fungujícího modelu, ale již nyní existují nepochybné úspěchy. Zde je to, co AI dnes umí:

• Učit se;
• porazit lidi ve strategických hrách (program AlphaGo v roce 2015 za pouhých 9 hodin tréninku získal DeepMind a Google: bitva o ovládání umělé inteligence. The Economist schopnost hrát šachy lépe než člověk);
• Pomozte mozkem ovládaný exoskeleton umožňuje ochrnutému pacientovi chodit. Vědci s poraněním míchy se znovu postaví na nohy;
• rozpoznávat tváře;
• řídit auto;
• malovat Má se umělá inteligence stát dalším médiem umění? CHRISTIE'S a související texty;
• vytvořit Systém umělé inteligence vytvořený v UNC – Chapel Hill navrhuje drogy od nuly. léky UNC - CHAPEL HILL;
• vedoucí čínská státní zpravodajská agentura Xinhua debutuje jako „ukotvovač AI“, aby četl zprávy. Mashable zpravodajství a mnoho dalšího.

V roce 2014 Google získal DeepMind a Google: bitva o ovládání umělé inteligence za 600 milionů dolarů. The Economist by AlphaGo je britská společnost DeepMind, jejímž cílem bylo vynalézt AGI. Nápady Britů pomohly Googlu vytvořit účinné algoritmy pro diagnostiku očních chorob a včasné odhalení Parkinsonovy a Alzheimerovy choroby.

S největší pravděpodobností se vyplatí počkat na vznik AGI v dohledné době. Nástup technologické singularity s tím však přímo nesouvisí.

Vznik neurálních rozhraní

Již nyní lze mluvit o internetu jako o formě „globálního mozku“– fenoménu, díky kterému spolu lidé z celého světa mohou téměř nepřetržitě komunikovat prostřednictvím technického prostředníka.

Existují zařízení, která mají blíže k gadgetům ze sci-fi filmů. Již více než 300 tisíc lidí používá Jak blízko jsme k rozhraní mozek-počítač Elona Muska? Na lidech se testují kochleární implantáty CNN Health (sluchové protézy, které působí přímo na sluchový nerv) a vzorky bionických očí. Přestože tato zařízení stále nejsou schopna zcela obnovit zrak nebo sluch, kvalita jejich práce se zlepšuje.

Elon Musk a Brian Johnson také oznámili, jak blízko jsme k rozhraní mozek-počítač Elona Muska? CNN Health o vytváření startupů pro vývoj rozhraní člověk-počítač (Neuralink a Kernel). Samozřejmě je příliš brzy říkat, že brzy budeme moci ovládat smartphone silou myšlenky: všechna taková zařízení jsou stále příliš pomalá a nedokonalá. Nicméně existují všechny důvody se domnívat, že úspěch v tomto odvětví je hned za rohem.

Jaké jsou důvody technického pokroku?

Umělá inteligence a roboti převezmou komplexní intelektuální a fyzickou práci

Rozvoj umělé inteligence a robotiky může v konečném důsledku vést k tomu, že se stroje naučí dělat vše bez nebo s minimálním zásahem člověka. V tomto případě se pokrok bude i nadále zrychlovat a stále více zlepšovat životy a životy lidí.

Počítače již lidé používají pro vědecký výzkum a zlepšování technologií. Díky tomu (například genetický výzkum nebo vývoj zařízení zlepšujících schopnosti lidského mozku) se sami lidé stávají chytřejšími a stroje - rychlejší. Urychluje se tak vývoj nejen počítačů, ale i člověka.

Lidé v sobě objeví nové schopnosti

Splynutí člověka s technikou nastává nejen na fyzické (použití protéz, úpravy), ale také na informační úrovni (použití gadgetů). Smartphone s mobilním internetem v kapse je prvním krokem k tomu, abyste se stali kyborgem.

Existuje dokonce transhumanistické hnutí. Britannica, zastánce aktivního zlepšování lidského těla prostřednictvím technologického pokroku. Transhumanisté věří, že modifikace těla je jediný způsob, jak držet krok s dobou a nedat osud lidstva k dispozici strojům.

Nicméně zatím je vznik lidských biorobotů stále v říši fantazie.

Nové technologie otevírají cestu k potenciální nesmrtelnosti

Odstranění omezení DNA se v této oblasti jeví jako mnohem elegantnější řešení. Genetické a bioinženýrství Pandaya J. Znepokojivá trajektorie technologické singularity. Forbes, stejně jako nootropika, mohou udělat lidi chytřejšími. Pomocí uměle vypěstovaných orgánů nebo nanostrojů se lidé mohou zbavit stárnutí a dosáhnout nesmrtelnosti.

Jedinou otázkou je, jak rychle se člověk naučí (a naučí) tyto příležitosti využívat, zda je společnost a vláda schválí. Bude trvat roky, než se geneticky modifikovaní lidé narodí a vzdělají, i když budou ignorovány sociální faktory, které zpomalují přijetí takové technologie. Jiné formy superinteligence (AI) se mohou objevit mnohem rychleji.

Co říkají odpůrci neřízeného rozvoje technologií

Umělá inteligence může zničit lidstvo

Vývoj AGI pravděpodobně předběhne vývoj lidského mozku a technologií, které nám pomohou. Umělá inteligence je schopna překonat tu lidskou a v pesimistickém scénáři se může snadno vymknout kontrole.

Doktor Oxfordské univerzity Nick Bostrom uvažuje o Bostrom N. Superinteligence: Cesty, nebezpečí, strategie. - Oxford University Press, 2014, že existuje důvod k obavám. Podle jeho názoru, ať už je intelekt jakkoli vyvinutý, nemá to vliv na to, zda jednání jeho majitele bude zlé nebo dobré. Proto, bez ohledu na to, jak chytrá je AI, nejsme imunní vůči skutečnosti, že udělá něco špatného.

Důležité Tegmark M. Life 3.0. Být člověkem v době umělé inteligence. - M., 2019, aby AGI pochopila, přijala cíle lidstva a držela se jich. Pokud si pro sebe stanoví jiné priority, jako je sebezáchovu, uchopení zdrojů nebo ukojení zvědavosti, pak ve vztahu mezi lidmi a stroji vzniknou konflikty.

Modernizace lidského těla může vést k další stratifikaci společnosti

Modifikace lidského těla může nejen vytvořit „Human 2.0“, ale také prohloubit sociální konflikty. Ti, kteří mají přístup k takovým technologiím, budou mít zjevně převahu nad těmi, kteří tyto schopnosti nemají.

Vyvstávají významné etické a právní problémy: je možné poskytnout jedné osobě intelektuální a/nebo fyzickou výhodu nad jinou a jak chránit „biomechanické lidi“před hackery?

Jakmile se technologie dostane do nesprávných rukou, může být smrtící zbraní

Nezapomeňte, že člověk sám o sobě je velkým nebezpečím. Armáda už používá drony a programovatelné stroje jako zbraně a sociální sítě jsou zaplaveny podvodníky. Je vysoce pravděpodobné, že lidé začnou zneužívat i nové technologie.

Ale ještě předtím prostě riskujeme, že nepřežijeme, protože i existující zbraně jsou nebezpečné. Max Tegmark, astrofyzik a profesor na Massachusetts Institute of Technology, vypočítal Tegmark M. Life 3.0 pomocí statistických pravděpodobnostních vzorců. Být člověkem v době umělé inteligence. - M., 2019 riziko světové jaderné války vedoucí k vzájemnému zničení. Došel k závěru, že pokud je pravděpodobnost 0,001 za jeden rok, pak v intervalu 10 000 let dojde k jadernému kolapsu s pravděpodobností 99,95 %. I dobře zavedený zádržný systém pro dobře prozkoumané zbraně může selhat. A nabízí se otázka: dokážeme ovládat složitější technologie, aby se nedostaly do nepovolaných rukou?

Jaká budoucnost nás může čekat

Zároveň Max Tegmark kriticky hodnotí Tegmark M. Life 3.0. Být člověkem v době umělé inteligence. - M., 2019 pravděpodobnost pesimistického scénáře. Domnívá se, že možnosti sebezdokonalování jsou omezeny fyzikálními zákony. Skutečná singularita jako nekonečně se zrychlující pokrok je podle Tegmarka nemožná, ačkoli tento proces je schopen přiblížit se nekonečnu.

Profesor proto tvrdí, že po technologickém skoku bude následovat rychlé dosažení všech nebo téměř všech úplnosti znalostí o světě, a nikoli jejich nekonečné hromadění.

Podle jiného úhlu pohledu se nic, včetně pokroku, nemůže donekonečna zrychlovat – dříve nebo později se zpomalí.

Můžeme však spolehlivě říci, že lidstvo ještě nepřekonalo zpomalovací bod.

Ne všichni vědci obecně sdílejí teorii technologické singularity. Někteří lidé poznamenávají, že dosud nebyly v přírodě objeveny žádné jevy, které by se vyvíjely donekonečna a nekonečně rychle. Vědci zároveň upozorňují na skutečnost, že značné množství prognóz v této oblasti není založeno na objektivních datech, ale na přáních samotných prediktorů.

Takže například AI může zůstat čistě utilitární a neobdařená osobností. Algoritmy stejné DeepMind zatím neumí DeepMind a Google: bitva o ovládání umělé inteligence. The Economist najde řešení, pokud se něco pokazí a změní se předem definované podmínky.

AI nás zatím předbíhá jen na úkor výpočetního výkonu. Ale to, co lidé zvládnou za pár minut, stráví program tisíce hodin ve srovnání s lidskou zkušeností.

Například, aby se AlphaGo naučil hrát Space Invaders, musí vykonat tisíce pokusů. Nakonec se program samozřejmě bude hrát lépe než člověk, ale ten proces zvládne mnohem rychleji.

Proto nelze žádnou z předpovědí považovat za 100% pravděpodobnou. Ale to není důvod k úplnému opuštění myšlenky technologické singularity.

Realizace určitých scénářů osudu lidstva bude do značné míry záviset na směru technologického vývoje, v čích rukou bude a jak bude regulován. Velkou roli bude hrát také to, jak sofistikovaná technologie bude. Nezapomeňte na sociální, geopolitické a ekonomické faktory, které mohou ovlivnit pokrok. Je také obtížné hovořit o přesných datech nástupu technologické singularity.

Bude člověk nadále existovat, pokud nebude potřebný pro mnoho druhů činností (například pro vědu)? Změní se člověk zásahy DNA nebo neurorozhraní zůstane člověkem? Na tyto otázky nemáme žádné odpovědi. Možná se člověk již nenávratně změnil s příchodem počítačů a digitálních technologií.

Jedno je ale naprosto jisté: evoluční proces je přirozený a nezastavitelný. Nemůžeme ho zpomalit. Nakonec nás snad stroje naučí nezabíjet a neponižovat se navzájem a měli bychom jim věřit?

Proto, jak radí Tegmark M. Life 3.0. Být člověkem v době umělé inteligence. - M., 2019 Maxi Tegmarku, nemysli na budoucnost, která tě děsí, ale na tu, kterou bys chtěl.