Rychlý vývoj umělé inteligence může představovat určitá rizika, a proto by měla být přísně a eticky kontrolována. Vývojáři umělé inteligence nyní diskutují o tom, jak omezit tuto technologii tak , aby zajistili, že roboti budou vždy jednat v zájmu lidstva, protože dát jim vlastní nezávislé osobnosti by mohlo být nebezpečné.
Konzultant AI Matthew Kershaw řekl, že je dokonce možné, že naše technologie ještě během tohoto života dosáhne znepokojivých výšin, alespoň tedy „pokud jste ještě dostatečně mladí“.
Profesor Stephen Hawking, teoretický fyzik a kosmolog, před svou smrtí v roce 2018 řekl: „Primitivní formy umělé inteligence, které již máme, se ukázaly jako velmi užitečné. Ale myslím si, že vývoj plné umělé inteligence by mohl znamenat konec lidské rasy.“ (Související: EU navrhuje legislativu omezující technologii rozpoznávání obličeje a „vysoce rizikové“ aplikace umělé inteligence.)
Zakladatel SpaceX Elon Musk souhlasil s Hawkingovým prohlášením. Řekl: „Myslím, že bychom měli být velmi opatrní ohledně umělé inteligence. Pokud bych měl hádat, co je naší největší existenční hrozbou, je to pravděpodobně ono. Takže musíme být velmi opatrní.“
Co je to obecná umělá inteligence (AGI)?
Již AI sama o sobě může být docela nebezpečná, ale co vlastně můžeme čekat od AGI ? Zjednodušeně lze umělou obecnou inteligenci definovat asi jako schopnost nějakého stroje vykonávat jakýkoli úkol, který dokáže člověk. I když se dnes často zdůrazňuje schopnost strojů vykonávat úkoly dokonce s ještě mnohem větší účinností než lidé, tak to ale neznamená, že jsou ještě od tohoto okamžiku považovány za obecně inteligentní. Například i když jsou velmi dobré v jedné funkci, tak ale přesto stále ještě nemají žádné mimořádné schopnosti v čemkoli jiném, na co by nebyli předem naprogramovány. I když jsou tedy při provádění jednoho úkolu efektivní tak jako třeba sto trénovaných lidí, stále mohou ještě prohrát s dětmi doslova v čemkoli jiném.
Kershaw však věří, že skutečné AGI bude vyžadovat použití počítačů, které jsou dostatečně výkonné na to, aby si udržely komplexní model světa, což rozhodně ještě nebude možné v nějaké dohledné době. „Vzhledem k tomu, že ani my sami stále opravdu nerozumíme tomu, co to znamená být vědomími, tak si stejně myslím, že je značně nepravděpodobné, že by se vědomé AGI v dohledné době stalo realitou.“ Jenže dosud ani my sami nevíme, co to vlastně znamená ono být ‚při vědomí‘.“
Kromě toho musí být každá umělá inteligence trénována k jakékoli funkci s využitím obrovského množství dat, zatímco lidé se to mohou naučit s podstatně menším počtem vstupů. „Lidské dítě nepotřebuje vidět více než takových asi pět aut, aby se naučilo rozpoznat auto. Počítač by jich ale potřeboval nejprve vidět tisíce,“ řekl Kershaw.
V roce 1950 průkopník výpočetní techniky Alan Turing navrhl, že o počítači lze říci, že má umělou inteligenci tehdy, pokud dokáže za určitých podmínek napodobit skutečné lidské reakce. Turing vymyslel test, který měl určit, zda umělá inteligence může či nemůže nahradit člověka, a zatím neexistuje na Zemi žádný systém, který by jím prošel, i když již několik málo z nich se tomu trochu přiblížilo. Nejblíže tomu bylo v roce 2018, kdy jedna duplexní AI Googlu SAMA zatelefonovala do jednoho kadeřnického salonu a úspěšně si tam domluvila schůzku.
Duplex však pracoval na velmi specifickém úkolu a opravdová AGI by si byla schopna popovídat s kadeřníkem.
Umělá inteligence je dnes všude, ale i když jsou tyto systémy ve svých specializovaných misích dobré, žádný z nich se dosud nebyl schopen naučit se něco dělat zcela bez pomoci lidí.
Takže to, co nyní vědci nazývají „umělá obecná inteligence“, zatím zůstává pouze teoretické. Aby tyto umělé systémy mohly fungovat, musí se totiž stroje učit přímo ze zkušeností lidí, přizpůsobovat se novým vstupům a vykonávat úkoly stejně jako lidé.
Odborníci ale dnes vyvíjejí stále nové technologie, které se již mohou blížit inflexnímu bodu, kde mohou rozvíjet tu skutečnou obecnou inteligenci. Většina odborníků na umělou inteligenci však stále ještě věří, že AGI budeme mít možnost spatřit do konce tohoto století, přičemž ty vůbec nejoptimističtější odhady jsou kolem roku 2040 až 2080. Jiní ale také věří, že umělého vědomí nebude nikdy dosaženo, protože my lidé nerozumíme pořádně ani tomu našemu vlastnímu.
Rizika umělé inteligence
Umělá inteligence má ale také nevýhody, z nichž některé zahrnují následující:
Ztráta zaměstnání. Automatizace pracovních míst může vyvolat masivní ztrátu pracovních míst . Automatizace práce je bezprostředním problémem. Už nejde o to, jestli umělá inteligence může nahradit určité typy úloh, jde o to, do jaké míry mohou. Mnoho průmyslových odvětví se již dnes automatizuje, zejména v oblastech, kde se úkoly opakují. Zanedlouho bude možné pomocí AI provádět úkoly od maloobchodního prodeje přes analýzu trhu až po práci.
Obavy o soukromí. Škodlivé použití umělé inteligence by také mohlo ohrozit naši digitální bezpečnost prostřednictvím hackingu, fyzickou bezpečnost pak například vyzbrojováním spotřebitelských dronů a dokonce i naši politickou bezpečnost a to hlavně prostřednictvím sledování a profilování. Umělá inteligence tedy může ovlivnit naše soukromí a bezpečnost podobně jako čínské „orwellovské“ používání obličejových technologií v kancelářích, školách a na veřejných místech.
Nestabilita akciového trhu. Díky algoritmickému vysokofrekvenčnímu obchodování by mohly být svrženy celé finanční systémy. Algoritmické obchodování pak nastává tehdy, kdy počítač může provádět obchody na základě předem naprogramovaných instrukcí a může provádět velkoobjemové, vysokofrekvenční a nebo vysoce hodnotné obchody, které mohou vést k extrémní volatilitě trhu.
Přečtěte si více o umělé inteligenci a zázracích dnešní technologie na Computing.news .
Zdroj: https://robots.news/2021-08-27-artificial-general-intelligence-risks.html
* prevzaté
pridajte sa k nám do nášho kanála na TELEGRAMe: https://t.me/spolokarchaoz