AGI umělá obecná inteligence na obzoru? Co to je a kdo ji vyvíjí?

AGI je zkratka pro umělou obecnou inteligenci (Artificial General Intelligence). Jedná se o hypotetický typ umělé inteligence, který se liší od úzké umělé inteligence, kterou dnes běžně vídáme. Pojďme si to rozebrat:

• Obecná inteligence: Na rozdíl od většiny dnešních umělé inteligencí, které jsou navrženy pro konkrétní úkoly (jako je hraní šachu nebo rozpoznávání tváří), by AGI byla schopna učit se a vykonávat širokou škálu intelektuálních úloh, podobně jako člověk.
• Schopnosti podobné člověku: To zahrnuje porozumění a reakci na složité otázky, kreativní řešení problémů a adaptaci na nové situace.
• Samoučení: AGI by se dokázala učit a zlepšovat své schopnosti samostatně, aniž by musela být explicitně programována pro každý nový úkol.

Současný stav:

AGI je stále jen teoretický koncept. Ačkoli výzkum v oblasti umělé inteligence zaznamenal významný pokrok, zatím jsme nedosáhli skutečné inteligence na lidské úrovni.

Terminologie:

• Silná umělá inteligence: Někdy se používá zaměnitelně s AGI, někteří ale vyhrazují pojem „silná umělá inteligence“ pro AGI s vědomím nebo cítěním.
• Slabá umělá inteligence (úzká umělá inteligence): Takto označujeme typ umělé inteligence, který máme k dispozici dnes a který vyniká v konkrétních úkolech, ale postrádá obecnou inteligenci.

Potenciální dopad:

Vývoj AGI by mohl mít hluboký dopad na společnost a vyvolat etické a filozofické otázky. Je to komplexní téma s probíhajícími diskusemi o jeho potenciálních výhodách a rizicích.

Hlavní prozkoumávané přístupy

Současný výzkum AGI se zaměřuje na několik klíčových přístupů:

• Výuka posilování trénuje agenty AI prostřednictvím odměn a trestů za akce ve virtuálním prostředí. To je slibná cesta k obecné inteligenci.
• Neuronové sítě mají za cíl napodobit architekturu lidského mozku. Pokroky v neuronových sítích hlubokého učení vedly k nedávnému pokroku v úzkých aplikacích umělé inteligence.
• Hybridní systémy kombinují neuronové sítě s klasickými symbolickými metodami umělé inteligence, jako je reprezentace znalostí a uvažování, aby se vypořádaly se složitými kognitivními úkoly.
• Přenosové učení zahrnuje trénování modelu na jednom úkolu a jeho aplikaci na jiný úkol, což je základní schopnost pro obecnou inteligenci.

Nedávné průlomy/vývoj

Mezi pozoruhodné nedávné úspěchy patří:

• AlphaZero od DeepMind zvládá šachy a je lepší než jakýkoli člověk nebo umělá inteligence prostřednictvím samostatné hry.
• OpenAI GPT-3 generuje pozoruhodně lidský text školením na masivních textových datových sadách.
• Model PLATO společnosti FAIR demonstruje komplexní schopnosti uvažování, jako je induktivní logika a dokončování analogie.
• Pokroky v učení bez dozoru a samokontroly vytvářejí autonomnější a přizpůsobivější AI.

I když jsou to odrazové můstky, výzkumníci upozorňují, že AGI na lidské úrovni stále vyžaduje zásadní koncepční průlomy, které ještě musíme objevit. Ale tempo pokroku naznačuje, že v nadcházejících desetiletích můžeme dosáhnout klíčových milníků.

Cesta k AGI

Cesta k rozvoji umělé obecné inteligence (AGI), která se může vyrovnat nebo překonat inteligenci na lidské úrovni, představuje obrovské technické výzvy. Zatímco úzká umělá inteligence dosáhla nadlidských schopností ve specifických, úzkých oblastech, jako jsou šachy nebo Go, reprodukce šíře a flexibility lidského poznání zůstává nepolapitelná.

Technické výzvy

Některé klíčové technické výzvy na cestě k AGI zahrnují:

• Integrace různých funkcí do jednoho systému. Úzké modely umělé inteligence vynikají ve specifických úkolech, ale zkombinovat vnímání, uvažování, učení, reprezentaci znalostí a další do jednoho systému je extrémně obtížné.
• Dosažení uvažování zdravým rozumem. Lidé shromažďují obrovské množství znalostí zdravého rozumu prostřednictvím zkušeností, ale zakódovat je do AI je těžké. Systémy AGI budou potřebovat efektivnější způsoby budování a využívání znalostí zdravého rozumu.
• Přenést učení a zobecnění. Lidé mohou znalosti získané v jedné oblasti aplikovat na nové situace. Aktivní oblastí výzkumu je dosáhnout toho, aby umělá inteligence vykazovala podobné schopnosti přenosu učení.
• Zvládání složitosti a nejistoty. Skutečný svět je složitý, dynamický a často nepředvídatelný. Vytváření AI, které zvládne hluk a nejistotu stejně jako lidé, zůstává obtížné.
• Rozvíjení sebeuvědomění a sociální inteligence. Lidé mají pocit sebe sama a identity, který řídí učení a chování. Vynikáme také v sociální interakci, čtení emocionálních podnětů atd. Dosažení sociální inteligence na lidské úrovni v AGI je monumentální výzvou.

Hardwarové požadavky

Vývoj AGI bude pravděpodobně vyžadovat obrovské množství výpočetního výkonu přesahující dnešní systémy. Zatímco lidský mozek má kolem 100 miliard neuronů, je mimořádně energeticky účinný a využívá pouhých 20 wattů energie. Mozky dosahují účinnosti díky husté neuronové konektivitě a paralelnímu zpracování. Neuromorfní čipy, které napodobují aspekty biologických mozků, jsou jedním z hardwarových přístupů zkoumaných pro systémy AGI. Kvantové výpočty mohou také poskytnout exponenciální zvýšení výpočetního výkonu potřebného pro AGI na lidské úrovni.

Algoritmické pokroky

Zbývá objevit nové algoritmy a architektury, které dokážou zvládnout složitost, nejistotu a šířku potřebnou pro AGI. Mezi slibné oblasti patří hluboké učení, evoluční algoritmy, inteligence rojů, znalostní grafy a hybridní systémy, které kombinují symbolické a neurální metody. Testování algoritmů ve virtuálních prostředích, jako jsou herní enginy, by mohlo urychlit pokrok. Stále jsme daleko od algoritmů a architektur potřebných pro AGI na lidské úrovni, ale pokračující výzkum napříč obory, jako je strojové učení, kognitivní věda a neurověda, by mohl vést k průlomům.

Etika a bezpečnost

Jak se přibližujeme k vývoji pokročilých systémů umělé inteligence s obecnou inteligencí, musíme zvážit etické důsledky a potenciální rizika. Sladění hodnot a cílů systémů AGI s lidskými hodnotami je zásadní, aby se předešlo nezamýšleným negativním důsledkům.

Zkoumá se několik přístupů, jak dosáhnout sladění hodnot:

• Vývoj technik pro začlenění lidské etiky do architektury cílů AGI během procesu učení a rozvoje. To zahrnuje dodávání systému rozsáhlými datovými soubory souvisejícími s lidskou morálkou, psychologií a kulturou, aby se utvářely jeho cíle.
• Vytváření transparentní a interpretovatelné umělé inteligence, kde můžeme porozumět jejímu uvažování a myšlenkovým procesům. To zajišťuje, že můžeme auditovat jeho rozhodnutí a identifikovat jakékoli předsudky nebo nesrovnalosti.
• Vytváření umělé inteligence, která je opravitelná a otevřená zpětné vazbě. Mělo by to lidem umožnit poskytovat vstupy k nápravě nežádoucího chování.
• Dávat AGI cíle zaměřené na člověka zaměřené na prospěch lidstva spíše než na čistou optimalizaci libovolných cílů.