Obdiv je skutečný. Dokonce i tvůrci generativních modelů umělé inteligence jako ChatGPT a Bard jsou ohromeni tím, co postavili. Tyto systémy získávají s každou aktualizací verze nové, někdy neočekávané schopnosti. Tento rychlý vývoj vyvolává neodbytnou otázku: Chápeme vůbec, jak tyto systémy nyní fungují? A nepředběhnou nás v blízké budoucnosti?
Ale tady je vážnější problém. Mohl by stroj někdy vyvinout skutečnou inteligenci srovnatelnou s naší?
Co definuje silnou umělou inteligenci
Výzkumníci používají termín Artificial General Intelligence (AGI) k popisu systémů, které odpovídají nebo překračují lidské kognitivní schopnosti. Také známý jako „silná AI“ není jen o tom, mít více dat. Skutečný systém AGI je schopen plánovat dopředu. Učí se ze zkušenosti. Vyvíjí se samostatně.
Takový systém problémy jednoduše neřeší. Chápe proč k nim dochází. Rozvíjí své vlastní strategie. Je si vědoma sama sebe.
Dlouho to bylo považováno za sci-fi. Rané systémy umělé inteligence postrádaly flexibilitu a schopnost samostatného učení. Skeptici věřili, že dosažení této úrovně bude trvat staletí.
Tento pohled se změnil. Neuronové sítě a generativní modely založené na transformátorech změnily pravidla hry.
Geoffrey Hinton, britský výzkumník AI, přiznal svou chybu. “Málo lidí věřilo, že tyto systémy se mohou stát chytřejšími než lidé,” řekl. “Většina z nás – včetně mě – si myslela, že to bude trvat dlouho. Ale to se zjevně změnilo.”
Skok GPT-4
Přechod z GPT-3.5 na GPT-4 nebyl postupný. To bylo překvapení. Tým výzkumníků společnosti Microsoft vedený Sebastienem Boubeckem provedl rozsáhlé testování modelu. Svá zjištění zveřejnili v dubnu 2023.
Jejich závěr? GPT-4 ukazuje první jiskry umělé obecné inteligence.
Přestože je čistě jazykovým modelem, prokázala pozoruhodné dovednosti v různých oblastech. Je to o abstrakci. Vizuální možnosti. Programování. Matematika. Lék. A máš pravdu.
Dokonce rozumí lidským motivům a emocím. Testy ukázaly, že se nejedná jen o párování vzorů. To je významný skok v kognitivně podobném plnění úkolů.
Vysvětlení vlastního chování
Jedním z klíčových znaků tohoto posunu je schopnost umělé inteligence vysvětlit své vlastní chování.
“Důležitým aspektem inteligence je schopnost vysvětlit, proč byla daná odpověď dána,” poznamenal Bubeck a jeho kolegové. To vyžaduje určitou formu sebeuvědomění. To také vyžaduje oslovení uživatele.
V testech GPT-4 vysvětlil, proč převedl neutrální portugalský pracovní název do mužské nebo ženské podoby. Vysvětlil, jak dokončil melodickou sekvenci. Nebyly to náhodné odhady. Model by mohl ospravedlnit logiku svých voleb.
Vědce také zarazila její zjevná empatie. Když čelíte scénářům zahrnujícím konflikt nebo nedorozumění mezi lidmi, umělá inteligence by mohla popsat duševní stav zúčastněných postav. Určil, kde přesně k nedorozumění došlo.
Dokonce prošla testy kreativity.
Je vyžadováno vědomí?
Takže GPT-4 skutečně rozumí lidské psychologii? Je si vědoma sama sebe? Nebo vědomí?
Pravděpodobně ne. Základní mechanismus je stále založen na statistické pravděpodobnosti. Modely generují text nebo obrázky na základě toho, co nejvíce odpovídá jejich tréninkovým datům.
Někteří vědci tvrdí, že to znamená naprostý nedostatek inteligence. Tvrdí, že tyto modely pouze slepě sledují pravděpodobnosti. Bez porozumění, tvrdí, neexistuje žádná skutečná inteligence.
Paul Formosa, filozof technologie na Macquarie University v Austrálii, nesouhlasí.
„Někteří lidé věří, že systémy umělé inteligence nikdy nebudou skutečně inteligentní, protože nerozumí tomu, co dělají,“ vysvětlil Formosa. “Ale pokrok v AI naznačuje, že inteligence bez vědomí je možná.”
Praktický důsledek této skutečnosti je zřejmý. Pokud systém „nepochopení“ sebeučení přinese stejné výsledky jako skutečně inteligentní systém, budou důsledky pro lidi totožné. Na výsledku záleží stejně jako na záměru.
Problém černé skříňky
Toto tajemství má ještě jednu vrstvu. Dokonce ani vývojáři úplně nechápou, co se uvnitř těchto systémů děje.
Nemohou s jistotou říci, proč AI získává nové, nečekané schopnosti.
Sundar Pichai, generální ředitel společnosti Google, to nazval „černou skříňkou“. V rozhovoru pro CBS připustil, že nemohou přesně říci, proč AI říká věci nebo dělá chyby.
Jak myslí „mozek stroje“ zůstává záhadou. Jak se učí. Jak je vlastně inteligentní.
Sledujeme, jak létají jiskry. Ale stále nevíme, co přiživuje oheň.
