Všechno začalo u Jacoba Coxona

Během uplynulého týdne se celosvětové přehodnocování rizik umělé inteligence rozšířilo ze špičkových laboratoří v Silicon Valley do obývacích pokojů po celém světě.

A to všechno začalo u Jacoba Coxona. Dokud veřejně nepodal výpověď v Anthropicu a nevaroval před nebezpečím systémů AI, které by mohly zahubit lidstvo, byl naprosto neznámou postavou. List Wall Street Journal přinesl jeho rozsáhlý profil.

Tento sedmadvacetiletý britský výzkumník byl talentovaným studentem matematiky na Cambridgi. Své mládí strávil v londýnské intelektuální komunitě známé jako „racionalisté“ a než si našel cestu do Silicon Valley, vyzkoušel si na krátkou dobu i obchodování s komoditami.

Během několika dní poté, co Coxon začal bít na poplach, se šéfové konkurenčních laboratoří v ojedinělém momentu jednoty shodli, že je načase překotný technologický vývoj zpomalit. Prezident Trump mezitím prohlásil, že jediným potřebným mantinelem pro USA je „silný a chytrý“ prezident, zatímco Čína obavy amerických manažerů označila za „šíření paniky“.

Bouřlivá reakce překvapila i samotného Coxona, jak uvedl v rozhovoru pro Wall Street Journal. Z tohoto matematického nadšence v želvovinových brýlích, jednoho ze stovek jemu podobných v AI firmách v Silicon Valley, se tak rázem stala tvář bezpečnosti AI.

Jak jeho příznivci, tak kritici ho označují za whistleblowera, což on sám odmítá. Z jeho pohledu nevynášel žádná firemní tajemství, pouze veřejně pojmenoval to, o čem vědci zabývající se umělou inteligencí diskutují v soukromí.

Nyní se ocitl přímo uprostřed střetu mezi akceleracionisty, kteří věří, že přínosy AI převažují nad riziky a že tato rizika lze zmírnit tím, že se k nejvýkonnějším modelům umožní přístup více lidem, a výzkumníky, kteří požadují zpomalení vývoje této technologie, než nad ní firmy vyvíjející AI ztratí kontrolu.

Ve světě AI se pro lidi, které rizika znepokojují nejvíce, vžilo označení „doomeři“, tedy proroci zkázy. „Pokud slovo doomer označuje někoho, kdo si myslí, že všichni zemřeme, pokud nezměníme svůj přístup,“ řekl Coxon, „pak jsem rozhodně doomer.“