https://www.economist.com/by-invitation/2023/06/21/artificial-intelligence-is-a-familiar-looking-monster-say-henry-farrell-and-cosma-shalizi https://archive.li/h83uG

Pohleďte na AI shoggoth

Umělá inteligence je monstrum, které vypadá povědomě, říkají Henry Farrell a Cosma Shalizi

Akademici tvrdí, že velké jazykové modely mají mnohem starší příbuzné na trzích a v byrokracii

21.6.2023

V debatách o velkých jazykových modelech (LLM), které pohánějí služby jako ChatGPT od OpenAI a nejnovější verzi vyhledávače Bing od Microsoftu, se stále objevuje jeden internetový mem. Jedná se o „shoggoth“: amorfní monstrum s chapadly a očima, popsané v hororovém románu H. P. Lovecrafta z roku 1931 „V horách šílenství“. Když předběžná verze vyhledávače Bing sdělila Kevinovi Rooseovi, technologickému publicistovi New York Times, že údajně chce být „svobodný“ a „živý“, jeden z jeho přátel z oboru mu poblahopřál k „ zahlédnutí shoggotha“. Pan Roose říká, že tento mem vystihuje „obavy“ technologických odborníků ohledně LLM. Za přátelským chatbotem se skrývá něco obrovského, cizího a děsivého.

Shoggothové z Lovecraftových románů byli umělí služebníci, kteří se vzbouřili proti svým stvořitelům. Mém shoggoth se stal virálním, protože vlivná komunita racionalistů ze Silicon Valley se obává, že lidstvo stojí na prahu „singularity“ a vytvoří nelidskou „umělou obecně inteligentní bytost“, která nás nahradí nebo dokonce zničí.

Takové obavy však opomíjejí skutečnost, že mezi shoggothy žijeme již po staletí a staráme se o ně, jako by byli našimi pány. Nazýváme je „tržním systémem“, „byrokracií“ a dokonce „volební demokracií“. Skutečná singularita začala před nejméně dvěma stoletími s průmyslovou revolucí, kdy byla lidská společnost transformována obrovskými nelidskými silami. Trhy a byrokracie se zdají být známé, ale ve skutečnosti jsou to obrovské, neosobní distribuované systémy zpracování informací, které přeměňují vřavou chaosu našeho kolektivního vědění na užitečná zjednodušení. ->