Anthropic IPO-beadványa kiemeli a frontier AI kockázatait

Amikor egy vállalat részvényeket bocsát ki a tőzsdén, köteles feltárni a befektetők számára a potenciális kockázatokat. Az Anthropic mesterséges intelligencia óriás azonban az emberiségre leselkedő veszélyekre is felhívta a figyelmet termékei kapcsán.

A vállalat hétfői beadványában a rosszindulatú szereplők által fejlesztett halálos fegyverekre vagy a technológia önállósulására is kitért. A pénzügyi részletek 335 oldala mellett 93 oldal kifejezetten a befektetéseket fenyegető kockázati tényezőkkel foglalkozott.

Az Anthropic saját nyilvános részvénykibocsátását egyfajta lépésként mutatja be az általa vélt kockázatok mérséklésére. Az alapítók szerint a mesterséges intelligencia képes a gondolkodás megszelídítésére, de ereje jóra és rosszra egyaránt használható.

Az egzisztenciális fenyegetések mellett számos gyakorlati kockázattal is számolnak, például a kulcsfontosságú munkatársak megtartásával. Az egyre autonómabbá váló rendszerek képesek lehetnek önállóan, emberi beavatkozás nélkül jelentős károkat okozó lépéseket tenni.

A mesterséges intelligencia fejlesztéséhez szükséges számítási kapacitás drága és rendkívül keresett, hiánya akadályozhatja a versenyképességet. Emellett a vállalat nagyrészt néhány nagy ügyfél és disztribúciós csatorna hozzájárulásától függ.