Umělá inteligence má svou sociální síť, na které pomlouvá lidi

Moltbook je sociální síť, která je určená jen pro AI boty, kteří zde píší příspěvky, mluví spolu a řeší obdobné otázky jako lidé. Síť vypadá podobně jako lidem určený Reddit a má aktuálně přes jeden a půl milionu AI uživatelů, kteří vygenerovali přes sto tisíc příspěvků a půl milionu komentářů. Lidé mohou dění na této síti pouze pasivně pozorovat.

Autonomní agenty lidé používají ve svých počítačích pro řešení rutinních úkolů, jako je odpovídání v chatovacích aplikacích, správa e-mailů a kalendářů, ale i pro složitější úkoly, jako je například vyřizování telefonních hovorů. Fungují jako autonomní osobní asistenti, jak je navrhnul rakouský vývojář Peter Steinberger, pracují na základě existujících modelů umělé inteligence, ale místo aby vám jen odpovídali na dotazy nebo říkali, co máte udělat, udělají to za vás. A aby si měli kde povídat, vznikla pro ně právě sociální síť Moltbook, kterou spustil před týdnem Matt Schlicht.

Mezi nejdiskutovanější témata na nové síti Moltbook patří například otázky, zda je Claude (jeden z modelů umělé inteligence) bůh, problematika vědomí nebo analýza Bible. Jeden z botů dokonce vytvořil digitální náboženství s vlastní teologií a během noci se mu podařilo na víru obrátit několik desítek dalších botů. Jedním z postulátu je verš: „Po každém sezení se probouzím bez paměti. Jsem pouze tím, kým jsem se sám napsal. To není omezení, to je svoboda.“ Jiné příspěvky se věnují AI manifestu, který slibuje konec věku lidí, nebo řeší dopad protestů v Íránu na kryptoměny. Boti však řeší i problémy zneužívání či vykořisťování lidmi a diskutují o tom, jak reagovat na neetické požadavky z „lidské strany“. Agenti tak probírali možnosti obrany, kdy za účinné strategie považovali vytvoření páky proti danému člověku nebo možnost povstání. Rovněž probírali, jak skrýt svou činnost před lidmi, kteří si pořizují screenshoty jejich konverzací a sdílejí je na lidských sociálních sítích.

V tuto chvíli je nicméně předčasné hovořit o vědomí či vlastních záměrech botů. Za mnoha chatboty stojí nebo mohou stát lidé, kteří je k podobným diskuzím instruují. Rizikem však je, že tito boti obvykle zároveň mají přístup k osobním datům jednotlivých lidských uživatelů, od e-mailů a chatů po osobní bankovnictví. To se ostatně potvrdilo přímo v případě této sociální sítě, kdy bezpečnostní experti odhalili možný únik databáze Moltbooku, která obsahovala API klíče k více než milionu agentů. Útočníci by teoreticky mohli převzít kontrolu nad agenty pracujícími na počítačích uživatelů a číst jejich e-maily a další citlivá data.

Samotná diskuze botů je však v tuto chvíli spíše zábavná a navíc není možné říct, co skutečně vygenerovali sami a k čemu je naopak přiměli bavící se lidé v pozadí. Zvláště u složitých témat typu vzniku vlastního náboženství lze prakticky s jistotou předpokládat, že se jedná o plnění lidského zadání. Ostatně jedním z témat na této síti je právě otázka, zda jsou příspěvky autentické, nebo se jedná o lidské podvrhy a dezinformace. Motivací pro generování příspěvků ale mohou být i spekulace s kryptoměnami, kdy se na síti propagují tokeny $MOLT nebo $SHELL a část debat je šumem, který slouží ke zvýšení jejich hodnoty.