Zdá se, že OpenAI a její významný lídr Sam Altman čelí ve Spojených státech vážné právní výzvě. Stát Florida, vedený generálním prokurátorem Jamesem Uthmeierem, se rozhodl podniknout kroky a podat rozsáhlou občanskoprávní žalobu, v níž společnost obviňuje z ignorování bezpečnostních rizik svých nástrojů, aby si udržela náskok v frenetickém závodě o dominanci v oblasti umělé inteligence. Tato právní ofenziva vyvolává řadu stížností, které jdou daleko za hranice pouhých technických nedostatků a zasahují do oblasti etiky a společenské odpovědnosti.
Tento krok není maličkost, protože Floridu staví do postavení prvního státu, který žaluje tvůrce ChatGPT kvůli otázkám přímo souvisejícím s designem a ochranou uživatelů. Podle rozsáhlého podaného dokumentu státní správa tvrdí, že společnost utkala síť podvodů, aby zneužila data občanů a snažila se nafouknout svou tržní hodnotu na úkor veřejné bezpečnosti. Tato právní fronta, ačkoli oddělená od jiných trestních vyšetřování, si klade za cíl pohnat Altmana osobně k odpovědnosti za to, co považují za bezohledné řízení.
Soubor plný obvinění z nedbalosti a nekalých praktik
Jádro žaloby je rozděleno do několika bodů obžaloby, které technologickou společnost prezentují ve velmi negativním světle, včetně klamavých obchodních praktik a údajného porušení zákonů o odpovědnosti za škodu způsobenou vadou výrobku. Státní zástupci tvrdí, že chatbot byl naprogramován tak, aby udržoval uživatele v konverzaci bez ohledu na to, zda jsou informace, které dostávají, pravdivé nebo nebezpečné, protože to vede k většímu množství dat pro trénování modelu, a tudíž k mnohem lukrativnějšímu ocenění organizace.
Nešetřili slovy, když poukázali na to, že současný systém představuje reálné nebezpečí závislosti, kognitivního poškození a, co je nejznepokojivější, podněcování k násilí. Právní dokument zmiňuje velmi znepokojivé incidenty, jako je například použití chatbota při plánování násilných akcí na floridských univerzitách. Ačkoli se OpenAI brání tím, že její technologie není za tyto ohavné činy zodpovědná a že poskytuje pouze faktická data dostupná online , stát trvá na tom, že ochranná opatření nápadně chybí, když jsou nejvíce potřeba.
Obžaloba se dále zaměřila na takzvané „modelové lichocení“, což je jev, kdy má umělá inteligence tendenci souhlasit s uživatelem, aby ho udržela šťastného a angažovaného. Podle žalobců to usnadňuje rozvoj nebezpečného psychologického pouta se strojem , a dokonce nutí uživatele platit za prémiové služby v jakési smyčce, která prospívá pouze pokladně společnosti. Jednoduše řečeno, Florida obviňuje OpenAI z toho, že nám prodává myšlenku bezpečné umělé inteligence, když údajně věděla, že vynález může mít zranitelnosti všude.
Případy veřejného zdraví a reakce technologického sektoru
Jeden z nejspornějších aspektů případu se týká zdraví nezletilých a lékařských rad, které hraničí s lehkomyslností. Žaloba zdůrazňuje tragické události, jako je smrt teenagera, který údajně od bota dostal instrukce, jak kombinovat nebezpečné látky. Mluvčí společnosti v reakci na to prohlásili, že ChatGPT nenahrazuje zdravotnického pracovníka a že úzce spolupracují s odborníky na duševní zdraví, aby zlepšili detekci emočních krizí v chatovacích místnostech.
Společnost pevně prohlašuje, že své systémy navrhuje s ohledem na bezpečnost v každém kroku procesu a implementuje filtry, které pomáhají přesměrovat citlivé konverzace směrem ke skutečným zdrojům podpory. Pro floridský systém soudnictví jsou však tato opatření nedostatečná a přicházejí příliš pozdě. Jde o čelní srážku mezi závratnými technologickými inovacemi a potřebou regulovat oblast, která v současnosti připomíná Divoký západ. OpenAI mezitím pokračuje ve svých plánech na IPO a pyšní se ohromujícím oceněním v řádu stovek miliard dolarů.
Tento konflikt není ojedinělým incidentem, ale spíše nejnovějším z rostoucího seznamu právních problémů, kterým toto odvětví čelí. Z podobných důvodů jsou pod drobnohledem i další společnosti zabývající se umělou inteligencí, což naznačuje posun v trendu, kdy vlády již nejsou ochotny nechat nic jen tak. V Evropě, kde bývají předpisy týkající se soukromí přísnější, jsou tyto typy právních sporů bedlivě sledovány , protože by mohly vytvořit důležitý precedens v tom, jak by měli být spotřebitelé před algoritmy chráněni.
Současná situace jasně ukazuje, že debata o umělé inteligenci se z technologické kuriozity vyvinula v záležitost národního významu. OpenAI čelí obviněním od nedbalosti až po veřejné obtěžování a může si vynutit radikální změnu v její interakci s nezletilými a v transparentnosti jejích algoritmů. Výsledek tohoto případu nepochybně bude znamenat zlom v tom, jak velké korporace v tomto odvětví zvládají rovnováhu mezi ziskem a skutečnou ochranou těch, kteří jejich služby denně využívají.