Využívání ChatGPT a podobných nástrojů umělé inteligence v právním sektoru vyvolává intenzivní debatu ve Španělsku a dalších zemích. Stále více právníků se obrací na tato technologická řešení, aby optimalizovali a zefektivnili svou práci, od kontroly soudních sporů až po vyhledávání souvisejících rozhodnutí. Pohodlí a rychlost, které tyto nástroje nabízejí, však také znamená značná právní a etická rizika které nelze přehlédnout.
V současné době, Většina právních profesionálů již ve větší či menší míře využívá umělou inteligenci., uvádí nedávná studie Evropské asociace pro právní technologie. Používání nástrojů, jako je ChatGPT, k generování právních textů však může vést ke kompromitujícím situacím, protože Systém je schopen vymýšlet věty, odkazy a dokonce i celé případy. která nikdy neexistovala.
Chyby a „halucinace“ v právních dokumentech
V posledních letech bylo zdokumentováno Případy právníků, kteří byli sankcemi po předložení dokumentů částečně generovaných pomocí ChatGPT, kde byly citovány fiktivní zákony nebo rozhodnutí. Obzvláště notoricky známý příklad se stal ve Spojených státech, kdy dva právníci dostali pokutu za to, že své argumenty založili na neexistujících soudních rozhodnutích. Ve Španělsku se právník trestu vyhnul poté, co přiznal, že využil virtuálního asistenta, a přiznal chybu, když citoval nepoužitelnou legislativu.
Odborníci jako Alfonso Peralta, soudce se zkušenostmi v oblasti digitálního práva, zdůrazňují, že Hlavní nebezpečí spočívá v používání generické umělé inteligence, která není trénována se spolehlivými právními databázemi specifickými pro danou zemi.To zvyšuje pravděpodobnost, že nástroj nakonec vygeneruje zdánlivě souvislé, ale zcela fiktivní informace, což je v oboru známé jako „halucinace“.
Odborníci se shodují, že současná umělá inteligence nemůže nahradit lidskou právní analýzu., jelikož jim chybí kontextuální znalosti o platnosti a správném uplatňování odpovídajících předpisů a soudních rozhodnutí.
Doporučení a ochranná opatření při používání legální umělé inteligence
Vzhledem k nezastavitelnému pokroku umělé inteligence v právní oblasti, Profesní vysoké školy a mezinárodní asociace vypracovaly seznam doporučení zmírnit rizika a předejít potenciálním soudním sporům nebo škodám pro zákazníky.
- Vyhněte se používání generické umělé inteligence a zvolit si specifické právní systémy založené na vnitrostátních právních předpisech.
- Pečlivě si prostudujte obchodní podmínky použití zvoleného nástroje.
- Odstraňte všechny citlivé informace a anonymizujte dokumenty před jejich zpracováním pomocí umělé inteligence., vzhledem k důležitosti mlčenlivosti mezi advokátem a klientem.
- Ručně ověřte pravost a platnost citovaných zákonů a rozhodnutí strojem.
- Zajistěte, aby používání umělé inteligence bylo kryto pojištěním profesní odpovědnosti z plochy.
Podle Noemí Brito, expertky na duševní vlastnictví, Právník zůstává v konečném důsledku zodpovědný za veškerý odeslaný obsah, a to i v případě, že byl vygenerován umělou inteligencí.Institucionální organizace zdůrazňují, že sdílení citlivých údajů s platformami, které ukládají nebo opakovaně používají informace, by mohlo vést k vážným právním a etickým problémům.
V tomto ohledu, Důvěrnost se stává jednou z největších výzevCristina Retana, ředitelka pro právní obsah, varuje před pokušením svěřovat těmto systémům osobní nebo strategické údaje, protože existuje riziko ohrožení soukromí a práv klientů.
