Advokátske kancelárie čelia výzvam digitalizácie, cloudových služieb a umelej inteligencie (AI). Riešenia potrebujú nové zmluvné prístupy, znalosť regulácií aj technickú gramotnosť. Digitalizácia právnickej praxe už nie je len otázkou efektivity, ale aj právnej zodpovednosti a technologickej pripravenosti. Cloudové služby prinášajú riziká výpadkov, narušenia dostupnosti či úniku dát, čo si vyžaduje dôsledne nastavené zmluvné vzťahy a výber dôveryhodných poskytovateľov. Súčasne rastie význam AI, ktorá síce umožňuje zefektívniť právne služby, no zároveň kladie nové nároky na ich kvalitu, spoľahlivosť a právny rámec jej využitia. Aj o týchto témach hovorí Managing Partner act legal Slovakia Milan Malata.
Ako právne riešiť zodpovednosť pri výpadkoch alebo strate dát v cloude?
Vo všetkých pomenovaných prípadoch ide o situácie, ktoré môžu mať pre každú obchodnú spoločnosť vážne až likvidačné dôsledky. Všetky môžu zakladať nárok na náhradu škody, pokiaľ by výpadok alebo narušenie dostupnosti služieb presiahli zmluvou predpokladaný limit a zároveň by bolo možné zhmotniť nedostupnosť dát do materiálnej škody. Aj v tejto otázke by však bolo relevantné, ako rieši náhradu škody uzavretá zmluvná dokumentácia. V prípade výpadku, respektíve narušenia dostupnosti bývajú vo väčšine prípadov v zmluvách dohodnuté zmluvné pokuty alebo právo na zľavu z ceny poskytovanej služby.
Kedy odporúčate cloud a kedy lokálne úložiská z pohľadu zmluvnej a regulačnej flexibility?
V uvedenom prípade závisí, v akom odvetví obchodná spoločnosť pôsobí a aké dáta sú ukladané v cloudových riešeniach. Zároveň je dôležité, kde sa cloudové úložisko nachádza, keďže cloudové úložiská mimo európskeho priestoru zvyšujú bezpečnostné riziká. Tak ako pri všetkých službách, aj pri cloudových službách platí, že klienti by mali dôkladne zvážiť výber poskytovateľa služieb s ohľadom na jeho doterajšie skúseností a technické parametre garantované poskytovateľom. Ak ide o uloženie dát kľúčových pre chod firiem a zachovanie podnikania, respektíve takých dát, bez ktorých existencie si klient nevie zabezpečiť chod svojej obchodnej spoločnosti, odporúčame využívať lokálne úložiská s dodatočnou ochranou a systémom záloh.
Aké sú limity využívania AI pri právnych úkonoch?
V júni 2024 Európska únia (EÚ) prijala nariadenie o umelej inteligencii, ktoré stanovuje pravidlá pre vývoj a používanie AI. Limity pre aplikáciu AI pri príprave zmlúv alebo pri analýze prípadov či poskytovaní právnych služieb nie sú dané, no aj v súvislosti s využívaním AI pri poskytovaní služieb sa na základe takzvaného AI Actu zavádzajú nové povinnosti, ktoré budú musieť firmy a inštitúcie dodržiavať. Napríklad systémy slúžiace na vymáhanie práva a justície sú nariadením označené ako vysokorizikové.
Čo sa týka samotnej miery použitia, zastávam názor, že AI je a bude nástrojom na zefektívnenie poskytovania právnych služieb. Zároveň si myslím, že pri poskytovaní právnej služby je rozhodujúca kvalita, ktorú nie je možné dosiahnuť pri priveľkej automatizácii. Každá analýza prípadu a aj príprava zmluvy totiž vyžaduje osobitý prístup, ktorý zohľadní špecifické potreby klienta. Z uvedeného dôvodu vie byť AI pri poskytovaní právnych služieb nástrojom na zvýšenie efektivity, ale nemôže plnohodnotne nahradiť právne poradenstvo skúseného právneho poradcu.
Ako vplýva nárast hybridných cloudových infraštruktúr na zmluvné vzťahy medzi klientmi a IT poskytovateľmi?
Hybridným cloudovým riešeniam sú otvorení aj viac konzervatívni klienti. Prechod z verejného cloudu alebo lokálnych úložísk na hybridný cloud prirodzene vyžaduje nové nastavenie práv a povinností zmluvných strán. Aj v tomto prípade je rozhodujúce venovať príprave zmluvy náležitú pozornosť a okrem iného stanoviť postup vrátenia dát po ukončení zmluvy.
Z môjho pohľadu je zapojenie právnika relevantné už v štádiu výberu poskytovateľa cloudových služieb, keďže v tejto fáze je potrebné pomenovať riziká, ktoré môžu byť s využitím ponúkaného riešenia spojené. V prípade cloudu, v ktorom majú byť uložené dáta a ktoré majú pre každého podnikateľa neoceniteľnú hodnotu, by malo o to viac platiť, že výber kvalitného a skúseného poskytovateľa služby je rozhodujúci.
Čo predstavuje najväčšiu právnu výzvu pri implementácii generatívnej AI do právnickej praxe?
Rozhodujúce je overenie spoľahlivosti výstupov a zároveň miera aplikácie výstupov AI pri poskytovaní služby. AI vie byť pri poskytovaní právnych služieb nástrojom na zvýšenie efektivity najmä v úvodnej fáze prípravy zmluvnej dokumentácie alebo analýz rôznorodých otázok či vyhľadávaní relevantnej judikatúry. Pridaná hodnota právnej služby však spočíva v adresnosti služby a zabezpečení riešenia, ktoré je klientovi „šité na mieru“. Pre našich klientov je rozhodujúce práve strategické poradenstvo, ktoré predvída možné scenáre, a tu si myslím, že je odbornosť a skúsenosť právnika umelou inteligenciou nenahraditeľná.
Môže sa porušiť povinnosť mlčanlivosti advokáta, ak sú klientske dáta spracovávané nástrojmi AI, ktoré bežia v cloude?
Povinnosť mlčanlivosti je základnou povinnosťou advokátov, na ktorej dodržiavanie musia advokáti dbať. Ani v prípade advokátskych kancelárií nie je možné vylúčiť, že napríklad kybernetickým útokom môže dôjsť k úniku dát. Vzhľadom na charakter služby, ktorou advokácia je, je preto nevyhnutné, aby bolo vylúčené poskytovanie cloudových služieb neskúsenými poskytovateľmi a tiež aby bola vylúčená aplikácia neautorizovaných riešení.
Aký vplyv má pripravovaná európska regulácia AI Act na právne kancelárie?
Nové pravidlá vyžadujú, aby boli využívané AI systémy klasifikované podľa rizikových kategórií. Advokátska kancelária využívajúca AI bude musieť prijať opatrenia, ktoré umožnia využívanie len vopred posúdených AI riešení za dodržania pokynov od poskytovateľa AI systému a zároveň by mala mať vymedzené činnosti, na ktoré budú môcť zamestnanci kancelárie AI využívať.
Spomínané nariadenie kvalifikuje systémy AI súvisiace s vymáhaním práva a justície za vysokorizikové. Uvedené však neplatí automaticky, rozhodne to, na akú konkrétnu činnosť budú systémy v rámci advokácie využívané. Ak by bola AI využitá na podporu rozhodnutia klienta, ktoré môže výrazne ovplyvniť jeho práva, išlo by potenciálne o vysokorizikové použitie. Zároveň bude potrebné klásť dôraz na zabezpečenie školení pre zamestnancov, ktorí musia poznať prácu s AI riešeniami a dodržiavať povinnosti, ktoré sú s využívaním AI riešení spojené.
Spoločnosti vrátane advokátskych kancelárií by mali implementovať systém zásad a zodpovednostných vzťahov v súvislosti s využívaním AI riešení a tieto preniesť do interných smerníc, ktorými sa budú zamestnanci, respektíve osoby poskytujúce právne služby, spravovať. Taktiež by mali upraviť uchovávanie záznamov, riešenie a nahlasovanie incidentov poskytovateľovi AI riešení a prijať systém notifikácie klienta o využívaní AI riešení pri poskytovaní služieb.
Do akej miery je akceptovateľné, aby advokátske kancelárie využívali AI na internú analýzu prípadov?
Závisí od rozhodnutia advokátskej kancelárie, v akej miere bude pri poskytovaní právnych služieb využívať AI riešenia. Samozrejme, aj pri využívaní AI riešení platí, že advokát zodpovedá za správnosť výstupov a kvalitu poskytovaných služieb s tým, že ak by bola umelá inteligencia využitá na podporu rozhodnutia klienta, ktoré môže výrazne ovplyvniť jeho práva, klient by mal byť o aplikácii AI informovaný.
Ktoré nové právne inštitúty alebo zmeny v zákonoch si vyžaduje rastúce využívanie AI vo firemnej správe a pri rozhodovacích procesoch klientov?
Rastúce využívanie AI pravdepodobne prinesie zmeny v legislatíve. Ich rozsah však bude závisieť od toho, aké systémy umelej inteligencie reálne vstúpia do našich životov. Už roky prebieha diskusia o možnom nastavení zodpovednostných vzťahov v prípade autonómnych systémov, ako sú napríklad autonómne vozidlá a drony. V takom prípade by bolo nové nastavenie zodpovednostných vzťahov nevyhnutnosťou. Pokiaľ hovoríme o využívaní AI vo firemnej sfére, nie som fanúšikom prílišnej regulácie v žiadnom odvetví. Preto si myslím, že aj v prípade AI by malo platiť, že legislatívne zmeny by mali byť uskutočnené len v nevyhnutnej miere tak, aby zmena legislatívy v konečnom dôsledku nemala za následok spomalenie alebo pozastavenie vývoja v tejto oblasti. Zároveň si myslím, že prijatie základnej regulácie v podobe AI act bolo potrebné a žiaduce.
Aké opatrenia by mali právnické firmy implementovať pri výmene alebo modernizácii informačných systémov?
Vo všeobecnosti platí, že právnické firmy by nemali uskutočňovať žiadne kroky, ktoré by im umožnili zbaviť sa právnej zodpovednosti voči svojim klientom či zamestnancom. Pokiaľ je otázkou, aké opatrenia by mali byť prijaté v snahe vylúčenia možných bezpečnostných incidentov, aj pre oblasť poskytovania právnych služieb platí potreba investícií do inovácií a dostatočných technických riešení tak, aby bola vytvorená maximálna možná miera ochrany dát.
Ktoré typy dát by mali byť striktne vylúčené z AI spracovania pre riziko ich zneužitia alebo porušenie právnych predpisov?
Veľmi senzitívne dáta, ktorých zverejnenie by mohlo vážnym spôsobom ohroziť postavenie alebo práva klienta.
Aké právne dôsledky môže mať netransparentné rozhodovanie AI systémov (black-box AI) vo firemnom alebo verejnom sektore a ako to ovplyvňuje dôkaznú silu výstupov?
Ak sa pýtate na dôkaznú silu výstupov v súdnych sporoch, v prípade, ak by boli informácie ako výsledky činnosti umelej inteligencie nepravdivé, môže to mať za následok zhoršenie pozície v spore alebo dokonca až stratu sporu. Vzhľadom na kontradiktórnosť súdneho konania je možné predpokladať rozporovanie nepravdivého výstupu druhou procesnou stranou, čo môže mať na spor negatívne dôsledky. Vo vzťahu k možnému prieniku AI do rozhodovacích procesov či verejného sektora je dôležitá kvalifikácia AI systémov z hľadiska rizikovosti a vylúčenie aplikácie pri určitých činnostiach, nakoľko netransparentné alebo skreslené rozhodnutia môžu spôsobiť vážne následky.
Mení sa zodpovednosť poskytovateľa právnych služieb, ak časť činností presunie na AI alebo automatizované systémy bez ľudského overenia?
Zodpovednosť poskytovateľa právnej služby vo vzťahu ku klientovi zostáva zachovaná bez ohľadu na to, či pri poskytnutí služby bola alebo nebola využitá umelá inteligencia. Práve preto bude v ďalšom vývoji pri poskytovaní právnych služieb kľúčové overenie spoľahlivosti výstupov AI a rozumná miera aplikácie.
Môže mať použitie AI na spracovanie právnej analýzy vplyv na hodnotu právnej služby a jej fakturáciu?
Hodnota právnej služby ako taká nebude strácať svoju hodnotu. Myslím, že práve naopak, jej hodnota môže vzhľadom na zvyšujúce sa riziko spojené s aplikáciou AI významne narastať. Zároveň však možno očakávať skrátenie rozsahu poskytnutia služby. Myslím si, že keď sa aplikácia AI stane bežnou súčasťou právnych služieb, úspora na strane klientov môže byť vzhľadom na úsporu času pri poskytnutí služby citeľná. Táto úspora by prirodzene mala byť pri fakturácii zohľadnená.
Ako rozšírenie AI riešení ovplyvňuje zber, archiváciu a uchovávanie dôkazov v sporovej agende?
Na uchovávanie a archiváciu dôkazov sa už bežne využívajú IT riešenia, ktoré umožňujú efektívnu prácu s dôkazmi a priame zapojenie klientov. Ak sa pýtate na to, či napríklad právne rozbory alebo odpovede z AI bez ich následného spracovania môžu byť obsahom vyjadrení predkladaných súdu v súdnom spore, odpoveď znie áno. Aj v takomto prípade sa opäť vraciame k otázke miery aplikácie AI, overenia spoľahlivosti výstupov, no hlavne k mimoriadne dôležitej otázke kvality právnej služby.
Sú slovenské právnické kancelárie pripravené na prípadný právny audit zameraný na súlad s reguláciami IT bezpečnosti a digitálnej správy?
Otázka pripravenosti a rozhodnutie využívať AI riešenia pri poskytovaní služieb je individuálnym rozhodnutím každej advokátskej kancelárie. Predpokladám, že každá advokátska kancelária už dbá na zabezpečenie IT bezpečnosti vzhľadom na častú prácu so senzitívnymi dátami a v prípade aplikácie AI riešení pri poskytovaní služieb prijme všetky potrebné opatrenia.
Ako pristupujete k riziku „shadow IT“, teda používaniu neautorizovaných cloudových alebo AI nástrojov zamestnancami právnickej kancelárie?
Interné predpisy by mali využívanie neautorizovaných cloudových a AI nástrojov zamestnancami zakázať. V našej advokátskej kancelárii máme v uvedenej súvislosti prijaté striktné pravidlá a politiky dbajúce na ochranu dát a elimináciu používania neautorizovaných IT riešení.
Ako vnímate úlohu právnika pri vytváraní pravidiel zodpovedného využívania AI u klientov z odvetví ako zdravotníctvo, bankovníctvo či verejná správa?
Aplikácia AI v regulovaných odvetviach bude musieť spĺňať legislatívne požiadavky, ku ktorých prijatiu v budúcnosti dôjde. Zavedenie týchto pravidiel do interného prostredia firiem a dôsledný monitoring ich dodržiavania budú v prípade vzniku súdnych sporov z právneho hľadiska kľúčové. Na porovnanie môžem uviesť, že na vylúčenie trestnoprávnej zodpovednosti štatutárov a právnických osôb je rozhodujúci kvalitný compliance program a jeho dôsledná aplikácia. Preto bude úloha právnikov pri zavádzaní AI riešení do praxe a tvorbe interných predpisov veľmi dôležitá.
Do akej miery si má právnik osvojiť technickú gramotnosť na prácu s AI, cloudom či kybernetickou bezpečnosťou?
Technická gramotnosť právnika v oblasti IT je nevyhnutnosťou. Je to nevyhnuté pre schopnosť prispôsobiť sa trendom ako využívanie AI riešení v praxi, no zároveň je to nevyhnutné vzhľadom na elektronizáciu verejnej správy a digitalizáciu firiem. Z pohľadu postavenia klientov môžem povedať, že bez ohľadu na oblasť ich pôsobenia sa zvyšuje ich záujem o kybernetickú bezpečnosť, keďže nárast bezpečnostných rizík je v tejto oblasti citeľný. Uvedené ide ruka v ruke so zavádzaním inovácií a kúpou novej infraštruktúry. Z tohto hľadiska je využívanie právnych služieb v IT oblasti bežnou potrebou klientov a právnik má byť schopný na tieto potreby klienta reagovať.
Vidíte pri klientoch rastúci záujem o právne poradenstvo v oblasti AI governance?
Implementácia AI riešení začína byť témou a očakávam zvýšenie záujmu klientov o túto oblasť. Náš tím už venuje veľkú pozornosť testovaniu dostupných AI riešení a monitoruje všetky s tým súvisiace legislatívne zmeny.
Ďalšie dôležité správy
