2023 metų kovą daugiau nei tūkstantis technologijų lyderių, tarp jų Elonas Muskas ir Steve’as Wozniakis, pasirašė atvirą laišką, raginantį sustabdyti pažangiausių DI sistemų kūrimą bent šešiems mėnesiams. Beveik tuo pačiu metu Kinija leido savo piliečiams naudotis naujomis generatyvinio DI platformomis, o Europos Sąjunga balsavo dėl pirmojo pasaulyje visapusiško dirbtinio intelekto reguliavimo įstatymo.
Trys skirtingos reakcijos į tą pačią technologiją. Ir kiekviena iš jų atskleidžia gilesnį klausimą, su kuriuo susiduria kiekviena visuomenė: kiek laisvės duoti technologijai, kuri gali ir gydyti vėžį, ir kurti propagandą?
Šis straipsnis nėra nei DI šlovinimas, nei panikavimas. Čia rasite konkrečias situacijas, kuriose DI jau kelia etines problemas, skirtingų šalių reguliavimo modelių palyginimą, ES DI akto praktinius padarinius ir argumentus iš abiejų pusių: tiek tų, kurie nori griežtesnių ribų, tiek tų, kurie perspėja, kad per didelis reguliavimas nužudys inovacijas.
Kodėl DI etika tapo neatidėliotinu klausimu
Dirbtinis intelektas egzistuoja dešimtmečius. Bet per pastaruosius trejus metus kažkas pasikeitė iš esmės.
Generatyvinis DI tapo prieinamas visiems. Kai 2022 m. lapkritį OpenAI paleido ChatGPT, per penkias dienas jį išbandė milijonas žmonių. Per du mėnesius, 100 milijonų. Pirmą kartą istorijoje galingas DI įrankis atsidūrė kiekvieno žmogaus rankose, ne tik korporacijų laboratorijose.
DI pradėjo priimti sprendimus, turinčius realių pasekmių žmonėms. Algoritmai sprendžia, ar gausite paskolą, ar jūsų CV pasieks darbdavio akis, kokią draudimo įmoką mokėsite, ar jūsų medicininė nuotrauka rodo vėžį, ir net ar jums bus leista įlipti į lėktuvą.
DI sukūrė naujus manipuliacijos įrankius. Deepfake vaizdo įrašai, sintetiniai balsai, masinė dezinformacijos gamyba, visa tai tapo prieinama be specialių techninių žinių. 2024 m. pradžioje Honkonge sukčiai, naudodami deepfake vaizdo skambutį, iš įmonės darbuotojo išviliojo 25 milijonus dolerių, apsimesdami bendrovės finansų direktoriumi.
DI sistemos tapo pernelyg sudėtingos, kad jas suprastų net jų kūrėjai. Didžiųjų kalbos modelių (LLM) veikimas yra „juodoji dėžė”: net OpenAI ar Google inžinieriai ne visada gali paaiškinti, kodėl modelis davė konkretų atsakymą. Kai sistema, kurios niekas iki galo nesupranta, priima sprendimus apie žmogaus laisvę, sveikatą ar finansus, etikos klausimas tampa neatidėliotinas.
Penkios pagrindinės etinės DI problemos
1. Šališkumas ir diskriminacija
DI sistemos mokosi iš duomenų. Jei duomenyse yra istorinių šališkumų (o jų beveik visada yra), sistema tuos šališkumus ne tik atkuria, bet kartais ir sustiprina.
Realūs atvejai:
- Amazon CV atrankos algoritmas (2018 m.): bendrovė sukūrė DI sistemą, automatiškai vertinančią kandidatų CV. Po kelerių metų paaiškėjo, kad sistema sistemingai žemino moteriškos lyties kandidates, nes buvo treniruota ant istorinių samdymo duomenų, kuriuose dominavo vyrai. Amazon projektą nutraukė.
- COMPAS recidyvo prognozavimo sistema (JAV): naudojama teisėsaugoje prognozuoti, ar nuteistasis pakartotinai nusikals. Tyrimai parodė, kad sistema buvo dvigubai labiau linkusi klaidingai priskirti aukštą recidyvo riziką tamsiaodžiams kaltinamiesiems nei baltaodžiams.
- Sveikatos priežiūros algoritmai: JAV sveikatos sistemoje naudotas algoritmas, sprendžiantis, kurie pacientai turi gauti papildomą priežiūrą, sistemingai pirmavo baltaodžius pacientus, nors tamsiaodžių pacientų sveikatos būklė buvo blogesnė. Priežastis: algoritmas naudojo sveikatos išlaidas kaip sveikatos rodiklį, bet tamsiaodžiai pacientai istoriškai turėjo mažesnes sveikatos išlaidas dėl prieigos prie priežiūros nelygybės.
Kodėl tai sunku ištaisyti: šališkumas ne visada matomas iš pirmo žvilgsnio. Algoritmas gali diskriminuoti net nenaudodamas rasės, lyties ar amžiaus kaip tiesioginio kintamojo. Pašto kodas, mokyklos pavadinimas, hobiai, net naršymo įpročiai gali būti netiesioginiai diskriminacijos rodikliai (proxy variables).
2. Privatumas ir stebėjimas
DI sistemoms reikia duomenų. Daugybės duomenų. Ir čia kyla konfliktas tarp DI efektyvumo ir žmogaus teisės į privatumą.
Veido atpažinimas viešose erdvėse. Kinija turi didžiausią pasaulyje veido atpažinimo kamerų tinklą, apimantį šimtus milijonų kamerų. Sistema gali atpažinti žmogų gatvėje per sekundes ir susieti su visa jo skaitmenine istorija. Vakarų šalyse panašios sistemos naudojamos oro uostuose, stadionuose ir kai kuriuose miestuose. San Franciskas, Bostonas ir keletas kitų JAV miestų uždraudė policijos veido atpažinimo technologijų naudojimą. ES DI aktas griežtai riboja biometrinį stebėjimą viešose erdvėse.
Darbuotojų stebėjimas. Kai kurios bendrovės naudoja DI darbuotojų produktyvumui stebėti: klaviatūros paspaudimų dažnis, ekrano nuotraukos, el. laiškų analizė, net emocijų atpažinimas vaizdo skambučių metu. Pandemijos metu tokių įrankių naudojimas išaugo kelis kartus.
Asmeninių duomenų naudojimas modelių treniravimui. Generatyvinio DI modeliai treniruojami ant milžiniškų interneto duomenų rinkinių, kuriuose yra ir asmeninė informacija: tinklaraščių įrašai, socialinių tinklų komentarai, forumų diskusijos. Daugelis žmonių nežino, kad jų tekstai buvo panaudoti modelio treniravimui, ir neturėjo galimybės tam prieštarauti.
3. Dezinformacija ir manipuliacija
Generatyvinis DI sumažino dezinformacijos kūrimo kainą iki beveik nulio.
Kas pasikeitė:
- Tekstas. Vienas žmogus su ChatGPT ar panašiu įrankiu per valandą gali sukurti dešimtis unikalių, skirtingais stiliais parašytų straipsnių, platinančių melagingą informaciją. Anksčiau tam reikėjo armijos rašytojų.
- Vaizdas. DALL-E, Midjourney, Stable Diffusion ir panašūs įrankiai leidžia per minutes sukurti fotorealistiškas nuotraukas įvykių, kurie niekada neįvyko. Popiežius pūkiniame palte, Trumpas suimamas, karo veiksmai, kurių nebuvo, visi šie vaizdai paplito internete ir daugelį suklaidino.
- Vaizdo įrašai ir balsas. Deepfake technologijos leidžia sukurti vaizdo įrašą, kuriame realus žmogus „sako” žodžius, kurių niekada nesakė. Sintetiniai balsai gali imituoti bet kurį žmogų, turint vos kelių sekundžių originalaus balso įrašą.
Poveikis demokratijai. 2024 metai buvo didžiausių rinkimų metai istorijoje: JAV, Indija, ES, Indonezija, Meksika ir dešimtys kitų šalių rengė rinkimus. Beveik visuose buvo fiksuoti DI sukurti dezinformaciniai turiniai: netikri kandidatų pasisakymai, suklastoti garso įrašai, fabrikusti „naujienų” straipsniai.
4. Darbo rinkos transformacija
DI keičia darbo rinką greičiau nei bet kuri ankstesnė technologinė revoliucija. Ir tai kelia ne tik ekonominių, bet ir etinių klausimų.
Kokios profesijos paveikiamos labiausiai:
- Klientų aptarnavimas ir skambučių centrai (pokalbių robotai perima vis daugiau funkcijų).
- Vertimas ir koregavimas (generatyvinis DI pakankamai gerai verčia daugelį kalbų porų).
- Pradinio lygio programavimas ir testavimas.
- Duomenų įvedimas ir apdorojimas.
- Turinio kūrimas (tekstai, iliustracijos, muzika).
- Teisinių dokumentų analizė.
- Apskaita ir bazinė finansinė analizė.
Etinis klausimas: kas atsakingas, kai DI pakeičia tūkstančius darbuotojų? Įmonė, kuri siekia efektyvumo? Technologijų kūrėjas, kuris sukūrė įrankį? Valstybė, kuri nenumatė perkvalifikavimo programų?
Istorija rodo, kad technologinės revoliucijos ilguoju laikotarpiu sukuria daugiau darbo vietų nei sunaikina. Bet pereinamasis laikotarpis gali trukti dešimtmečius, ir per tą laiką milijonai žmonių patiria realius sunkumus.
5. Atsakomybės spraga
Kai DI sistema padaro klaidą su rimtomis pasekmėmis, kas atsako?
Scenarijus: autonominis automobilis sukelia avariją. Kas kaltas? Automobilio savininkas, kuris sėdėjo už vairo? Gamintoja, kuri sukūrė programinę įrangą? DI modelio kūrėjas, kuris treniravimo metu nepastebėjo klaidos? Duomenų tiekėjas, kurio duomenyse buvo spragų?
Kitas scenarijus: medicinos DI sistema neteisingai interpretuoja rentgeno nuotrauką ir praleidžia vėžio požymius. Pacientas negauna laiku gydymo. Ar atsakingas gydytojas, kuris pasitikėjo DI? Ar ligoninė, kuri nusprendė naudoti sistemą? Ar DI kūrėjas?
Dabartinė teisinė sistema daugelyje šalių neturi aiškių atsakymų į šiuos klausimus. Atsakomybės spraga, kai niekas konkrečiai neatsako, yra viena didžiausių DI etikos problemų.
Reguliavimo modeliai: kaip skirtingos šalys sprendžia DI klausimą
Pasaulyje susiformavo trys skirtingi požiūriai į DI reguliavimą. Kiekvienas turi savo logiką, privalumus ir trūkumus.
Europos Sąjunga: reguliavimas pirmas, inovacijos antros
ES priėmė pirmąjį pasaulyje visapusišką DI reguliavimo teisės aktą, ES dirbtinio intelekto aktą (AI Act), kuris įsigaliojo 2024 m. rugpjūtį ir bus pilnai taikomas etapais iki 2027 m.
Pagrindiniai principai:
ES DI aktas klasifikuoja DI sistemas pagal riziką į keturias kategorijas:
Nepriimtina rizika (draudžiamos sistemos):
- Socialinio kredito reitingo sistemos (kaip Kinijoje).
- Biometrinis stebėjimas viešose erdvėse realiu laiku (su retomis išimtimis teisėsaugai).
- Pasąmonę veikiančios manipuliacinės technikos.
- Emocijų atpažinimas darbo vietose ir švietimo įstaigose (su tam tikromis išimtimis).
- Prognozuojamoji policijos veikla, paremta profiliavimo duomenimis.
Aukšta rizika (griežtai reguliuojamos sistemos):
- DI, naudojamas priimant sprendimus dėl įdarbinimo, kreditų, draudimo, teisėsaugos, migracijos, švietimo.
- Privaloma atlikti poveikio vertinimą prieš diegiant.
- Privalomas žmogaus priežiūros mechanizmas.
- Duomenų kokybės ir skaidrumo reikalavimai.
- Registracija ES DI sistemų duomenų bazėje.
Ribota rizika (skaidrumo reikalavimai):
- Pokalbių robotai turi informuoti naudotoją, kad bendrauja su DI.
- DI sukurtas turinys turi būti pažymėtas kaip toks.
- Emocijų atpažinimo sistemos turi informuoti, kad analizuoja emocijas.
Minimali rizika (be specialaus reguliavimo):
- Spam filtrai, vaizdo žaidimų DI, rekomendacijų sistemos ir panašūs kasdieniai DI pritaikymai.
Baudos: iki 35 mln. eurų arba 7 % pasaulinės metinės apyvartos (priklauso nuo pažeidimo kategorijos).
Kritika ES modeliui:
Iš inovacijų pusės: per daug biurokratijos, per anksti reguliuoti technologiją, kuri dar formuojasi. Europos startuoliai atsiduria nepalankioje padėtyje prieš Amerikos ir Kinijos konkurentus, kurie gali judėti greičiau. Reguliavimas gali „užšaldyti” technologiją dabartinėje stadijoje.
Iš saugumo pusės: aktas turi per daug išimčių (ypač teisėsaugai), vykdymo užtikrinimas bus sudėtingas, o technologijos vystosi greičiau nei biurokratiniai procesai.
Jungtinės Amerikos Valstijos: inovacijos pirmos, reguliavimas pagal poreikį
JAV neturi vieno centralizuoto DI įstatymo. Vietoj to, reguliavimas vyksta keliais lygmenimis:
Federalinis lygmuo:
- Prezidento vykdomasis įsakymas dėl saugaus DI (2023 m. spalio): nustatė gaires federalinėms institucijoms, pareikalavo DI kūrėjų dalintis saugumo testavimo rezultatais su vyriausybe (galingiausių modelių atveju), bet neįvedė griežtų draudimų.
- Sektorinis reguliavimas: FDA reguliuoja medicinos DI, SEC stebi DI naudojimą finansuose, FTC tiria nesąžiningą DI praktiką.
Valstijų lygmuo:
- Kalifornija, Koloradas, Ilinojaus ir kitos valstijos priėmė atskirus DI reguliavimo įstatymus, daugiausia susijusius su veido atpažinimu, automatizuotu sprendimų priėmimu ir DI skaidrumu.
- Tačiau valstijų taisyklės skiriasi, kas sukuria „reguliavimo mozaiką” be vieningos sistemos.
Privalumai: lankstumas leidžia greitai reaguoti į naujus iššūkius, neužkrauna startuolių biurokratija, palaiko JAV kaip DI inovacijų lyderį.
Trūkumai: fragmentiškas reguliavimas palieka apsaugos spragas, vartotojai neturi vienodos apsaugos visoje šalyje, savireguliacija (kai įmonės pačios nusistato taisykles) turi akivaizdžius interesų konfliktus.
Kinija: valstybės kontrolė su technologiniu ambicingumu
Kinijos požiūris skiriasi nuo Vakarų: valstybė aktyviai reguliuoja DI, bet reguliavimo tikslai yra kiti.
Pagrindinės Kinijos DI taisyklės:
- Algoritmų rekomendacijų reguliavimas (2022 m.): reikalauja, kad algoritmai atitiktų „pagrindines socialistines vertybes”, draudžia naudoti algoritmus kainų diskriminacijai ir priklausomybę sukeliantiems mechanizmams.
- Deepfake reguliavimas (2023 m.): reikalauja žymėti visą DI sukurtą turinį, draudžia deepfake be subjekto sutikimo.
- Generatyvinio DI reguliavimas (2023 m.): generatyvinio DI paslaugos turi atitikti valstybės cenzūros reikalavimus, kūrėjai atsako už turinį, kurį generuoja jų sistemos.
Paradoksas: Kinija vienu metu yra ir viena pažangiausių DI reguliavimo šalių (deepfake žymėjimas, algoritmų skaidrumas), ir viena agresyviausių DI stebėjimo sistemų naudotojų (masinis veido atpažinimas, socialinio kredito elementai).
Kiti modeliai
- Jungtinė Karalystė: „pro-inovacijų” požiūris, reguliavimas per esamas institucijas (FCA finansams, MHRA medicinai), be naujo centrinio DI įstatymo.
- Kanada: priėmė Dirbtinio intelekto ir duomenų aktą (AIDA), artimesnį ES modeliui.
- Japonija: lengvas reguliavimas, orientuotas į gaires, o ne teisės aktus. Japonija leidžia naudoti autorių teisėmis apsaugotą medžiagą DI treniravimui, skatindama inovacijas.
- Brazilija: rengia savo DI reguliavimo įstatymą, panašų į ES modelį.
DI reguliavimas Lietuvoje ir Baltijos šalyse
Lietuva, kaip ES narė, privalo taikyti ES DI aktą. Bet yra ir vietinių niuansų.
Dabartinė situacija:
- Lietuva paskyrė kompetentingas institucijas, atsakingas už DI akto vykdymą.
- Ryšių reguliavimo tarnyba (RRT) ir Valstybinė duomenų apsaugos inspekcija (VDAI) dalinasi atsakomybę.
- Lietuvos DI strategija akcentuoja tiek inovacijų skatinimą, tiek atsakingą naudojimą.
Lietuvos DI ekosistema:
Lietuva turi aktyvią technologijų bendruomenę ir kelis DI startuolius. Vilniaus universitetas, Kauno technologijos universitetas ir kitos institucijos vykdo DI tyrimus. Fintech sektorius, kuriame Lietuva yra viena Europos lyderių, aktyviai naudoja DI kredito vertinimui, sukčiavimo prevencijai ir klientų aptarnavimui.
Praktiniai ES DI akto padariniai Lietuvos verslui:
- Įmonės, naudojančios DI darbuotojų atrankai, turės atlikti poveikio vertinimus ir užtikrinti žmogaus priežiūrą.
- Fintech bendrovės, naudojančios DI kreditų vertinimui, turės užtikrinti skaidrumą ir galimybę paaiškinti sprendimus.
- Pokalbių robotai (kurių vis daugiau naudoja Lietuvos e. parduotuvės ir paslaugų teikėjai) turės aiškiai informuoti, kad vartotojas bendrauja su DI.
- DI sukurtas turinys socialiniuose tinkluose ir reklamoje turės būti pažymėtas.
Argumentai už griežtesnį reguliavimą
Egzistencinė rizika ir atsargumo principas
Dalis DI tyrinėtojų, tarp jų ir kai kurie DI laboratorijų vadovai, teigia, kad pažangus DI kelia egzistencinę riziką žmonijai. Jų argumentas: jei sukurtume bendrąjį dirbtinį intelektą (AGI), kuris viršytų žmogaus gebėjimus visose srityse, ir nesugebėtume jo kontroliuoti, pasekmės galėtų būti katastrofiškos.
Net skeptikai, kurie mano, kad AGI yra toli, pripažįsta: atsargumo principas reikalauja reguliuoti galimus pavojus prieš jiems realizuojantis, o ne po to. Cheminė pramonė, farmacija, aviacijos saugumas, visos šios sritys reguliuojamos iš anksto, ne tik reaguojant į katastrofas.
Galios koncentracija
Galingiausius DI modelius kuria keletas korporacijų: OpenAI (su Microsoft), Google, Meta, Anthropic, xAI. Šios bendrovės turi duomenis, skaičiavimo galią ir talentus, kurių neturi nei vyriausybės, nei universitetai, nei mažesnės įmonės.
Be reguliavimo, sprendimai, kurie paveikia milijardus žmonių (kokia informacija jiems rodoma, kaip vertinamos jų paskolos, kaip atrenkami darbuotojai), priimami privačiose direktorių kabinetuose, o ne demokratiniuose procesuose.
Pažeidžiamų grupių apsauga
DI klaidos ir šališkumai neproporcingai veikia pažeidžiamas grupes: mažumų bendruomenes, žmones su negalia, vyresnio amžiaus žmones, žemos pajamų gyventojus. Šios grupės dažnai neturi nei techninių žinių, nei teisinių resursų ginčyti automatizuotus sprendimus.
Reguliavimas užtikrina, kad šios grupės turėtų teisę žinoti, kad dėl jų buvo priimtas automatizuotas sprendimas, teisę gauti paaiškinimą ir teisę ginčyti sprendimą.
Rinkos nesėkmės
Rinka pati neišspręs etikos problemų. Įmonės, investuojančios į saugumą ir etiką, patiria didesnes išlaidas nei tos, kurios šiuos aspektus ignoruoja. Be reguliavimo, atsakingai besielgiančios įmonės atsiduria konkurenciniame nepalankume, „lenktynės link dugno”.
Argumentai už mažesnį reguliavimą
Inovacijų slopinimas
Griežtas reguliavimas gali paveikti inovacijas keliais būdais:
- Atitikties kaštai. Mažoms įmonėms ir startuolams DI akto reikalavimų vykdymas (poveikio vertinimai, dokumentacija, auditas) gali kainuoti dešimtis ar šimtus tūkstančių eurų. Tai sukuria įėjimo barjerą, kuris palankus didelėms korporacijoms ir kenkia mažesniems žaidėjams.
- Talentų nutekėjimas. Jei Europoje reguliavimas per griežtas, DI tyrėjai ir inžinieriai renkasi dirbti JAV, Jungtinėje Karalystėje ar kitose šalyse su palankesne aplinka.
- Technologijų „šaldymas”. Reguliuojant technologiją, kuri sparčiai keičiasi, kyla rizika „užšaldyti” dabartinę būseną. Taisyklės, rašytos 2024 m. technologijoms, gali būti visiškai netinkamos 2027 m. technologijoms.
Europos konkurencingumas
ES jau atsilieka nuo JAV ir Kinijos DI investicijų, talentų ir startuolių skaičiumi. Iš 50 galingiausių DI modelių absoliuti dauguma sukurti JAV ar Kinijoje. Reguliavimo kritikai baiminasi, kad ES DI aktas šį atotrūkį padidins.
Skaičiai: JAV 2023 m. į DI investuota apie 67 mlrd. dolerių, Kinijoje apie 8 mlrd., ES apie 6 mlrd. Net jei ES reguliavimas yra etiškai teisingesnis, ekonominės pasekmės gali būti reikšmingos, jei inovacijos persikelia kitur.
Savireguliacija ir pramonės standartai
Dalis DI bendruomenės tiki, kad pramonės standartai ir savireguliacija gali būti efektyvesnė nei valstybinis reguliavimas:
- Greitis: pramonės standartai gali būti atnaujinami per mėnesius, ne metus.
- Ekspertizė: DI kūrėjai geriau supranta technologijos niuansus nei reguliuotojai.
- Globalumas: pramonės standartai gali būti vienodi visame pasaulyje, be jurisdikcinių skirtumų.
Kontrargumentas: savireguliacija turi akivaizdų interesų konfliktą. Facebook, pavyzdžiui, dešimtmetį „savireguliavosi” privatumo srityje, kol Cambridge Analytica skandalas atskleidė, kad savireguliacija neveikia, kai pelno interesai konfliktuoja su visuomenės interesais.
Neproporcinga našta mažoms įmonėms
ES DI aktas taikomas visiems, nuo Google iki Lietuvos startuolo su penkiais darbuotojais. Nors akte yra tam tikrų išimčių mažoms įmonėms, atitikties naštą vis tiek neproporcingai jaučia mažesnės organizacijos.
Startuolas, kuriantis DI pagalbininką gydytojams (aukštos rizikos kategorija pagal DI aktą), turi atlikti tuos pačius poveikio vertinimus ir dokumentavimą kaip ir didžioji korporacija, nors jo resursai yra šimtus kartų mažesni.
Konkretūs reguliavimo iššūkiai: kai teorija susiduria su praktika
Atvirojo kodo DI reguliavimas
Vienas sudėtingiausių klausimų: kaip reguliuoti atvirojo kodo DI modelius?
Meta išleido Llama modelius kaip atvirojo kodo. Kiekvienas gali juos atsisiųsti, modifikuoti ir naudoti. Tai reiškia, kad „reguliuoti kūrėją” nebeveikia, nes kūrėjas nebegali kontroliuoti, kaip jo modelis bus naudojamas.
ES DI aktas daro išimtį atvirojo kodo modeliams (jei jie nėra aukštos rizikos), bet diskusija tęsiasi. Kai kurie argumentuoja, kad atvirasis kodas yra geriausias saugumo garantas (nes bet kas gali tikrinti ir taisyti klaidas). Kiti mano, kad tai leidžia piktavaliams be jokių barjerų gauti galingus įrankius.
Generatyvinio DI ir autorių teisių susikirtimas
Generatyvinio DI modeliai treniruojami ant milžiniškų duomenų rinkinių, kuriuose yra autorių teisėmis apsaugoti kūriniai: knygos, straipsniai, nuotraukos, muzika, meno kūriniai.
Pagrindiniai klausimai:
- Ar DI modelio treniravimas ant autorių teisėmis apsaugoto kūrinio yra „sąžiningas naudojimas” (fair use), ar pažeidimas?
- Jei DI sukuria tekstą, labai panašų į konkretaus autoriaus stilių, ar tai pažeidžia autoriaus teises?
- Kas yra DI sukurto kūrinio autorius: žmogus, kuris parašė užklausą (prompt)? DI kūrėjas? Niekas?
Bylos jau vyksta: New York Times padavė OpenAI į teismą dėl autorių teisių pažeidimo. Getty Images bylinėjasi su Stability AI. Grupė menininkų padavė Stability AI, Midjourney ir DeviantArt. Šių bylų rezultatai formuos precedentus dešimtmečiams.
Japonijos alternatyva: Japonija priėmė poziciją, kad autorių teisėmis apsaugota medžiaga gali būti laisvai naudojama DI treniravimui. Tai padarė Japoniją patrauklią DI kūrėjams, bet kelia susirūpinimą kūrėjų bendruomenėje.
DI ir demokratija: rinkimų apsauga
2024 m. rinkimų ciklas parodė, kad DI gali paveikti demokratinius procesus keliais būdais:
- Masinė dezinformacija. DI gali generuoti tūkstančius „natūraliai” atrodančių socialinių tinklų paskyrų, kurios kuria ir platina dezinformaciją.
- Mikrotargetavimas. DI leidžia sukurti personalizuotus politinius pranešimus, pritaikytus konkrečiam žmogui pagal jo psichologinį profilį.
- Deepfake kandidatų pasisakymai. Sintetiniai vaizdo ir garso įrašai, kuriuose kandidatas „sako” tai, ko niekada nesakė.
Reguliavimo atsakas:
- ES DI aktas reikalauja žymėti DI sukurtą turinį.
- Kai kurios JAV valstijos priėmė įstatymus, draudžiančius DI sukurtų deepfake naudojimą rinkimų kampanijose.
- Socialinių tinklų platformos (Meta, Google, X) paskelbė politikas dėl DI sukurto turinio žymėjimo, tačiau vykdymas lieka problemiškas.
Autonominiai ginklai
Mažiausiai aptariama viešojoje erdvėje, bet potencialiai pavojingiausia DI etikos sritis: autonominiai ginklai, kurie gali identifikuoti ir atakuoti taikinį be žmogaus patvirtinimo.
Tokios sistemos jau egzistuoja. Turkijos „Kargu-2″ dronas, kaip pranešama, 2020 m. Libijoje savarankiškai atakavo taikinį. Izraelio „Lavender” sistema, pasak žiniasklaidos tyrimų, naudoja DI taikiniams identifikuoti Gazos konflikte.
Jungtinės Tautos jau kelerius metus diskutuoja apie autonominių ginklų draudimą, bet sutarimas nepasiektas, nes kai kurios valstybės (JAV, Rusija, Kinija, Izraelis) priešinasi griežtam reguliavimui.
Skaidrumo ir paaiškinamumo principai
Vienas iš pagrindinių etinių reikalavimų DI: žmogus turi turėti teisę žinoti ir suprasti, kai dėl jo priimamas automatizuotas sprendimas.
Teisė į paaiškinimą
ES DI aktas ir BDAR (Bendrasis duomenų apsaugos reglamentas) numato, kad žmonės turi teisę:
- Žinoti, kad dėl jų buvo priimtas automatizuotas sprendimas.
- Gauti paaiškinimą, kokie veiksniai lėmė sprendimą.
- Ginčyti sprendimą ir reikalauti žmogaus peržiūros.
Praktikoje tai reiškia:
- Jei bankas naudoja DI jūsų paskolos paraiškos vertinimui ir ją atmeta, turite teisę sužinoti, kodėl. „Algoritmas nusprendė” nėra pakankamas paaiškinimas.
- Jei DI sistema naudojama jūsų CV atrankoje ir jūs nepakviečiami į pokalbį, turite teisę sužinoti, kokie kriterijai buvo taikomi.
- Jei draudimo bendrovė naudoja DI jūsų įmokos apskaičiavimui, turite teisę suprasti, kokie veiksniai lėmė kainą.
Paaiškinamo DI (Explainable AI, XAI) iššūkiai
Teoriškai teisė į paaiškinimą skamba paprastai. Praktiškai, didžiųjų neuroninių tinklų sprendimai dažnai nėra intuityviai paaiškinami net jų kūrėjams.
Dilema: paprastesni modeliai (pvz., sprendimų medžiai) yra lengvai paaiškinami, bet dažnai mažiau tikslūs. Sudėtingesni modeliai (giliojo mokymosi neuroniniai tinklai) yra tikslesni, bet „juodosios dėžės”. Ar geriau turėti tikslesnį, bet nepaaiškiamą modelį, ar mažiau tikslų, bet skaidrų?
Tai ne retorinis klausimas. Medicinos srityje DI sistema, kuri 95 % tikslumu aptinka vėžį, bet negali paaiškinti, kodėl (juodoji dėžė), gali būti geresnė nei sistema su 85 % tikslumu, kuri gali paaiškinti (skaidrus modelis). Bet ar gydytojas (ir pacientas) gali pasitikėti sistema, kurios sprendimų nesupranta?
Praktinės rekomendacijos: ką daryti skirtingoms grupėms
Verslui
- Atlikite DI sistemų auditą. Inventorizuokite visas DI sistemas, kurias naudojate ar planuojate naudoti. Klasifikuokite jas pagal ES DI akto rizikos kategorijas.
- Pradėkite atitikties planavimą dabar. ES DI aktas taikomas etapais (draudžiamos sistemos nuo 2025 m. vasario, aukštos rizikos sistemos nuo 2026 m. rugpjūčio), bet pasiruošimas užtrunka mėnesius.
- Dokumentuokite viską. DI aktas reikalauja išsamios dokumentacijos: duomenų šaltiniai, modelio veikimo principai, testavimo rezultatai, rizikos vertinimai. Pradėkite dokumentuoti nuo šiandien.
- Paskirkite atsakingą asmenį. Didesnėse organizacijose verta turėti DI etikos pareigūną arba bent aiškiai priskirti atsakomybę esamam darbuotojui.
- Testuokite šališkumą. Reguliariai tikrinkite, ar jūsų DI sistemos nediskriminuoja pagal lytį, amžių, tautybę ar kitus apsaugotus požymius.
Vartotojams
- Žinokite savo teises. BDAR ir ES DI aktas suteikia jums teisę žinoti, kad buvo priimtas automatizuotas sprendimas, gauti paaiškinimą ir ginčyti jį.
- Klauskite. Kai gaunate automatizuotą sprendimą (paskolos atmetimas, draudimo kaina, CV atranka), klauskite: „Ar šis sprendimas buvo priimtas naudojant automatizuotą sistemą? Kokie veiksniai jį lėmė?”
- Būkite sąmoningi dėl savo duomenų. Kiekvieną kartą, kai naudojate DI paslaugą (ChatGPT, Gemini, Claude), jūsų įvesti duomenys gali būti naudojami modelio treniravimui. Neįveskite jautrios asmeninės ar verslo informacijos be aiškaus supratimo, kaip ji bus naudojama.
- Tikrinkite DI sukurtą turinį. DI generuoti tekstai, vaizdai ir vaizdo įrašai gali atrodyti labai įtikinamai, bet būti visiškai netikslūs ar suklastoti. Visada tikrinkite informaciją iš patikimų šaltinių.
Politikos formuotojams
- Investuokite į reguliuotojų kompetenciją. DI reguliavimas reikalauja tiek teisinių, tiek techninių žinių. Reguliavimo institucijoms reikia specialistų, kurie supranta ir technologiją, ir jos socialinius padarinius.
- Kurkite reguliavimo smėlio dėžes (sandboxes). Tai kontroliuojamos aplinkos, kuriose startuoliai gali testuoti DI sistemas su palengvintais reguliavimo reikalavimais, bet su priežiūra. ES DI aktas tokias numato, ir Lietuva turėtų aktyviai jas kurti.
- Investuokite į viešąjį DI raštingumą. Reguliavimas veikia tik tada, kai piliečiai supranta savo teises ir gali jomis pasinaudoti.
- Remkite tarptautinį bendradarbiavimą. DI yra globali technologija, ir vien nacionalinis ar net ES lygmens reguliavimas turi ribas. Koordinacija su JAV, Jungtine Karalyste, Japonija ir kitomis šalimis yra būtina.
DI etikos ateitis: trys scenarijai
Optimistinis scenarijus: „pusiausvyra pasiekta”
ES DI aktas tampa globaliu standartu (kaip BDAR tapo privatumo standartu). Kitos šalys priima panašias taisykles. DI kūrėjai integruoja etiką į kūrimo procesą nuo pat pradžių (ethics by design). Reguliavimo smėlio dėžės leidžia inovacijoms klestėti ribose. Visuomenė gauna DI naudą (medicina, švietimas, klimato kaita) su priimtinu rizikos lygiu.
Pesimistinis scenarijus: „fragmentacija ir lenktynės”
Šalys nesusitaria dėl bendro reguliavimo. Įmonės persikelia į jurisdikcijas su mažiausiu reguliavimu. DI ginklavimosi lenktynės tarp JAV ir Kinijos veda prie saugumo nuolaidų. Deepfake ir dezinformacija griauna pasitikėjimą medijomis ir demokratiniais procesais. Didelės korporacijos tampa de facto reguliuotojomis, nes tik jos turi resursų kontroliuoti galingiausias sistemas.
Vidurinis (labiausiai tikėtinas) scenarijus: „chaotiškas progresas”
Reguliavimas atsilieka nuo technologijos, bet nenuolat bando ją pasivyti. Kas keletą metų įvyksta krizė (didelis duomenų nutekėjimas, DI sukelta avarija, rinkimų manipuliacija), kuri paskatina naują reguliavimo bangą. Inovacijos tęsiasi, bet netolygiiai, su periodiniais „stop-go” ciklais. Europos reguliavimas tampa globaliu orientyru, bet ne universaliu standartu.
Praktiniai žingsniai DI etikos link: nuo ko pradėti
Nepriklausomai nuo to, ar esate verslininkas, programuotojas, politikas ar paprastas interneto naudotojas, yra keletas dalykų, kuriuos galite padaryti jau šiandien:
Kaip asmuo:
- Sužinokite, kurios paslaugos, kuriomis naudojatės, pasitelkia DI sprendimų priėmimui (bankas, draudimas, darbdavys).
- Naudokite DI įrankius sąmoningai: supraskite jų ribas, netikėkite aklai.
- Palaikykite organizacijas, dirbančias DI skaidrumo ir atskaitomybės srityje.
Kaip verslas:
- Pradėkite nuo DI naudojimo politikos: kas gali naudoti DI, kokiems tikslams, su kokia priežiūra.
- Įtraukite etikos klausimus į DI projektų planavimą nuo pat pradžios, o ne kaip galutinį patikrinimą prieš paleidimą.
- Mokykite darbuotojus atsakingai naudoti DI įrankius.
Kaip visuomenė:
- Dalyvaukite viešose diskusijose apie DI reguliavimą.
- Reikalaukite skaidrumo iš institucijų ir įmonių, naudojančių DI.
- Palaikykite DI raštingumo programas mokyklose ir universitetuose.
DI etikos ir reguliavimo diskusija nėra „saugumas prieš laisvę”. Tai klausimas, kaip sukurti sistemą, kurioje inovacijos ir apsauga stiprina viena kitą, o ne konfliktuoja. Tobulo atsakymo nėra, ir bet kuris reguliavimo modelis turės trūkumų. Bet visiškas nereguliavimaas irgi yra pasirinkimas, tik su kitais padariniais.
Geriausias reguliavimas yra toks, kuris apsaugo žmones nuo realių grėsmių, nepanaikindamas galimybės naudotis realia nauda. Tai siauresnė linija, nei atrodo iš pirmo žvilgsnio, ir ją rasti reikia nuolatinio dialogo tarp technologų, politikų, teisininkų ir visuomenės.
Kur, jūsų nuomone, turėtų būti ta linija?
