Artikkelin analyysi

Ylen artikkeli käsittelee kasvavaa ilmiötä, jossa yksityishenkilöt laativat tekoälyllä oikeusasiakirjoja käräjäoikeuksiin ymmärtämättä niiden sisältöä. Juristi Julia Siepin mukaan tyypillisiä ongelmia ovat väärät pykäläviittaukset ja viittaukset oikeustapauksiin, joita ei ole olemassa — niin kutsutut hallusinaatiot.

Artikkelin keskeiset väitteet:

• Vahvistettu: Kielimallien hallusinaatiot lakiviittauksissa ovat maailmanlaajuisesti dokumentoitu ongelma — Yhdysvalloissa yli 1 000 tapausta.
• Vahvistettu: Asianajajia on tuomittu sakkoihin tekoälyn hallusinoimien viittausten käytöstä useissa maissa.
• Uskottava: Koivuisännöinnin arvio, että noin puolet tekoälyn tuottamista lakipykälistä on väärin, on linjassa kansainvälisten havaintojen kanssa.

Väitteiden arviointi

Artikkelin väitteet perustuvat asiantuntijahaastatteluihin ja ovat uskottavia. Kielimallien taipumus tuottaa vakuuttavan kuuloisia mutta virheellisiä lakiviittauksia on maailmanlaajuisesti dokumentoitu ongelma. Isännöintiyritys Koivuisännöinnin Kristiina Sakon arvio, että tekoälyllä tehdyissä viesteissä noin puolet lakipykälistä on väärin, on linjassa kansainvälisten havaintojen kanssa.

Artikkeli kattaa ilmiön laajuuden monipuolisesti: käräjäoikeuksien lisäksi haastateltuina ovat vakuutusyhtiö If, isännöintiyritys ja Helsingin työllisyyspalvelut. Kiinnostavasti työllisyyspalveluissa suhtaudutaan tekoälyyn myönteisemmin — siellä jopa toivotaan asiakkaiden käyttävän sitä enemmän, koska oikaisuvaatimukset ovat usein huolimattomasti kirjoitettuja.

Artikkelin puutteet

Artikkeli jää ohueksi ratkaisuehdotuksissa. Siinä ei käsitellä, miten oikeusjärjestelmä voisi reagoida ilmiöön — esimerkiksi velvoittamalla tekoälykäytön ilmoittamisen tai kehittämällä tunnistustyökaluja. Myöskään oikeusturvan näkökulmaa ei juurikaan avata: miten käy ihmisen, joka häviää juttunsa tekoälyn virheen vuoksi?

Kommenttikenttä

1. Tekoälyn rajoitukset ja kriittinen ajattelu

Suosituimmat kommentit korostavat, että tekoäly ei ymmärrä tuottamaansa sisältöä ja että käyttäjien kriittinen ajattelu on välttämätöntä.

„On käsittämätöntä kuinka moni ei tajua tekoälyn olevan vain kielimalli joka laittaa sanaa toisen perään todennäköisyysperiaatteen perusteella. Se ei tiedä mitään, eikä se ole älykkyyttä, vaikka se väittää asioita hyvin itsevarmasti." (66 tykkäystä)

„Itsekin käytin tekoälyä opinnäytetyössäni tekstin jäsentämiseen, mutta tarkastamatta ja muokkaamatta AI:n tekstiä ei voi käyttää. Pienessäkin kappaleessa AI saattaa muuttaa tekstin sisältöä ja hallusinoida." (80 tykkäystä)

„Juristina pidän vaarallisena sitä, että tekoälyn tuottamissa asiakirjoissa pykälä- ja oikeustapausviittaukset ovat vääriä. Toki tekstin jäsentelyssä tai ongelman keskeisten kohtien hahmottamisessa tekoälystä voi olla hyötyä." (78 tykkäystä)

Taustatiedot: Kielimallien hallusinaatiot ovat dokumentoitu ongelma kaikissa suurissa malleissa. Malli tuottaa tekstiä ennustamalla todennäköisimmän seuraavan sanan, minkä vuoksi se voi luoda uskottavia mutta täysin keksittyjä lakiviittauksia. Oikeudellisissa asiakirjoissa tämä on erityisen vaarallista, koska väärä pykäläviittaus voi muuttaa koko argumentin perustan. EU:n tekoälyasetus (AI Act) edellyttää tekoälyjärjestelmiltä avoimuusvaatimuksia, mutta ei suoraan rajoita yksityishenkilöiden kielimallien käyttöä.

2. Sääntelyn tarve

Useat kommentoijat vaativat lainsäädännöllistä puuttumista tekoälyn käyttöön virallisissa asiakirjoissa.

„Tekoälyn haitalliseen käyttöön tulisi puuttua lainsäädännöllä." (168 tykkäystä)

„Vääriä pykäliä, olemattomia tapauksia... Kuvitelkaa kun tämä leviää terveydenhoitoon." (159 tykkäystä)

Taustatiedot: Kansainvälisesti ilmiö on jo aiheuttanut vakavia seurauksia. Yhdysvalloissa on dokumentoitu yli 1 000 tapausta, joissa tekoäly tuotti olemattomia oikeustapausviittauksia oikeusasiakirjoihin. Yhdysvaltalaisia asianajajia on tuomittu sakkoihin tekoälyn hallusinoimien viittausten käytöstä — esimerkiksi MyPillow-jutussa kaksi asianajajaa tuomittiin 3 000 dollarin sakkoihin, ja toisessa tapauksessa asianajotoimistot joutuivat maksamaan 31 100 dollaria vastapuolen oikeudenkäyntikuluja. Yhtä asianajajaa on erotettu 90 päiväksi tekoälyn käytön kieltämisen vuoksi.

3. Oikeusturvan epätasapaino

Osa kommentoijista tuo esiin syyn, miksi ihmiset turvautuvat tekoälyyn: juristien palkkiot ovat liian kalliita tavallisille ihmisille.

„Jutussa esiintyvän juristin ammattikunta laskuttaa ihmisiltä 200–300 euroa tunti. Asianajajien tavoitteena on laskuttaa niin monta tuntia kuin mahdollista. Ja juuri asianajajien työ eli lakipykälien tavaaminen on asia jonka tekoäly hoitaa." (54 tykkäystä)

„Kansalaisella ei käytännössä ole mahdollisuutta käyttää juristia mihinkään valitukseen koska noin 80 prosentilla kansalaisista ei ole varoja viedä mitään alle useiden tuhansien riitaa oikeuteen. Tehokkaana pelotteena toimii todennäköinen velvollisuus maksaa vastapuolen kulut." (15 tykkäystä)

„Oikaisupyyntöjä ja valituksia laaditaan itse sen vuoksi, että asianajajan palkkiot ovat pienituloiselle hyvin suuria. Valinta tehdään siinä, jätetäänkö lainvastainen teko omaksi vahingoksi vai yritetäänkö saada oikeus toteutumaan." (14 tykkäystä)

Taustatiedot: Suomessa asianajajan tuntiveloitus on tyypillisesti 200–400 euroa. Oikeusapu on tarkoitettu pienituloisille, mutta tulorajat ovat tiukat. Riita-asioissa häviäjä voidaan velvoittaa maksamaan myös vastapuolen oikeudenkäyntikulut, mikä toimii pelotteena erityisesti yksityishenkilöille. Tämä rakenteellinen epätasapaino selittää osaltaan, miksi ihmiset turvautuvat tekoälyyn oikeudellisten asiakirjojen laadinnassa: ammattiapu on kallista mutta tekoäly on ilmaista.

4. Laajempi yhteiskunnallinen huoli

Kommentoijat pohtivat tekoälyn vaikutuksia kriittiseen ajatteluun ja pelkäävät ilmiön leviämistä muille aloille.

„Äly hoi, älä jätä. Olemme kohta sellaisessa suossa että siitä ylös pääseminen vaatiikin ihan sitä normaalia heinäntekojärkeä. Seuraava oppiaine voisikin olla 'tunnista tekoälyllä tehdyt väärät uutiset'." (45 tykkäystä)

„Alkaakohan tässä pikkuhiljaa ihmisen oman ajattelun alasajo?" (23 tykkäystä)

Taustatiedot: Ilmiö ei rajoitu oikeussaleihin. Norjassa tekoälyn käyttö vakuutusasioissa on kasvanut merkittävästi. Suomessa Finanssiala ry seuraa tilannetta. Isännöintialalla Koivuisännöinti raportoi tekoälyllä tehtyjä viestejä noin kerran viikossa. Terveydenhuollossa tekoälyn hallusinaatiot voivat olla hengenvaarallisia — lääketieteelliset kielimallit ovat tuottaneet virheellisiä diagnooseja ja hoitosuosituksia tutkimuksissa.

Kommenttikentän sävy: Kommenttikenttä jakautuu kolmeen ryhmään. Suurin ryhmä korostaa tekoälyn rajoituksia ja vaatii kriittistä ajattelua. Toinen merkittävä ryhmä nostaa esiin rakenteellisen ongelman: ihmiset turvautuvat tekoälyyn, koska ammattiapu on liian kallista. Kolmas ryhmä vaatii sääntelyä. Keskustelu on pääosin asiallista ja analyyttistä. Huomattavaa on, että sekä juristit että maallikot tunnistavat ongelman mutta näkevät sen eri puolilta — juristit korostavat virheellisiä viittauksia, maallikot oikeusturvan saavutettavuutta.

Tunnereaktio ja faktuaalinen perusta

Tunnereaktio: Jakautunut — teknologiakriittiset ("ei ymmärrä mitään") ja oikeusturvahuolestuneet ("juristien palkkiot liian kalliita") hallitsevat, sääntelyä vaativat kolmantena ryhmänä
Faktuaalinen perusta: Vahva — Yhdysvaltojen oikeustapaukset (yli 1 000 tapausta, sakkotuomiot), EU:n tekoälyasetus (AI Act), Suomen asianajajien tuntiveloitukset (200–400 €) ja oikeusapujärjestelmän tulorajat ovat todennettavissa virallisista lähteistä. Kummankin puolen argumentit nojaavat faktoihin.

Äänten epäsuhta

Artikkelissa: Juristi (Julia Siepi), isännöintiyritys (Koivuisännöinti), vakuutusyhtiö (If), Helsingin työllisyyspalvelut
Kommenteissa: Teknologiakriittiset kansalaiset, juristit, oikeusturvasta huolestuneet pienituloiset
Puuttuu: Tuomarit (miten käräjäoikeudet käytännössä suhtautuvat tekoälyllä laadittuihin asiakirjoihin), tekoälykehittäjät (mitä hallusinaatioille tehdään), oikeusaputoimistot (miten pienituloiset saavat apua), lainsäätäjät (EU:n tekoälyasetuksen toimeenpano Suomessa), oikeuskansleri tai eduskunnan oikeusasiamies (laillisuusvalvonnan näkökulma)