Keväällä EU:ssa kaatunut katastrofaalinen esitys lastensuojeluasetukseksi, myös nimellä ChatControl tunnettu, on taas ministerineuvoston käsittelyssä. Uusi Politico.eu:n vuotama esitysluonnos ei ole sen parempi kuin aikaisempikaan, muutokset ovat vain kosmeettisia. Silti Suomi kuuluu kannattavan sen hyväksymistä ministerin päätöksellä vastoin eduskunnan kantaa.
Effin keväällä suurelle valiokunnalle kirjoittama lausunto pätee sellaisenaan tähänkin esitykseen:
- Viestinnän päästä-päähän salausta ei pidä rikkoa eikä Suomen pidä hyväksyä mitään siihen epäsuorastikaan velvoittavaa muotoilua.
- Ei massavalvontaa: viestien seurantaa ilman kohdennettua epäilyä ei pidä sallia, saati edellyttää.
- Ei pidä vaatia teknisesti mahdottomia tai kuvitella tekoälyn pystyvän parempaan kuin se ennakoitavissa olevassa tulevaisuudessa voi pystyä.
- Tunnistamismääräysten pitää olla kohdennettuja ja tarkkarajaisia eikä perus- ja ihmisoikeusvelvoitteista pidä tinkiä.
- Netin anonyymiä käyttöä ei pidä estää eikä aiheettomasti rajoittaa epäsuorastikaan huonosti muotoilluilla ikärajatarkistusvaatimuksilla.
Erityisesti asetus muodostaisi massiivisen tietoturvariskin.
Nostettakoon tässä esille miksi nimenomaan niin sanottu “client side scanning” saattaisi itse asiassa helpottaa lapsen seksuaalista hyväksikäyttöä sisältävän kuvamateriaalin (CSAM) levittämistä.
Ajatushan siinä on se, että materiaalin tunnistaminen tehtäisiin päätelaitteessa, siis puhelimessa tms, lisäämällä viranomaisten pakottamana valittuihin – riskiltään korkeana pidettyihin – viestintäohjelmiin koodi ja tunnistetietokanta tarkoitusta varten. Etukäteen on vaikea sanoa, mitkä sovellukset joutuisivat käytännössä tällaista tunnistamista toteuttamaan.
Oleellista on kuitenkin se, että mikäli tällainen tunnistamismääräys annettaisiin avoimen lähdekoodin sovellukselle, on olemassa riski, että pahantekijät voivat kopioida tunnistuksen tekevän koodin ja tunnisteet sovelluksesta ja käyttää niitä tarkistaakseen etukäteen, mikä materiaali jää tunnistimeen ja muuttaa kyseistä materiaalia niin, ettei sitä enää tunnistetakaan. Sen jälkeen sen levittämisestä ei jää kiinni – ei missään muussakaan samoja tunnisteita käyttävässä palvelussa.
Erikoista asiassa on myös se, että vaikka sekä perustuslaki- että suuri valiokunta tunnistivat esityksen ongelmallisuuden eikä niiden edellyttämiä korjauksia ole tehty, Suomi kuulemma silti kannattaa sen hyväksymistä ministerin päätöksellä.
Ministerien omavaltaisuuteen on Suomessa jo alettu tottua. Tässä tapauksessa lisämausteena on EU:n päätöksentekoprosessien läpinäkymättömyys: ministerin ohjeistus virkamiehille on ilmeisesti salaista, on lähes mahdotonta tietää miksi Suomi äänestää niin kuin äänestää ministerineuvostossa.
Teknisistä yksityiskohdista kiinnostuneille avattakoon vielä tarkemmin miten mainittu client side scanning -tekniikan murtaminen voisi toimia:
1. Lakiehdotuksessa edellytään, että tallennuspalveluita (hosting services) tai viestintäsovelluksia (interpersonal communication services) tarjoavat palveluntarjoajat tietyissä tilanteissa – saatuaan erillisen määräyksen – toteuttavat automaattista tunnistamista aiemmin tunnistetun lapsen seksuaalista hyväksikäyttöä sisältävän kuvamateriaalin tunnistamiseksi ja siitä ilmoittamiseksi tai vaihtoehtoisesti estävät kokonaan palvelunsa käytön kuvamateriaalin siirtämiseen tai tallentamiseen.
2. Mikäli kyseessä on viestintäsovellus, joka toteuttaa päästä-päähän salauksen, tulee tunnistamisen tapahtua itse sovelluksessa, ennen tiedon salaamista.
3. Tunnistamisvelvoite koskee myös avoimen lähdekoodin sovelluksia.
4. Tunnistuksessa käytetään EU:n komission hyväksymiä tunnistusteknologioita ja keskitetyn tahon (EU Centre) tarjoamia tunnisteita.
5. Näin ollen, mikäli avoimen lähdekoodin viestintäsovellukselle tullaan antamaan määräys toteuttaa automaattista tunnetun lapsen hyväksikäyttöä sisältävän kuvamateriaalin tunnistaminen, tulee kyseinen sovellus sisältämään komponentin, joka käyttäen komission hyväksymiä tunnistusteknologioita ja EU Centren tarjoamia tunnisteita kykenee tunnistamaan sisältääkö jokin kuvamateriaali EU Centren tunnistamaa kuvamateriaalia.
6. Koska sovellus on avointa lähdekoodia, voi lapsen hyväksikäyttöä sisältävän kuvamateriaalin levittäjä kopioida kyseisen komponentin erilleen sovelluksesta ja ajaa sitä offline -tilassa kaikelle hallussaan olevalle kuvamateriaalille. Tämä ongelma ei poistu, vaikka itse komponentti olisi suljetusta lähdekoodista generoitu ja obfuskoitu binääripaketti. Rajapinta, jonka kanssa se kommunikoi muun sovelluksen kanssa on avoimen lähdekoodin sovelluksessa joka tapauksessa avoin.
7. Lapsen hyväksikäyttöä sisältävän kuvamateriaalin levittäjä voi näin ollen käydä läpi kaiken hallussaan olevan kuvamateriaalin ja tunnistaa tästä materiaalista ne tiedostot, jotka tulevat jäämään kiinni automaattisessa tunnistuksessa – kaikissa sovelluksissa, jotka käyttävät tunnistamiseen EU Centren tarjoamia tunnisteita. Sen jälkeen materiaalin muuttaminen niin ettei sitä enää tunnisteta olisi helppoa.
Tätä ongelmaa ei voi kiertää ilman että kaikista käsitellyistä tiedostoista, viattomistakin, menee tietoa jollekin taustapalvelimelle, mikä olisi kiellettyä massavalvontaa.
Linkkejä:
Vuodettu asetusesitys 9.9.2024
Patrick Breyerin blogikirjoitus aiheeesta 12.9.2024
Effin tiedote edellisestä, Belgian yrityksestä saada esitys läpi 18.6.2024
YLEn artikkeli suunnitelmasta 5.6.2024
Suuren valiokunnan lausunto 13.10.2023
Effin lausunto suurelle valiokunnalle aikaisemmasta versiosta 3.10.2023
Onko mainittu vastuuministeri tässä edelleen Mari Rantanen (ps)?
Mari Rantanen on tilapäisesti poissa viranhoidosta, vastuuministeri on siten hänen sijaisensa Lulu Ranne.
Hollannin tiedustelupalvelu on julkaissut oman näkemyksensä asetusesityksestä ja se on aika tyrmäävä, nimenomaan tietoturvan näkökulmasta:
“Introducing a scanning application on every mobile phone, with its associated infrastructure and management solutions, leads to an extensive and very complex system. Such a complex system grants access to a large number of mobile devices & the personal data thereon. The resulting situation is regarded by AIVD as too large a risk for our digital resilience. (…) Applying detection orders to providers of end-to-end encrypted communications entails too large a security risk for our digital resilience”.
https://berthub.eu/articles/posts/dutch-intel-service-csam-update/
Uusin tieto on, että riittävää enemmistöä esityksen taakse ei löydy. Vaara ei kuitenkaan ole ohi, odotettavissa lienee ennen pitkää uusi “kompromissiesitys”, jossa vähän säädetään sanamuotoja ja väitetään sen ratkaisevan kaikki ongelmat.
Hesarikin on uutisoinut asiasta:
https://www.hs.fi/talous/art-2000010731026.html
Asiaa käsiteltiin tänään eduskunnan suuressa valiokunnassa:
“MUUT SISÄASIAT.
– Asetus lapsiin kohdistuvan seksuaaliväkivallan ehkäisystä ja torjunnasta – Osittainen yleisnäkemys (U 69/2022 vp)
Päätettiin perustuslain 97 §:n nojalla pyytää valtioneuvostolta täydentävä selvitys EU-tasolla käsittelyssä olevan kompromissiesityksen tarkemmasta sisällöstä viimeistään tiistaina 8.10.2024 klo 12.00 mennessä.
Päätettiin pyytää tietosuojavaltuutetulta lausunto valtioneuvoston toimittamasta aineistosta.
Keskeytettiin asian käsittely ja päätettiin jatkaa sitä keskiviikkona 9.10.2024 pidettävässä suuren valiokunnan kokouksessa.”
https://www.eduskunta.fi/FI/vaski/KokousPoytakirja/Sivut/SuVP_44+2024.aspx