Haitallisen toiminnan tunnistaminen¶

Tavallinen käyttäjä törmää digimaailmassa ennemmin tai myöhemmin jonkinlaiseen haitalliseen toimintaan. Se voi olla esimerkiksi rikoksen tunnusmerkistön täyttävä huijaus tai petos, maalittavaa viestittelyä sosiaalisessa mediassa tai informaatiovaikuttamista. On hyvä olla tietoinen erilaisesta haitallisesta toiminnasta ja siitä, kuinka esimerkiksi huijauksia voi tunnistaa ja miten niiltä voi välttyä. Kuluttajaliitto ylläpitää kattavaa tietopankkia erilaisista huijauksista. Käy tutustumassa sivuihin. Samalla saat tietoa, kuinka toimia, jos itse joudut tai joku lähipiiristäsi joutuu huijauksen uhriksi.

Social engineering ja sen menettelytavat liittyvät monenlaiseen haitalliseen toimintaan. Kurssimateriaalissa niitä on käsitelty täällä. Tämän alaluvun loppuosan aiheena on informaatiovaikuttaminen ja disinformaatio.

Informaatiovaikuttamisen tunnistaminen¶

Informaatiovaikuttaminen on kustannustehokasta tekijälleen, ja sitä voi verkkoympäristössä harjoittaa helposti ja nopeasti ajasta ja paikasta riippumatta. Nykypäivän informaatiovaikuttaminen tapahtuu kytköksissä teknologiaan ja on tärkeää ymmärtää, miten sitä toteutetaan. Tässä on joitain taustalla olevia tekniikoita:

Seuranta (tracking). Verkkosivustot, some-alustat ja muut sisältösuosituksia antavat järjestelmät keräävät tietoa ja dataa käyttäjistään.
Suosittelu (recommendation). Kerättyä tietoa ja sisältöjen suosittelua käytetään paitsi markkinointiin, myös poliittisiin tai sosiaalisiin tarkoituksiin.
Tietokoneiden syväoppiminen (deep learning) mahdollistaa esimerkiksi kasvojen tai puheen tunnistaminen.
Vahvistusoppiminen (reinforcement learning). Järjestelmät voivat oppia itsekseen yrityksen ja erehdyksen kautta, esimerkiksi ajamaan autoa tai pelaamaan pelejä. Samoilla menetelmillä voidaan tehostaa informaatiovaikuttamista.
Huomion ohjailu (attention engineering). Some-alustojen tarjoama sisältö voi olla henkilökohtaisesti räätälöityä, eikä välttämättä edusta ns. yleistä mielipidettä tai edes samaa sisältöä, mitä muille käyttäjille näytetään. Tähän kuuluu myös näytettävien sisältöjen tarkoitushakuinen vuorottelu käyttäjää ärsyttämään ja miellyttämään pyrkivien välillä.

Informaatiovaikuttamisen tunnistaminen ei ole aina yksinkertaista. Nykyisin kaikenlaista tietoa on saatavilla paljon ja useista lähteistä, eikä aina ole helppoa erottaa, mikä tieto on luotettavaa. Markkinointiviestintä ja tämä oppimateriaalikin on informaatiolla vaikuttamista, mutta yleensä informaatiovaikuttamisen ajatellaan tapahtuvan disinformaation levittämisenä. Disinformaatio on tarkoituksellisesti väärää tietoa, muunneltua totuutta, tai “vaihtoehtoista” totuutta, kuten muuan surullisenkuuluisa hahmo esittää. (Muuten vain väärää kutsutaan toisinaan *mis*informaatioksi). Alla on lueteltu ja kuvattu disinformaation piirteitä:

Otsikoinnilla johdetaan harhaan, vaikka tiedot ja väitteet olisivatkin tekstissä oikein.
Väitteitä tai tietoja ei perustella tai niille ei esitetä lähteitä.
Vaihdetaan sitaattia, lähdettä tai kontekstia, esim. sitaatti on oikein, mutta esitetty alun perin eri asiayhteydessä.
Väitteitä ja tietoja on valikoitu, jotta saadaan asia vaikuttamaan kokonaan toiselta tai sopimaan omiin tarkoituksiin sopivaan tarinaan.
Lähteitä peitellään tai yleistetään, esim. väitetään, että ’tutkijat Harvardissa’ ovat jotakin mieltä.
Kuvat tai kuvaajat ovat vääristeltyjä tai valhetta.
Johdetaan ja luodaan kokonaisuus jonkin pienen osan perusteella, esimerkiksi väitetään yksittäisen työntekijän mielipiteen olevan koko organisaation mielipide.
Mielipiteitä esitetään tietona.
Väitetään, että jokin asia on suuren yleisön mielipide.
Keksitään konteksti kokonaan itse.
Liioittelu ja yliyleistäminen luo draamaa ja kärjistää kyseessä olevaa asiaa.
Käytetään ilmaisuja, jotka ovat latautuneita ja herättävät voimakkaita tunteita. Tällä voidaan yrittää esim. peitellä asian todellisia merkityksiä. Tunteisiin vetoaminen myös vaikeuttaa lukijan kriittistä ajattelua. Lisäksi tunteisiin vetoavat viestit leviävät esimerkiksi some-alustoilla fakta-viestejä tehokkaammin.
Oikeita tietoja tai väitteitä kumotaan tai vähätellään valheellisilla tiedoilla tai väitteillä.
Muiden keskustelijoiden halventaminen, pilkkaaminen, henkilökohtaisuuksiin meno. Yritetään vähentää toisen osapuolen sanojen painoarvoa.
Syytetään ja syyllistetään yksilöä tai instituutiota jostakin sellaisesta, mihin syyllistytään myös itse.
Jossitellaan ja esitellään virheellisiä rinnastuksia, esim. rinnastetaan toisiinsa liittymättömiä asioita keskenään ja väitetään sitä analogiaksi keskustelussa olevaan asiaan.
Disinformaation levittäjiä käytetään ’vastakkaisen’ mielipiteen edustajina esim. väittelyissä. Tämä saattaa olla tahatontakin, mutta luo väärää kuvaa esim. vastakkaisen näkemyksen yleisyydestä.
Luodaan keinotekoinen ja kärjistetty ’me vastaan muut’ -asetelma.
Käytetään koordinoidusti esim. täydentäviä verkkosivuja harhaanjohtavan tiedon levittämisen tukena, tarkoituksena tarjota asioita tarkistaville tahoille myös muita lähteitä esim. valeuutiselle.
Käytetään tai kehitellään salaliittoteorioita, tarkoituksena vahvistaa huhuja ja herättää epäilyksiä jotakin tahoa kohtaan. Voidaan käyttää myös oikeiden asioiden mitätöintiin ja painoarvon vähentämiseen väittämällä niitä salaliittoteorioiksi.

Sosiaalinen media toimii usein kanavana disinformaatiolle. Yhtenä syynä tähän on esimerkiksi se, että kärjekkäät, tunteisiin vetoavat viestit keräävät runsaasti huomiota ja leviävät sekä tykkäysten, että sisältöä kritisoimaan pyrkivien viestien myötä tehokkaasti sosiaalisessa mediassa. Alla on ohjeita informaatiovaikuttamisen tunnistamiseen sosiaalisessa mediassa:

Etsi verkosta muiden lähteiden tietoja väitteestä. Uutisoidaanko siitä laajasti? Mikäli ei, kyseessä saattaa olla tieto, jota ei ole voitu vahvistaa.
Tarkista, kuka on viestin lähettäjä. Tutki profiilia, onko se uusi tai millainen postitushistoria sillä on. Esim. bottiprofiilit postittavat usein ympäri vuorokauden eri puolilta maapalloa ja uudelleenlähettävät kärjekkäitä poliittisesti värittyneitä kommentteja.
Tee käänteinen kuvahaku profiilikuvalle. Yleisesti saatavilla olevat kuvat voivat olla varoitusmerkki.
Tutki, löytyykö profiilille muita some-tilejä. Löytyykö niistä vahvistusta luotettavuuden puolesta vai herättävätkö ne enemmän epäilyksiä?
Mikä on viestin sisältö? Hälytysmerkkejä voivat olla esim. ’liian hyvää ollakseen totta’ -tyyliset viestit. Mikäli viestissä on kuvia, niitä voi yrittää etsiä käänteisellä kuvahaulla. Moni informaatiovaikuttamisviesti käyttää vanhoja kuvia, jotka on liitetty harhaanjohtavaan uuteen kontekstiin. Mikäli kuvassa on selvästi tunnistettava paikka, karttahakua voi myös käyttää kuvan aitoutta pohtiessa.

Tekoälyn avulla luodut deepfake-videot ovat muodostuneet nopeasti kasvavaksi ja yhä vakuuttavammaksi disinformaation lähteeksi. Niiden määrä on moninkertaistunut muutamassa vuodessa (vuoteen 2025, uskotko tähän lähteeseen?), ja korkealaatuista deepfake‑videota ja ‑ääntä on usein vaikea erottaa aidosta - sekä ihmisten että automaattien.