Generatiivisen tekoälyn kaksiteräinen miekka

Generatiivisen tekoälyn, kuten ChatGPT-tekstigeneraattorin menestyksen, kasvava suosio on herättänyt ihmisten mielikuvituksen ympäri maailmaa.

Tuore tutkimuksemme paljastaa, että 67 % kuluttajista globaalisti on kuullut generatiivisista AI-teknologioista, ja lähes puolet esimerkiksi Singaporessa toimivista käyttäjistä on käyttänyt sovellusta, joka hyödyntää näitä teknologioita. Vaikka generatiivinen tekoäly onkin löytänyt monia ansiokkaita sovelluskohteita terveydenhuollossa, koulutuksessa ja taiteessa, on tärkeää ymmärtää näiden teknologioiden laajemmat vaikutukset sekä niihin liittyvät mahdolliset riskit, kuten massiivisen disinformaation levittämisen alhaisin kustannuksin.

Generatiivisen tekoälyn kehitys on tehnyt mahdolliseksi luoda vakuuttavia väärennettyjä uutistarinoita, sosiaalisen median postauksia ja muita disinformaation muotoja helpommin ja halvemmin. Nämä järjestelmät voivat nyt tuottaa sisältöä, joka on lähes mahdotonta erottaa ihmisen luomasta, mikä tekee valeinformaation tunnistamisesta ihmisten toimesta haastavaa. Tämä voi johtaa disinformaation leviämiseen ennennäkemättömässä mittakaavassa, erityisesti kun sosiaalisen median alustat eivät käytä kattavia identiteettitarkistuksia.

Generatiiviset tekoälyä hyödyntävät chatbotit

Lisäksi nämä teknologiat ovat avanneet uusia mahdollisuuksia huijauksille ja sosiaalisen manipuloinnin petoksille. Generatiivista tekoälyä käyttävät chatbotit voivat nyt matkia ihmisten välistä vuorovaikutusta vakuuttavasti, mikä helpottaa huijareita saamaan tietoja uhreiltaan. Nämä ongelmat voidaan ratkaista hyödyntämällä tekoälyn voimaa identiteetin varmentamisessa ja autentikoinnissa.

Yksi keino taistella disinformaatiota vastaan sosiaalisilla medioilla on käyttää multimodaalista biometriaa varmistamaan, että käyttäjät ovat oikeita henkilöitä ja sellaisia, kuin he väittävät olevansa tilin avaamisvaiheessa. Multimodaaliset biometriset järjestelmät käyttävät useita biometrisia tietoja, kuten äänen tai iiriksen tunnistamista, yhdessä koneoppimisalgoritmien kanssa parantaakseen identiteetin varmistamisen tarkkuutta. Näillä järjestelmillä on myös lisäetu live-tunnistuksesta, joka voi auttaa tunnistamaan kasvomorfologian ja deepfake-teknologian avulla luodut tilit.

Tulta vastaan tulella

Vaikka mikään teknologia ei täysin estä kuluttajia joutumasta generatiivisen tekoälyn ajaman huijauksen uhriksi, tekoälyyn perustuvat ratkaisut voivat auttaa estämään varastetun tiedon käytön. Esimerkiksi jos henkilökohtaisia tietoja varastetaan pääsyä varten tai luodaan petollinen tili, voi verkkopalveluntarjoaja, jolla on käytössään multimodaaliseen biometriaan perustuva varmennus- tai autentikointijärjestelmä, tämä pysäyttää huijarit.

Uhka vai mahdollisuus?

Tekoälyllä on sekä etuja että riskejä. Vaikka se on alentanut esteitä disinformaation leviämiselle ja yksinkertaistanut huijareiden työnkulkua, tarjoaa se myös mahdollisuuksia toimia ennaltaehkäisevänä työkaluna, joka auttaa käyttäjiä kulkemaan verkkomaailmassa lisääntyneellä tunnistautumisella sekä tarjoaa lisäkilpeä muita uhkia vastaan.