Snart kommer AI användas för phishing och spam

Tidigare i maj presenterade Google sitt nya system Duplex, en AI-assistent som kan ringa telefonsamtal och med en perfekt men datorgenererad människoröst boka frisörtider och bord på restauranger. Många har diskuterat det etiska problemet som människoimiterande artificiella intelligenser medför. Somliga menar att det i det närmaste rör sig om bedrägeri om AI:n inte presenterar sig just som en AI – Duplex är ju skapat för att vara omöjligt att skilja åt från en mänsklig röst. Det hela blir inte bättre av att det idag dessutom går att lära AI att härma enskilda personers röster – en en minut lång ljudinspelning räcker.

Där vissa ser ett etiskt problem ser andra en möjlighet. Nästa generations bedrägerier, i form av phishingattacker och spam, kommer använda sig av artificiell intelligens. Redan idag förekommer bedrägerier över telefon. Ett exempel är samtal där man ringer upp äldre personer, uppger sig för att vara deras barnbarn och ber om ett lån. Ett annat är personer som ringer och påstår sig jobba för Microsoft – de hävdar att mottagarens dator smittats av ett virus och kan sedan antingen kapa datorn eller ta betalt för att ”ta bort viruset”.

Med Duplex-lika tekniker är det möjligt att genomföra den här sortens bedrägerisamtal på en helt annan skala. Idag begränsas de av tiden som krävs – en människa kan inte ringa tusen olika personer på en minut. Men en dator kan det, och snart kommer de också att göra det. Samma teknik kommer också användas för spamsamtal till telefoner. Genom att automatiskt söka information om bedrägerioffret på nätet kan attackerna riktas för att bli ännu effektivare.

Låter det otäckt? Det slutar inte där. Det senaste året har en snabb utveckling inom hur AI kan användas för fejkad video skett. Det går med hjälp av AI snart att skapa videoklipp där det ser ut som att vem som helst gör och säger vad som helst. Möjligheterna för bedrägerier, utpressning och fejkade nyheter är oändliga. Och behovet av tekniker för att avgöra om en video eller en röst är äkta eller inte är skriande.

Jag har fått inbjudningar om att hålla föredrag på det här temat under hösten – mer information om dem dyker upp efter sommaren.

Maskininlärning identifierar utbränt kärnbränsle

Hur utbränt kärnbränsle ska hanteras är en känslig fråga, och det finns mängder av rutiner och säkerhetssystem för att hålla ordning och reda på utbränt bränsle. Hur bränslet ska hanteras beror inte minst på vilken sorts kärnbränsle det rör sig om – det vanliga uranbränslet UOX skiljer sig från det plutoniumberikade MOX exempelvis genom att MOX är betydligt mer radioaktivt. Strålsäkerhetsmyndigheten har en intressant text om ämnet.

Men vad skulle hända om utbränt kärnbränsle kom på villovägar och sedan återfanns, utan att vi visste var det kom ifrån? Eller om dokumentationen om ett parti bränsle försvann, så att vi inte längre vet vilken sorts bränsle det rör sig om – och därmed inte vet hur det ska hanteras?

Tillsammans med en grupp forskare vid Institutionen för fysik och astronomi på Uppsala universitet har jag i två vetenskapliga artiklar visat hur olika maskininlärningstekniker kan användas för att bedöma om ett bränsle är av MOX eller UOX-typ och uppskatta exempelvis hur lång kylningstid bränslet haft. Detta görs med data från mätningar av olika isotoper i det utbrända bränslet. I tidigare försök att göra något liknande har man i första hand undersökt olika isotoper en eller två åt gången, medan vi med hjälp av multivariata maskininlärningstekniker kunde kombinera informationen från flera olika isotoper på en och samma gång. Resultaten bidrar till en fortsatt hög säkerhet kring hanteringen av utbränt kärnbränsle.

Verktyg för att analysera bakteriers tillväxt

Jag har under flera års tid hjälpt forskare vid Institutionen för medicinsk biokemi och mikrobiologi på Uppsala universitet att analysera data om bakterietillväxt. Ofta har det rört frågor om hur bakterier med olika gener växer under olika förhållanden, vilket är viktigt för att förstå hur antibiotikaresistens uppstår och fungerar.

De statistiska analyserna är rutinartade – kruxet är istället att det ofta är data från hundratals olika bakteriestammar som ska analyseras. Tidigare gjorde forskarna det ”för hand”, vilket tog några minuter för varje stam och ledde till många timmars monotont arbete framför datorn. Jag utvecklade ett skript som istället låter dem använda ett gränssnitt i sina webbläsare för att visualiserade bakteriernas tillväxt och automatiskt utföra den statistiska analysen, så att alla stammar kan analyseras inom loppet av några sekunder.

Skriptet, som finns beskrivet här, har idag använts av forskare från en rad olika länder. Förra året använde vi det i en artikel där vi kunde visa att E. coli-bakterier som i laboratorietester är resistenta mot antibiotikumet mecillinam i själva verket inte behöver vara antibiotikaresistenta när de lever i människokroppen. Mecillinam ges ofta mot urinvägsinfektioner i Sverige. Resultaten bidrar till att förklara varför den kliniska resistensutvecklingen mot just mecillinam har varit så låg och pekar på att de laboratorietester som idag används för att undersöka antiobiotikaresistens kan behöva utvecklas.

Konsult och föreläsare inom statistik och AI

Jag är en erfaren konsult och föreläsare inom statistik och artificiell intelligens, specialiserad på att lösa komplexa problem som kräver avancerad dataanalys, matematisk modellering eller smarta algoritmer. Ofta tar jag mig an och löser svåra problem där andra försökt men gått bet. Min erfarenhet sträcker sig över problem från en rad olika områden: från antibiotikaresistens till kärnbränsle, från mjölkningsrobotar till personalfrågor, från diskbråck till musikvideor.

Har ni stora komplexa datamaterial eller små enkla mätserier? Behöver ni hjälp med analys och visualisering av data? Automatisering, prognoser eller beslutsstöd? Biostatistik, machine learning eller data mining? En väl genomförd statistisk analys ger er bättre förståelse och leder till bättre beslut.

Jag är doktor i matematisk statistik, docent i statistik och har jobbat som konsult sedan 2010. Kontakta mig så pratar vi om hur jag kan hjälpa er att få ut mer av era data.

Läs mer om de tjänster jag erbjuder här.

Exempel på tidigare kunder: