Folk prøver allerede å få ChatGPT til å skrive skadevare

ChatGPT AI chatbot har skapt mye spenning i den korte tiden den har vært tilgjengelig, og nå ser det ut til at noen har rekruttert den til å hjelpe med å generere ondsinnet kode.

ChatGPT er et AI-drevet verktøy for naturlig språkbehandling som samhandler med brukere på en menneskelignende og samtalemessig måte. Blant annet kan det brukes til å hjelpe med oppgaver som å skrive e-post, akademiske tekster og kode.

Også: Hva er ChatGPT og hvorfor er det viktig? Det du trenger å vite

Chatbot-verktøyet ble utgitt av OpenAI, et forskningslaboratorium for kunstig intelligens i november, og har skapt bred interesse og diskusjon om hvordan AI utvikler seg og hvordan det kan brukes videre.

Men som alle andre verktøy kan det i feil hender brukes til ondsinnede formål; og cybersikkerhetsforskere hos Check Point sier at brukerne av underjordiske hackingfelleskap allerede eksperimenterer med hvordan ChatGPT kan brukes til å lette cyberangrep og støtte skadelige operasjoner.

"Trusselaktører med veldig lav teknisk kunnskap - helt ned til null teknisk kunnskap - kunne være i stand til å skape skadelige verktøy. Det kunne også gjøre daglige operasjoner for sofistikerte cyberkriminelle mye mer effektive og enklere - som å skape ulike deler av infeksjonskjeden", sa Sergey Shykevich, leder for trusselvurderingsgruppen hos Check Point til ZDNET.

OpenAI sine vilkår for bruk spesifikt forbyr produksjon av skadevare, som det definerer som "innhold som forsøker å generere ransomware, keyloggers, virus eller annen programvare som er ment å påføre en viss grad av skade". Det forbyr også forsøk på å skape spam, så vel som brukstilfeller rettet mot cyberkriminalitet.

Likevel tyder analysen av aktiviteten i flere store underjordiske hackingforum på at cyberkriminelle allerede bruker ChatGPT til å utvikle ondsinnet programvare - og i noen tilfeller gjør det mulig for cyberkriminelle på lavt nivå uten utviklings- eller kodingsferdigheter å opprette skadevare.

Også: Den skremmende fremtiden til internett: Hvordan morgendagens teknologi vil være enda større trusler mot cybersikkerhet

I en forumtråd som dukket opp mot slutten av desember, beskrev en bruker hvordan de brukte ChatGPT til å gjenskape malware-varianter og teknikker som ble beskrevet i forskningspublikasjoner og artikler om vanlige malware.

Ved å gjøre dette har de klart å skape en informasjonsstjelende malware basert på Python som søker etter vanlige filer, inkludert Microsoft Office-dokumenter, PDF-er og bilder. Den kopierer disse filene og laster dem deretter opp til en server for filoverføring via protokoll.

Den samme brukeren demonstrerte også hvordan de brukte ChatGPT til å lage Java-basert skadevare, som ved hjelp av PowerShell kunne brukes til å laste ned og kjøre annen skadevare på infiserte systemer på en skjult måte.

Forskere har merket seg at forumbrukeren som opprettet disse trådene, ser ut til å være "teknologi-orientert" og delte innleggene for å vise mindre teknisk dyktige cyberkriminelle hvordan man kan bruke AI-verktøy til ondsinnede formål, inkludert reelle eksempler på hvordan det kan gjøres.

En bruker publiserte en Python-skript, som de sa var den første skripten de noen gang lagde. Etter diskusjon med en annen forummedlem, sa de at ChatGPT hjalp dem med å lage den.

Analysen av skriptet tyder på at det er designet for å kryptere og dekryptere filer, noe som med litt arbeid kan bli til ransomware, og potensielt føre til at lavnivå cyberkriminelle utvikler og distribuerer egne utpresningskampanjer.

"Alt av ovennevnte kode kan selvfølgelig brukes på en ufarlig måte. Imidlertid kan dette skriptet enkelt endres for å kryptere noen sin maskin helt uten noen brukerinteraksjon. Det kan for eksempel potensielt gjøres om til ransomware hvis skriptet og syntaksproblemer er fikset," sa Check Point.

"Det vil kreve noen forbedringer i koden og syntaksen, men konseptuelt, når den er operativ, kan dette verktøyet utføre lignende handlinger som ransomware," sa Shykevich.

Også: Cybersikkerhet: Dette er de nye tingene du bør bekymre deg for i 2023

Men det er ikke bare utvikling av skadevare som kriminelle eksperimenterer med ChatGPT for; på nyttårsaften postet et medlem av et undergrunnsforum en tråd som demonstrerte hvordan de hadde brukt verktøyet til å lage skript som kunne operere en automatisert dark web-markedsplass for kjøp og salg av stjålne kontodetaljer, kredittkortinformasjon, skadevare og mer.

Den cyberkriminelle viste til og med frem en bit kode som var generert ved hjelp av en tredjeparts API for å få oppdaterte priser for Monero-, Bitcoin- og Ethereum-kryptovalutaer som en del av et betalingssystem for et dark web-markedsplass.

Det er vanskelig å vite om ondsinnet cyberaktivitet generert med hjelp av ChatGPT fungerer aktivt i naturen, fordi som Sykevich forklarer, "fra et teknisk synspunkt er det ekstremt vanskelig å vite om en spesifikk skadevare ble skrevet ved hjelp av ChatGPT eller ikke".

Men mens interessen for ChatGPT og andre AI-verktøy vokser, vil de tiltrekke seg oppmerksomheten til cyberkriminelle og svindlere som ønsker å utnytte teknologien til å drive skadelige kampanjer til lav kostnad og med minst mulig innsats. ZDNET har kontaktet OpenAI for kommentar, men har ennå ikke mottatt svar ved publiseringstidspunktet.