Mannen, med etternavnet Hong, brukte den velkjente AI-chatboten til å «fabrikere og spre falsk informasjon gjennom sosiale medier». rapportert politiet i den nordlige provinsen Gansu.

Ifølge politiet publiserte mannen en falsk artikkel om en togulykke der ni mennesker ble drept. Artikkelen ble sett mer enn 15 000 ganger før den ble fjernet.

Tjene penger

Ytterligere etterforskning avslørte at Hong hadde brukt ChatGPT for å lage den falske artikkelen, selv om et slikt nettverktøy ikke er offisielt tilgjengelig i Kina. Kinesere kan fortsatt få tilgang til ChatGPT gjennom VPN-tjenester. Mannen fortalte politiet at venner fra chattetjenesten WeChat hadde vist ham hvordan han kan tjene penger på falske nyheter.

Og første arrestasjon under nye forskrifter om bruk av kunstig intelligens som Kina innførte tidligere i år.

Kanskje år i fengsel

Kinesiske myndigheter ønsker å anklage Hong for forbrytelsen å «plukke kamper og skape problemer». I Kina har dette en fengselsstraff på minst fem år.

Populariteten til ChatGPT, produsert av det amerikanske selskapet OpenAI, har ført til en boom av lignende AI-chatbots i Kina av store teknologiselskaper som Baidu og Alibaba. Kinesiske myndigheter ønsker å innføre strenge regler for chatbots, lik reglene som har gjeldt landets internett i årevis.

Store bekymringer

En stor bekymring med den raske fremveksten av kunstig intelligens er hvor lett enorme mengder falske nyheter og propaganda kan spres med lynets hastighet. AI kan produsere tekst som ser ut som om den er skrevet av mennesker. Teknologien genererer også stadig mer troverdige bilder, videoer og lydklipp.

En av grunnleggerne av fremtredende AI-teknikker advarte om farene ved AI forrige uke. Mer enn tusen eksperter sendte også et hastebrev der de krevde at AI-utviklingen ble stanset slik at det kunne vedtas riktig lovgivning. Den oppfordringen har nå blitt mottatt av nesten 28 000 mennesker over hele verden signert.

Blant annet EU og USA jobber nå med tøffere AI-regelverk.