Hundrevis av toppledere fra AI-selskaper har bedt om økt årvåkenhet over teknologiens potensielle farer. En av dem er Sam Altman, administrerende direktør i selskapet som utviklet ChatGPT AI chatbot. Å redusere AIs utryddelsesrisiko bør være en global prioritet, akkurat som andre samfunnsrisikoer som pandemier og atomkriger.

Den ideelle organisasjonen Center for AI Safety (CAIS) ga ut erklæringen, som har blitt signert mer enn 350 ganger. Uttalelsen kommer mens politikere fra EU og USA møtes i Sverige for å diskutere muligheten for å utsette AI-selskaper for økt regulering.

Hør også | Teknisk oppdatering – AI-ledere som OpenAI CEO advarer mot menneskelig utryddelse

Altman leder OpenAI-selskapet, som skaper bølger med GPT AI-plattformen. Gjennom ChatGPT, for eksempel, er den i stand til å produsere logisk klingende tekster med kunstig intelligens basert på noen få instruksjoner fra brukeren. Ledere av kunstig intelligens-selskapene DeepMind og Anthropic og teknologigruppene Microsoft og Google skrev også under på meldingen.

Teksten fortsetter under tweeten

halv

Forskerne Geoffrey Hinton og Yoshua Bengio er også blant underskriverne. De regnes som to av de tre «gudfedrene til AI» fordi de var banebrytende for forskning på måter datamaskiner kunne lære på. Den tredje «gudfaren», Yann LeCun, signerte ikke oppfordringen, og fikk kritikk fra arbeidsgiveren Meta. Meta er morselskapet til Facebook og Instagram.

Hør også | De Top van Nederland – Willem Sijthoff (Sijthoff Media): «Mennesket er ikke overflødig i journalistikkens verden»

Den raske utviklingen av AI-plattformer vekker bekymring for blant annet hvor raskt desinformasjon kan spres. Det er også bekymringer for «intelligente maskiner» som kan begynne å tenke selv. Hinton, som nylig forlot blant annet Google, advarer mot farene dersom maskiner blir smartere enn mennesker. Han kalte risikoen for menneskeheten «mer presserende» enn klimaendringene.

Les også | «Økende bedriftsproduktivitet takket være kunstig intelligens»

djevel

Tesla-sjef Elon Musk hadde allerede i 2014 advart om konsekvensene av kunstig intelligens. «Vi tilkaller djevelen med densa han da. «Hvis jeg måtte gjette hva vår største eksistensielle trussel er, er dette sannsynligvis det,» sa han til en forelesning ved MIT University.