Politikken i den svarte KI-boksen

I november 2023 oppsto det en merkelig konflikt i ledelsen til OpenAI, selskapet som står bak ChatGPT. Styret, ledet av informatikeren Ilya Sutskever som var med på å starte OpenAI i 2015, sparket administrerende direktør Sam Altman, også han informatiker og medgrunnlegger. Etter en uke var Altman tilbake i stillingen, men episoden brakte for dagen en intern splittelse mellom to ideologier, som på overflaten kan synes å være rake motsetninger, men som i realiteten er nokså like: effektiv altruisme og effektiv akselerasjonisme. Tilhengerne av førstnevnte forsøkte – uten hell – å fjerne guruene for sistnevnte av frykt for at de ville lede menneskeheten mot undergangen.

Effektiv altruisme, som dukket opp i USA på 2000-tallet, har som mål å finne den mest effektive måten å bruke ressurser på til det beste for menneskeheten. Tilhengerne av ideologien mener at deres overlegne intellektuelle, økonomiske og teknologiske evner gjør nettopp dem best i stand til å avgjøre hvilke problemer som bør prioriteres, og til å løse dem. De fremste farene er ifølge dem pandemier, atomkrig og framveksten av en «generell kunstig intelligens», også kalt «singulariteten», det vil si den historiske terskelen der den kunstige intelligensen (KI) overgår den menneskelige og innleder en ny gull-alder for hele menneskeheten eller utsletter den. Men definisjonen av denne bevisste kunstige intelligensen, skapt av vårt hav av data, er såpass vag at noen hevder at den allerede er en realitet, mens andre mener den først vil bli det om et halvt århundre. (…)