Afhankelijk van wie je het vraagt, zeggen AI-onderzoekers over het algemeen dat er niet meer dan vijf procent kans is dat artificial intelligence (AI) de mensheid zal uitroeien. Dat bleek uit een recent onderzoek onder 2.700 AI-onderzoekers wereldwijd.
Roman Yampolskiy, hoogleraar computerwetenschappen aan de universiteit van Louisville, is een buitenbeentje wat dit betreft. In de podcast van Lex Fridman vertelde hij dat hij verwacht dat de kans op een uitroeiing van de mensheid door AI binnen de komende honderd jaar 99,9 procent is.
Yampolskiy, die net het boek ‘AI: Unexplainable, Unpredictable, Uncontrolable’, uitbracht, sprak meer dan twee uur met Fridman over de risico’s van AI. Zijn voorspellingen waren allesbehalve positief.
Volgens de computerweterschapper hangt de toekomst van de mensheid af van het feit of we immens complexe software kunnen ontwikkelen die absoluut geen fouten bevat. Yampolskiy verwacht niet dat dat gaat lukken. Met name omdat er tot nu toe nog geen AI-model foutloos presteert, laat staan als er mensen mee aan de slag gaan die de de software voor andere doeleinden inzetten dan waar hij voor bedoeld was.
“Ze hebben al fouten gemaakt”, zegt Yamplskiy. “We hebben ongelukken gezien, ze zijn gehackt. Ik denk niet dat er ook maar één enkel large language model is, dat alleen datgene doet waar het voor ontworpen was door de programmeurs.”
Er zijn legio voorbeelden te noemen van AI-modellen die ingezet worden voor verkeerde doeleinden en fouten maken. Er zijn meerdere deep fakes verschenen van pornografische afbeeldingen van celibrities en er werden telefoontjes met een nagemaakte stem van de Amerikaanse president Biden uitgevoerd om de democratie te ondermijnen.
Het meest recente voorbeeld van fouten die AI maakt, zijn de zoekresultaten van Google’s AI-model Gemini. Dit ging viraal omdat de de AI-chatbot suggesties gaf om lijm op pizza’s te smeren en stelde dat het eten van een steen per dag gezond is.
Continu toezicht op inzet van AI
Volgens Yampolskiy kan AI onder controle gehouden worden met een continu werkende veiligheidsmachine. Maar zelfs als we het goed aanpakken met de volgende versies van GPT, AI zich zal blijven ontwikkelen, leren, aanpassen en interactie zal hebben met meerdere spelers – en met existentiële risico’s.
Maar Yampolskiy waarschuwt vooral dat “we niet kunnen voorspellen wat een slimmer systeem kan doen”. Volgens hem zal AI uiteindelijk met iets op te proppen komen waarvan we het bestaan nog niet eens weten.
CEO Sam Altman van OpenAI, de maker van ChatGPT, heeft in het verleden gewezen op een mogelijke “regulatory sandbox“. Daarmee bedoelde hij een omgeving waarin mensen met AI experimenteren en de regulering bepalen op basis van wat “erg fout en wat erg goed ging.”
Ook maakte Altman in 2015 de opmerking dat “AI waarschijnlijk leidt tot het einde van de wereld, maar in de tussentijd zullen er geweldige bedrijven zijn.”
Ondertussen zijn er sinds de verschijning van ChatGPT in november van 2022 veel meer voorspellingen gedaan over de toekomst van de mensheid met AI.
3 mogelijke uitkomsten voor de mensheid
Hoewel Yampolskiy geen positief toekomstbeeld heeft voor de mensheid en AI, stelt hij dat er drie scenario’s zijn. In twee daarvan hoeft er niemand te sterven.
Het eerste geschetste scenario is het eenvoudigste: iedereen gaat dood. Voor de tweede sterft er niemand, maar zal iedereen zoveel lijden dat ze zouden wensen dat ze dood waren, en in het laatste toekomstbeeld stelt de wetenschapper dat iedereen een doelloos leven zal leiden.
Dat laatste scenario lijkt al vorm te krijgen. Hij verwijst namelijk naar een toekomst waarin AI-systemen creatiever dan mensen zijn en al het werk kunnen uitvoeren. Daardoor zouden mensen geen idee meer hebben over wat ze kunnen bijdragen aan de samenleving.
Hoe de toekomst er daadwerkelijk uit gaat zien, weet niemand. Als we Elon Musk mogen geloven, is er slechts een kans van tien tot twintig procent dat AI de mensheid uitroeit en voormalig CEO Eric Schmidt van Google zegt dat er altijd nog een oplossing bestaat voor wanneer AI een eigen wil ontwikkelt: simpelweg de stekker eruit trekken.
