AI-doomer

NRC sprak Joep Meindertsma de afgelopen acht maanden meerdere keren. Om beter te begrijpen waarom sommige, veelal jonge, mensen in de techsector zich ernstige zorgen maken over de opkomst van AI. Deze AI-doomers vrezen dat het huidige tempo van ontwikkeling kan leiden tot grote rampen, of zelfs de ondergang van de mensheid. Hun zorgen worden gedeeld door prominente AI-wetenschappers en beroemde techondernemers.

Sutskever staat bekend als een zeer bezorgde 'AI-doomer'. Hij vreest een toekomstige wereld vol datacentra en zonnepanelen, waar ongecontroleerde AI-systemen alle beslissingen voor mensen nemen.

De technologie achter ChatGPT is voor een belangrijk deel gebaseerd op uitvindingen die Google heeft gedaan. Wat er precies gebeurde tussen het OpenAI-bestuur en Sam Altman is nog onbekend. Duidelijk is dat de laatste maanden de spanningen fors zijn toegenomen. Met name AI-doomer Sutskever maakte zich grote zorgen over het tempo van de innovatie, reconstrueerden Amerikaanse media afgelopen week.

Van de zes bestuursleden zijn er zeker drie zeer bezorgd over de risico's voor de samenleving als AI te snel wordt ontwikkeld en overheden niet ingrijpen. Denk aan: AI-systemen die nepnieuws maken en verkiezingen beïnvloeden, grootschalig cyberaanvallen uitvoeren of militaire systemen die autonoom beslissingen nemen. Een van hen is informaticus Ilya Sutskever, hoofd van OpenAI's wetenschappelijke afdeling en bekend als prominente 'AI-doomer'. Sutskever vreest dat als het huidige tempo van technologische ontwikkeling wordt voortgezet, dat leidt tot een wereld waarbij de mensheid de controle over zijn systemen dreigt te verliezen.