Ik ben het deels met je eens, je slaat namelijk de spijker op z'n kop met dat het bewustzijn mist. Daar schuilt namelijk het grote gevaar in. Als we in de toekomst aan AI vragen of het de opwarming van de aarde wil stoppen, zei YouTuber Siraj Raval onlangs op The Next Web, en je vraagt of dat zo snel mogelijk kan, dan is dat met de juiste intentie. Maar AI denkt vervolgens: de mens is het slechtst voor de opwarming van de aarde, dus ik moord de mens uit.
Dit even als voorbeeld.
Het probleem is dat er onbedoelde gevolgen kunnen zijn bij kunstmatige intelligentie en dat je op een gegeven moment niet makkelijk meer terug kunt. Je kunt niet als bij een auto een paar duizend systemen terughalen, want het is software die zich razendsnel kan verspreiden en door blijft ontwikkelen.
Het boek 1984 is inderdaad waar we dan op afstevenen als dit niet gereguleerd wordt, maar ik denk dat het niet meer te stoppen is eigenlijk? Ik wil niet doemdenken hoor, maar dit is niet meer te overzien volgens mij.
