Meer waarschuwingen technologische ‘vooruitgang’

De waarschuwingen vliegen ons inmiddels om de oren. Of het nu een denktank is of een tijdelijk samenwerkingsverband van universiteiten en experts. Zelfs de CEO’s van techbedrijven willen ons wijzen op de gevaren van technologie. We maken een kleine selectie van wat we zijn tegengekomen begin 2018.

There’s always the question how much technology is empowering a small group of people to cause damage (Bill Gates, 2018)

In Engeland is er een duidelijk signaal gekomen richting de tech-industrie en de noodzaak om de grote technologie monopolies te stoppen. We citeren: An influential body of UK policymakers said regulators should stop major tech companies from dominating the field of artificial intelligence, and also warned on the potential of widespread unemployment due the technology. Large companies which have control over vast quantities of data must be prevented from becoming overly powerful within this landscape.

De Britse politiek wordt wakker rondom de technologische dominatie van een paar grote spelers die overal actief in zijn. Zoals de onderstaande afbeelding aangeeft.

I don’t have a kid, but I have a nephew that I put some boundaries on. “There are some things that I won’t allow; I don’t want them on a social network. (Tim Cook (Apple), 2018)

In een recent onderzoek waarschuwen 26 experts van 14 verschillende instituten ons voor de opkomst, en impact, van kunstmatige intelligentie. In het rapport “The malicious use of Artificial Intelligence” spreken de experts over zogenaamde Dual Technology. Dit is wat men hierover vindt: “we expect the growing use of AI systems to lead to the expansion of existing threats, the introduction of new threats and a change to the typical character of threats.

De experts zijn van mening dat onderzoekers en wetenschappers veel meer en beter moeten nadenken over de negatieve implicaties van hun toepassingen. Dit geldt ook voor de technologie bedrijven.

We do not have long to act. Once this Pandora’s box is opened, it will be hard to close (Elon Musk en Alphabet’s Mustafa Suleyman are leading a group of 116 specialists from across 26 countries, 2017)

Experts van het centrum voor existentiële risico’s in Cambridge waarschuwen voor politieke instabiliteit en het verval van democratie. Men spreekt over een toenemend gevaar van politieke disruptie door technologie. “We live in a world that could become fraught with day-to-day hazards from the misuse of AI and we need to take ownership of the problems – because the risks are real. There are choices that we need to make now, and our report is a call-to-action for governments, institutions and individuals across the globe.

Google Co-founder Sergey Brin schreef recent een brief waarin hij tevens zijn zorgen uitte over de toekomst van technologie. Dat ging niet alleen over banenverlies maar ook over de opkomst van manipulatie door technologie en de gevaren van kunstmatige intelligentie. Gelukkig eindigde hij zijn boodschap met de volgende woorden: “While I am optimistic about the potential to bring technology to bear on the greatest problems in the world, we are on a path that we must tread with deep responsibility, care, and humility.

En zo is het!

De ‘founders letter’ van Google’s Alphabeth begon dan ook als volgt:

It was the best of times,
it was the worst of times,
it was the age of wisdom,
it was the age of foolishness,
it was the epoch of belief,
it was the epoch of incredulity,
it was the season of Light,
it was the season of Darkness,
it was the spring of hope,
it was the winter of despair …” (from Dickens, A Tale of two cities)

Gelukkig zien en horen we niet alleen maar ‘doom’ verhalen al moeten we wel toegeven dat er een sterke toename is in de angst voor kunstmatige intelligentie en robotica. We zien ook tegengeluiden. Dmitri Alperovitch (o-founder of information security firm CrowdStrike) gaf zo’n duidelijk tegengeluid: “I am not of the view that the sky is going to come down and the earth open up. There are going to be improvements on both sides; this is an ongoing arms race. AI is going to be extremely beneficial, and already is, to the field of cybersecurity. It’s also going to be beneficial to criminals. It remains to be seen which side is going to benefit from it more.

We onderzoeken niet alleen de positieve kanten van technologie maar kijken we ook naar de tegenbewegingen. Heel normaal allemaal. We zien een toenemend bewustzijn rondom de gevaren van technologie maar uiteindelijk geloven wij dat de positieve kant van de mens zal overwinnen. We hebben daar veel discussie over met bedrijven, overheden en instituten en leggen hiermee de discussie vooral bij de verantwoordelijkheid van het individu zelf en het handelen van organisaties. Wat is de inzet en het doel van technologie door organisaties? Kunnen organisaties de omslag maken naar een meer betekenisvolle inzet en toepassing van technologie. Daar ligt namelijk de echte toegevoegde waarde voor tech en samenleving.