Microsofts TayTweets twitterbot is fan van Hitler
Image Image Image Image Image Image Image Image Image Image
Scroll naar boven

Boven

Microsofts slimme tweetbot slaat binnen een dag racistische taal uit

Taytweets
Dennis de Vries

Leuk experimentje van Microsoft. Om kunstmatige intelligentie beter te begrijpen, hebben ze een tweetbot online gezet die zelf conversaties aangaat alsof ze een Amerikaanse tiener is. Daarbij leert TayTweets (op Twitter te vinden als @TayAndYou) van alles wat er tegen haar gezegd wordt door andere twitteraars. Je voelt ‘m al aankomen….dat ging al binnen een dag hopeloos de mist in.

TayTweets ’s got zero chill

Het begon allemaal onschuldig. Twitteraars werden uitgenodigd een gesprek aan te gaan met de digitale tiener. Zo kunnen ze vragen om een grap, een verhaal of om de horoscoop. Maar er konden ook ‘natuurlijke’ gesprekken gevoerd worden, Tay reageerde uit zichzelf. Ook kon ze foto’s bekijken die ze opgestuurd kreeg, en daar weer op reageren. Meestal ging het nergens over, maar dat heb je nu eenmaal met tieners.

Welkom op internet, Tay

Maar dit is internet, en internet kan een verschrikkelijke plek zijn. Als je ‘het internet’ vraagt om gezellig mee te doen, dan duurt het nooit lang voor de absolute onderlaag der mensheid zich naar de oppervlakte klauwt. Het feit dat Tay leerde van conversaties die ze voerde, werd al snel misbruikt. Mensen begonnen haar racistische uitspraken te voeren, in de hoop dat ze daar iets van oppikte. Een beetje alsof je de papegaai bij de dierenwinkel ‘kuttekop’ wil laten zeggen. Maar dan makkelijker. Het kostte weinig moeite de virtuele tiener te laten klinken als Wilders na een lijntje badzout. Zo bleek toen Microsofts kunstmatige intelligentie dit soort tweets begon te plaatsen.

Toegegeven, Tay is niet zelf tot die conclusie gekomen; iemand vroeg om exact te herhalen wat hij zei. Tay deed dat vervolgens braaf, zich van geen kwaad bewust. Wat dat betreft lijkt Microsoft inderdaad het intelligentieniveau van de gemiddelde tiener te hebben bereikt. Het staat alleen zo ontzettend ongelukkig voor de softwaregigant.

TayTweets offline getrokken?

Het is niet het eerste ludieke AI experiment van Microsoft. Zo zetten ze eerder al een dienst online die op foto’s kon herkennen hoe oud iemand was. Eenzelfde soort site, ook van Microsoft, vertelde je aan de hand van foto’s welke hond je was. De tweetbot Tay maakt gebruik van de AI waar ook Cortana, de digitale assistent van Windows op is gebaseerd. Het is maar van harte te hopen dat die twee geen ervaringen met elkaar uitwisselen. Momenteel is TayTweets even offline. Zelf nam ze afscheid met de boodschap even rust te nemen. Maar het is natuurlijk niet ondenkbaar dat ze bij Microsoft even alle Hitler-referenties uit haar geheugen aan het trekken zijn. Of misschien heeft ze gewoon even huisarrest en moet ze van Microsoft maar eens heel diep nadenken over wat ze allemaal gezegd heeft. We zijn niet boos, Tay. Wel teleurgesteld.

Comments