Wat zijn algoritmen voor machine learning? Hier is hoe ze werken
Advertentie
Kunstmatige intelligentie en machine learning produceren veel van de vooruitgang die we tegenwoordig in de technologische industrie zien. Maar hoe kunnen machines leren? Bovendien, hoe heeft de manier waarop we dit doen onbedoelde gevolgen?
Hier is onze snelle uitleg over hoe machine learning-algoritmen werken, samen met enkele voorbeelden van machine learning die mis zijn gegaan.
Wat zijn algoritmen voor machine learning?
Machine learning is een tak van informatica die zich richt op het geven van AI de mogelijkheid om taken te leren 5 Beste Google AI-experimenten om kunstmatige intelligentie te verkennen 5 Beste Google AI-experimenten om kunstmatige intelligentie te verkennen Google heeft verschillende AI-experimenten waarmee je kunt spelen, toch nu. Dankzij machine learning kunnen ze de wereld van morgen met uw hulp veranderen. Lees verder . Dit omvat het ontwikkelen van vaardigheden zonder programmeurs die AI expliciet coderen om deze dingen te doen. In plaats daarvan kan de AI gegevens gebruiken om zichzelf te onderwijzen.
Programmeurs bereiken dit door middel van machine learning-algoritmen. Deze algoritmen zijn de modellen waarop een AI-leergedrag is gebaseerd. Algoritmen, in combinatie met trainingsdatasets, zorgen ervoor dat AI kan leren.
Een algoritme biedt meestal een model dat een AI kan gebruiken om een probleem op te lossen. Bijvoorbeeld, leren hoe afbeeldingen van katten versus honden te identificeren. De AI past het model van het algoritme toe op een gegevensset met afbeeldingen van katten en honden. Na verloop van tijd leert de AI hoe katten van honden nauwkeuriger en gemakkelijker te identificeren, zonder menselijke input.
Machine learning verbetert technologie zoals zoekmachines, smart home-apparaten, online services en autonome machines. Het is hoe Netflix weet van welke films je eerder zult genieten en hoe muziekstreamingservices afspeellijsten kunnen aanbevelen.
Maar hoewel machine learning ons leven veel gemakkelijker kan maken, kunnen er ook enkele onverwachte gevolgen zijn.
7 keer dat machinaal leren verkeerd ging
1. Fout met zoeken naar afbeeldingen met Google
Google Zoeken heeft het navigeren op internet een stuk eenvoudiger gemaakt. Het algoritme van de motor houdt rekening met verschillende zaken bij het genereren van resultaten, zoals trefwoorden en bouncepercentage. Maar het algoritme leert ook van gebruikersverkeer, wat problemen kan veroorzaken voor de kwaliteit van de zoekresultaten.
Nergens is dit duidelijker dan in beeldresultaten. Aangezien pagina's die veel verkeer ontvangen, hun afbeeldingen vaker weergeven, hebben verhalen met veel bezoekers, waaronder clickbait, vaak prioriteit.
De zoekresultaten voor afbeeldingen voor "krakerskampen in Zuid-Afrika" veroorzaakten bijvoorbeeld controverse toen werd ontdekt dat het voornamelijk blanke Zuid-Afrikanen bevatte. Dit ondanks statistieken waaruit blijkt dat de overgrote meerderheid van degenen die in informele woningen wonen, zoals hutten, zwarte Zuid-Afrikanen zijn.
De factoren die worden gebruikt in het algoritme van Google betekent ook dat internetgebruikers resultaten kunnen manipuleren. Een campagne van gebruikers heeft bijvoorbeeld de resultaten van Google Afbeeldingen beïnvloed in die zin dat het zoeken naar de term 'idioot' afbeeldingen toont van de Amerikaanse president Donald Trump.
2. Microsoft Bot is een nazi geworden
Vertrouw op Twitter om een goedbedoelende, machine-learning chatbot te corrumperen. Dit gebeurde binnen de dag na de release van de nu beruchte chatbot Tay van Microsoft.
Tay bootste de taalpatronen van een tienermeisje na en leerde door haar interacties van andere Twitter-gebruikers. Ze werd echter een van de meest beruchte AI-misstappen toen ze begon met het delen van nazi-verklaringen en racistische uitlatingen. Het blijkt dat trollen de machine van de AI hadden gebruikt om ertegen te leren en het te overspoelen met interacties vol met dweperij.
Niet lang daarna haalde Microsoft Tay voorgoed offline.
3. AI Gezichtsherkenningsproblemen
Gezichtsherkenning AI haalt vaak koppen om de verkeerde redenen, zoals verhalen over gezichtsherkenning en privacykwesties. Maar deze AI veroorzaakte ook grote zorgen bij het proberen mensen van kleur te herkennen.
In 2015 ontdekten gebruikers dat Google Foto's sommige zwarte mensen categoriseerde als gorilla's. In 2018 heeft onderzoek van de ACLU aangetoond dat Amazon's Rekognition-identificatiesoftware 28 leden van het Amerikaanse Congres identificeerde als politie-verdachten, met valse positieven die onevenredig veel invloed hebben op gekleurde mensen.
Een ander incident betrof Apple's Face ID-software Een iPhone X kopen? Face ID zou u kunnen doen heroverwegen Een iPhone X kopen? Face ID zou u opnieuw kunnen laten overwegen De meest opvallende functie van de iPhone X is het ontgrendelsysteem van het Face ID-apparaat. Maar hoe veilig is het? Heeft Apple toegang tot een enorme database met ieders gezichten? Lees meer om ten onrechte twee verschillende Chinese vrouwen als dezelfde persoon te identificeren. Als gevolg hiervan kon de collega van de iPhone X-eigenaar de telefoon ontgrendelen.
Ondertussen herinnert MIT-onderzoeker Joy Buolamwini zich vaak dat ze een wit masker moest dragen tijdens het werken aan gezichtsherkenningstechnologie om de software haar te laten herkennen. Om dit soort problemen op te lossen, vestigen Buolamwini en andere IT-professionals de aandacht op het probleem en de behoefte aan meer inclusieve datasets voor AI-training.
4. Deepfakes gebruikt voor hoaxes
Hoewel mensen Photoshop al lang gebruiken om hoax-afbeeldingen te maken, brengt machine learning dit naar een nieuw niveau. Met software zoals FaceApp kun je onderwerpen van de ene video naar de andere omwisselen.
Maar veel mensen exploiteren de software voor een verscheidenheid aan kwaadaardig gebruik, waaronder het plaatsen van gezichten van beroemdheden in video's voor volwassenen of het genereren van hoaxvideo's. Ondertussen hebben internetgebruikers geholpen de technologie te verbeteren, waardoor het steeds moeilijker wordt om echte video's van valse video's te onderscheiden. Als gevolg hiervan maakt dit type AI zeer krachtig in termen van het verspreiden van nepnieuws en bedrog Facebook biedt tips om u te helpen nepnieuws te vinden Facebook biedt tips om u te helpen nepnieuws te vinden Hoewel Facebook geen nepnieuws produceert, is het tenminste gedeeltelijk verantwoordelijk voor de verspreiding ervan. Daarom biedt het nu tips om je te helpen nepnieuws te vinden voordat het zich verspreidt. Lees verder .
Om de kracht van de technologie te laten zien, hebben regisseur Jordan Peele en BuzzFeed CEO Jonah Peretti een deepfake-video gemaakt die laat zien wat voormalig Amerikaanse president Barack Obama lijkt te zijn en een PSA levert over de kracht van deepfakes.
5. De opkomst van de Twitterbots
Twitter-bots zijn oorspronkelijk gemaakt om zaken als antwoorden van de klantenservice voor merken te automatiseren. Maar de technologie is nu een grote reden tot bezorgdheid. Onderzoek heeft zelfs uitgewezen dat tot 48 miljoen gebruikers op Twitter in feite KI-bots zijn.
In plaats van alleen algoritmen te gebruiken om bepaalde hashtags te volgen of te reageren op vragen van klanten, proberen veel botaccounts echte mensen te imiteren. Deze 'mensen' promoten vervolgens hoaxes en helpen nepnieuws viraal te maken.
Een golf van Twitter-bots heeft zelfs de publieke opinie in zekere mate beïnvloed op de Brexit en de Amerikaanse presidentsverkiezingen van 2016. Twitter heeft zelf toegegeven dat het ongeveer 50.000 door Rusland gemaakte bots heeft ontdekt die over de verkiezingen hebben gepost.
Bots blijven de dienst pesten en verspreiden desinformatie. Het probleem is zo groot dat het zelfs de waardering van het bedrijf beïnvloedt.
6. Medewerkers zeggen dat Amazon AI besloot dat het inhuren van mannen beter is
In oktober 2018 meldde Reuters dat Amazon een tool voor werving van banen moest schrappen nadat de AI van de software had besloten dat mannelijke kandidaten preferentieel waren.
Werknemers die anoniem wilden blijven, kwamen naar voren om Reuters te vertellen over hun werk aan het project. Ontwikkelaars wilden dat de AI op basis van hun cv's de beste kandidaten voor een functie identificeerde. Mensen die bij het project betrokken waren, merkten echter al snel dat de AI vrouwelijke kandidaten strafte. Ze legden uit dat de AI CV's van het afgelopen decennium gebruikte, waarvan de meeste van mannen waren, als trainingsdataset.
Als gevolg hiervan begon de AI cv's uit te filteren op basis van het trefwoord 'vrouwen'. Ze trefwoord verscheen in het CV onder activiteiten zoals "kapitein schaken club dames". Terwijl ontwikkelaars de AI hebben gewijzigd om deze bestraffing van vrouwen-CV's te voorkomen, heeft Amazon het project uiteindelijk geschrapt.
7. Ongepaste inhoud op YouTube Kids
YouTube Kids heeft veel gekke, grillige video's bedoeld om kinderen te vermaken. Maar het heeft ook een probleem met spamvideo's die het algoritme van het platform manipuleren.
Deze video's zijn gebaseerd op populaire tags. Aangezien jonge kinderen geen veeleisende kijkers zijn, trekken ongewenste video's met deze zoekwoorden miljoenen kijkers. AI genereert automatisch sommige van deze video's met voorraadanimatie-elementen, op basis van trending tags. Zelfs wanneer de video's zijn gemaakt door animators, worden hun titels specifiek gegenereerd voor het vullen van zoekwoorden.
Deze zoekwoorden helpen het algoritme van YouTube te manipuleren zodat ze in aanbevelingen terechtkomen. Er is een aanzienlijke hoeveelheid ongepaste inhoud verschenen in de feeds van kinderen die de YouTube Kids-app gebruiken. Dit omvatte inhoud die geweld, jumpscares en seksuele inhoud weergeeft.
Waarom machine learning verkeerd gaat
Er zijn twee belangrijke redenen waarom machinaal leren onbedoelde gevolgen heeft: gegevens en mensen. In termen van gegevens is de mantra van "junk in, junk out" van toepassing. Als de gegevens die naar een AI worden gevoerd beperkt, bevooroordeeld of van lage kwaliteit zijn; het resultaat is een AI met beperkte reikwijdte of bias.
Maar zelfs als programmeurs de gegevens goed hebben, kunnen mensen het roer omgooien. Makers van software realiseren zich vaak niet hoe mensen de technologie kwaadaardig of voor zelfzuchtige doeleinden kunnen gebruiken. Deepfakes kwam van de technologie die werd gebruikt om speciale effecten in de bioscoop te verbeteren.
Wat meer meeslepend entertainment wil bieden, verpest ook het leven van mensen wanneer ze worden uitgebuit.
Er zijn mensen die werken aan het verbeteren van de veiligheidsmaatregelen rond machine learning-technologie om kwaadaardig gebruik te voorkomen. Maar de technologie is er al. Ondertussen tonen veel bedrijven niet de vereiste wilskracht om misbruik van deze ontwikkelingen te voorkomen.
Algoritmen voor machine learning kunnen ons helpen
Het lijkt misschien een beetje doem en somberheid als je je realiseert hoeveel machine learning en kunstmatige intelligentie niet voldoen aan de verwachtingen. Maar het helpt ons ook op veel manieren - niet alleen in termen van gemak, maar ook in het algemeen om ons leven te verbeteren.
Als je een beetje aarzelend bent over de positieve impact van AI en machine learning, ontdek dan hoe kunstmatige intelligentie cybercriminaliteit bestrijdt. Hoe kunstmatige intelligentie moderne hackers en cybercriminaliteit zal bestrijden. Hoe kunstmatige intelligentie moderne hackers en cybercriminaliteit zal bestrijden met cyberveiligheid tekort en cybercriminaliteit, hoe kunnen bedrijven hackers bestrijden? Met kunstmatige intelligentie! Lees meer en hackers om wat hoop te herstellen.
