Wat zijn de hedendaagse uitdagingen van Artificial Intelligence volgens een AI-onderzoeker?

Ontdek meer

Artificial Intelligence

Wat zijn de hedendaagse uitdagingen van Artificial Intelligence volgens een AI-onderzoeker?

Ikram Chraibi Kaadoud, AI-onderzoeker en consultant bij onepoint Bordeaux, praat tijdens haar deelname aan het ELLE Active forum over Artificial Intelligence en in het bijzonder over de rol van vrouwen op dit gebied (Bordeaux, 25 september 2018).

AI, oftewel Artificial Intelligence, is iets wat we denken te kennen als: de Terminator, Skynet, Wall-E, of Jarvis. Zullen we morgen al op dit niveau zijn? De wetenschappelijke gemeenschap is hier unaniem over: Nee, we zijn nog ver verwijderd van deze volledig autonome AI-wereld!

Ikram stelt dat we eerst moeten kijken naar de uitdagingen van vandaag als we het over AI hebben in plaats van het schetsen van toekomstige scenario’s.

Artificial Intelligence

Laten we teruggaan naar de basis: Eén van de grondleggers van AI, Marvin Lee Minsky, omschreef AI als “de constructie van computerprogramma’s die zich bezighouden met taken die op dit moment nog door de mens worden uitgevoerd omdat ze mentale processen van hoog niveau vereisen, zoals: perceptueel leren, geheugenorganisatie en kritisch redeneren”. Met andere woorden, het is een wetenschap die tot doel heeft om na te denken en computerhulpmiddelen te ontwerpen die het cognitief functioneren van een mens nabootsen. Intelligente machines die net als wij redeneren, analyseren en communiceren.

Waar staan we nu?

Na een periode van ingekorte financiering en teruglopende AI-ontwikkelingen, is de hype rondom AI weer helemaal terug. Maar waarom? Enerzijds dankzij de ontwikkeling van steeds krachtigere processoren (computers voor het berekenen en verwerken van machine-instructies) en anderzijds dankzij de mogelijkheid om grote hoeveelheden gegevens te vermenigvuldigen, een bouwsteen voor het aanleren van neurale netwerken. Deze nieuwe technologieën hebben het mogelijk gemaakt om Deep learning te ontwikkelen: intelligente programma’s die nauwkeuriger voorspellingen kunnen doen dan mensen.

Gespecialiseerde AI versus generalist….of waarom Skynet nog geen werkelijkheid is

In de wereld van AI is er één gebied dat bijzonder sterk in opkomst is: Machine Learning.

Dit bestaat uit het creëren van algoritmes (neurale netwerken) die aan de hand van voorafgaande voorbeelden regels en patronen afleiden. Algoritmes kunnen op basis van deze kennis nauwkeurige voorspellingen doen.

AI is bijvoorbeeld in te zetten bij de keuze van een medische behandeling. Dit is met name bekend in het geval van kanker. Uit de gegevens van patiënten is het mogelijk om de waarschijnlijkheid te voorspellen dat een patiënt met dezelfde vorm van kanker positief of negatief zal reageren op een medische behandeling. Immers, met de juiste gegevens en algoritmes creëren we AI’s die krachtig zijn in termen van berekening en in staat zijn om zeer nauwkeurige voorspellingen te doen.

Dit is echter gelijk de valkuil: AI dat gebruikt wordt voor medische diagnoses kan alleen medische diagnoses stellen en niet verder denken waar de mens dat wél kan.

Als mens zijn wij multifunctioneel. We hebben verschillende cognitieve functies die ons in staat stellen om tegelijkertijd te discussiëren, te luisteren en een strategie te kunnen ontwikkelen. Alles gebeurt “direct” in onze hersenen op ieder moment. Terwijl je dit artikel leest, herken je de tekens, de woorden, geef je betekenis aan deze woorden en analyseer en verwerk je de tekst.  Deze cognitieve functies die voor ons allemaal toegankelijk zijn, zijn lastig te modelleren voor een machine.

Er wordt veel wetenschappelijk onderzoek gedaan om algemene algoritmes te creëren (die meer dan één cognitieve functie kunnen nabootsen). Echter is er op dit moment nog géén toepassing voor het brede publiek.

Transparantie en interpretatie: een technische uitdaging!

Technisch gezien is de uitdaging van AI de interpretatie. Als we kunnen interpreteren wat er binnen een algoritme gebeurt, kunnen we de beslissingen verklaren en verantwoorden. Het proces van de algoritmen en dus van de menselijke handeling op basis van deze algoritmen wordt dan transparant. De Algemene Verordening Gegevensbescherming (AVG) vereist transparantie in het gebruik van algoritmen. Bovendien heeft Mounir Majhoubi, Franse staatssecretaris voor digitale technologie tijdens de Nationale Vergadering het volgende gezegd: “Als een algoritme niet kan worden verklaard, kan deze niet worden gebruikt in de openbare dienst”[1]. Met andere woorden moet iedereen (een verzekeraar, een arts, een bankier etc.), die gebruik maakt van AI, in staat zijn om niet het algoritme of de code uit te leggen, maar de logica achterhalen die door de machine wordt gebruikt om tot een besluit te komen. We weten hoe wiskundig neurale netwerken (algoritmes die automatisch leren mogelijk maken) werken omdat we de auteurs zijn, maar we begrijpen nog lang niet hoe ze “redeneren”. Als de gegevens eenmaal door het algoritme zijn aangeleerd, levert het een resultaat of voorspelling op die moeilijk te verklaren is.

Ben je bereid om een medische diagnose toe te vertrouwen aan een zwarte doos die alleen “ja” of “nee” antwoordt zonder verantwoording? De meeste mensen zullen hier ongetwijfeld ‘nee’ op zeggen.

Talrijke onderzoeksprojecten en gespecialiseerde organisaties storten zich volledig op dit vraagstuk om antwoorden te achterhalen.

De kwestie van de interpreteerbaarheid en transparantie van AI maakt deel uit van de vragen over de verantwoordelijkheid van elk individu tegenover AI. Satya Nadella, CEO van Microsoft, riep op om een “algoritmische verantwoordelijkheid” te creëren voor elke ontwikkelaar. Deze oproep maakt deel uit van dezelfde stroming als de petities tegen autonome drones die door studenten, docenten en computeronderzoekers zijn ondertekend en verspreid. Er worden veel debatten georganiseerd om het bewustzijn over deze kwesties te vergroten.

In 2017 stemde de Europese Unie voor het opstellen van ethische regels voor het gebruik van AI en robots. Daarnaast heeft de EU op 4 oktober 2018 in Brussel het “AI-Verdrag Europa” georganiseerd om de ontwikkelingen, de laatste innovaties en de daaruit voortvloeiende veranderingen te bespreken. Op wereldniveau wordt sinds 2017 elk jaar onder toezicht van de Verenigde Naties de “AI for Good Global Summit” gehouden. Tijdens deze Summit worden de voordelen van AI samengebracht om de kwaliteit en duurzaamheid van het leven op onze planeet te verbeteren en tegelijkertijd strategieën te formuleren om een veilige, solidaire en betrouwbare ontwikkeling van deze technologieën te garanderen.

Gelijkheid

Één van de uitdaging op maatschappelijk niveau is de gelijkheid in AI. Zoals eerder gezegd moet AI data verwerken en algoritmen ontwikkelen om de basis te vormen van hun redenering.  Maar wat gebeurt er als alleen gegevens over de lichamelijke reacties van mannen met een medische behandeling om kanker te bestrijden aan AI worden verstrekt?

Wanneer AI de gevolgen van dezelfde behandeling moet voorspellen voor dezelfde vorm van kanker bij vrouwen of kinderen zullen de analyses niet correct zijn. In de statistiek wordt dit ‘selectievooroordeel’ genoemd, aangezien in dit geval de behandeling nooit voor vrouwen kinderen getest is. De populatie die door de gegevens wordt vertegenwoordigd is dus niet representatief voor de algemene populatie. AI moet de juiste gegevens binnenkrijgen om een goede voorspelling te maken en daarnaast moet AI juist gedoceerd worden door mensen.

Als een systeem alleen wordt gecreëerd, ontwikkeld en gebruikt door mensen met dezelfde sociaal-professionele achtergrond dan wordt de rest van de samenleving aan de zijlijn gezet.

Om de impact van AI-vertekening te beperken wordt er veel onderzoek verricht. Het is een complexe en tijdrovende taak, omdat het onder meer gaat om het beïnvloeden van het verzamelen en analyseren van gegevens, het discussiëren over wat goede gegevens zijn (afhankelijk van de gekozen doelstelling) en het vinden van het juiste algoritme om deze te beantwoorden.

De rol van de vrouw in AI

Er zijn weinig vrouwen werkzaam binnen de wetenschap en nog minder in informatica. Volgens de observaties van vrouwelijke onderzoekers die in 2017 door de wereld werden verzameld is informatica het enige gebied waar het aandeel van de vrouwen, na evenredig goed vertegenwoordigd te zijn geweest, duidelijk afneemt. Dit terwijl het op alle wetenschappelijke en technische gebieden stijgt van 5% in 1972 tot 26% in 2010 [2].

Als gevolg hiervan worden de meeste studies uitgevoerd door mannen en richten zij zich op de studie van panels bestaande uit voornamelijk mannen.

Het is dan ook noodzakelijk dat we allemaal de verantwoordelijkheid nemen voor AI en dat we onze professionele keuze niet laten bepalen door ons geslacht.

De vraag is niet om ontwikkelaar, computerontwikkelaar of onderzoeker te worden, maar om te beseffen dat de tools van morgen worden gemaakt met de bijdrage van zowel vrouwen als mannen.

Er zijn “veld”-initiatieven om te communiceren over de plaats van vrouwen in de wetenschap, zoals ELLE Active-conferenties en interviews met vrouwelijke wetenschappers. Bezoek aan scholen (collèges en lycea) door leden van de verenigingen “Femmes & Sciences” in Frankrijk, evenals teams van onderzoekers, worden georganiseerd om de wetenschappelijke beroepen te ontraadselen onder middelbare scholieren! Het doel van al deze initiatieven is het bevorderen van de kennismaking met de wetenschap bij de vrouwen en mannen die op deze gebieden werkzaam zijn.

[1] Citaat uit het artikel: http://www.itforbusiness.fr/news/item/10107-ia-et-rgpd-les-liaisons-dangereuses

[2] Article « Les femmes de plus en plus minoritaires dans le secteur de l’informatique » : https://www.lemonde.fr/campus/article/2017/12/11/femmes-et-informatique-vingt-ans-de-desamour_5227726_4401467.html

Het originele artikel is hier terug te lezen.