I fremtiden kan Fitbit-klokken din tyste på deg til forsikringsselskapet, spår Jake Metcalf fra Ethical Resolve. 

Kunstig intelligens har vært et av gjennomgangstemaene for Katapult Future Fest, blant annet med en tech-topp-tung paneldebatt med Beena Ammanath (Humans for AI Inc.), Ali Shah (BBC) og Jake Metcalf (Ethical Resolve), og ledet av den kjente investoren og teknologileder Silvija Seres. Hun trakk linjene til Facebook og Cambridge Analytica, og aktualiserte hvorfor vi bør rette oppmerksomheten mot de etiske sidene ved AI, som for mange fortsatt er et svevende fremtidsfenomen.

-- Teknologiens overflod kommer vår vei nå, og vi ser at den har en fremtid i vår velferd. Samtidig ser vi også at det finnes dem som ønsker å utnytte verdien som finnes i våre data, sier Seres.

Hvite løgner om 10.000 skritt

For Jake Metcalf, medgründer av Ethical Resolve, er spørsmålet om etikk og AI et spørsmål om hvem som skal styre livene våre.

-- Vi må gi opp ideen om at teknologi kan eliminere politikk og myndigheter. Samtidig forsvinner aldri menneskelige verdier fra teknologien, og politikk handler om hvordan vi vil bruke disse verdiene, sier Metcalf.

Han mener det at vi må bli bedre klar over at vi ikke kan bygge "den perfekte teknologi", som ikke lar seg påvirke av det som skjer i samfunnet og politikken. Han viser til at makt er ujevnt fordelt i samfunnet, og at dette medfører et problem for befolkningen på lengre sikt, selv om de ikke nødvendigvis ser det i dag.

-- Fitbit-klokken din har en skritteller som forteller deg hvor langt du har gått. Bare du kan vite om du faktisk har gått 10.000 skritt, men hvis sjefen din en dag i fremtiden får vite at du har løyet om dette og forsikringen din avhenger av de 10.000 skrittene, kan forsikringsselskapet ta mer penger for å gi deg helseforsikring, sier Metcalf.

-- Makten begrenser seg til dem som forstår

Beena Ammanath, daglig leder for og gründer av Humans for AI Inc., mener man vil fortsette å se etiske utfordringer knyttet til teknologi, så lenge man ikke gjør en ordentlig innsats for å informere befolkningen om hva teknologien virkelig er i stand til å gjøre.

-- Makten begrenser seg til dem som forstår hva maskinlæring og lignende teknologi er, og denne kunnskapen blir kontrollert innen gruppen. Folk flest vet ikke alt om hva Facebook gjør. Jeg mener at man må sørge for at befolkningen får et visst nivå av kunnskap om hva teknologi -- for eksempel AI og maskinlæring -- kan gjøre, sier Ammanath.

Hun forteller at selv om Facebooks forhold til Cambridge Analytica kom som et sjokk på store deler av verden, var det en skandale hun og andre i tech-miljøet nærmest hadde ventet på at skulle bli avdekket. Hun trekker frem den svært målrettede markedsføringen Facebook har drevet, som et eksempel på dette. Avhengig av hvem som så en annonse for et klesplagg, kunne plagget ha skiftet farge for å passe den spesifikke kundens preferanser.

-- Hvis de fleste av bildene du liker på Facebook har innslag av blått i seg, vil Facebooks algoritmer fange opp dette og sørge for at kjolene, genserene og T-skjortene du får se i annonsene også er blå. Med mindre du faktisk vet at dette er mulig, vil du ikke legge merke til det, sier Ammanath.

-- Samfunnets behov styrer dets etikk

Også balansegangen -- eller mangelen på sådan -- mellom det som er ideelt for en bruker eller kunde, ikke nødvendigvis er ideelt for dem som formidler en tjeneste, og dette ble også tatt opp av panelet. Ali Shah, journalist for BBC, mener verdier er mye mer komplekse enn det folk flest tenker over.

-- I debatten om etikk og teknologi, kommer jeg alltid på et sitat fra Maya Angelou: "Samfunnets behov styrer dets etikk". Våre verdier er bygget på mange ulike sider ved samfunnet, og hvordan skal vi bestemme den rette etiske balansen?, sier Shah.

Han sammenligner debatten med en diskusjon som har blitt tatt opp jevnlig i mediebransjen, blant annet på hans egen arbeidsplass i BBC. Med større kunnskap om leserne og hva folk vil lese, har journalistene og mediehusene også mulighet til å skrive innhold spesielt rettet mot visse grupper, eller vinkle saker på bestemte måter.

-- Samtidig er journalistikken fortsatt et spørsmål om "når og hvor". Dette handler om bedømmelse og kontroll hos ekte mennesker. Inntil vi selv bestemmer det, vil ikke AI og maskinlæring bryte ned våre verdier og tradisjoner slik at vi lar teknologien bestemme, sier Shah.