For å kalle noe en kunstig intelligens, må den være av en ikke-menneskelig art, samtidig som den må være skapt av mennesker. Vi blir kjent med begrepet i science fiksjon sjangeren, og har sett opp gjennom de siste hundre årene filmer som illustrerer en verden som er overtatt av roboter med kunstige intelligens, jfr. Terminator, 2001: en romodyssé, Star Wars, Ex Machina. I filmene framstilles den kunstige intelligensen som noe som vil skade menneskene, fordi menneskets natur handler om atferd, makt og følelser.
Menneskelig atferd
Menneskelig atferd er noe som ikke alltid drives av perfekte tankerekker, og man mener at dersom maskinene får muligheten til å tenke selv, så vil de ikke følge menneskenes ordre og befalinger. Et eksempel kan være utviklingen av samfunnet vi ser i dag. Utviklingen består av positive ting, som for eksempel at så mange mennesker kan leve på jorda samtidig, noen i fred og fordragelighet, mange i krig og fattigdom. Samtidig aner vi at vi kanskje er i ferd med å ødelegge grunnlaget for bærekraftig liv på jorden med vårt overforbruk, samtidig som at vi vet at mennesket har klart seg gjennom store kriser og ødeleggelser. Dersom maskiner fikk stor makt, er frykten at de ville begynne å motarbeide mange slike ting vi tar for gitt i dagens samfunn, og som ville føre til store endringer. Om de er til det bedre, er godt mulig, men om vi er klare for en slik omstilling vites ikke.
Forsterkende læring
For at maskiner skal kunne bli intelligente, må de tilføres det som kalles forsterkende læring. Akkurat som mennesker og dyr, lærer man ved å få belønning eller straff. For et menneske kan det være en klapp på skulderen når man har gjort noe riktig, eller at man får et stort skrubbsår når man tok for stor risiko på sykkelen i nedoverbakken. For dyr er det gjerne sett i sammenheng med dressurtrening, og da er belønning klapp og en godbit, mens en straff vil være å bli satt lengre fra målet eller en skjennepreken.
På samme måte kan man mate maskiner med informasjon om en gitt kontekst, slik at den kan løse oppgaver eller komme med den beste løsningen. Denne intelligensen eller forsterkende læringen er avhengig av to deler, nemlig dynamisk programmering som vil optimalisere og kontrollere omgivelsene, og veiledet læring som vil fremstille en rekke muligheter slik at maskinen kan ta det riktige valget. Grunnen til at man tror maskiner kan få kunstig intelligens, er at de har så stor kapasitet på utregninger og minne, at de kan kartlegge mulighetene mye fortere og i større grad enn mennesker. Det kan også føre til at maskinene kan jobbe sammen. I et skrekkscenario kan man se for seg at maskinene slår av energiforsyningen eller kloakksystemer for å bevare mangfoldet. Dette vil gå ut over mennesket.
Programmerin av valg
Man kan også se for seg at maskiner kan programmeres til å ta valg som er til fare for grupper av mennesker, slik at andre igjen drar nytte av det og misbruker situasjonen. Dette ser vi i stor grad allerede, der fattige og svakere grupperinger ikke kommer seg ut av den allerede håpløse situasjonen. Dette styres uten kunstig intelligens, men av ren og skjær egoisme.
Derfor kan det hende at kunstig intelligens ikke vil bli så ille som man skal ha det til, men kan hjelpe å styre samfunnet i en riktig retning. Den kan ta vanskelige beslutninger og forutsi hva som er den beste løsningen. Kanskje den vil utligne forskjellene i verden og skape en trygg verden for alle barn. Det er for dem fremtiden er til, og tiden vil vise om den blir med eller uten kunstig intelligens.
