Begrepet kunstig intelligens inneholder to ord som krever en nærmere presisering. Med kunstig i denne sammenheng mener vi noe som ikke er resultat av en biologisk evolusjonsprosess.
Intelligens har ingen klar definisjon. Ordets egentlige betydning er ”å begripe”, men kan også bety ”å avgjøre”. Det finnes mange definisjoner på intelligens, fra «evne til abstrakt tenkning», til «utnyttelse av tidligere erfaringer i nye situasjoner». Til intelligensen regnes vanligvis evnen til å lære, å resonnere, å planlegge, å løse problemer, å tenke kritisk og abstrakt, samt til å forstå ideer, språk og kompliserte årsakssammenhenger. Vanligvis tenker vi på datamaskiner når vi snakker om kunstig intelligens. Ved å kombinere data med algoritmer som nytter data til å løse problemer og ta avgjørelser har man en enkel form for kunstig intelligens.
Det skilles mellom intelligens og bevissthet, hvor det siste omfatter følelser og opplevelse av et selv som en integrert enhet.
Rene Descartes berømte utsagn «Jeg tenker altså er jeg» (Cogito, ergo sum på latin), omhandler mer bevissthet enn intelligens. I dagens filosofi er bevissthet som regel forstått som en erfaring av hvordan det er å være i en gitt tilstand. Spørsmålet blir da om vi kan lage kunstig bevissthet, det vil si bevissthet manifestert i ikke-biologisk materiale.
Moral og etikk
Dersom en robot får kunstig bevissthet, må vi begynne å tenke over hvordan vi forholder oss til den. For med bevisstheten kommer moralen, og med moralen kommer rettigheter.
Det er trolig en sammenheng mellom intelligens og bevissthet, men sammenhengen er uklar og mer en antakelse enn noe som er vitenskapelig bevist. Problemstillingen har imidlertid blitt stadig mer aktuell ettersom datamaskiner med kunstig intelligens blir stadig mer avanserte og inngår i stadig mer komplekse nettverk. I dag finnes det menneskelignende roboter som kan se, høre, berøre, snakke og resonnere, og som hele tiden er koblet til internett, med full tilgang til all informasjonen som ligger der. Mange forskere innenfor feltet mener derfor at dette ikke lenger er spørsmål om hvis datamaskiner blir bevisste, men når det vil skje.
Filosofer skiller gjerne mellom svak og sterk kunstig intelligens. Svak kunstig intelligens er ren simulering av intelligent atferd. Sterk kunstig intelligens, på den andre siden, er genuint intelligent atferd. Mange har vært bekymret for hva som kan skje dersom overlegen kunstig intelligens skulle bli bevisst.
Spørsmål om bevisst intelligens reiser en rekke etiske problemstillinger. Yuval Noah Harari drøfter i boken «Homo Deus: A Brief History of Tomorrow» med utgangspunkt i hvordan vi har tillatt oss å behandle dyr, hvordan en bevissthet med overlegen intelligens vil kunne komme til å behandle oss. I science fiction filmen «Blade Runner» reises en rekke etiske problem knyttet til hvordan mennesker tillater seg å behandle kunstig intelligenser som begynner å bli bevisste. På hver sin måte reises spørsmål om hva et menneske egentlig er.
Ex Machina
Ex Machina, en film om kunstig intelligens fra 2015, beskriver hva som kan skje dersom kunstig intelligens blir bevisst. Filmen handler om en robot med kunstig intelligens som bruker et menneske som en ressurs for å redde seg selv. Denne roboten kunne bruke seksualitet og følelser for å oppnå målene sine, men den bryr seg ikke om konsekvensene av dette.
«Når en kunstig intelligens slippes løs, er det ingenting som kan stoppe den», skriver dataingeniøren R.L. Adams. «Ikke noe menneskelig inngripen kan stoppe et aktivert og gjennomgripende nettverk som består av millioner av datamaskiner».
Den store skrekken er at et kunstig intelligent system blir selvbevisst og vil beskytte seg selv hvis det står i fare for å bli skrudd av. I dommedagsscenarioet som Adams beskriver, vil nettverket utvikle nye våpen, gjøre seg selv smartere og infiltrere andre systemer for å forhindre at dens egen eksistens tar slutt.