Hvordan man definerer intelligens og det å tenke, er avgjørende for om en kan ta stilling til om datamaskin er intelligent eller om de kan tenke. Det er dessuten nødvendig å skille mellom intelligens og bevissthet. Et av de store spørsmålene er om intelligens og eventuelt bevissthet kan eksistere uavhengig av en biologisk organisme.
De fleste mener at en datamaskin eller et dataprogram ikke kan være bevisste, ettersom de bare følger et gitt sett med instrukser som mennesker har programmert dem til å følge. Andre mener derimot at hjernen også bare består av et sett med regler og instrukser dannet gjennom evolusjonær prøving og feiling og at bevissthet gradvis oppstår etter som intelligensen utvikler seg.
Dersom mennesker blir i stand til å skape kunstig intelligens, og denne kunstige intelligensen utvikler kunstig bevissthet, hvordan skal vi da være i stand til å avgjøre om vi har med et menneske eller en maskin å gjøre?
Bevisst, kunstig intelligens reiser en rekke vanskelige og etiske spørsmål. Hvilke rettigheter har en slik enhet og hvordan skal vi forholde oss til dem. Spørsmålet er tatt opp i en rekke science fiction filmer for eksempel i Blade Runner hvor de så kalte replikantene utvilsomt ville bestått Turing-testen. Hovedpersonene får i oppgave å identifisere og henrette dem. Den kvinnelige hovedpersonen setter fingeren på noe vesentlig når hun spør Deckard: «Have you ever retired a human by mistake?»
Alan Turing, ofte kalt datamaskinenes far, var tidlig opptatt av dette dilemma. I 1950 offentliggjorde han i tidsskriftet Mind en artikkel hvor han beskrev en test som han mente var avgjørende for å sjekke om man hadde med et menneske eller kunstig intelligens å gjøre.
I korte trekk går Turing-testen ut på at et dommerpanel skal kommuniserer med en datamaskin og et annet menneske, kun ved hjelp av tastatur og skjerm. De får heller ikke vite hvem som er hvem. Det vil si at de ikke kan se eller sanse den de kommuniserer med direkte. Kommunikasjonen kan være om hva som helst, og vare så lenge man ønsker. Hensikten med Turing-testen er å identifisere egenskapen bevissthet. Den skal kunne skille mellom ekte bevisstheter og ting som ved første øyekast kan virke bevisst. Hvis panelet ikke kan avgjøre om den eller det vedkommende kommuniserer med er en maskin eller et menneske, sier Turing at maskinen har bestått testen og må regnes som intelligent og bevisst.
I Blade runner utvides Turing-testen til å omfatte reaksjoner på følelsesmessige stimuli da en forutsetter at replikantene ikke har følelser. Det er imidlertid fortsatt et spørsmål om det er etisk forsvarlig å utrydde bevisst intelligens fordi den mangler følelser.
Innvendinger
Det er reist en rekke innvendinger mot Turing-testen. Filosofen John Searle prøvde å tilbakevise den med et eksempel kjent som Det kinesiske rommet. Eksemplet går ut på at det sitter en person i et rom med en instruksjonsbok. Hver gang det kommer et skriftlig spørsmål på kinesisk, så forteller instruksjonsboken hva personen i rommet skal svare – på kinesisk. Personen selv kan ikke kinesisk, men svaret instruksjonsboken gir er alltid riktig. Det virker da som den som er inne i rommet behersker det kinesiske språket. Men det er åpenbart, sier Searle, at ingen i rommet kan kinesisk i den vanlige betydningen av ordet kan..
Det er med andre ord ingen bevisst intelligens bak den kinesiske samtalen som foregår; alt er maskinelt, og helt uten forståelse. Vi har dermed et eksempel på noe som består Turing-testen, men som ikke er intelligent, i følge Searle. Han er for øvrig overbevist om at det ikke kan eksistere bevisst kunstig intelligens.
