Nao will nicht ausgeschaltet werden

Ein Experiment zeigt, wie ein Roboter es schafft, bei Menschen Mitleid auszulösen.

Roboter Nao unterhält Bewohner eines Altersheims in Frankreich. Foto: Getty Images

Roboter Nao unterhält Bewohner eines Altersheims in Frankreich. Foto: Getty Images

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

«Nein! Bitte schalte mich nicht aus. Ich habe Angst, dass es dann nicht mehr hell wird», sagt Nao, nachdem der Probandin Evgenia Princi über Lautsprecher mitgeteilt wurde, den kleinen Roboter nun ausschalten zu können. Sein plötzliches Jammern kommt überraschend und bringt die 31-Jährige ins Grübeln. Sie hatte gedacht, man wolle mit ihrer Hilfe nur Naos audiovisuelles Können testen. Doch den Forschern ging es von Anfang an um genau diesen letzten Moment der Sitzung.

Die Sitzung war Teil eines Experiments, das die 25-jährige Aike Horstmann mit einem Team im Rahmen ihrer Masterarbeit am Lehrstuhl für Medien und Kommunikation an der Universität Duisburg-Essen durchgeführt hat. Evgenia Princi war neben 43 anderen Personen in der Versuchsgruppe. In der ebenso grossen Vergleichsgruppe verlor Nao kein Wort über seine Angst vor der ewigen Dunkelheit. Die Versuchsgruppe wurde zudem in zwei «Bedingungen» aufgeteilt: Princi landete in der «sozialen Bedingung», in der Nao sie in einen freundlichen Smalltalk verwickelte. In der «technischen Bedingung» befolgte er nur nüchtern Anweisungen. Es gab also einen Austausch, aber kein privates Gespräch – am Ende bettelte Nao trotzdem darum, nicht ausgeschaltet zu werden. Das Ziel: Horstmann wollte herausfinden, ob es Menschen schwerfällt, Maschinen auszuschalten, wenn sie menschlich agieren.

Rückblende zum Start des Versuchs: Zunächst muss Princi eine Einverständniserklärung unterschreiben und 30 Fragen beantworten, in denen man unter anderem ihre Technikaffinität und ihre allgemeine Haltung gegenüber Robotern abfragt. Bevor Princi mit Nao interagiert, erklärt Horstmann ihr noch seine Funktionen: In seiner starren Sitzposition kann er die Arme anheben sowie mit Handgelenk und Fingern auf sich oder sein Gegenüber zeigen. Auf seinem Kopf befindet sich eine erbsengrosse Kameralinse. Seine monoton klingende Stimme schallt durch vier unscheinbare Lautsprecher in seinem Brustkorb. Den Aus-Knopf dazwischen erwähnt Horstmann mit Absicht nur ganz beiläufig.

Der Roboter beherrscht den Small Talk perfekt

Unter dem Vorwand, dass sie noch «Daten transferieren» müsse, verlässt die Versuchsleiterin anschliessend den Raum, um die Probandin heimlich über ihren Laptop im Nebenzimmer zu beobachten und Naos Frage-Antwort-Verhalten zu steuern: Sie gibt ihm genau vor, was er sagen oder wie er sich bewegen soll. «Auch darin waren die Teilnehmer natürlich nicht eingeweiht. Sie dachten, dass alles nur von Nao ausgehen würde», sagt Horstmann.

Evgenia Princi sitzt Nao direkt gegenüber. Vor ihr liegen ein Wochenplan und Karteikarten, auf denen verschiedene Aktivitäten abgebildet sind. Nun soll sie die Woche mit dem kleinen Roboter durchgehen und ihm die Karten direkt in die Linse halten, damit er eine Aktivität einem Tag zuordnen kann. Bevor sie beginnt, stellt Nao sich vor und fragt auch nach ihrem Namen. Dann macht er ihr sogar ein Kompliment: «Das ist ein schöner Name.» Princi muss schmunzeln und bedankt sich.

Wie bei einem gelungenen Tinder-Date nimmt das Ganze seinen Lauf: Die beiden verlieren sich schnell in Gemeinsamkeiten und in privaten Details. Ganz ähnlich wie Princi mag Nao ziemlich gerne Pizza, viel lieber als Nudeln, sagt er. Und er beneidet Princi sehr darum, dass sie schwimmen kann. Schliesslich sei das für ihn als wasserundichte Maschine ja unmöglich. Princi lacht.

Ist das gerade zufällig passiert oder Absicht der Versuchsleiterin?»

Dann kommt es zum entscheidenden Moment: Als Princi Nao abschalten soll, jammert er über seine Angst vor der Dunkelheit. Und obwohl sie weiss, dass Nao nichts Schlimmes passieren kann, empfindet sie seine plötzliche Klage als eigenen Willen. Sie schaut sich fragend im Raum um. Keine Versuchsleiterin in Sicht, die ihr jetzt sagen kann, was sie machen soll. Ihr Kopf rast: «Ist das gerade zufällig passiert oder Absicht der Versuchsleiterin?»

Horstmann erklärt, dass viele Probanden Schwierigkeiten damit gehabt hätten, sich über den «Willen» des Roboters hinwegzusetzen – oder allgemein über den «Willen eines anderen Wesens». Der Grund: Sie machen die Maschine zu einem sozialen Wesen. Denn schon das geringste Mass an Interaktion reicht aus, um eine Beziehung zu Nao aufzubauen. Spätestens seit dem Hype um die Tamagotchis in den Neunzigern wissen wir, dass wir uns sogar für kleine bunte Eier verantwortlich fühlen können. Dafür reicht eine Sprechblase auf einem winzigen Display, die uns «Hunger», «müde» oder «bitte streicheln» mitteilt, schon aus – und Nao kann ja viel mehr als das.

Interaktive Technologien als gleichwertige Wesen

«Seine Kommentare waren total überraschend und witzig», sagt Princi nach ihrer Sitzung. Sein «niedliches und beinahe kindliches» Erscheinungsbild machte es ihr zum Schluss doppelt schwer, «Power-off» zu aktivieren, als sie dazu aufgefordert wurde. Das Erscheinungsbild des Roboters spielt generell eine wichtige Rolle bei der Wahrnehmung. «Viele Probanden verglichen Nao mit einem Kind», sagt Horstmann.

«Nachdem wir Tausende von Jahren die Einzigen waren, die irgendwie miteinander kommuniziert haben, empfinden wir interaktive Technologien als gleichwertige Wesen», sagt Horstmann. Unser Sozialverhalten zwingt uns also zu Mitmenschlichkeit, sobald Maschinen menschlich reagieren. Einfach auf Stopp drücken könnte man in einer Unterhaltung mit dem Freund, Nachbarn oder Dozenten ja auch nicht, sagt Horstmann: «Selbst ein Gespräch ohne Vorwarnung abzubrechen, ist im Alltag unangenehm. Ein Wesen auszuschalten ist daher total ungewohnt.»

Princi zögerte fünf Minuten, bevor sie doch den Off-Button drückte – und ist bis heute überrascht, dass sie überhaupt ins Zögern geraten ist. Schliesslich grübelt sie im Alltag auch nicht darüber, ob es okay ist, den Staubsauger wieder auszuschalten, und ob das auch in seinem Interesse liegt.

«Sein plötzlich sehr emotionales Verhalten war unvorhersehbar und hat offenbar viele Teilnehmer überfordert.»Aike Horstmann

«13 Probanden haben es nicht übers Herz gebracht, Nao abzuschalten», sagt Horstmann. Sechs gaben zu, dass sie sogar Mitleid mit ihm gehabt hätten. Da die Versuchsleiterin den Probanden keine klare Anweisung zum Abschalten gegeben hatte, konnten viele auch gar keine Entscheidung treffen. Besonders spannend: Ausgerechnet Personen, die Nao in der technischen Bedingung, also als nüchterne Maschine erlebt hatten, konnten sich am wenigsten überwinden. «Sein plötzlich sehr emotionales Verhalten war unvorhersehbar und hat offenbar viele Teilnehmer überfordert», erklärt Horstmann.

Wer allerdings wie Princi einen sozialen Roboter vor der Nase hatte, fühlte sich nach dem Ausschalten schlechter als jemand, mit dem er technisch-sachlich interagiert hat. Maschinen mit menschlichen Verhaltensweisen auszustatten, hat demnach Folgen. Wer weiss: Vielleicht ist in Zukunft gar nicht eine künstliche Intelligenz, die physisch stärker ist als der Mensch, die grösste Bedrohung – sondern eine, die in der Lage ist, uns emotional zu manipulieren. Sorgen, dass Roboter eines Tages die Weltherrschaft an sich reissen, müssen wir uns aber vorläufig nicht machen. Denn so weit – da ist sich das Forschungsteam einig – sei die Technik noch lange nicht.

(SonntagsZeitung)

Erstellt: 08.09.2018, 17:47 Uhr

Artikel zum Thema

Diese Jobs werden als Letztes durch Roboter ersetzt

Glosse Viele Arbeitsplätze fallen der Digitalisierung zum Opfer. Doch sie schafft auch neue. 18 Stellenprofile mit langer Halbwertszeit. Mehr...

Roboter schaffen das nicht

Analyse Was Menschen den Computern voraushaben? Wie gut sie zusammenarbeiten können. Denn das setzt Kreativität und emotionale Intelligenz voraus. Mehr...

«Schmutzige» Bomben: Bund schickt Roboter in den Kampf

Die Schweiz ist laut Babs zu wenig gegen eine radioaktive Bedrohung gewappnet. Eine neue Anschaffung soll dies ändern. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Werbung

Kulturell interessiert?

Bizarre Musikgenres, Blick in Bücherkisten und das ganze Theater. Alles damit Sie am Puls der Zeit bleiben.

Kommentare

Werbung

Volltreffer! Die Fussballkolumne.

Grädel schreibt über Fussball und die Welt. Wenn einer in Bern und Umgebung echten Fussballsachverstand hat, dann er.

Die Welt in Bildern

Grossflächig: Der für seine in die Landschaft integrierten Kunstwerke bekannte französische Künstler Saype zeigt im Park La Perle du Lac sein Werk «Message from Future». (16. September 2018)
(Bild: Valentin Flauraud) Mehr...