Maschinen mit Bewusstsein – Sollten Roboter Rechte haben? Machines with Consciousness - Should Robots Have Rights? Máquinas con conciencia: ¿deben tener derechos los robots? Machines conscientes - Les robots devraient-ils avoir des droits ? 意識を持つ機械 - ロボットは権利を持つべきか？ Maszyny ze świadomością - czy roboty powinny mieć prawa? Máquinas com consciência - Devem os robôs ter direitos? Машины с сознанием - должны ли роботы иметь права? Bilinçli Makineler - Robotların Hakları Olmalı mı? 有意识的机器——机器人应该有权利吗？

Stell dir vor, dein Toaster weiß genau, Imagine your toaster knows exactly

wie du deinen Toast haben willst.

Er durchforstet das Internet nach neuen, tollen Toastsorten. He scours the Internet for new, great toast varieties.

Fragt dich auch mal, wie's dir geht. Ask yourself how you're doing sometime, too.

Und will mit dir über die neueste Toast-Technologie plaudern. And wants to chat with you about the latest toast technology. E deseja conversar com você sobre a mais recente tecnologia de torradas.

Ab wann zählt dein Toaster als Lebewesen? When does your toaster start counting as a living being? Quando sua torradeira começa a contar como um ser vivo?

Ab wann wirst du dich fragen, ob er Gefühle hat? When will you start wondering if he has feelings? Quando você começará a se perguntar se ele tem sentimentos?

Und wenn er welche hat, wäre es Mord, ihm den Stecker zu ziehen? And if he has any, would it be murder to unplug him? E se ele tiver algum, seria um assassinato puxá-lo da tomada?

Könntest du ihn immer noch besitzen? could you still own it Você ainda pode possuí-lo?

Werden wir unseren Maschinen irgendwann Rechte zugestehen müssen? Will we ever have to grant rights to our machines? Algum dia teremos que conceder direitos às nossas máquinas?

(Lebendige Musik) (living music)

Künstliche Intelligenz ist bereits jetzt weit verbreitet. Artificial intelligence is already widespread. La inteligencia artificial ya está muy extendida.

Sie zieht zu, dass die Ladenregale gefüllt sind. She draws that the store shelves are full.

Zeigt dir genau die richtige Internet-Werbung. Shows you exactly the right Internet advertising. Mostra exatamente a publicidade certa na Internet.

Und vielleicht hast du schon mal Nachrichten gelesen, And maybe you've read the news before,

die komplett von einer KI geschrieben waren. written entirely by an AI.

Heute lachen wir noch We're still laughing today

über die primitive Simulation von Menschlichkeit bei Chat-Bots about the primitive simulation of humanity in chat bots

in unseren Handys. in our phones.

Aber irgendwann werden sie sich wohl nicht mehr so einfach But at some point they will probably not be so easy anymore Pero en algún momento probablemente no serán tan fáciles de

in "echt" oder "simuliert" einteilen lassen. divided into "real" or "simulated". pueden clasificarse como "reales" o "simuladas". pode ser dividido em "real" ou "simulado".

Gibt es jetzt schon Maschinen, die Rechte haben sollten? Are there already machines that should have rights? ¿Existen ya máquinas que deban tener derechos?

Eher nicht. Rather not.

Aber sollte es erst mal so weit sein, But should it ever come to that,

sind wir überhaupt nicht darauf vorbereitet. we are not at all prepared for it.

Ein Großteil der Rechtsphilosophie ist nicht wirklich dafür gemacht, Much of the philosophy of law is not really designed to

sich mit künstlicher Intelligenz zu befassen. deal with artificial intelligence.

Der Anspruch auf Recht, egal ob für Mensch oder Tier, The right to rights, whether human or animal, O direito aos direitos, seja para humanos ou animais,

setzt ein Bewusstsein voraus. requires awareness. pressupõe consciência.

Leider weiß aber niemand so genau, was Bewusstsein eigentlich ist. Unfortunately, nobody knows exactly what consciousness actually is.

Manche glauben, dass es immateriell ist. Some believe it is immaterial.

Andere sagen, es sei eine Art Zustand wie "gasförmig" oder "flüssig". Others say it is some kind of state like "gas" or "liquid".

Wir verstehen auch ohne Definition intuitiv, was Bewusstsein ist, Even without definition, we intuitively understand what consciousness is,

weil wir eins haben. because we have one.

Wir nehmen uns selbst und unsere Umgebung wahr, We perceive ourselves and our surroundings,

und wissen auch, wie es sich anfühlt, das Bewusstsein zu verlieren. and also know what it feels like to lose consciousness.

Einige Neurowissenschaftler glauben, Some neuroscientists believe

dass jedes weit genug fortgeschrittene System that any far enough advanced system

ein Bewusstsein entwickeln kann. can develop awareness.

Mit der entsprechenden Rechenleistung With the appropriate computing power

könnte sich dein Toaster also seiner selbst bewusst werden. so your toaster could become self-aware.

Und dann? Hätte er dann Rechte verdient? And then? Would he have earned rights then?

Nicht so schnell.

Würden unsere "Rechte" für ihn überhaupt einen Sinn ergeben? Would our "rights" even make any sense to him? Nossos "direitos" fariam sentido para ele?

Ein Bewusstsein gibt uns den Anspruch auf Rechte, A consciousness gives us the right to rights,

weil ein Lebewesen mit einem Bewusstsein Leid verspüren kann. because a living being with a consciousness can feel suffering.

Wir spüren Schmerzen nicht nur, wir sind uns dessen auch bewusst. We not only feel pain, we are also aware of it. Não apenas sentimos dor, também estamos cientes dela.

Roboter leiden aber nicht. But robots don't suffer.

Und werden das vermutlich auch nie tun, And probably never will E provavelmente nunca vai

außer wir programmieren sie dazu. unless we program them to do so. a menos que os programemos para isso.

Aber für jemanden, der nicht zwischen Freud und Leid unterscheidet, But for someone who doesn't distinguish between joy and sorrow,

sind Rechte unbedeutend. rights are irrelevant.

Menschenrechte sind eng an unsere eigene Programmierung geknüpft. Human rights are closely linked to our own programming.

Unsere Gehirne meiden Schmerz, weil uns das am Leben erhält. Our brains avoid pain because it keeps us alive. Nosso cérebro evita a dor porque nos mantém vivos.

Feuer nicht berühren, vor Raubtieren davonlaufen und so. Don't touch fire, run away from predators and all. Não toque no fogo, fuja de predadores e tudo.

Also haben wir uns Rechte ausgedacht, So we made up rights

um uns selbst vor Schmerz zu schützen. to protect ourselves from pain.

Auch abstrakte Rechte, zum Beispiel das auf Freiheit, Even abstract rights, for example that of freedom,

lassen sich auf ein Gefühl für "fair" und "unfair" zurückführen. can be traced back to a feeling for "fair" and "unfair".

Aber würde einen bewegungslosen Toaster ein Käfig stören? But would a motionless toaster interfere with a cage?

Würde es ihn kümmern, verschrottet zu werden, Would he care about being scrapped Ele gostaria de ser descartado

wenn er keine Angst vor dem Tod hat? if he is not afraid of death?

Verletzen ihn Beschimpfungen, wenn er ja kein Selbstwertgefühl hat? Does verbal abuse hurt him when he has no self-esteem? O abuso verbal o machuca quando ele não tem auto-estima?

Und wenn wir einen Roboter nun so programmieren, And if we program a robot now like this,

dass er Schmerzen und Gefühle empfindet? that he feels pain and emotions?

Dass ihm Gerechtigkeit lieber ist als Ungerechtigkeit? That he prefers justice to injustice?

Er sich Freude wünscht, statt Leid, und sich dessen auch bewusst ist? He wishes for joy instead of suffering and is also aware of it? Ele deseja alegria em vez de sofrimento e também tem consciência disso?

Wäre er dann menschlich genug? Would he then be human enough?

Viele Forscher glauben, dass es einen explosionsartigen Many researchers believe that there is an explosive

technologischen Fortschritt geben wird, technological progress will be

wenn künstliche Intelligenzen erst selbstständig lernen when artificial intelligence learns independently

und KIs bauen, die noch intelligenter sind als sie selbst. and build AIs even smarter than themselves.

Dann werden wir kaum mehr kontrollieren können, Then we will hardly be able to control

wie Roboter programmiert sind. how robots are programmed.

Was, wenn eine KI es notwendig findet, What if an AI finds it necessary

Roboter mit Schmerzempfinden zu programmieren, programming robots with pain perception,

wie es die Evolutionsbiologie für die meisten Lebewesen notwendig fand? as evolutionary biology found necessary for most living beings? como a biologia evolutiva achou necessário para a maioria dos seres vivos?

Sollten Roboter dann auch Rechte haben? Should robots then also have rights?

Aber vielleicht sollten wir uns auch weniger sorgen, But maybe we should worry less

welche Gefahr solche superintelligenten Roboter what danger such super intelligent robots

für uns bedeuten, und mehr, welche Gefahr wir für sie wären. mean to us, and more what danger we would be to them.

Die ganze menschliche Identität All human identity

stützt sich auf die Idee unserer Außerordentlichkeit. is based on the idea of our excellence. é baseado na ideia de nossa extraordinária.

Auf den Gedanken, dass wir einzigartige Schneeflöckchen sind, On the thought that we are unique snowflakes,

die das Recht haben, die Welt zu beherrschen. who have the right to rule the world.

Im Lauf der Geschichte haben Menschen schon oft Throughout history, people have often

anderen Lebewesen die Leidensfähigkeit abgesprochen. denied other living beings the ability to suffer. negou a capacidade de sofrer de outros seres vivos.

Noch im Zeitalter der Aufklärung hat René Descartes etwa behauptet, Even in the Age of Enlightenment, René Descartes claimed that

dass Tiere nur Automaten seien, quasi Roboter. that animals are just automata, robots, so to speak.

Einem Hasen wehzutun wäre dann moralisch etwa so verwerflich, Hurting a rabbit would then be about as morally reprehensible as Machucar um coelho seria moralmente repreensível

wie einen Teddy zu schlagen. like hitting a teddy.

Und die größten Verbrechen an der Menschheit And the greatest crimes against humanity

wurden oft genau damit gerechtfertigt, were often justified precisely by eram frequentemente justificados precisamente por

dass die Opfer eher Tiere seien, als zivilisierte Menschen. that the victims are animals rather than civilized people. que as vítimas são mais animais do que pessoas civilizadas.

Problematischerweise haben wir auch ein wirtschaftliches Interesse daran, The problem is that we also have an economic interest in

Robotern keine Rechte zuzusprechen. not grant rights to robots.

Es liegt grenzenloses wirtschaftliches Potenzial darin, There is limitless economic potential in

empfindungsfähigen KIs unseren Willen aufzuzwingen. imposing our will on sentient AIs. impondo nossa vontade sobre IAs sencientes.

Vielleicht sogar durch einprogrammierte Folter. Maybe even through programmed torture. Talvez até tortura programada.

Es wäre schließlich auch nicht das erste Mal. After all, it wouldn't be the first time either.

Auch andere Menschen haben wir schon mittels Gewalt We also have other people through violence Já temos outras pessoas através da violência

zum Arbeiten gezwungen. forced to work.

An ideologischen Rechtfertigungen dafür hat es noch nie gemangelt. There has never been a lack of ideological justifications for this. Nunca faltaram justificativas ideológicas para isso.

Sklavenbesitzer behaupteten, dass die Sklaverei den Sklaven diene, Slave owners claimed that slavery served the slaves, Proprietários de escravos afirmavam que a escravidão servia aos escravos,

weil sie dadurch ein Dach über dem Kopf hätten because it would give them a roof over their heads porque isso lhes daria um teto sobre suas cabeças

und zum Christentum bekehrt würden. and converted to Christianity.

Männer, die das Frauenwahlrecht verhindern wollten, behaupteten, Men who wanted to block women's suffrage claimed Homens que queriam impedir o sufrágio feminino reivindicaram

Frauen würden schwierige Entscheidungen Women would make difficult decisions Mulheres fariam escolhas difíceis

gerne den Männern überlassen. gladly left to the men. alegremente deixado para os homens.

Landwirte rechtfertigen das Schlachten für unsere Ernährung Farmers justify slaughtering for our food Agricultores justificam o abate para nossa dieta

damit, dass sie die Tiere vorher füttern und pflegen. by feeding and caring for the animals beforehand. para que eles alimentem e cuidem dos animais de antemão.

Sollten Roboter empfindungsfähig werden, Should robots become sentient,

werden alle, die ihnen Rechte vorenthalten wollen, will all those who want to deny them rights todos os que desejam reter seus direitos

genug Argumente finden. find enough arguments.

Vor allem jene, die daraus einen Profit schlagen können. Especially those who can make a profit from it.

Künstliche Intelligenz konfrontiert uns mit schwierigen Fragen Artificial intelligence confronts us with difficult questions

philosophischer Grenzen. philosophical boundaries.

Fragen wir, ob Roboter ein Bewusstsein haben Let's ask if robots are conscious

oder einen Anspruch auf eigene Rechte, or a claim to own rights,

stellen wir damit auch ganz grundlegende Fragen, wie: we also ask very basic questions, such as: também fazemos perguntas básicas como:

Was macht uns menschlich? what makes us human

Wieso haben wir Rechte verdient? Why do we deserve rights?

Ganz unabhängig von unserer Meinung werden diese Fragen These questions will be completely independent of our opinion Essas questões se tornam completamente independentes de nossa opinião

in der nahen Zukunft wohl nach einer Antwort verlangen. may require an answer in the near future.

Was sollen wir tun, What should we do,

wenn Roboter anfangen, Rechte einzufordern? when robots start demanding rights? quando os robôs começam a reivindicar direitos?

(Vogelgezwitscher)