<br><br><div><span class="gmail_quote">On 24/05/07, <b class="gmail_sendername">John K Clark</b> <<a href="mailto:jonkc@att.net">jonkc@att.net</a>> wrote:<br><br></span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
The friendly AI people have the additional<br>problem of explaining away the fact that the slave in question is without a<br>doubt vastly more intelligent than they are; I imagine they rationalize this<br>by saying, against all the evidence, that emotion is harder to achieve than
<br>intelligence, that emotion is the secret sauce that only a meat brain can<br>produce never a silicon brain; so they delude themselves that the super<br>intelligent AI is just a souped up adding machine. Or perhaps they think
<br>emotion is  something tacked on and they just won't tack it onto their AI,<br>as if one also needed to tack on a Beethoven circuit on a radio if you<br>wished it to play Beethoven. And then I imagine they just refuse to think
<br>how evolution could ever have produced emotion if it weren't intimately<br>linked to intelligence.<br></blockquote></div><br>Emotion is linked to motivation, not intelligence per se. Intelligence is an ability, like being able to lift heavy things. The ability to lift heavy things would never have evolved naturally without an associated motivation to do so, but we build powerful lifting machines that would sit there rusting if we didn't provide motivation for them to do their thing. Similarly, there is nothing contradictory in a machine capable of fantastically complex cognitive feats that would just sit there inertly unless specifically offered a problem, and then solve the problem as an intellectual exercise, completely disinterested in any practical applications. There is even a model for this in human mental illness: patients with so-called negative symptoms of schizophrenia can be cognitively and physically intact, but lack motivation and the ability to experience emotion.
<br clear="all"><br>-- <br>Stathis Papaioannou