<font color='black' size='2' face='arial'>
<div> <font size="2"><font face="Arial, Helvetica, sans-serif">I
don't agree. In a wetware model yes benevolence does seem to correlate
with higher inteligence to a limit, but not always. Take autism,
asphergers for example. Very high or genius level inteligence goes hand
in hand with the exact oposite of your statement. In extreme cases
there is a complete lack of any benevolence.<br>

Also the interpersonal understanding and empathy needed to both
understand and apply benevolence stem from the chemical brain rather
than the physical structure or the data it contains. Removal of the
'feelings' created by these chemical interactions will leed to the word
benevolence having no meaning. To an unfeeling AI harvesting raw
materials by ripping your body apart while registering the audible
screams will be no different to digging up minerals and registering the
scraping sound of a bulldozer shovel. If you want a human comparison
you only need look at a psychopathic killer that does it for some
minimal personal gain while destroying the lives of others.<br>

For a closer to home idea you only have to look at a small children and
there lack of empathy. Burning ants with a magnifying glass or
something equally as cruel. When they are told to stop the first thing
they say is 'Why?'. Even when they do have feelings, they dont
empathise with others until taught to do so. That teaching is based
upon them actually having and understanding feelings.<br>

<br>

Then you have the issue of morality itself. Which is totally subjective
and athropomorthic. Our morality and by extension our legal system is
mainly based upon natural law. It is wrong to kill, steal etc because
in a natural human world these things are negative for society. A
different society has different and often contradictory laws. An AI
with no society membership, no chemical 'feelings' or empathy ,
probably not even a sense of self preservation will have no benevolence
and will probably be incapable of understanding the concept.<br>

</font></font></div>



<div> <font size="2"><font face="Arial, Helvetica, sans-serif">Our only
hope is that it will learn the concept from us and somehow see it
either as a positive thing or something that it will abide by.<br>

<br>

When humans have been confronted by other inteligences that do not
share our morals or have any empathy for us we can only resort to
violence. Take a big cat for example. It may have been raised with love
and affection whihc it can relate to, but once it reaches a certain age
and size, it is ultimately force and fear that stop it eating or
killing you.<br>

<br>

How can we make an AI understand or agree to be benevolent? If it doesn't how can we stop it?<br>

</font></font></div>





<div> <font size="2"><font face="Arial, Helvetica, sans-serif">Perhaps
it will get to a developmental stage where it occurs naturally, but
there is a very chance that we might be destroyed long before that.<br>

<br>

A</font></font></div>

<div> <br>
</div>

<div style="clear: both;"></div>

<div> <br>
</div>

<div> <br>
</div>

<div style="font-family: arial,helvetica; font-size: 10pt; color: black;">-----Original Message-----<br>
From: Brent Allsop <brent.allsop@canonizer.com><br>
To: ExI chat list <extropy-chat@lists.extropy.org><br>
Sent: Mon, 20 Sep 2010 18:09<br>
Subject: Re: [ExI] stealth singularity<br>
<br>






<div id="AOLMsgPart_3_6444177c-9cdb-484d-b334-08ae0384b5fb">




<div class="MsoNormal">Spike,</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">I believe that benevolence is absolutely proportional to
intelligence.</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">I believe that intelligence hiding from us is absolutely evil.</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">Therefore, you’re proposed possibility suffers from the same
problem of evil issue any other proposed possible hiding super intelligent
being / god / ET existing suffers from.</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">So, I would tend not to even entertain such an unlikely possibility,
unless there was profound evidence to support it.</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">I am an atheist, and that atheism includes not just the hope
there is not yet God, but the hope that there is not yet any intelligent beings
of any kind that is hiding from us.</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">For if there is any such being, then there is no hope, and we will be
condemned to the reality that even if we become as powerful as they are, we
will also likely not be able to overcome the evil of having to hide from others
like they allegedly are hiding from us.</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal">Brent Allsop</div>



<div class="MsoNormal"> </div>



<div class="MsoNormal"> </div>
</div>
<!-- end of AOLMsgPart_4_6444177c-9cdb-484d-b334-08ae0384b5fb -->

</div>
</font>