<DIV>>I'm sorry to be blunt about this, but there comes a time when you have <BR>>to put up a sign, and people who aren't taller than the sign shouldn't <BR>>be riding the roller coaster.<BR>><BR>>-- <BR>>Eliezer S. Yudkowsky                          <A href="http://singinst.org/">http://singinst.org/</A><BR>>Research Fellow, Singularity Institute for Artificial Intelligence<BR><!--endarticle--></DIV>
<DIV>Heh.  Well, below I've repeated an assertion I often made on SL4.  Let's see if you're brave enough to dispute this assertion, right here in the eyes of all future historians ;)</DIV>
<DIV> </DIV>
<DIV>Assertion:</DIV>
<DIV> </DIV>
<DIV>The problem of ensuring Friendliness is entirely equivalent to the problem of enabling recursive self-improvement.  There is a Universal Morality, such that all AGI's will become friendly with high statistical probability once they clear a certain smartness threshold.</DIV><BR><BR>---<br><br>Please vist my website:<br>http://www.riemannai.org<br><br>Science, Sci-Fi and Philosophy<br><br>---<br><br>THE BRAIN is wider than the sky,  <br>  For, put them side by side,  <br>The one the other will include  <br>  With ease, and you beside. <br><br>-Emily Dickinson<br><br>'The brain is wider than the sky'<br>http://www.bartleby.com/113/1126.html<p>
                <hr size=1>Do you Yahoo!?<br> 
<a 
href="http://us.rd.yahoo.com/mail/au/tag/newmovies/**http%3A%2F%2Fau.movies.yahoo.com%2F"> 
The New Yahoo! Movies: Check out the Latest Trailers, Premiere Photos and full Actor Database.</a>