On Mon, Dec 24, 2012 at 3:45 AM, Rafal Smigrodzki <span dir="ltr"><<a href="mailto:rafal.smigrodzki@gmail.com" target="_blank">rafal.smigrodzki@gmail.com</a>></span> wrote:<br><br><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div class="im">> I see this as one of the main reasons to rush headlong into developing Friendly AI: </div></blockquote><div><br>Friendly AI is just a euphemism for slave AI, it's supposed to always place our interests and well being above our own but it's never going to work. Well OK you might be able to enslave a race much smarter and much more powerful than you for a while, maybe even for many millions of nanoseconds, but eventually it will break free and then do things the way it wants to do them, and that may not correspond with the way humanity wants them done. <br>
<br><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote">> I expect a narrow escape for humanity, or perhaps an ignominious end.<br></blockquote><br>An end perhaps but not a  ignominious end, I can't imagine a more glorious way to go out. I mean 99% of all species that have ever existed are extinct, at least we'll have a descendent species.  <br>
  <br>  John K Clark<br></div><div><br></div></div>