<div dir="ltr"><div class="gmail_quote"><div dir="ltr">On Tue, Oct 16, 2018 at 12:08 PM <<a href="mailto:spike@rainier66.com">spike@rainier66.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple"><div class="m_-3472513157879929436WordSection1"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">The problem with a perfect intelligence in a box is that it always does have the power to get out, in a sense.  It can convince those who are already outside the box to do things in accordance with its desires.  It spews memes.  It finds out it is in a box, then controls the world using its carbon-based appendages.</p></div></div></blockquote><div><br></div><div>That's more than perfect intelligence; it's intelligence combined with knowledge, the ability to communicate directly with people, and the desire to be outside the box. Given all that, maybe a PI could talk its way out of the box. We have no way of knowing what a PI would want, but being a human creation, we could hardcode a desire to remain in the box. PIs don't have to be given the ability to self modify.</div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple"><div class="m_-3472513157879929436WordSection1"><p class="MsoNormal">  If I had a perfect intelligence in a box, I too would be tempted to do as it suggested, even if it doesn’t make much sense.  Humans already do this.  We whack off part of the penis because a long time ago a supernatural intelligence told people to do it, then it just kinda spread.<br></p></div></div></blockquote><div><br></div><div>No supernatural intelligence told people to do that. </div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple"><div class="m_-3472513157879929436WordSection1"><div><div><div><p class="MsoNormal">So he went up to them with his new word and said “Hey you collection of [worthless bastards] what is the word for peace and love?  They replied in unison Kumbaya, which means [go fuck yourself asshole.] </p></div></div></div></div></div></blockquote><div><br></div><div>:-)</div><div><br></div><div>-Dave</div></div></div>