<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On Thu, Jan 9, 2014 at 4:44 PM, Adrian Tymes <span dir="ltr"><<a href="mailto:atymes@gmail.com" target="_blank">atymes@gmail.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="im"><p dir="ltr">On Jan 9, 2014 3:01 PM, "Anders Sandberg" <<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>> wrote:<br>

> If what you care about is the stuff coming out of the black box, then what matters is whether there are any relevant differences between the output and what it should be. But sometimes we care about how the stuff is made.</p>


</div><p dir="ltr">Consider why we care, though.  Often it signals that the stuff coming out is not in fact the same, or that there is different stuff going in.</p></blockquote><div>The physics of this universe combined with the mathematics of probability make it impossible to create a "look up table" that could even begin to pretend consciousness.<br>
</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><p dir="ltr">To take your child labor vs. microprocessors example, food and water are necessary inputs to the former - and eventually, replacement children.</p>

<p dir="ltr">We can not prove that, at some level, our brains are not "just" code. </p></blockquote><div>They are code combined with experience, and also a mechanism for learning. Surprisingly, we alone among all the species on earth have good methods for teaching new concepts. </div>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><p dir="ltr"> It is entirely possible to take typical, functioning human beings, and declare everything they do to be some preprogrammed mechanism, and no one can absolutely prove otherwise.  By the same token, any code that looks to all black box inspections to be sentient, IS sentient as far as we can prove.</p>
</blockquote><div>You can't preprogram enough to do what humans do. Consider the number of bits of information in DNA. Even if that is highly compressed, it still isn't enough (see information theory) to account for the stuff in people's heads.<br>
</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">

<p dir="ltr">(Of course, it needs to actually pass all said inspections.  No computer code yet has been able to do that.)</p></blockquote><div>Nope, but they are coming fairly close. I don't think it will be too long before the Turing Test is passed for limited time interactions.</div>
<div><br></div><div>-Kelly</div><div><br></div></div></div></div>