<br><div><span class="gmail_quote">On 3/4/06, <b class="gmail_sendername">Eliezer S. Yudkowsky</b> <<a href="mailto:sentience@pobox.com">sentience@pobox.com</a>> wrote:</span><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
... It is theoretically possible that, as they will helpfully tell you, you've<br>just been doing it wrong.  But in all probability, you're right about<br>the brain rewiring.  A fast, powerful nonhuman intelligence is going to
<br>have to do some gradual, subtle neural tinkering before your mind wakes<br>up to complex numbers.  (I would not advise that you try doing it to<br>yourself.)</blockquote><div><br>Of course, there are some, maybe including Ben, but almost certainly including myself, who would find it relatively worthless, if not completely repulsive, for a nonhuman "intelligence" to do such tinkering.
<br><br>Although you and others may find it unimaginable, having "the world, the universe and everything" handed to me on a "silver platter" is relatively worthless.  I have personally experienced the middle road of the silver platter.  I have a more than the average person's awareness of the benefits and costs involved in the gold ones.  Having worked fairly hard to get my hands on a silver one for a while was immensely more satisfying than having a dozen, or even a million of them handed to me.  Nor will it be of much interest if we reach the point in the development of humanity when silver platters will be available for one and all for "free" but getting them is made artificially hard in an attempt to fool people into believing that they actually accomplished something in getting their hands on one.
<br><br>The beauty of chopping wood is that I can look at the pile when I am done and say "I did that".  The beauty of watching someone chop wood better than I is in admiring the skill that they demonstrate in doing so.  There is little satisfaction involved in picking up the phone and requesting that a cord of finely chopped wood  be dropped off in the driveway in the morning.  Presumably in a world where intelligence can be engineered into matter by the F(?)AI the wood would have known enough to assemble itself as a finely chopped cord in the driveway before I even picked up the phone.
<br><br>Robert<br><br></div></div><br>