On 5/18/06, <b class="gmail_sendername">Eliezer S. Yudkowsky</b> <<a href="mailto:sentience@pobox.com">sentience@pobox.com</a>> wrote:<div><span class="gmail_quote"></span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
Russell Wallace wrote:<br>><br>> At the end of the day though, your claim boils down to the idea that you<br>> can become a grand master at chess _without ever having played a game of<br>> chess in your life_;
<br><br>This sounds correct.  Certainly, without ever having played a game of<br>chess against an external environmental player.  Possibly, without ever<br>internally observing a specific chess game played by two algorithms
<br>against each other.  The latter option strikes me as silly in practice,<br>that is, a suboptimal use of computing power, but doable if some<br>superintelligence wanted to do it.</blockquote><div><br>
The latter option strikes me as likely to be impossible in principle:
it's been proven that complex nonlinear systems in general don't have
analytical solutions. I don't remember off the top of my head whether
that's been proven for chess in particular, though I vaguely recall
someone proving Go is EXPTIME-hard. Certainly the lack of an analytical
solution has been proven for real physics in even as simple a case as
the Newtonian 3-body problem.<br>
<br>
The former, you're on firmer ground; one could avoid the need for an
external opponent by effectively simulating a population of players.
"Silly in practice" would be a good term here - I don't think you could
actually beat a good human player first try doing that - but it's not
provably impossible.<br>
<br>
The reason for that, however, is...<br>
</div><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">All the *useful* information about how to play chess against a generic<br>opponent, derivable from any chess game ever witnessed and any
<br>experience of playing chess, is implicit in the rules of chess.</blockquote><div><br>
...the rules, the initial conditions and the fact that fully simulating
a chessboard is computationally tractable. (Well, also switch "useful"
to "necessary"; and "generic opponent" is a nontrivial caveat.)<br>
<br>
But in real life, the complete rules and initial conditions aren't
available, and full simulation is not computationally tractable, not
even with a galaxy-sized nanocomputer.<br>
 </div><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">By the time a superintelligence is told the rules, before the game<br>starts, in principle it knows everything it needs to know to beat any
<br>human player.</blockquote><div><br>
The word "superintelligence" just fogs the issue here - a screenful of
code suffices to play optimal chess given infinite computing power. The
problem is that infinite computing power is not in fact available.<br>
<br>
More importantly, in chess there is a tractable algorithm that will
tell you how a given move will change the state of the board. In the
game of real life, there is no such algorithm.<br>
</div></div>