<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0 Transitional//EN">
<HTML xmlns:o = "urn:schemas-microsoft-com:office:office" xmlns:st1 = 
"urn:schemas-microsoft-com:office:smarttags"><HEAD>
<META http-equiv=Content-Type content="text/html; charset=iso-8859-1">
<META content="MSHTML 6.00.6000.16481" name=GENERATOR>
<STYLE></STYLE>
</HEAD>
<BODY bgColor=#ffffff>
<DIV><STRONG><FONT face=Verdana size=2> "Eliezer S. Yudkowsky" 
<</FONT></STRONG><A href="mailto:sentience@pobox.com"><STRONG><FONT 
face=Verdana size=2>sentience@pobox.com</FONT></STRONG></A><STRONG><FONT 
face=Verdana size=2>></FONT></STRONG></DIV>
<DIV>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"><o:p> </o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana">> This, to me, suggests that I 
am confused, not that</SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana">> I have successfully 
described the way things are; <o:p></o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"><o:p> </o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana">I think your confusion comes from 
2 areas:<o:p></o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"><o:p> </o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana">1) The ambiguous nature of 
probability. Is it an intrinsic part of something or just a measure of our 
ignorance? If </SPAN></B><st1:City><st1:place><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana">Copenhagen</SPAN></B></st1:place></st1:City><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"> is right then something is 
frequent because it is probable and probability is a fundamental aspect of the 
universe. If Many Worlds is right then something is probable because it is 
frequent and probability is not unique but depends on the amount of ignorance of 
the observer. If you discount Many Worlds then there is only one chance in 10 
million of ever making those trillion copies of you so you should expect not to 
win the lottery.<o:p></o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"><o:p> </o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana">2) If I make an exact copy of you 
and run Eliezer 2 in parallel and in complete synchronization with Eliezer 
1<SPAN style="mso-spacerun: yes">  </SPAN>for an hour and then merge them 
back together again your subjective experience has not doubled, it has not 
changed a bit. If Eliezer 2 is ALMOST the same as Eliezer 1 then when I merge 
the two of you your subjective experience will have almost not changed. 
<o:p></o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"><o:p> </o:p></SPAN></B></P>
<P class=MsoNormal style="MARGIN: 0in 0in 0pt"><B><SPAN 
style="FONT-SIZE: 14pt; FONT-FAMILY: Verdana"> John K Clark 
<o:p></o:p></SPAN></B></P></DIV></BODY></HTML>