On 10/10/06, <b class="gmail_sendername">Jef Allbright</b> <<a href="mailto:jef@jefallbright.net">jef@jefallbright.net</a>> wrote:<div><span class="gmail_quote"></span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
Self-preservation, while naturally a strong attractor in the goal<br>systems of evolved agents, does not necessarily override all other<br>goals.</blockquote><div><br>
In fairness he mightn't necessarily be claiming it should. I did say
suppose for the sake of the thought experiment that the subject's
motives are purely selfish; in practice one would assign strong
negative utility to 999 people being tortured even if none of those
people was oneself, but I'm looking at it from the self viewpoint to
try to get at the paradox that appears to cast doubt on the
philosophical explanation of how we can make predictions in an infinite
universe.<br>
</div></div>