On 1/31/06, <b class="gmail_sendername">Eliezer S. Yudkowsky</b> <<a href="mailto:sentience@pobox.com">sentience@pobox.com</a>> wrote:<div><span class="gmail_quote"></span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
In any case, you seem to have missed the point of my objection:<br>assigning a high probability to love is a type error.<br>
</blockquote></div><br>
Of course it is, which is why I didn't do so. In English, "I believe in
X" where X is a value rather than an empirical proposition, does not
mean "I assign a high probability to X", it means something like "I
take as an axiom that X is to be valued". (If your objection is that
English is fuzzy, I will remind you that it evolved for the use of
humans, not AI programs.)<br>
<br>
- Russell<br>