<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Sat, Dec 6, 2014 at 8:03 PM, Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote:<br><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div>As you say, the structure does not look self consistent, and evolution does not necessarily aim for that. This is a huge headache for some philosophers: if our moral intuitions or feelings are not truth-tracking but just what evolution left us with, why should we believe or follow them at all?</div></div></blockquote><div><br></div><div>### We are like the superintelligent FAI taking a first look at its moral code modules and going "oh shit, is this what these apes saddled me with?"</div><div><br></div><div>Rafał</div></div>
</div></div>