<br><br>
<div><span class="gmail_quote">On 2/26/07, <b class="gmail_sendername">Jef Allbright</b> <<a href="mailto:jef@jefallbright.net">jef@jefallbright.net</a>> wrote:</span></div>
<div><span class="gmail_quote"></span> </div>
<blockquote class="gmail_quote" style="PADDING-LEFT: 1ex; MARGIN: 0px 0px 0px 0.8ex; BORDER-LEFT: #ccc 1px solid">On 2/25/07, Brian Atkins <<a href="mailto:brian@posthuman.com">brian@posthuman.com</a>> wrote:<br>> Stathis Papaioannou wrote:
<br>> > But if we gain control over our own minds so that we are no longer<br>> > slaves to the subgoals and supergoals set by evolution, and the biological<br>> > housekeeping functions are taken care of by a trivial subroutine, then who
<br>> > is to decide that spending your life blissfully flicking a stream of water<br>> > from the tap with your hand because that's what you have decided to want<br>> > to do (not necessarily because that is what you were born or raised to want
<br>> > to do) is less worthy than any other activity?<br>> ><br>><br>> You might enjoy a movie I recently rented: Idiocracy<br><br>Who's to say he wouldn't enjoy any movie as much as any other movie. ;-)
<br><br>While it's fashionable and considered by some to be the height of<br>morality to argue that all preferences are equally valid, it is<br>morally indefensible.</blockquote>
<div> </div>
<div>For a start, it's difficult to define morality in any sense come the singularity. If we live on a distributed computer network as near-gods we are physically invulnerable and psychologically invulnerable. Physically invulnerable short of a planet- or solar system- or galaxy-destroying event; psychologically invulnerable because if we don't like the way we feel, we can change it. If we suffer it will be because, perversely, we enjoy suffering. It's not even like someone who is depressed and self-harms, or is addicted to drugs: they don't really have a choice, but if they could decide whether or not to be depressed as easily as they could decide between chocolate or vanilla ice-cream, that would be a different matter. 
</div><br>
<blockquote class="gmail_quote" style="PADDING-LEFT: 1ex; MARGIN: 0px 0px 0px 0.8ex; BORDER-LEFT: #ccc 1px solid">It's even more irksome than teleological references to "evolutionary<br>goals and subgoals."
</blockquote>
<div> </div>
<div>Fair enough, evolution doesn't really "want" anything from its creatures. However, we do have drives, which boil down to optimising the pleasure/pain equation (broadly construed: the pleasure of sleeping in and not going to work is outweighed by the pain of explaining my laziness to people and running out of money, so I decide to go to work), even if these drives do not end up leading to "adaptive" behaviour. The problem is, although we can struggle against the drives, which means pushing the pain/pleasure equation in a certain deirection, we can't arbitrarily and without any fuss just decide to change them. If we understood enough about our minds to transfer them to computers, and probably well before then, we could do this, and at that point the human species as we know it would end.
</div>
<div> </div>
<div>Stathis Papaioannou</div>