<DIV>Hi Lee,</DIV>  <DIV> </DIV>  <DIV>Lee writes:</DIV>  <DIV>"Well, Jeffrey, I have to add that I had the same impression that<BR>Samantha did. In my words, you did seem to be arguing against a<BR>position that I don't think anyone on this list takes."</DIV>  <DIV> </DIV>  <DIV>Okay, well perhaps I phrased it poorly. I was making a somewhat exaggerated example in order to show that the principle behind it is at least ethically questionable.</DIV>  <DIV> </DIV>  <DIV>Lee:</DIV>  <DIV>"Surely you don't believe that everything that is bad<BR>should be outlawed. Or do you?"</DIV>  <DIV> </DIV>  <DIV>No, absolutely not! I realize that "bad" doesn't have an objective definition. Lot's of people think that pre-marital sex is extremely "bad!" I think it's perfectly fine, for example. Like I said before, I think that anyone should be able to do *anything* with their own bodies, minds, and non-sentient property - and when I say *anything*, I mean *ANYTHING*

  :-)  The only line I draw is murdering or torturing (or intentionally bringing harm to) other *conscious* beings.</DIV>  <DIV> </DIV>  <DIV>Lee, I'm a little bit confused by your reference to "Rule of Law". Could you elaborate for me on exactly what you are referring to? I can't really determine whether you mean that standard Laws are "good" or "bad", so I can't yet really comment on this section of your post.</DIV>  <DIV> </DIV>  <DIV>Lee writes:</DIV>  <DIV>"It seems that if I were get a software program that created<BR>and destroyed a sentient every microsecond, then after about<BR>a minute you would consider me the greatest mass-murderer of<BR>all time. Is that true?"</DIV>  <DIV> </DIV>  <DIV>Lee, of course I barely know you, but you seem like a reasonable, patient, and "good" person. If by "sentient" you mean a "conscious" and vaguely humanoid type being, then it would really pain me to

 see you or anyone else do this. If you did do it, then what choice do I have but to indeed consider you as "the greatest mass-murderer of all time"? Why would this be an irrational conclusion?</DIV>  <DIV> </DIV>  <DIV>Lee writes:</DIV>  <DIV>"You should maybe think of what's bugging you this way: what<BR>are the odds that if you grant someone freedom they'll<BR>immediately conjure up a hell and conjure up millions of<BR>sophonts to agonize in it?"</DIV>  <DIV> </DIV>  <DIV>The odds? Don't know but I'll take a (conservative) wild guess: maybe one in a Million. But, what is likely to be the world population at the time of Singularity? 7 - 12 Billion? So, maybe 7000 to 12000 people who would jump at this opportunity if it was offered. Consider that in the distant future, a *single* "bad" person could probably run a "Hell" program on Trillions and Trillions of simulated humans. At how many multiples of Earth's population today

 would these total murders constitute an atrocity? </DIV>  <DIV> </DIV>  <DIV>My answer: It would become an atrocity with the first murder.</DIV>  <DIV> </DIV>  <DIV>Best Wishes,</DIV>  <DIV> </DIV>  <DIV>Jeffrey Herrlich <BR>  <BR><B><I>Lee Corbin <lcorbin@tsoft.com></I></B> wrote:</DIV>  <BLOCKQUOTE class=replbq style="PADDING-LEFT: 5px; MARGIN-LEFT: 5px; BORDER-LEFT: #1010ff 2px solid">Jeffrey replies to Samantha, but asks questions too delicious for <BR>me to pass up!<BR><BR>> Samantha:<BR>> > "This is a straw man that was not advocated."<BR><BR>> I didn't mean to claim that it was advocated, I was making my case.<BR><BR>Well, Jeffrey, I have to add that I had the same impression that<BR>Samantha did. In my words, you did seem to be arguing against a<BR>position that I don't think anyone on this list takes.<BR><BR>> Let me ask you a question:<BR><BR>> I assume that we agree that a "real" being and a

 conscious<BR>> "simulated" being are both composed of hardware and software<BR>> and that both exist at the "real" layer of "reality". Why<BR>> should ending the life of a "simulated" being, be viewed<BR>> any differently than a "real" being murdering another "real"<BR>> being?<BR><BR>Here is a case of the same thing, I think. I don't believe that<BR>anyone at all on this list would say that there is a difference. <BR><BR>> Why should torturing a conscious "simulated" being, be viewed<BR>> differently than a "real" being torturing another "real" being?<BR>> The crimes are equivalent. <BR><BR>Likewise---if you mean "moral crime".<BR><BR>> The only "factor" that would supposedly separate the status<BR>> of a "real" being from the status of a "simulated" being is<BR>> that the "real" one was born first and therefore supposedly<BR>> deserves to wield ultimate power over the one that was born<BR>> later.<BR><BR>It all depends. I do believe

 that you are ignoring differences<BR>that are essential to me, and perhaps to the others. I suspect<BR>that the core of the actual difference between our viewpoints<BR>can be seen in your next statement:<BR><BR>> That's "messed up"; it's legally allowing murder and torture.<BR><BR>Bringing "The Law" into it is an *entirely* different can of<BR>worms. Surely you don't believe that everything that is bad<BR>should be outlawed. Or do you?<BR><BR>Almost *all* of our progress and all of the humanitarian <BR>improvements in the human condition the last ten thousand<BR>years have stemmed from (1) Rule of Law, and (2) Protection<BR>of Private Property. It is extremely hazardous, in my<BR>opinion, not to treat these two principles with the utmost<BR>respect.<BR><BR>As the 20th century showed, there is practically no limit<BR>to the harm that results from tampering with these principles,<BR>tampering that is always accompanied, of course, by the best<BR>of intentions.<BR><BR>As

Samantha said, it may be non-trivial to determine the extent of consciousness of a character in a video game. I suspect that the difficulty can be arbitrarily great; i.e., it could be arbitrarily high up in the complexity classes, beyond NP-complete. So we come to the classic question: Who is to decide? The totalitarian answer is that all power should be in the hands of the people, i.e., in the hands of their elected or non-elected representatives. In other words, the government must decide what actions you take are ethical and moral, and which are not. But the evolved solution, namely (1) Rule of Law, and (2) Protection of Private Property, is far less ambitious. It recoils from the idea that wisdom can be concentrated in a single place (e.g. the Supreme Court) or anywhere in fact, that is not *local*. Thomas Sowell explains all this with fantastic clarity in his books, such as "Decisions and Knowledge".

 The greatest<BR>thinkers of the past, e.g. Von Mieses and Hayek, were perhaps<BR>the first to deeply understand, but an "in practice" understanding<BR>was also achieved by America's founders, who legislated tremendous<BR>*restrictions* on what higher bodies could do to lower ones.<BR><BR>Therefore the instinctive recoil of people like Samantha, who<BR>are extraordinary leery of having a body intercede in her affairs<BR>to determine the complexity of her software and whether or not<BR>she's doing the "right" thing with it is well-founded.<BR><BR>I do not happen to have such a strong aversion as many like<BR>she do; but still, I can fully understand on *principle* that<BR>it is best for someone to be able to determine what happens<BR>inside their own minds and inside their own property, without<BR>an outside regulator poking around.<BR><BR>It seems that if I were get a software program that created<BR>and destroyed a sentient every microsecond, then after about<BR>a minute

 you would consider me the greatest mass-murderer of<BR>all time. Is that true?<BR><BR>You should maybe think of what's bugging you this way: what<BR>are the odds that if you grant someone freedom they'll<BR>immediately conjure up a hell and conjure up millions of<BR>sophonts to agonize in it?<BR><BR>Lee<BR><BR>_______________________________________________<BR>extropy-chat mailing list<BR>extropy-chat@lists.extropy.org<BR>http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat<BR></BLOCKQUOTE><BR><p>

                <hr size=1>Do you Yahoo!?<br> Everyone is raving about the <a href="http://us.rd.yahoo.com/evt=40791/*http://advision.webevents.yahoo.com/handraisers"> all-new Yahoo! Mail Beta.</a>