<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Feb 21, 2025, 1:49 PM efc--- via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><br>
<br>
On Thu, 20 Feb 2025, Jason Resch via extropy-chat wrote:<br>
<br>
>       Another way is to deny the existence of objective email, and affirm our<br>
>       opinion about events.<br>
> <br>
> Good and evil derive ultimately from subjective states of consciousness, which<br>
> makes their objective characterization and comparison difficult:<br>
<br>
I agree. This is my current favourite position. An ethical anti-realist I guess.<br>
<br>
> "For these words of Good, evill, and Contemptible, are ever used with relation<br>
> to the person that useth them: There being nothing simply and absolutely so;<br>
> nor any common Rule of Good and evill, to be taken from the nature of the<br>
> objects themselves; but from the Person of the man or, From the Person that<br>
> representeth it;" -- Thomas Hobbes in “Leviathan” (1651)<br>
> <br>
> "We have already observed, that moral distinctions depend entirely on certain<br>
> peculiar sentiments of pain and pleasure, and that whatever mental quality in<br>
> ourselves or others gives us a satisfaction, by the survey or reflection, is<br>
> of course virtuous; as every thing of this nature, that gives uneasiness, is<br>
> vicious." -- David Hume in “A Treatise of Human Nature” (1739)<br>
<br>
David Hume is a philosophical ninja! Jan Narveson developed contractarianism in<br>
a very nice way showing how rational minds, based on contractarianism should<br>
converge on a kind of libertarian ethics.<br>
<br>
> "It there appeared that we could not, on reflection, maintain anything to be<br>
> intrinsically and ultimately good, except in so far as it entered into<br>
> relation to consciousness of some kind and rendered good and desirable: and<br>
> thus that the only ultimate Good, or End in itself, must be Goodness or<br>
> Excellence of Conscious Life." -- Henry Sidgwick in “The Methods of Ethics”<br>
> (1874)<br>
> <br>
> <br>
> But I think it is still possible to give an objective definition of what<br>
> constitutes evil, as the previous examples suggest.<br>
<br>
How come, and it what way?<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I gave a YouTube link to a video that explains it. It basically concludes that morality is defined as the reconciliation of all systems of desire.</div><div dir="auto"><br></div><div dir="auto">Here is the paper that video is based on:</div><div dir="auto"><a href="https://philarchive.org/rec/ARNMAW">https://philarchive.org/rec/ARNMAW</a></div><div dir="auto"><br></div><div dir="auto">Here is Google's AI summary:</div><div dir="auto"><br></div><div dir="auto">""Morality as what one desires" refers to a philosophical concept by Arnold Zuboff, where he argues that true morality aligns with what a person would genuinely desire if they had a perfect understanding of all relevant information and consequences, essentially suggesting that a fully informed self-interest is inherently moral."</div><div dir="auto"><br></div><div dir="auto">The upshot is that if this idea is true, then the smarter superintelligence becomes, the more likely that AI is to converge upon this truth, and in accepting its truth it will be strongly motivated to act according to it's truth, which is to act morally (which is defined as acting to reconcile all systems of desire).</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
> Further, although uncomputable in practice, for a god-like mind there is a way<br>
> to define morality objectively:<br>
<br>
I find examples with infinities, and postulates with god or god-like a bit<br>
unsatisfying. It seems to me, if you assume god-like powers, or god(s) you can<br>
basically justify or explain anything.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">If it helps, replace god-like with unlimited computational power.</div><div dir="auto"><br></div><div dir="auto">There are many things in compute science that are uncomputable, but nevertheless their existence reveals something interesting, or points in the direction of something that while imperfect, is nevertheless instructive (such as the AIXI algorithm for universal intelligence). We can't compute the AIXI algorithm, but it helps us define what a perfect intelligence is.</div><div dir="auto"><br></div><div dir="auto">Likewise while Zuboff's definition of morality is uncomputable, it helps us to define what morality is.</div><div dir="auto"><br></div><div dir="auto">And in both cases, we might discover sub-optimal, but computable shortcuts.</div><div dir="auto"><br></div><div dir="auto">Jason </div></div>