<div dir="auto"><div><br><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Wed, Nov 5, 2025, 9:24 AM Ben Zaiboc via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Ok, I've had a look at his paper, and made a few substitutions to make <br>
it easier to understand. Let me know if you object to any of these:<br>
<br>
'desire' = intention<br>
'belief' = anticipated result<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I'm fine with these.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
'correctable' = changeable<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Okay. But I'll note this word loses the connotation of "an improvement."</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
'real' = preferred<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I can go along with this, but keep in mind they would be the actual/genuine preferences in light of accurate information of concern.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
'perfect grasp' = foreknowledge<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Just one thing to add: in the paper, a perfect grasp embodies not only foreknowledge (e.g. perfect knowledge of future states (think *depth*), but also perfect lateral knowledge concerning the perspectives and impacts and effects on other beings (e.g. think breadth).</div><div dir="auto"><br></div><div dir="auto">So the perfect grasp represents a near omniscient understanding of all the future consequences for all involved and effected by a particular action, including those who don't and won't exist.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
<br>
The relevant passages now read, with my comments in brackets:<br>
<br>
"Imagine that I have before me on a table a cup containing a thick, <br>
brown, steaming liquid.<br>
<br>
I want to drink that stuff because I think it is hot chocolate. But it <br>
is actually hot mud. Well, in that case I don’t really intend to drink <br>
it. And neither is it in my self-interest to do so.<br>
<br>
This example brings out the way in which intentions depend on <br>
anticipated results. I only ever intend to do a thing because of what I <br>
anticipate the result to be."<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Not bad, I can follow along with that substitution.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
(this is not true. It's not uncommon to have an intention to do <br>
something in order to /find out/ what the result will be rather than in <br>
anticipation of an expected result.</blockquote></div></div><div dir="auto"><br></div><div dir="auto">I don't think this escapes the statement.</div><div dir="auto"><br></div><div dir="auto">Your example asks: why would a scientist ever desire (intend) to test a hypothesis when he doesn't know the outcome?</div><div dir="auto"><br></div><div dir="auto">My answer to this is that for the scientist, he believes (anticipates) that the outcome of the experiment will provide new information for the scientist. Certainly, if the scientist did not believe (anticipate) any possibility of learning anything from the experiment, he would not bother performing it.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"> It would be more accurate to say <br>
that intentions CAN be based on anticipated results, and that you MAY do <br>
a thing because of the anticipated result. In Zuboff's original <br>
language, you would say 'to have a desire to form a belief about <br>
something'. The 'desire' precedes the 'belief', rather than the other <br>
way around, in this case. When A can cause B or B can cause A, you can't <br>
draw the conclusion that 'A depends on B')<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">But to use your language, Zuboff is saying: intentions depend on anticipated results.</div><div dir="auto"><br></div><div dir="auto">I still think that is true, given my scientist example.</div><div dir="auto"><br></div><div dir="auto">And I don't see how it makes sense to say the reverse, that "anticipated results depend on intentions" -- perhaps only in the wishful thinking way, but not in any rational way (that I can see), but perhaps you have an example.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
"And since anticipated results are changeable, so are intentions."<br>
<br>
(this implies that intentions are changeable /because/ anticipated <br>
results can change. It's possible to change your mind about the <br>
anticipated results of an intended action, or to change your intended <br>
action and anticipate the same result. It would be more accurate to say <br>
that both anticipations and intentions are changeable, but a change in <br>
one doesn't necessarily enforce a change in the other)<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">True, not every revelation will justify a change in action or intention. When playing chess you may find a better move, and change your action without changing your intention to win. Or you may learn that if you don't throw the game, the child will abandon chess altogether, and therefore you may change your intention to win against the child.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
"From this observation I arrive at a sweeping principle: My only <br>
preferred intentions are those I would have if I had a foreknowledge of <br>
everything involved."<br>
<br>
(because of the above, this is a false conclusion)<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I'm, sorry, which are you referring to when you say "the above"? Could you better break down for me how you see this argument collapsing?</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
"If there is any intention I have only because my foreknowledge of the <br>
outcome is imperfect, then that cannot be among my preferred intentions."<br>
<br>
(this would rule out any intention to find something out (because if you <br>
want to find something out, you necessarily don't already know the <br>
answer).</blockquote></div></div><div dir="auto"><br></div><div dir="auto">I think I addressed this with my scientist example.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"> I don't know about anyone else, but a lot of my 'preferred <br>
intentions' have the aim of finding things out that I don't already <br>
know. If you already knew, there would be no need to have an intention <br>
to find it out)<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">These represent intentions to learn.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
"And gratifying that intention cannot be in my preferred self-interest. <br>
The principle going along with this that governs my actions must tell me <br>
to act, as far as possible, as I would want myself to be acting with a <br>
foreknowledge of everything involved."<br>
<br>
(it should be obvious now why this is nonsense, but nevertheless, let's <br>
follow this line of thought through (italics are mine):)<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">It's not obvious to me yet, but I will follow along below.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
"This foreknowledge that defines my preferred intentions and my best <br>
course of action," /is of course impossible. He goes on to explain why/. <br>
"It would have to embrace not only the full experience, from behind the <br>
eyes (or other sensors), of every sentient being but also every <br>
potential development of experience. It would include within it, all the <br>
motivations of all of the various systems of intention" /which would <br>
simply conflict with each other. The overall result would be chaos and <br>
paralysis (in case this is not obvious, consider combining the <br>
motivations of a religious fundamentalist with those of a <br>
scientifically-literate materialist. These are conflicting value <br>
systems. Objective facts can't reconcile them.</blockquote></div></div><div dir="auto"><br></div><div dir="auto">It is knowledge of the subjective feeling of what it is like to be all those concerned, what Zuboff describes as "the full experience, from behind the eyes, of every sentient being" that provides such a resolution.</div><div dir="auto"><br></div><div dir="auto">Think of it like this: in your own life there is a version of you that goes to work does, chores, prepares meals, which doesn't enjoy those tasks. But also in your life there is a version of you that goes on vacation and enjoys recreation and leisure, and enjoying the meals your other self prepared.</div><div dir="auto"><br></div><div dir="auto">You have knowledge of both of those states of existence, and that puts you in a position to answer whether or not your life is a life worth living. And also it enables you to answer questions about what changes, and trade offs are worth it. E.g. should the toiling-self take on extra hours so that the leisure-self can enjoy a nicer vacation.</div><div dir="auto"><br></div><div dir="auto">From the vantage point of the perfect grasp, one could make such trade off decisions between different individuals, because in the same way you understand what it's like to work and be on vacation, the vantage point of the perfect grasp understands what it's like to be the scientific materialist *and* the religious fundamentalist, and so any actions that would affect their lives, negatively or positively, this perfect grasp could decide an appropriate trade offs just as you make such trade off decisions within your own life.</div><div dir="auto"><br></div><div dir="auto">Making such trade off decisions is what is meant by the reconciliation of all systems of desire. Think of it like all conscious perspectives are all part of a single life, and how one super intelligent being would optimize that life (which embodies and includes all those many perspectives).  That optimization, is what Zuboff contends is the aim of morality.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"> 'Perfect foreknowledge' <br>
can't do a thing when subjective values are involved. Let's say that you <br>
have the opportunity to punish/forgive someone who has stolen something <br>
from you. The values of one person (that you have, according to this <br>
theory, magical access to) dictate that the thief should be punished <br>
regardless of the circumstances of the crime, because 'STEALING IS <br>
WRONG'. You also have access to the values that tell you that stealing <br>
is often wrong, but can be forgiven under certain circumstances. How can <br>
there be any reconciliation of these two views? What facts can help?)/.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I think my explanation above is sufficient but if not let me know.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
So even if there was any possibility of this, it still couldn't lead to <br>
any rational definition of morality. The requirement to know all <br>
possible points of view, and all outcomes of all actions are impossible <br>
enough, but add on top the requirement to /reconcile/ all points of <br>
view? And only then can you figure out what's good and what's bad?<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Moral decisions are hard for exactly this reason. They involve weighing consequences to subjective states to which most parties have no access to. I think we should be upfront with acknowledging that difficulty as it suggests paths for resolving age old moral questions.</div><div dir="auto"><br></div><div dir="auto">Consider for example whether a law should be passed to increase the square footage allotted to egg laying hens. To answer the question requires understanding the stress and emotional states of the chickens with varying levels of room, and that has to be balanced again the correspondingly higher price of eggs, the unaffordability, possible hunger or nutritional drficicinies or worse health for those who can't afford eggs at those prices, etc.</div><div dir="auto"><br></div><div dir="auto">None of these are easy problems to solve, but with this definition, it makes it clearer how to organize a strategy to answer the question, and balance the concerns of all involved (to "reconcile all the systems of desire").</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
Bonkers, pure and simple.<br>
<br>
I trust you'll understand that this is as much as I was willing to read <br>
of the paper.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I hope my clarifications may motivate you to continue further. But even if not, I genuinely appreciate the extra attention and thought you have given it so far.</div><div dir="auto"><br></div><div dir="auto">Jason </div></div>