<div dir="ltr"><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><br class="gmail-Apple-interchange-newline"><span style="font-family:Arial,Helvetica,sans-serif;color:rgb(34,34,34);font-size:small">Another interpretation is that unconscious thoughts are independently conscious.   </span></div><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><span style="color:rgb(34,34,34);font-size:small"><font face="comic sans ms, sans-serif"><br></font></span></div><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><span style="color:rgb(34,34,34);font-size:small"><font face="comic sans ms, sans-serif">This is the one I prefer.  Coming up from the spinal cord, say, stimuli activate receptors that relate the input to memory, to emotions, and so on.  These lower centers have to be conscious in some sense to interpret those stimuli and apply the proper memory and emotion.  However,we cannot access these with our ordinary conscious mind.  Only their end product.  But this way we have two conscious minds.  The conscious mind is accessible to the unconscious, (like the conscience watching over us), but not the reverse (contrary to Freud).</font></span></div><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><span style="color:rgb(34,34,34);font-size:small"><font face="comic sans ms, sans-serif"><br></font></span></div><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><span style="color:rgb(34,34,34);font-size:small"><font face="comic sans ms, sans-serif">'Thinking Fast and Slow"  would have won a Nobel Prize if there were a category for it.  Most important book in psychology in many years.</font></span></div><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><span style="color:rgb(34,34,34);font-size:small"><font face="comic sans ms, sans-serif"><br></font></span></div><div class="gmail_default" style="font-size:large;color:rgb(0,0,0)"><span style="color:rgb(34,34,34);font-size:small"><font face="comic sans ms, sans-serif">bill w</font></span></div></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Sun, May 4, 2025 at 11:47 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, May 4, 2025, 11:30 AM William Flynn Wallace via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large;color:rgb(0,0,0)">All processing of information starts in the unconscious (obvious if you follow the stimuli through the brain centers before it reaches the forebrain).  Thus, thoughts and actions come from the unconscious.</div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Another interpretation is that the computations involved in realizing a conscious state may be distributed across time and space. So even if brain activity precedes a conscious thought in time, it may still be part of the conscious state.</div><div dir="auto"><br></div><div dir="auto">Consider a function on a computer that multiplies two million digit numbers. The conscious state may be viewed as the function evaluation itself. Though the physical realization of this function by the computer's processor is spread out over time through many individual operations processing 64 bits at a time. An alien looking at this system might say all the antecedent computation by the processor is unconscious, when really it is just all part of one larger function.</div><div dir="auto"><br></div><div dir="auto">Now if the function is conscious we would have the same picture. And we might ask, why certain neural activity seems conscious while other neural activity does not, but this is an illusion created by the fact that one large computations can be spread out across spacetime (a large computations never occurs at a single spacetime point).</div><div dir="auto"><br></div><div dir="auto">Another interpretation is that unconscious thoughts are independently conscious. The fact that they inhabit the same skull is not enough justification to logically imply that the consciousness you identify yourself would necessarily be aware of other conscious parts. We see evidence of this in split brains, where two conscious minds inhabit the same skull.</div><div dir="auto"><br></div><div dir="auto">One can also consider something like the China brain thought experiment, where individual conscious humans act as neurons in one larger brain. The larger brain doesn't and can't be aware of the individual conscious parts that compose it.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large;color:rgb(0,0,0)">  The conscious gets a veto power, (if it is very quick - if it isn't, we do and say things we regret), but that's about all.  I assume this is inconsistent with how an AI operates.  </div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I think there's actually a surprising overlap between how humans seem to think and how these LLMs seem to think.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large;color:rgb(0,0,0)"><br></div><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large;color:rgb(0,0,0)">Have you read "Thinking Fast and Slow"???  Why not?  bill w</div><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large;color:rgb(0,0,0)" dir="auto"></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I haven't but it sounds quite good!</div><div dir="auto"><br></div><div dir="auto">Jason </div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large;color:rgb(0,0,0)" dir="auto"><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, May 4, 2025 at 8:40 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div>Stuart,</div><div dir="auto"><br></div><div dir="auto">I was hoping you would have something deep and insightful to add, you don't disappoint!<br><br><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Sat, May 3, 2025, 3:09 PM Stuart LaForge via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On 2025-04-30 10:17, Jason Resch via extropy-chat wrote:<br>
> One of the great puzzles when it comes to understanding consciousness<br>
> and its role in the universe is the question of how conscious thoughts<br>
> could have any causal power in a universe fully governed and<br>
> determined by particles blindly following forces of nature.<br>
<br>
Thinking and information processing, conscious or otherwise, has casual <br>
power through its information content. This is a direct application of <br>
the Laundauer's principle. Mental causation is exactly how Maxwell's <br>
Demon works. It uses it knowledge of the positions and momentum of all <br>
the individual particles of gas to create a temperature gradient. <br>
Maxwell's Demon seems to violate the 2nd law of thermodynamics by <br>
decreasing the entropy of the gas. But, this is not the case, because in <br>
the process of memorizing the positions and momenta of every particle in <br>
the gas and enabling it to increase the system's potential energy, the <br>
Demon increased the entropy or information content of its own brain or <br>
data storage. This could only have been done by erasing whatever <br>
information was there before and incurring some minimal energy cost <br>
given by the Landauer principle E >= k * T * ln2 with k being the <br>
Boltzmann constant and T being Kelven temperature.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">To be clear, are you equating the causal potency of information, with it's necessary generation/storage always incurring a cost of increasing entropy elsewhere? Or is this just one example of how information (or it's processing) can have physical effects?</div><div dir="auto"><br></div><div dir="auto">The process that analyzes an approaching gas molecule, judging it's temperature and trajectory, and ultimately deciding whether to open or close the door could itself be viewed as a kind of primitively aware (conscious) thing. It's discriminated high-level information state then occupy a spot in the causal chain, without it, the door could not respond intelligently to it's environment. And I would say the discriminated high-level information state is its conscious state.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
Basically the causal power of wanting ice cream is the energy cost it <br>
takes to forget you want ice cream either by distracting yourself or by <br>
getting yourself the ice cream.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Would this mean a conscious mind running on a reversible computer (which escapes Landauer's principle) could have (or allay) no desires?</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
> <br>
> Some solve this problem by supposing our will must somehow<br>
> miraculously intervene in physics. Others solve this problem by<br>
> denying human will or agency, relegating consciousness to an<br>
> ineffectual, and inessential "epiphenomenon."<br>
<br>
Our will directly intervenes in physics, not miraculously, but through <br>
the mathematical connection between information, entropy, and energy. We <br>
are  giant Maxwell's demons made possible by smaller Maxwell's demons <br>
called cells, which are made possible by smaller Maxwell's demons called <br>
mitochondria, and so forth all the way down.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I agree there are many levels of organization all of which can possess their own upwards and downwards causal forces.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
> But I think a more nuanced view can show that consciousness can have<br>
> causal power in a universe fully determined by particles following<br>
> physical equations. Here is my attempt at describing such a view:<br>
<br>
> <a href="https://drive.google.com/file/d/1qCuCc9kvbw5KKHJ223l7MbbNhZkTamhA/view?usp=sharing" rel="noreferrer noreferrer noreferrer" target="_blank">https://drive.google.com/file/d/1qCuCc9kvbw5KKHJ223l7MbbNhZkTamhA/view?usp=sharing</a><br>
> An answer to this question is relevant to whether uploaded minds, AI,<br>
> or robots can have will or agency, despite their behavior being fully<br>
> determined by low-level machine code.<br>
<br>
Yes, but while consciousness or agency are examples of downward <br>
causation or what you call strange loops, these causal loops are far <br>
more general of a phenomenon than consciousness or agency. </blockquote></div></div><div dir="auto"><br></div><div dir="auto">I agree with this. Consciousness is by no means unique in expressing downwards causation. I give the example of a nerve cell ordering neurotransmitter molecules around.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">For example <br>
subatomic particles give rise to atoms in a standard upward causation, <br>
but atoms also give rise to subatomic particles through radioactive <br>
decay which is downward causation. Another example would be the surface <br>
tension of a water droplet ordering the water molecules into a perfect <br>
sphere. Strange loops are not magic, they are physics incorporating <br>
information theory.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Sperry gave the example of a tire rolling down a hill. The tire is made of molecules, but the rolling of the tire largely guides the motions of all the atoms in the tire.</div><div dir="auto"><br></div><div dir="auto">I guess the question then becomes what kinds of information processing activities are conscious ones.</div><div dir="auto"><br></div><div dir="auto">You make the comparison to erasing or overwriting information, but is any process of recording information conscious? And what of processing information without overwriting or erasing? Are such processes not conscious? I think the dividing line for consciousness may be something other than entropy increasing operations. I agree that information processing, consciousness, and entropy are all closely related, but are they equal?</div><div dir="auto"><br></div><div dir="auto">Jason</div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>