<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif;background-color:transparent">On Wed, Sep 2, 2026 at 8:34 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>I never viewed Hofstadter's strange loops as being necessary for nor central to intelligence. Rather in my readings of G.E.B. I see self-reference and strange loops as the origin of mysteries of the "I" and central to the understanding of how things like free will</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I said it before I'll say it again, free will is an idea so bad it's not even wrong.<span class="gmail_default" style=""> </span> </b></font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>emerge when the direction of causality gets twisted in strange ways</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Nobody can know for sure what the result of a calculation will be until they have finished<span class="gmail_default" style=""> </span><span class="gmail_default" style="">the</span> calculation,<span class="gmail_default" style=""> and they don't know for sure what they're going to do next until they've actually done it. </span> And after all that<span class="gmail_default" style=""> some people like to say "<i>I decided to do that of my own free wil</i>l". I say you either did it for a reason or you did not, and if you did not then what you did was an event without a cause, in other words it was by definition random. </span></b></font></div><div><br></div><div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>"Our thoughts seem to run about in their own space, creating new thoughts and modifying old ones, and we never notice any neurons helping us out! But that is to be expected. We can’t. </i>[…]<span class="gmail_default" style=""> </span><span style="font-style:italic;background-color:transparent">We should remember that physical law is what</span><span style="font-style:italic;background-color:transparent">makes it all happen–way, way down in neural nooks and crannies which are too remote for us to reach with our high-level introspective probes."<br></span><i>— Douglas Hofstadter in “Gödel, Escher, Bach” (1979)</i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I still agree with  Hofstetter about that.<span class="gmail_default" style=""> </span> </b></font></div></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i><font face="georgia, serif" size="4"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>we are as ignorant of what our own neurons are doing as LLMs are ignorant of what their own low level activations and weights are doing. Minds, being high level phenomena, will generally lack access and introspection to the low levels supporting them.</font></i></blockquote><div><br></div><div class="gmail_default" style=""><b style=""><font size="4" style="" face="tahoma, sans-serif">Yes.</font></b></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>self reference (and it's limitations) answer Nagel's question of why he cannot know what it is like to be a bat, unless he is a bat, but then he is no longer Nagel. So Nagel (the system) is trapped in itself, and thus cannot access bat-like knowledge.</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b style="">Exactly.<span class="gmail_default" style=""> </span> </b></font></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="">> </span>When we speak of a person wanting a glass of milk, and going to get it, this is still meaningful, even though everything could fundamentally be explained in terms of interacting quantum fields, and no laws of physics are violated by a person's mind or will,</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Yes, although theoretically possible it would be silly to use quantum field theory to explain why a person drinks a glass of milk<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">.</span><span class="gmail_default" style=""> </span> </b></font></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>without this insight, we face a dilemma in explaining what the point of consciousness is</i></font></div></div></blockquote><div><br></div><div><font size="4"><font face="tahoma, sans-serif"><b>Darwinian <span class="gmail_default" style="">E</span>volution<span class="gmail_default" style=""> gave us intelligence and if there was a "point" for doing so it was to increase the number of genes that get into the next generation, but unlike intelligence natural selection can't detect consciousness so there is no "point" to it, it must exist because it's a brute fact that consciousness is the way data feels when it is being processed intelligently.    </span></b></font> </font></div><div><br></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>"There was a young man who said, “Though,</i></font></div><div dir="auto"><font size="4" face="georgia, serif"><i>it seems that I know that I know,</i></font></div><div dir="auto"><font size="4" face="georgia, serif"><i>what I would like to see</i></font></div><div dir="auto"><font size="4" face="georgia, serif"><i>is the ‘I’ that knows ‘me’</i></font></div><div dir="auto"><font size="4" face="georgia, serif"><i>when I know that I know that I know.”"</i></font></div><div dir="auto"><font size="4" face="georgia, serif"><i>— Alan Wattsin “The Book On the Taboo Against Knowing Who You Are” (1966)</i></font></div></div></blockquote><div><br></div><div> </div><h1 class="gmail-quoteText" style="margin:0px 0px 15px;color:rgb(24,24,24);padding:0px;line-height:21px"><font size="4" style="" face="tahoma, sans-serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span>I wonder why. I wonder why.<br>I wonder why I wonder.<br>I wonder <i style="">why</i> I wonder why<br>I wonder why I wonder!”</font></h1><div><font size="4" face="tahoma, sans-serif"><b><span style="color:rgb(24,24,24)">― </span><span class="gmail-authorOrTitle" style="color:rgb(51,51,51)">Richard P. Feynman, </span>"Surely You're Joking, Mr. Feynman!"<span class="gmail_default" style=""> (1985)</span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style=""><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style=""><b>John K Clark</b></span><br></font></div><div><br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br></blockquote></div></div></div>
</blockquote></div></div>