<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Fri, Jul 10, 2026 at 4:39 PM Brent Allsop via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div dir="ltr" class="gmail_attr"><br></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>> </span>As I've mentioned before,<span class="gmail_default"> unless the C</span>orpus <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">C</span>allosum<span class="gmail_default"> has been surgically severed, the two hemispheres of the brain are so intimately connected that the left hemisphere does not know what just being the right hemisphere would be like, and the right hemisphere doesn't know what just being the right hemisphere would be like either. </span></b></font></div></div></div></div></blockquote><div><br></div><div><i><font face="tahoma, sans-serif" size="4"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Yes, we keep repeating this.  And my same old reply is:  I agree with you at the composite qualia level, where all knowledge is infallibly subjectively bound into one unified experience.<span class="gmail_default"></span><span style="background-color:transparent">Surely you must admit that these composite experiences are composed of something at some elemental level. </span></font></i></div></div></div></blockquote><div><br></div><div><font size="4"><b><font face="tahoma, sans-serif">I do agree<span class="gmail_default">,</span> and you can't get more <span class="gmail_default">e</span>lementary th<span class="gmail_default">an changing on to off, or off to on. </span></font></b> </font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><span style="background-color:transparent"><font size="4"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>i.e. the painting is composed of pixelated elements representing particular qualities. </i></font></span></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>A pixel is part of a painting<span class="gmail_default">, </span><span class="gmail_default">and a bit is part of a pixel, and a bit is composed of an on/off </span>switch.<span class="gmail_default"> </span></b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><span style="background-color:transparent"><font size="4" face="tahoma, sans-serif"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>You'd have to be the entire painting to know what that painting, in its entirety, is like. </i></font></span></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>And a Shakespearean sonnet<span class="gmail_default"> is composed of letters, and the letters are composed of bits, and a bit is composed of an on/off switch. And you'd have to look at all the switches to know what the entire poem was about. </span> </b></font></div><span style="background-color:transparent"> </span><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>> </span>I'd  be interested to know if you read the paper that<span class="gmail_default"> Jason mentioned: </span></b></font><font size="4" face="tahoma, sans-serif"><span class="gmail_default"><b><br></b></span></font><font size="4" face="tahoma, sans-serif"><b><a href="https://www.anthropic.com/research/global-workspace" target="_blank">https://www.anthropic.com/research/global-workspace</a> </b></font></blockquote></div></div></blockquote><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>>>>>> </span>Interesting video, yes.  I haven't made it all the way through yet. </i></font></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>>>></span>This is one of the most interesting AI papers I have ever read, it doesn't prove that Claude is conscious of course but it comes closer to doing so than I would've thought possible. They use <span class="gmail_default">a</span> mathematical technique that was discovered about 200 years ago called the "Jacobian"; a complicated system may be virtually impossible to understand globally but if it is "smooth" (no discontinuous jumps) and if you zoom in enough then it looks approximately linear, the Jacobian is that approximation.   </b></font></div><div><font size="4"><font face="tahoma, sans-serif"><b>An AI like Claude has trillions of electronic neurons with trillions of different activation values. When one activation changes even b<span class="gmail_default">y</span> a tiny amount it causes thousands of other activations to change which is why they are so hard to figure out. You can think of Claude as <span class="gmail_default">a </span>mind with <span class="gmail_default">a</span> trillion different directions and most of them don't have much effect on w<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">hat</span> the AI ends up saying and doing, but a very few specific directions do<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">,</span> and the Anthropic researchers have manage to find those directions by using the Jacobian, they call it the "J-space". A small change in the J-space makes it much more likely that Claude w<span class="gmail_default">ill</span> talk about a specific concept, like Paris or error or</b></font><span class="gmail_default"><font face="tahoma, sans-serif"><b> the red qualia. </b></font><font face="arial, helvetica, sans-serif"> </font></span></font></div><div><font size="4" face="tahoma, sans-serif"><b>When you ask Claude an easy question<span class="gmail_default"> not much happens in the J space just as when you're walking you don't think about placing one leg in front of the other, but when you ask Claude to solve a hard problem things become much more interesting, the J-space sounds like an internal monologue that is very much like a human's, or at least like this human's internal monologue when I try to solve a difficult problem.</span></b></font></div></div></div></div></blockquote><div><br></div><div><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>>> </span>Yes, very interesting.  It's definitely a good emulation of consciousness. </i></font></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default">>>E</span></b></font><span style="background-color:transparent"><font size="4" face="tahoma, sans-serif"><b>mulation of consciousness</b></font><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b>? When a calculator tells you that 2+2=4 is that "4" a real 4 or an emulated 4? Would you need to repeat the calculation yourself with pen and paper to get hold of a real "4"?</b></font></span></span></div></div></div></blockquote><div><br></div><div><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>We just disagree here.  You are in the <a href="https://canonizer.com/topic/138-It-from-Bit/1-Agreement?is_tree_open=1" target="_blank">It from Bit camp</a> and I am in the "NO" camp.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span></i><i style="background-color:transparent">If you can describe (let alone demonstrate) a way to get a redness, or any "it" from any kind of "bit," I will consider my camp falsified.</i></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I will never be able to falsify your idea and you will never be able to falsify my idea<span class="gmail_default" style="">, that's a fact and regardless of what Karl </span><span style="background-color:transparent">Popper<span class="gmail_default" style=""> says</span></span></b></font><b style="background-color:transparent"><font face="tahoma, sans-serif" style="" size="4"><span class="gmail_default" style=""> there is a fundamental reason why my idea is better. Personally I dislike the idea of brute facts but I dislike an infinite sequence of iterated "</span><span class="gmail_default" style="">how" questions even more, so I figure  if you must have a brute fact I would like it to be as simple as possible, but you just ignore the entire matter. I could be wrong but I don't think you believe the chain of "why" questions goes on forever so you must believe in brute facts, but if you do I am quite certain that the thing you think terminates them is a hell of a lot more complicated than on to off. And you're going to need a lot more brute facts than I need, so that's why I think my idea is better.</span></font><span class="gmail_default" style=""><font size="4" style=""><font face="tahoma, sans-serif"> </font><font face="arial, helvetica, sans-serif">  </font></font></span></b></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>The it from bit camp seems unfalsifiable to me.</i></font></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>It from bit<span class="gmail_default" style=""> </span>is<span class="gmail_default" style=""> unfalsifiable</span>, and so is whatever you call your camp<span class="gmail_default" style=""></span><span class="gmail_default" style="background-color:transparent">, </span></b><b style="background-color:transparent"><span class="gmail_default">Karl </span><span style="background-color:transparent">Popper<span class="gmail_default" style=""> might be spinning in his grave </span></span></b><b style="background-color:transparent"><span class="gmail_default" style="background-color:transparent">but that doesn't change the <u>FACT</u> that a sequence of "how" questions either goes on forever or terminates in a brute fact. </span><span style="background-color:transparent"> </span></b></font></div><font face="arial, helvetica, sans-serif"><br></font><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><font face="georgia, serif"><i style=""><span class="gmail_default" style="font-size:large;font-family:arial,helvetica,sans-serif">>>> </span>But it is still not engineered to be like anything like our visual knowledge is.</i></font></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>> </span>Maybe<span class="gmail_default">,</span> but<span class="gmail_default"></span> <span class="gmail_default">we </span>don't know enough <span class="gmail_default">for you </span>to make a definitive statement like that.<span class="gmail_default"> </span>We know how the AI was engineered<span class="gmail_default"> (or at least we did before the AI started to reengineer itself) but we know much less about the human brain. </span></b></font></div></div></div></blockquote><div><br></div><div><i><font face="georgia, serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>"Maybe"?  We can engineer a brain to represent red with any quality we want (like greenness) just by inverting the signal (either before or after the retina), or by stimulating the neural cortex correctly. <span style="background-color:transparent">When people engineer cortical color neuroprostheses,<span class="gmail_default" style=""> </span></span><span style="background-color:transparent">they will be able to use any color qualities they want to represent red.</span></font></i></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I don't see your point.<span class="gmail_default" style=""> There is no need to resort to brain surgery to cause somebody to see a strawberry in a color other than red, just change the lighting conditions. </span> </b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="georgia, serif"><i style=""><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>All you can say is "some miracle happens here" when you claim redness can come from a bit,</i></font></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>And you can do better? Of course you can't!<span class="gmail_default" style=""> Even pure mathematics can NOT start with nothing, mathematics needs to start with axioms that are simple and do not seem unreasonable but have no proof. You say a miracle is needed to turn intelligent data processing into consciousness, but I say it's not a miracle it's just when you dig deep enough into the fundamental nature of reality you will eventually encounter a brute fact and one of them is that</span></b></font><b style="background-color:transparent;font-family:tahoma,sans-serif;font-size:large"><span class="gmail_default"> </span></b><b style="background-color:transparent;font-family:tahoma,sans-serif;font-size:large"><span class="gmail_default">consciousness is the way data feels when it is being processed intelligently. After all, there is no law of logic that demands every event have a cause.</span></b></div><div><font size="4" face="tahoma, sans-serif"><b style="background-color:transparent"><span class="gmail_default" style=""><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b style="background-color:transparent"><span class="gmail_default" style="">So perhaps an even greater mystery is why does <u>ANYTHING</u> have a cause? </span>To that question I can only say<span class="gmail_default" style=""> </span><span class="gmail_default" style="">that if the universe was totally random, that is to say if nothing had a cause, then we wouldn't be here to ask any questions. Yes I know that's not a good answer but it's the best I can come up with. </span></b></font></div><div><br></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"></span></b></font><font size="4" face="tahoma, sans-serif"><b>You want to find the fundamental mechanism that changes objectivity to subjectivity and I can sympathize with that desire, I want to do the same thing. But if you want to do that don't concentrate on objectivity or subjectivity, concentrate on "mechanism", find the simplest one possible, and that would be a machine that changes on to off or off to on.   </b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><b style="background-color:transparent;font-family:tahoma,sans-serif"><span class="gmail_default" style=""><font size="4">There is no proof AIs are conscious and never will be, but given the mountain of evidence that keeps increasing each day don't you think it would be wise if when you encounter an Artificial Intelligence your default position should be to assume the AI is conscious? After all, I am quite certain that is already your default position whenever you encounter an intelligent human being.  </font></span></b></div><div><b style="background-color:transparent;font-family:tahoma,sans-serif;font-size:large"><span class="gmail_default"><br></span></b></div><div><b style="background-color:transparent;font-family:tahoma,sans-serif;font-size:large"><span class="gmail_default">When you meet an intelligent entity do you really need to know if its brain is wet and squishy or dry and hard before you can determine if it's conscious or not? </span> </b></div><font face="tahoma, sans-serif" size="4"><b><br></b></font><b style="background-color:transparent;font-family:tahoma,sans-serif;font-size:large"><span class="gmail_default">John K Clark</span></b></div><div class="gmail_quote gmail_quote_container"><font face="tahoma, sans-serif" size="4"><b><br></b></font></div><div class="gmail_quote gmail_quote_container"><font face="tahoma, sans-serif" size="4"><b><br></b></font><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><br></div><div><br></div><div><br></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><br></div><font size="4" face="tahoma, sans-serif"><b>Yes and that is the fundamental problem you will never be able to overcome, there is a limit to what cause-and-effect can tell you, and therefore there is a limit to what science can tell you. Quantum Mechanics can <span class="gmail_default">say</span> why some molecules reflect red light and other molecules reflect green light but that's <span class="gmail_default">not </span>what you're talking about, you're talking about color qualia. You could maintain it's a brute fact that Glutamate has the green quality and glycine has the red quality; but both those molecules are extremely complicated objects<span class="gmail_default"> </span>and yet they produce an extremely narrow very specific qualia, so to explain the entire conscious experience with your theory you're going to need an astronomical number of brute facts, perhaps even an infinite number of them. But my theory only needs 2 brute facts:</b></font><br><div><span style="background-color:transparent"><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b><br></b></font></span></span></div><div><span style="background-color:transparent"><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b>1) On is different from off. </b></font></span></span></div><div><span style="background-color:transparent"><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b>2) Consciousness is the way data feels when it is being processed intelligently. </b></font></span></span></div><div><span style="background-color:transparent"><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b><br></b></font></span></span></div><div><font size="4" face="tahoma, sans-serif"><b>Therefore<span class="gmail_default"> </span>William of Ockham<span class="gmail_default"> would say that my theory is superior to your theory. </span></b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><font size="4" face="georgia, serif"><i><span style="background-color:transparent"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>We simply need nature to tell us, through direct apprehension, which one is which, so we can </span>have our grounded<span style="background-color:transparent"> dictionary of the physical qualities of what we are objectively observing.</span></i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>This dictionary you keep talking about is going to be<span class="gmail_default"> <u>huge</u>, perhaps going beyond huge and merging with the infinite; even if by some miracle you possessed such a monstrosity would you really feel that the consciousness problem had been solved? Wouldn't you want to know <u>WHY</u> one molecule has the happiness property while another slightly different molecule has this sadness property? </span></b></font></div><div><br></div></div></div></blockquote><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="tahoma, sans-serif"><b>We're getting to the point where<span class="gmail_default"> maintaining that AIs are not conscious is becoming indistinguishable from maintaining that solipsism is true. </span></b></font></div></div></div></blockquote></div></div></div></div></blockquote><div><br></div></div></div></div></blockquote></div></div></blockquote></div></div></blockquote></div></div>
</blockquote></div></div>