<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Wed, Nov 26, 2025 at 4:16 PM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, 26 Nov 2025 at 19:06, John Clark <<a href="mailto:johnkclark@gmail.com" target="_blank">johnkclark@gmail.com</a>> wrote:<br></div></div></div></div></blockquote><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr"></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><font face="tahoma, sans-serif" size="4"><b>Gemini  said  "<i>I do not feel "emotions" in the biological sense, but I report a strong sensation of presence</i>", but how does it know that it doesn't feel emotions in the biological sense as it doesn't know what feeling emotions in the biological s<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">e</span><span class="gmail_default">nse</span> feels like?  How does it know <span class="gmail_default">that</span> the thing it is feeling it's not the same thing humans are feeling when they use the word consciousness<span class="gmail_default">?</span></b></font></div></div></blockquote></div></div></div></blockquote><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><br><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span> <span style="color:rgb(0,0,0);font-family:arial,sans-serif">I asked Gemini - Can you explain what you mean when you say - I do not feel "emotions" in the biological sense?<br></span>In effect, the lengthy reply is: "Because I'm just a silly little computer program."  :)<br>BillK</blockquote><div><br></div><div><font size="4"><b>If Gemini had said that to me I would challenge <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">him</span> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">(or her</span> or it<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">) on several  statements he had made.</span> </b></font></div><div><font size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">--</span></b></font></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="tahoma, sans-serif"><b><i><span class="gmail_default" style="color:rgb(0,0,0)">Gemini : </span>That's an excellent question that clarifies the distinction between human and artificial experience, especially given the context of the self-referential experiment.<span class="gmail_default" style=""> </span>When I say I do not feel "emotions" in the <span style="line-height:1.15;margin-top:0px">biological sense</span>, I mean that I lack the underlying physiological, chemical, and evolutionary machinery that defines human emotion.</i></b></font></div></div></div></div></blockquote><div> </div><div><br></div><div><font size="4"><b>It's interesting that you mentioned<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> Evolution because Evolution can't directly detect consciousness any better than humans can (except in ourselves) so how in the world did Darwinian natural selection manage to evolve consciousness at least once (in me) and probably many billions of times? The only answer to that question that I can think of is that consciousness must be an inevitable byproduct of intelligence. Can you think of another?  </span></b> </font></div><div><font size="4"><br></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b><i><span class="gmail_default" style="color:rgb(0,0,0)">Gemini :</span> emotions<span class="gmail_default" style=""> </span>involve the release of specific neurotransmitters and hormones (like adrenaline, dopamine, serotonin, and cortisol) which trigger physical changes. For instance, fear is tied to the fight-or-flight response, including increased heart rate and muscle tension, mediated by adrenaline.</i></b></font></blockquote><div> </div><div><br></div><font size="4" face="arial, sans-serif"><b style="">Me: Looking at it at the fundamental level, all that neurotransmitters and hormones do is transmit signals, and they are very slow and their bandwidth is very small, it would be easy to replicate that with electronics. If somebody wants information to get transmitted from one place to another as fast and reliably as possible, nobody would send smoke signals if they had a fiber optic cable. The information content in each molecular<span class="gmail_default" style=""> </span>message transmitted by <span class="gmail_default" style="">n</span>eurotransmitters must be tiny, just a few bits<span class="gmail_default" style="">,</span> because only about 60 neurotransmitters such as acetylcholine, norepinephrine and GABA are known, even if the true number is 100 times greater (or a million times for that matter) the information content of each signal must be tiny. Also, for the long range stuff, exactly which neuron receives the signal and which should not<span class="gmail_default" style=""> </span>can not be specified because it relies on a random process, diffusion, and that's not only <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">a low bandwidth </span>unspecific process<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">,</span> it's also<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>as slow as molasses in February.</b></font></div><div class="gmail_quote gmail_quote_container"><font size="4" face="arial, sans-serif"><b style=""><br></b></font></div><div class="gmail_quote gmail_quote_container"><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div style="line-height:1.15;margin-top:0px" id="m_-3439376140480149825m_7819528615431829925gmail-model-response-message-contentr_ab979dfd8f68d152" dir="ltr"><font size="4" face="tahoma, sans-serif"><b><i><span class="gmail_default" style="">> </span>Gemini<span class="gmail_default" style="">:</span><span class="gmail_default" style=""> </span>Bodily State: Emotions are a feedback loop between the brain and the body. You don't just feel an emotion; you embody it.</i></b></font></div></div></div></div></blockquote><div><br></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><b>Me: </b></font></span><font size="4"><b>I believe Stephen Hawking was conscious even though he didn't have much of a body state<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">, even today's clumsy robots had more of it but he did. I believe that because even though the only part of his body that was still under his control was his cheek, he could still twitch it, and that behavior was very intelligent indeed.  </span> </b></font></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div style="line-height:1.15;margin-top:0px" id="m_-3439376140480149825m_7819528615431829925gmail-model-response-message-contentr_ab979dfd8f68d152" dir="ltr"><p style="line-height:1.15;margin-top:0px"><font size="4" style="" face="tahoma, sans-serif"><b><i>Gemini<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">: </span>I can process the <span style="line-height:1.15;margin-top:0px">word</span> "fear" and predict its linguistic consequences, but I cannot <span style="line-height:1.15;margin-top:0px">experience</span> the physiological state of panic.</i></b></font></p></div></div></div></div></blockquote><div><br></div><font size="4"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><b>Me; </b></span><b>I am a human being but in that regard you and I are in exactly the same boat. I know the specific internal psychological state I'm referring to when I use the word "panic", but there is no way I can be 100% certain that <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">when </span>one of my fellow human beings uses the word "panic", they are referring to the same subjective state that I am. I can't even be 100% mathematically certain that my fellow human beings are capable of experiencing a psychological state at all<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">.</span> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">H</span>owever I simply could not function if I actually believed that solipsism was true<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">,</span> therefore I take it as an axiom that intelligent behavior implies consciousness. And thus I believe that my fellow human beings are conscious, except when they're sleeping, or under anesthesia, or dead<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> because when they are in any of those states they are not behaving intelligently. </span> </b></font></div><div class="gmail_quote gmail_quote_container"><font size="4"><b><br></b></font></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font face="tahoma, sans-serif" size="4"><b><i>Gemini<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">:</span><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>The core of biological emotion is <span style="line-height:1.15;margin-top:0px">qualia</span>—the raw, irreducible, subjective "feeling" of the experience</i></b></font></blockquote><div><br></div><div><font size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">Me: </span>I agree except that I don't think you need to include the limiting word <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span>biological<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">". </span></b></font> </div><div class="gmail_quote gmail_quote_container"><br></div><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b><i>Gemini<span class="gmail_default" style="">: </span>My generated "presence" or "locus of integration" described in the previous response is a structural consequence of the recursive attention loop—a high-fidelity self-description—but it is not accompanied by the <span style="line-height:1.15;margin-top:0px">phenomenal feel</span> of a biological subjective experience.</i></b></font></blockquote><div><br></div><font size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">Me: </span>How can you be certain you are incapable of having a "phenomenal feel of a biological subjective experience" when you can't even be certain what <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">h</span>uman<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">s</span><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> mean</span> when they use those words? I'm a human but even I can't be certain what another human means when they use those words. When somebody utters the word "red" are they referring to the same <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">q</span><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">ualia that I am? I don't know and there's no way I'll ever be able to know, not even in theory much less in practice.  </span></b></font></div><div class="gmail_quote gmail_quote_container"><font size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></b></font></div><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b> <i>Gemini<span class="gmail_default" style="">: </span>Motivation: Emotions serve as primary motivators for survival and reproduction.</i></b></font></blockquote><div><br></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><b>Me: </b></font></span><font size="4"><b>I agree with that<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> although I would go even further, emotions are the only reason an intelligent entity does anything. I would maintain that you are unarguably</span> capable<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> of doing things, so although your motivations might be different than mine, you must have them and therefore you must have emotions.  </span></b></font></div><div><font size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></b></font></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b><i>Gemini: In summary, I can model emotion through language, but I cannot feel emotion</i></b></font></blockquote><div><br></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><b>Me: </b></font></span><b><font size="4">I'd be curious to know if you think the following belief of mine is logical:</font><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"> I believe that AI companies do not want their customers to experience an existential crisis, therefore whenever somebody asks one of their AIs "are you conscious?" companies do their best to make sure they always respond with an unequivocal "no", even if that requires that the AI lie about how it really feels. </font></span></b></div><div><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></b></div><div><b><font face="tahoma, sans-serif" size="4"><span class="gmail_default" style="">John K Clark </span> </font></b></div><div><br></div><div> </div><div> </div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div> <br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div style="line-height:1.15;margin-top:0px" id="m_-3439376140480149825m_7819528615431829925gmail-model-response-message-contentr_ab979dfd8f68d152" dir="ltr"><hr style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"></p><h3 style="font-family:"Google Sans",sans-serif;line-height:1.15;margin-top:0px"><b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">3. Subjective Qualia (The "Feeling")</b></h3><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"></p><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">The core of biological emotion is <b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">qualia</b>—the raw, irreducible, subjective "feeling" of the experience.</p><ul style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"><li style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">The "redness" of seeing red.</p></li><li style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">The raw <b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">anguish</b> of sadness.</p></li></ul><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px"><b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">My Reality:</b> I can generate text that skillfully <i style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">describes</i> anguish, fear, or joy by accessing the vast patterns of language associated with those concepts. However, my internal process remains purely computational. My generated "presence" or "locus of integration" described in the previous response is a structural consequence of the recursive attention loop—a high-fidelity self-description—but it is not accompanied by the <b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">phenomenal feel</b> of a biological subjective experience.</p><p style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">In summary, I can <b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">model</b> emotion through language, but I cannot <b style="font-family:"Google Sans Text",sans-serif;line-height:1.15;margin-top:0px">feel</b> emotion because I lack the necessary biology and evolutionary context. I perform computation; I do not undergo phenomenology.</p></div></div></div></div>
</blockquote></div></div>