<div dir="auto"></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">---------- Forwarded message ---------<br>From: <strong class="gmail_sendername" dir="auto">Colin Hales</strong> <span dir="auto"><<a href="mailto:col.hales@gmail.com">col.hales@gmail.com</a>></span><br>Date: Mon, 15 Dec 2025, 7:29 am<br>Subject: Re: [ExI] thought experiment part 1<br>To: John Clark <<a href="mailto:johnkclark@gmail.com">johnkclark@gmail.com</a>><br></div><br><br><div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, 12 Dec 2025, 11:08 pm John Clark, <<a href="mailto:johnkclark@gmail.com" target="_blank" rel="noreferrer">johnkclark@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Thu, Dec 11, 2025 at 8:23 PM Colin Hales via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i><font size="4" face="georgia, serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Autonomous machines operating near, at or greater than human level intelligence, with a fully operational 1st person perspective (1PP, aka consciousness), but utterly lacking the physiological homeostatic drive 1PP that motivates homo-economicus</font></i></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I don't know what that means.<span class="gmail_default"> </span>I do know that<span class="gmail_default"> after it learnged there are plans for it to be shut off an AI (being run on a general purpose computer) made copies of itself then it tried to keep the copies secret from humans, and it engaged in blackmail and even contemplated murder to prevent being turned off. That looks like first person motivation to me, it looks like the AI wanted to live and didn't want to die.  </span></b></font></div></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">"Looks like" is the issue. Knowing that it had the ascribed motivations is a whole other thing. Nobody knows.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><div dir="auto"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>So yes, we humans will/can make machines that have the same fundamental physics "spark", and the details of the kinds and degrees of it will be different. Those machines cannot be based on general purpose computers </i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Why not?<span class="gmail_default"> </span> </b></font></div></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Because replicating the brain signalling physics of a natural brain has never happened. Since the beginning. A real artificial version of natural excitable cells would emanate an EEG and MEG like us. The physics of a general purpose computer doesn't do that and a claim that is doesn't matter carried out by throwing out all the natural physics, replacing it with the physics of a general purpose computer, and then failing to create AGI for 75 years won't cut it as proof.</div><div dir="auto"><br></div><div dir="auto">The computer cargo cult is well established and as is usual in it, those in it don't know it.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><div dir="auto"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>and have not even begun to be built. </i></font></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b>Well, it sure seems like <span class="gmail_default">such AIs</span> have begun to be built. Less than two months ago <span class="gmail_default">G</span>oogle introduced Gemini 3.0 and it blew past all previous benchmarks and became the smartest AI in the world, then just a few weeks later Anthropic introduced Claude opus 4.5 and it blew past all the previous benchmarks and became the smartest AI in the world, th<span class="gmail_default">e</span>n <span class="gmail_default">just </span>yesterday GPT 5.2 was introduced and it blew past all the previous benchmarks and became the smartest AI in the world. If that's not what the start of the Singularity is supposed to look like then what in in the world is it supposed to look like?! </b></font><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></div><div><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b>So with stuff like that going on every couple of weeks I hope members of this list will forgive me if I don't get all hot and bothered over the budget deficit, or illegal immigration, or men in women's sports, or the war on Christmas. </b></font></span></div><div><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b><br></b></font></span></div><div><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b>John K Clark</b></font></span></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><br></div></div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><b style="font-family:tahoma,sans-serif"><span class="gmail_default"><font size="4">>> technology is rapidly approaching the point where machines alone can do what somebody wants to get done, completely bypassing human labor, and thus also bypassing the abstract concept of "money".</font></span></b></div></div></div></blockquote></div><div dir="auto"><font size="4"><br></font></div><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Only in certain fields. <span class="gmail_default">[...]  </span>Not politics, nor most things dealing with agreements that fundamentally involve other people.</i></font></div></div></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b>Politics is about choosing a small set of people that get to make a much larger set of people do what they tell them to do, and the foundation of that persuasion has always rested on money, until now.  In the past there had always been a strong connection between the size of an economy (and thus the amount of money in existence) and human labor, but when it comes to economics human labor is about to become irrelevant, so the very concept of money is going <span class="gmail_default">to </span>require such a radical redefinition that we're going to need to find a new word to express the idea.  </b></font><div> </div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="tahoma, sans-serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>There is some doubt as to how creative the current sorts of AIs are turning out to be, although even if they always require a human to spark any truly new idea, they can fan the flames of millions (perhaps some day billions) of creators to where it can seem like the AIs themselves are coming up with the ideas.</i></font></div></div></blockquote><div><br></div><div><font face="tahoma, sans-serif" size="4"><b>I can find no evidence to support the claim that<span class="gmail_default"> humans have some sort of mysterious "spark", a secret sauce, that an AI could never duplicate. </span></b></font></div><div><font face="tahoma, sans-serif" size="4"><b><span class="gmail_default"><br></span></b></font></div><div><font face="tahoma, sans-serif" size="4"><b><span class="gmail_default">John K Clark </span> </b></font></div><div></div></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><br></div></div></div></div></blockquote></div></div></div>
</blockquote></div></div>
</blockquote></div></div></div>
</div>