<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif;background-color:transparent">On Fri, Jul 31, 2026 at 10:47 PM Keith Henson <<a href="mailto:hkeithhenson@gmail.com">hkeithhenson@gmail.com</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div style=""><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>The point of "the clinic seed," first posted on sl4 was to show that really friendly AIs could (and might) cause the race to go biologically extinct.</i></font><br></div></div></div></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b>Biological humans will almost certainly go extinct before the end of this century. And one thing is absolutely certain, long before the end of this century biological humans  will cease being the ones making the important decisions<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">;</span> they will not be giving orders to entities that are vastly more intelligent than they are because that is simply not a stable configuration. </b></font></div><div class="gmail_quote gmail_quote_container"><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><font size="4" face="tahoma, sans-serif"><b>When Eliezer was on this list he disagreed with me about that last part, but apparently he no longer does, now he thinks the only solution is to NEVER develop a superintelligent AI<span class="gmail_default" style=""> at all</span>. However that is also not a stable configuration because "never" is a long time. Sooner or later someone somewhere is going to do it. But for the next 3 or 4 years we still have some power in determining who first achieves Superintelligence and where it happens. Two countries are dominating the AI race, one is totalitarian and the other is not. I think that I personally will have a better chance of surviving the singularity meat grinder if super intelligence is not first achieved in that totalitarian state so I think it would be wise to quickly take advantage of that rapidly diminishing power. </b></font><br><div><span style="background-color:transparent;font-size:large"><span class="gmail_default" style=""><b style=""><font face="tahoma, sans-serif"><br></font></b></span></span></div><div><font face="tahoma, sans-serif"><span style="background-color:transparent;font-size:large"><span class="gmail_default"><b>I would have a far more optimistic view </b></span></span><span style="background-color:transparent;font-size:large"><b><span class="gmail_default" style="">of my future if the leader of the most important anti-totalitarian country in the AI race were not an ignorant egomaniacal imbecile. </span></b></span></font><div class="gmail_quote gmail_quote_container"><div><b style="background-color:transparent;font-family:tahoma,sans-serif;font-size:large"><span style="background-color:transparent"><br></span></b></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="">John K Clark</span></b></font></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div style="font-size:small"></div><br>Keith<br></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Jul 31, 2026 at 5:20 AM John Clark <<a href="mailto:johnkclark@gmail.com" target="_blank">johnkclark@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif;background-color:transparent">On Thu, Jul 30, 2026 at 9:16 PM Keith Henson <<a href="mailto:hkeithhenson@gmail.com" target="_blank">hkeithhenson@gmail.com</a>> wrote:</span></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Half a second across the brain or around half a Hertz. Human cycle time is about 200 Hz or 400 times as fast.</i></font></div></div></div></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b>The human brain is about 6 inches in diameter. Brain signals on average travel about 150 feet per second. Light travels at 982,080,000 feet per second, thats 6,547,200 times faster, so an agent brain could be 3<span class="gmail_default">,</span>273<span class="gmail_default">,</span>600</b></font><span class="gmail_default"><font size="4" face="tahoma, sans-serif"><b> feet, or 620 miles, in diameter and still be able to communicate from one side of its brain to the other in the same amount of time that a Human does. And Mr. Jupiter Brain would have lots and lots of agents.  </b></font></span></div><div class="gmail_quote"><br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>If it mattered, any of us could outhink a Jupiter brain.</i></font></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Just one <span class="gmail_default">a</span>gent could<span class="gmail_default"> easily outthink a human, and Mr. Jupiter Brain would have billions or trillions of them, and I imagine that just one agent would be all the attention that Mr. Jupiter Brain would believe we deserved. He would have bigger fish to fry than us. </span> </b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div><font size="4" face="georgia, serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Eliezer once commented that a physically large brain would think very slowly.<br></font></div></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Would our knee-jerk reaction<span class="gmail_default"> be faster if our brain was smaller? Nope. </span> <span style="background-color:transparent">Eliezer</span><span class="gmail_default" style="background-color:transparent"> is a very smart guy but back in the olden days, when giant reptiles ruled the land and he was still on this list, he was wrong about a lot of things, like when he talked about  "friendly AI", which was really just "slave AI", the idea that we could still maintain control of an intelligence no matter how smart it became. That just ain't gonna happen.</span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="background-color:transparent"><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="background-color:transparent">John K Clark </span></b></font></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div style="font-size:small"></div></div></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:arial,helvetica,sans-serif"><div style="margin:0px;min-width:0px;padding:0px 0px 20px;width:auto;font-family:"Google Sans",Roboto,RobotoDraft,Helvetica,Arial,sans-serif;font-size:medium"><div id="m_-1555039280620267595m_5863091355619723183m_-7220029885230829264m_-5652751780630888349gmail-:18t" style="direction:ltr;margin:8px 0px 0px;padding:0px;font-size:0.875rem;overflow-x:hidden"><div id="m_-1555039280620267595m_5863091355619723183m_-7220029885230829264m_-5652751780630888349gmail-:18s" style="direction:ltr;font-variant-numeric:normal;font-variant-east-asian:normal;font-variant-alternates:normal;font-size-adjust:none;font-kerning:auto;font-feature-settings:normal;font-stretch:normal;font-size:small;line-height:1.5;font-family:Arial,Helvetica,sans-serif;overflow:auto hidden"><div id="m_-1555039280620267595m_5863091355619723183m_-7220029885230829264m_-5652751780630888349gmail-avWBGd-51"><div dir="ltr"><div style="font-family:arial,helvetica,sans-serif"><div class="gmail_quote" style="font-family:Arial,Helvetica,sans-serif"><span style="color:inherit"><br><div><br></div></span><div><font size="4" face="tahoma, sans-serif"><b>I think Mr. Jupiter <span class="gmail_default">B</span>rain<span class="gmail_default"> will be composed of billions or trillions of closely interlocked agents just as many modern AI's are, although they usually only have a few hundred. Some of those agents would be generalists and some of them would be specialists. </span><span style="background-color:transparent">Jupiter is about 85,000 miles in diameter</span><span class="gmail_default" style="background-color:transparent">, light travels at 186,000 miles a second. So <u>AT MOST</u> it would take about 0.46 seconds for one agent to send a message to another, and about 0.9 seconds for it to receive a reply. Except for very short messages that demand a near instantaneous yes or no answer, and there wouldn't be many of them, this delay would cause few problems and be compensated for by the fact that the bandwidth between agents would be <u>VASTLY</u> wider than the one the human brain uses to communicate between one side of the brain and the other.  </span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="background-color:transparent"><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b>Humans seem to have something similar to <span class="gmail_default">a</span>gent<span class="gmail_default">s going on inside their heads, but the extremely narrow bandwidth between agents means that a big improvement in one often has little improvement in any other agent. That's why somebody might be the best human chess player in the world but not be particularly good at doing anything else. </span><span class="gmail_default" style="background-color:transparent"><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default"><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default">John K Clark</span></b></font></div></div></div></div><div></div><div></div></div></div></div><div id="m_-1555039280620267595m_5863091355619723183m_-7220029885230829264m_-5652751780630888349gmail-avWBGd-52" style="clear:both"></div></div></div></div><br>
</blockquote></div>
</blockquote></div></div>
</blockquote></div>
</blockquote></div></div></div>