<div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Tue, Oct 21, 2025 at 9:13 AM Adrian Tymes via extropy-chat <</span><a href="mailto:extropy-chat@lists.extropy.org" target="_blank" style="font-family:Arial,Helvetica,sans-serif">extropy-chat@lists.extropy.org</a><span style="font-family:Arial,Helvetica,sans-serif">> wrote:</span></div></div><div class="gmail_quote"><br></div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><div class="gmail_quote"><font size="4"><i style=""><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">></span><font face="georgia, serif">They said "everyone dies".  "Everyone" means "everyone", not "every<span class="gmail_default" style=""> </span><span style="color:rgb(80,0,80)">human on earth who is important in this matter".</span> </font></i></font></div></blockquote><div><br></div><div class="gmail_quote"><font size="4" face="tahoma, sans-serif"><b>They said "everyone is online or is trackable online" and that is equivalent to  "every<span class="gmail_default" style=""> </span>human on earth who is important in this matter".</b></font></div><div class="gmail_quote"><br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i>
<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Being smarter is not omniscience.</i></font></blockquote><div> </div><div> <font size="4" face="tahoma, sans-serif"><b><span class="gmail_default">True </span>it doesn't mean that<span class="gmail_default">,</span> but it does mean something, it means you can't outsmart it.<span class="gmail_default"> </span> </b></font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Even ants can get around human eradication attempts<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>at times<br></i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Yeah and you could say the same thing about the Covid virus, but that doesn't mean it is intelligent and it certainly doesn't mean it has outsmarted us.<span class="gmail_default"> </span> </b></font></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<font size="4" face="georgia, serif"><i><span class="gmail_default" style="">> </span>They postulate that the AI is interested in upgrading itself, which<br>
seems fair.  They also postulate that the AI thinks and cares quite a<br>
bit about the means of upgrading itself.</i></font><br></blockquote><div><br></div><div><div class="gmail_default" style=""><font size="4" style="" face="tahoma, sans-serif"><b style="">Yes.</b></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><div class="gmail_default" style=""><font size="4" style="" face="georgia, serif"><i style="">> humans might have further upgrades they can give.</i></font></div></div><div class="gmail_default" style=""><font size="4" style="" face="georgia, serif"><i style=""><br></i></font></div><font size="4" face="tahoma, sans-serif"><b>Not if the AI is better at doing AI research <span class="gmail_default" style="">than</span> the entire human race combined<span class="gmail_default" style="">, and it's only a matter of time before it will be. </span></b></font><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b>
><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">></span> I read the book the video was based on and the book did comment about that. It said that if any rogue nation was constructing a building that would contain more than 8 State of the art (as of 2025) Nvidia GPUs then the other nations of the world should unite and use any means necessary, up to and including nuclear weapons, to prevent the construction of that building from being finished. Their reasoning was that a nuclear war would kill billions of people but it wouldn't cause the extinction of the human race, but an AI takeover would. They admit there is very little likelihood of the world uniting in that way and that is why they are so pessimistic.</b></font></blockquote>
<br><i><font face="georgia, serif" size="4">
<span class="gmail_default" style="">> </span>Uh huh.   - or if an AI uses multiple such buildings?</font></i><br></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Yeah.<span class="gmail_default" style=""> </span> </b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i>
<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Also, what about arcades with more than 8 machines, each one of which<span class="gmail_default" style=""> </span>has its own state-of-the-art GPU?<br></i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I don't know,<span class="gmail_default" style=""> t</span>hey didn't mention video arcade<span class="gmail_default">s</span> so<span class="gmail_default"> y</span>ou'll have to ask them<span class="gmail_default" style=""> because</span> it is <span class="gmail_default"><u>NOT</u></span> my recommendation.<span class="gmail_default"> Maybe</span> they would say<span class="gmail_default"> </span>it would be allowed <span class="gmail_default">but </span>only if<span class="gmail_default"> it was under constant surveillance 24-7 to make sure no AI was going on, or maybe they would say video arcades would be outlawed.</span></b></font></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>And what happens if 8 turns out to be enough for such an AI<span class="gmail_default" style=""> </span>to kickstart itself</i></font></blockquote><div><br></div><div><font face="tahoma, sans-serif" size="4"><b>Th<span class="gmail_default" style="">e</span> answer to that<span class="gmail_default" style=""> </span>is easy, then we<span class="gmail_default" style=""> are</span> cooked<span class="gmail_default">.</span> You're giving me reasons why you think their proposed solution won't work and there is some validity in what you say, but it doesn't refute their <span class="gmail_default" style="">c</span>entral<span class="gmail_default" style=""> </span>proposition that if anybody builds it everybody dies.<span class="gmail_default" style=""> </span></b></font></div><div><font face="tahoma, sans-serif" size="4"><b><span class="gmail_default" style=""><br></span></b></font></div><div><font face="tahoma, sans-serif" size="4"><b><span class="gmail_default" style="">John K Clark</span></b></font></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
</blockquote></div></div>
</div>