<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Mon, Jun 8, 2026 at 4:39 PM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Eliezer suggested a huge internet cutoff switch of some<span class="gmail_default" style=""> </span>kind, a safety breaker of some kind. </i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>That will never happen because it would require <span class="gmail_default" style="">2</span> impossibilities<span class="gmail_default" style="">, universal worldwide agreement that such a breaker should be implemented, and universal worldwide agreement that nobody is cheating by secretly bypassing that safety breaker. And something like that is going to be as controversial as hell because throwing that switch would cause a worldwide depression that would make 1929 look like a picnic, or at least it would if the switch actually worked as advertised. </span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style=""><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="">And the only reason the humans are getting panicky is because the AI is getting smarter than they are, so by that time it's going to be virtually impossible to keep the plans for turning off the AI secret; so in self-defense the AI strikes first and releases a mirror virus that kills every single human being in less than 48 hours, all 8 billion of them.  </span></b></font></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></div><div><font size="4" face="tahoma, sans-serif"><b>The moral is don't try to outsmart a superintelligence because you <span class="gmail_default" style="">are</span> going to lose.</b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style=""><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="">John K Clark </span><span class="gmail_default" style=""> </span></b></font></div><div><br></div><div> </div></div></div>