<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Wed, Apr 8, 2026 at 6:19 PM Adrian Tymes via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="tahoma, sans-serif"><b>
><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">></span> For the very first time a vast non-human intelligence has the power to devastate the world's economy and plunge civilization into chaos. And you say it's just hype,  nothing special, just an incremental improvement!</b></font></blockquote>
<br><i><font face="georgia, serif" size="4">
<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>One might debate whether previous examples were "vast" or truly<br>
"intelligence" ("Is this particular AI actually 'intelligent'?"</font></i></blockquote><div><br></div><div class="gmail_default" style=""><font face="tahoma, sans-serif" size="4"><b>Do you think a debate on whether Einstein was truly "intelligent" would be productive? I don't because the answer is obvious. </b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i><font face="georgia, serif" size="4"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>I do recall quite a few previous automated<br>
bug-finding efforts, some of which were spoken of in similar terms at<br>
the time - however much we might call that silly in hindsight. </font></i></blockquote><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i><font face="georgia, serif" size="4">Remember how Y2K was spoken of in late 1999?  Not how it turned out,</font></i><br></blockquote><div><br></div><font face="tahoma, sans-serif" size="4"><b>You're comparing apples to oranges. Only the lunatic fringe predicted Y2K would cause civilization collapse<span class="gmail_default" style="">,</span> </b><span class="gmail_default" style="font-weight:bold"></span><b>but this is <span class="gmail_default" style=""><u>NOT</u></span> about a prediction at all, t</b><u style="font-weight:bold">his is about something that has already occurred</u><b>.  Consider the computer you're using to read these words<span class="gmail_default" style=""> on</span> </b><u style="font-weight:bold">right now</u><b>, if it's using the Linux operating system (or Android which is based on it) or an operating system made by Apple or Microsoft</b><span class="gmail_default" style="font-weight:bold">,</span><b> then </b><u style="font-weight:bold">RIGHT NOW</u><b> Dario Amodei could order Mythos to take complete control of your computer and do whatever </b><span class="gmail_default" style="font-weight:bold">he</span><b> want</b><span class="gmail_default" style="font-weight:bold">s</span><b> </b><span class="gmail_default" style="font-weight:bold">with</span><b> it. And he could do the same thing to computers that run nuclear power plants, air traffic control computers, and the computers that run the New York Stock Exchange. And if he wanted to knock a F<span class="gmail_default" style="">-</span>35 fighter jet out of the air he could take control of the computers needed to enable it to fly and knock it out of the air<span class="gmail_default" style="">. And stealth technology would not save it. </span></b></font></div><div class="gmail_quote gmail_quote_container"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></div><div class="gmail_quote gmail_quote_container"><span class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4" style="" face="tahoma, sans-serif"><b style="">But </b></font></span><font size="4" face="tahoma, sans-serif"><b>Amodei<span class="gmail_default" style=""> is not doing any of those things, instead he decided not to release Mythos to the general public even though that means giving up billions of dollars of revenue that he would otherwise have received. Why would he do this? Because </span>Mythos<span class="gmail_default" style=""> turned out to be so much smarter than expected it scared him shitless. Previously it had been considered to be a very big deal if just one zero day error was found in a major piece of software, but Mythos found <u>THOUSANDS</u> of them, and Mythos did more, he wrote thousands of malicious programs that could actually exploit those zero day flaws. </span></b></font></div><div class="gmail_quote gmail_quote_container"><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style=""><br></span></b></font></div><font size="4" face="tahoma, sans-serif"><b>The thing that worries me is that the other AI companies are probably only a few months or weeks behind Anthropic<span class="gmail_default" style="">,</span> and I'm not sure that Elon <span class="gmail_default" style="">M</span>usk will be as morally scrupulous as Dario Amodei<span class="gmail_default" style="">. And open source AI models only seem to be about 6 to 8 months behind the leading closed models that are at the frontier. </span></b></font><div class="gmail_quote gmail_quote_container"><br></div><div class="gmail_quote gmail_quote_container"><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="">And y</span>ou say all of this is<span class="gmail_default" style=""> no big deal! </span></b></font></div><div class="gmail_quote gmail_quote_container"><font face="tahoma, sans-serif" size="4"><b><br></b></font></div><div class="gmail_quote gmail_quote_container"><font face="tahoma, sans-serif" size="4"><b><span class="gmail_default" style="">John K Clark</span><br></b></font><div><br></div><div><br></div></div></div>